[K-Startups meet OpenAI 행사] 샘알트만 오픈AI대표 질의응답 정리

Q. AI기술 영향력이 강해져서 미국의회도 다녀왔는데, 앞으로 우리가 어떻게 준비해야 할까.

A. 시스템이 더욱 강해지고 전세계적인 영향이 있을 건데 전세계적 협력이 필요하다. 시스템 배포는 절차적으로 해야하는 것이 중요하다. 장기적으로 봤을 때 어떤 위험성이 있는지는 각각의 국가에 맞는 규제가 필요하긴 할 거다.

사람들이 좋아하는 기술이라는 걸 언젠가 깨달을 것이고, 미래에 대한 부분도 우린 생각하긴 해야 하고, 우린 어떻게 균형을 맞출지도 알아야한다. 우린 오늘이 아니라 미래를 바라보면서 준비를 해야 한다고 한다. 준비를 이전 기술과 달리 그런 준비가 필요하다고 생각하고 있고, 이런 세계적인 투어를 하는 이유가 그 때문이다.

Q. AI가 종교 단체를 대체할까요?

YES. 일부 단체는 AI를 적용하지 않을수도 있을 텐데. 인공지능 목사님이라던지 그런걸 만들 수 도 있다. 조언을 해줄 수 있다. AI는 인간 활동을 확장시켜주는거고, 사람의 관계를 확장시키기 때문에 그런 변화는 일어날 수 있고 어떤 부분은 바뀌지 않을 수도 있다.

Q. 오픈AI를 개발할 때의 가장 힘들었던 실패는 뭔가요?

지금 보면 굉장히 명확한 성공이라고 생각하지만, 처음엔 너무 힘들었다. 초기에는 0프로의 성공률로 시작했었다. 그래서 사람들이 우리가 하는 거에 대해서 신뢰도  없었고, 여러 연구를 하면서 여기에 얼마나 많은 Computer power가 필요한지를 생각도 못했고, 인력도 몰랐다. Universe 아시는 분? 우리가 실패한 프로젝트 중 하나인데. 키보드를 만들어서 AI가 게임을 만들겠다는 프로젝트였다. 그 기술이 잘 안 됐었다. 또 반대 경우 우리가 gpt3를 만들때 우리는 기술에 대한 확신은 있었고, 계속 사람들과 만나고 초기에 투자자들을 얻을 수 있었고, 혁신만 있다면 도전해볼만 했다.

Q. OpenAI가 오픈소스들을 경쟁할 수 있나요?

Open소스는 잠재력이 있다고 생각하고, 그걸 만들어내야 한다고 생각한다. 오픈소스 모델은 계속 만들어질 거고 이 큰 모델을 교육시키고 미래로 가져가야한다. 모델이 하나의 불가능한 일은 해내자는 목표를 가지고 있다. 공급사실 지원하고 돌아가야 한다. 더 활용도가 높은 것이 상호보완적이라고 생각한다. 그리고 현재 우리가 어떤게 불가능한지를 확인하고 실현시키는게 목표다.

Q. AI 스타트업은 어떻게

스타트업은 쉽지 않다. 아이폰 앱이 나왔을 때 모바일 스타트업을 하겠다는 말을 했었다. 그리고 기술,인프라에 있어서 발전이 있었다. AI스타트업이라는 거부터가 실수다. 초점을 그것에 맞추지 말고, 한 부분에 초점을 맞추고 창업가 정신을 가져야한다. 모든 것들이 좋아보이지 않더라도 AI에 좋은 점을 보고 넘어가야한다. 우리 사업이 지속가능한지를 고민이 되면 규제, 의사와 얘기하는 것들은 변하지 않는다. 어떤 문제가 있고, 그 문제를 해결해야 한다. Product market fit이 있으면 그걸 끌고 가야한다.

Q. 일자리 창출과 일자리를 빼앗을 거라고 생각한다. 그 부분에 대한 의견은? 기본적인 소득에 대해 말하셨는데 chatGpt에 대한 것에 말해주세요.

일자리와 경제 관념은 바뀔 거다. 지금 일자리에서 효율적으로 일할 수 있도록 할 건데 3배 많은 컴퓨터공학자들이 필요할거고, 새로운 분야를 개척을 할 수 있고 새로운 일자리를 만들어갈 거다. 이게 마지막 혁명은 아니고 앞으로 상상할 수 없는 새로운 일자리가 생겨날 거다. 모든 일자리를 대체할 수는 없다. 앞으로 우리 인간의 창의력은 다른 사람을 위해서 뭔가를 해주고 만들어주는건 사회에 공헌을 해주기 위해서다. 인간의 영역은 우리가 적응을 못하는게 아니라 기술 속도를 맞춰가지 못하는게 두려운 거다. 노동 시장 변화에 적응해왔는데 그게 10년마다 일어난다면 두려움을 느낄 수 있다. 세계적인 빈곤을 해결할 수 있다면 그것도 생각해봐야한다. 사회적인 대화가 많을 텐데 어떻게 유익하게 만들 건지는 생각해봐야하고 사람들은 가치창출을 원하는데. 일자리가 없어진다고 생각하지 말고, 새로운 일자리가 창출된다고 생각해야 한다. 기술이 사실 이전과 다른 방법으로 발전할 건데 긍정적인 방향으로 생각하고 있다. 이전에는 상상하지 못했던 방법으로 살아갈 건데 AI를 가지고 우린 긍정적인 방향으로 나아가려고 한다.

Q. 사람들이 일자리를 잃게 된다고 한다면 AI가 물이나 전기처럼 기본적인게 된다고 하면 자신만의 어플리케이션을 가진 사람들의 이익이 상충되지 않나요?

기술을 도입하면서 거기에 대한 전문가들을 도입하고 마케팅을 해왔는데 우리는 AGI를 만들어서 사람들에게 유익하게 쓸 수 있도록 하는거다. 병원을 예로 들자면, 의학은 의사들과 얘기를 하고 AGI를 얘기할 건데 우린 그 기술을 쓸 수 있는 플랫폼을 만들어서 전체 사회에 통합되게 해서 긍정적인 방향으로 만들어가는거다.

전기에 경우, 전기는  전기기업들의 소유권이 있고 AI에도 마찬가지로 되어서 AI어플리케이션 간의 경쟁이 있을거다. 기술은 역사에서 서로 경쟁이 되더라도 언젠가 플랫폼이 함께 되는 경우가 있다. 일반 기업들은 AI를 main stream으로 가져와서 고맙다고 한다. 그래서 우리는 마이크로소프트의 윈도우같은 방향도 있겠지만, 우리는 경쟁하면서 발전해야 한다고 생각한다.

Q. 컨텐츠 제작자는 다른 사람의 AI 소스 저작물이 되는데 어떻게 생각하세요?

우리는 오픈AI는 컨텐츠 제작자가 우리 AI를 오히려 써야하고 보상을 받아야한다. 우리도 저작권자들과 많은 시도를 하고 아티스트분들과 얘기 중이다. AI는 더 창의적으로 만든다고 생각하고 우린 그렇게 생각합니다.

Q. 오픈AI는 선진기술에 기여하는데요. 게임 산업에 어떤 파트너십을 생각하나요?

AI와 게임은 오랜 관계가 있었다. 딥블루 같은거. 바트를 개발했고, 게임은 정말 독특한 부분인데 모든 발전 속도 와중에 어떤걸 살피는게 중요한다. 벤치마크로 활용할 수 있을 텐데 게임은 제약이 있다.  

Q. 공상과학영화에 나오는 상황이 일어날 거라고 생각하시나요?

사람들은 기술에 대한 두려움을 당연히 느낄 수 있다. 과학공상영화를 보면 우리가 어떻게 나아갈지를 보면 여러 기술이 있지만 우린 장기적으로 봐야한다고 생각한다. 우린 현실세계의 복잡성이 있지만, AI에게 어떤 행동의 목표를 명확하게 정해주는게 중요하다고 생각한다. 그래서 language 모델을 개발한거다. language 모델을 통해서 사람들은 AI에게 행동의 마지막 목표를 알려줄 수 있다.

Q. OpenAI 펀드

펀드는 작게 시작을 했고, 우리는 확대를 하려고 하고 한국에도 투자를 할 생각이 있다. 우리가 느린 점은 있긴하다.

Q. 하드웨어 기여에 부분인데 어떻게 하드웨어 발전이 필요하나.

여러가지 기술이 기본적인 게 있는데 Computing Power가 필요하다. 좋은 데이터가 필요하고 엔지니어링 최적화하기 위해서는 모든게 공평해야하고 Bit Computing이 유명해진 이유다. 실리콘 필드. 소프트웨어를 만드는 것은 힘들어졌는데 반도체 칩 개발하고 그런 아키텍처를 찾아내는게 중요하다. 컴퓨팅 파워가 없고 그 수요를 만들어줄 수 있는데 많은 산업분야가 거기에 뛰어들 수 있을거라고 생각한다. GPU도 중요해질 거다.

Q.  에너지가 문제가 될 수 있다고 생각한다. 모바일 배터리와 같은 건 병목 현상은 없나요?

에너지는 중요하다. 많은 이용 사례가 있는데 우리는 굉장히 슈퍼시스턴스(?)가 있을거라고 생각한다. 개인 배터리에도 많은 부하가 있을 텐데 에너지를 쓰는 방향이 중요할거다. 지금은 사실 대단히 많은 에너지를 쓰고 있지만 앞으로 더 많은 에너지를 쓰게 될 거다. 거기에 대한 많은 산업체에 뛰어들 거고 가격경쟁을 하게 되면 에너지나 퓨전 기술에서 에너지 가격이 낮아질 수록 AI가격이 낮아질 거다. 요즘에 프라이버시도 중요해지는데 클라우드에 올리지 않아야한다고 생각할 수있다. 그래서 클라우드 모델에서도 많은 아키텍처가 생길 건데 그걸 어떻게 할 건지를 아는게 중요하다고 생각한다.

Q. 저는 학생인데요. 앞으로 어떻게 공부해야 할까요?

여러분은 황금기를 맞이할거다. 활발하게 활동하기 위해서 기술을 알아야하고, 여기에 학습할 적응력을 가져야 한다. 그러면 앞으로 보상을 받을거다. 이제는 변화가 과거보다 더 빠를거다. 젊은 사람들은 적응을 잘하는게 정말 중요해질 거다. 어떤 활동을 하는데 있어서 어떻게 새로운 기술에 적응을 할지를 생각해봐야 하는데 소프트웨어에서 그게 중요한거라고 생각한다. 디테일한 부분들이 중요하겠지만, 여러분들이 하고 싶은걸 하라고 말하고 싶다. 많은 사람들이 AI어플리케이션을 통해서 뭔가를 만들어가고 있는데 우린 어떤 수준이든 간에 기술에 대한 확신을 갖고 미래에 대한 확신을 가지고 공부하라고 말해주고 싶다.

Q. AI기술 영향력이 강해져서 미국의회도 다녀왔는데, 앞으로 우리가 어떻게 준비해야 할까.

A. 시스템이 더욱 강해지고 전세계적인 영향이 있을 건데 전세계적 협력이 필요하다. 시스템 배포는 절차적으로 해야하는 것이 중요하다. 장기적으로 봤을 때 어떤 위험성이 있는지는 각각의 국가에 맞는 규제가 필요하긴 할 거다.

사람들이 좋아하는 기술이라는 걸 언젠가 깨달을 것이고, 미래에 대한 부분도 우린 생각하긴 해야 하고, 우린 어떻게 균형을 맞출지도 알아야한다. 우린 오늘이 아니라 미래를 바라보면서 준비를 해야 한다고 한다. 준비를 이전 기술과 달리 그런 준비가 필요하다고 생각하고 있고, 이런 세계적인 투어를 하는 이유가 그 때문이다.

Q. AI가 종교 단체를 대체할까요?

YES. 일부 단체는 AI를 적용하지 않을수도 있을 텐데. 인공지능 목사님이라던지 그런걸 만들 수 도 있다. 조언을 해줄 수 있다. AI는 인간 활동을 확장시켜주는거고, 사람의 관계를 확장시키기 때문에 그런 변화는 일어날 수 있고 어떤 부분은 바뀌지 않을 수도 있다.

Q. 오픈AI를 개발할 때의 가장 힘들었던 실패는 뭔가요?

지금 보면 굉장히 명확한 성공이라고 생각하지만, 처음엔 너무 힘들었다. 초기에는 0프로의 성공률로 시작했었다. 그래서 사람들이 우리가 하는 거에 대해서 신뢰도  없었고, 여러 연구를 하면서 여기에 얼마나 많은 Computer power가 필요한지를 생각도 못했고, 인력도 몰랐다. Universe 아시는 분? 우리가 실패한 프로젝트 중 하나인데. 키보드를 만들어서 AI가 게임을 만들겠다는 프로젝트였다. 그 기술이 잘 안 됐었다. 또 반대 경우 우리가 gpt3를 만들때 우리는 기술에 대한 확신은 있었고, 계속 사람들과 만나고 초기에 투자자들을 얻을 수 있었고, 혁신만 있다면 도전해볼만 했다.

Q. OpenAI가 오픈소스들을 경쟁할 수 있나요?

Open소스는 잠재력이 있다고 생각하고, 그걸 만들어내야 한다고 생각한다. 오픈소스 모델은 계속 만들어질 거고 이 큰 모델을 교육시키고 미래로 가져가야한다. 모델이 하나의 불가능한 일은 해내자는 목표를 가지고 있다. 공급사실 지원하고 돌아가야 한다. 더 활용도가 높은 것이 상호보완적이라고 생각한다. 그리고 현재 우리가 어떤게 불가능한지를 확인하고 실현시키는게 목표다.

Q. AI 스타트업은 어떻게

스타트업은 쉽지 않다. 아이폰 앱이 나왔을 때 모바일 스타트업을 하겠다는 말을 했었다. 그리고 기술,인프라에 있어서 발전이 있었다. AI스타트업이라는 거부터가 실수다. 초점을 그것에 맞추지 말고, 한 부분에 초점을 맞추고 창업가 정신을 가져야한다. 모든 것들이 좋아보이지 않더라도 AI에 좋은 점을 보고 넘어가야한다. 우리 사업이 지속가능한지를 고민이 되면 규제, 의사와 얘기하는 것들은 변하지 않는다. 어떤 문제가 있고, 그 문제를 해결해야 한다. Product market fit이 있으면 그걸 끌고 가야한다.

Q. 일자리 창출과 일자리를 빼앗을 거라고 생각한다. 그 부분에 대한 의견은? 기본적인 소득에 대해 말하셨는데 chatGpt에 대한 것에 말해주세요.

일자리와 경제 관념은 바뀔 거다. 지금 일자리에서 효율적으로 일할 수 있도록 할 건데 3배 많은 컴퓨터공학자들이 필요할거고, 새로운 분야를 개척을 할 수 있고 새로운 일자리를 만들어갈 거다. 이게 마지막 혁명은 아니고 앞으로 상상할 수 없는 새로운 일자리가 생겨날 거다. 모든 일자리를 대체할 수는 없다. 앞으로 우리 인간의 창의력은 다른 사람을 위해서 뭔가를 해주고 만들어주는건 사회에 공헌을 해주기 위해서다. 인간의 영역은 우리가 적응을 못하는게 아니라 기술 속도를 맞춰가지 못하는게 두려운 거다. 노동 시장 변화에 적응해왔는데 그게 10년마다 일어난다면 두려움을 느낄 수 있다. 세계적인 빈곤을 해결할 수 있다면 그것도 생각해봐야한다. 사회적인 대화가 많을 텐데 어떻게 유익하게 만들 건지는 생각해봐야하고 사람들은 가치창출을 원하는데. 일자리가 없어진다고 생각하지 말고, 새로운 일자리가 창출된다고 생각해야 한다. 기술이 사실 이전과 다른 방법으로 발전할 건데 긍정적인 방향으로 생각하고 있다. 이전에는 상상하지 못했던 방법으로 살아갈 건데 AI를 가지고 우린 긍정적인 방향으로 나아가려고 한다.

Q. 사람들이 일자리를 잃게 된다고 한다면 AI가 물이나 전기처럼 기본적인게 된다고 하면 자신만의 어플리케이션을 가진 사람들의 이익이 상충되지 않나요?

기술을 도입하면서 거기에 대한 전문가들을 도입하고 마케팅을 해왔는데 우리는 AGI를 만들어서 사람들에게 유익하게 쓸 수 있도록 하는거다. 병원을 예로 들자면, 의학은 의사들과 얘기를 하고 AGI를 얘기할 건데 우린 그 기술을 쓸 수 있는 플랫폼을 만들어서 전체 사회에 통합되게 해서 긍정적인 방향으로 만들어가는거다.

전기에 경우, 전기는  전기기업들의 소유권이 있고 AI에도 마찬가지로 되어서 AI어플리케이션 간의 경쟁이 있을거다. 기술은 역사에서 서로 경쟁이 되더라도 언젠가 플랫폼이 함께 되는 경우가 있다. 일반 기업들은 AI를 main stream으로 가져와서 고맙다고 한다. 그래서 우리는 마이크로소프트의 윈도우같은 방향도 있겠지만, 우리는 경쟁하면서 발전해야 한다고 생각한다.

Q. 컨텐츠 제작자는 다른 사람의 AI 소스 저작물이 되는데 어떻게 생각하세요?

우리는 오픈AI는 컨텐츠 제작자가 우리 AI를 오히려 써야하고 보상을 받아야한다. 우리도 저작권자들과 많은 시도를 하고 아티스트분들과 얘기 중이다. AI는 더 창의적으로 만든다고 생각하고 우린 그렇게 생각합니다.

Q. 오픈AI는 선진기술에 기여하는데요. 게임 산업에 어떤 파트너십을 생각하나요?

AI와 게임은 오랜 관계가 있었다. 딥블루 같은거. 바트를 개발했고, 게임은 정말 독특한 부분인데 모든 발전 속도 와중에 어떤걸 살피는게 중요한다. 벤치마크로 활용할 수 있을 텐데 게임은 제약이 있다.  

Q. 공상과학영화에 나오는 상황이 일어날 거라고 생각하시나요?

사람들은 기술에 대한 두려움을 당연히 느낄 수 있다. 과학공상영화를 보면 우리가 어떻게 나아갈지를 보면 여러 기술이 있지만 우린 장기적으로 봐야한다고 생각한다. 우린 현실세계의 복잡성이 있지만, AI에게 어떤 행동의 목표를 명확하게 정해주는게 중요하다고 생각한다. 그래서 language 모델을 개발한거다. language 모델을 통해서 사람들은 AI에게 행동의 마지막 목표를 알려줄 수 있다.

Q. OpenAI 펀드

펀드는 작게 시작을 했고, 우리는 확대를 하려고 하고 한국에도 투자를 할 생각이 있다. 우리가 느린 점은 있긴하다.

Q. 하드웨어 기여에 부분인데 어떻게 하드웨어 발전이 필요하나.

여러가지 기술이 기본적인 게 있는데 Computing Power가 필요하다. 좋은 데이터가 필요하고 엔지니어링 최적화하기 위해서는 모든게 공평해야하고 Bit Computing이 유명해진 이유다. 실리콘 필드. 소프트웨어를 만드는 것은 힘들어졌는데 반도체 칩 개발하고 그런 아키텍처를 찾아내는게 중요하다. 컴퓨팅 파워가 없고 그 수요를 만들어줄 수 있는데 많은 산업분야가 거기에 뛰어들 수 있을거라고 생각한다. GPU도 중요해질 거다.

Q.  에너지가 문제가 될 수 있다고 생각한다. 모바일 배터리와 같은 건 병목 현상은 없나요?

에너지는 중요하다. 많은 이용 사례가 있는데 우리는 굉장히 슈퍼시스턴스(?)가 있을거라고 생각한다. 개인 배터리에도 많은 부하가 있을 텐데 에너지를 쓰는 방향이 중요할거다. 지금은 사실 대단히 많은 에너지를 쓰고 있지만 앞으로 더 많은 에너지를 쓰게 될 거다. 거기에 대한 많은 산업체에 뛰어들 거고 가격경쟁을 하게 되면 에너지나 퓨전 기술에서 에너지 가격이 낮아질 수록 AI가격이 낮아질 거다. 요즘에 프라이버시도 중요해지는데 클라우드에 올리지 않아야한다고 생각할 수있다. 그래서 클라우드 모델에서도 많은 아키텍처가 생길 건데 그걸 어떻게 할 건지를 아는게 중요하다고 생각한다.

Q. 저는 학생인데요. 앞으로 어떻게 공부해야 할까요?

여러분은 황금기를 맞이할거다. 활발하게 활동하기 위해서 기술을 알아야하고, 여기에 학습할 적응력을 가져야 한다. 그러면 앞으로 보상을 받을거다. 이제는 변화가 과거보다 더 빠를거다. 젊은 사람들은 적응을 잘하는게 정말 중요해질 거다. 어떤 활동을 하는데 있어서 어떻게 새로운 기술에 적응을 할지를 생각해봐야 하는데 소프트웨어에서 그게 중요한거라고 생각한다. 디테일한 부분들이 중요하겠지만, 여러분들이 하고 싶은걸 하라고 말하고 싶다. 많은 사람들이 AI어플리케이션을 통해서 뭔가를 만들어가고 있는데 우린 어떤 수준이든 간에 기술에 대한 확신을 갖고 미래에 대한 확신을 가지고 공부하라고 말해주고 싶다.