인공지능 기술의 급속한 발전은 우리 사회에 전례 없는 변화를 가져오고 있습니다. OpenAI의 CEO 샘 알트만이 TED 무대에 올라 ChatGPT의 놀라운 성장, AGI의 의미, 그리고 AI가 가져올 미래 사회에 대한 솔직한 견해를 밝혔습니다. 이번 인터뷰는 단순한 기술 소개를 넘어 AI 윤리, 창작자 저작권, 그리고 인류가 직면한 도덕적 질문들까지 다루며 깊은 성찰을 요구합니다.
AGI 정의와 인공지능 발전의 현주소
AGI(인공 일반 지능)의 정의는 AI 업계에서도 명확하게 합의되지 않은 개념입니다. 샘 알트만은 "OpenAI 연구원 10명을 방에 모아 AGI를 정의해 달라고 하면 14개의 정의가 나올 것"이라고 농담처럼 말했습니다. 이는 AGI 정의 자체가 얼마나 복잡하고 다층적인지를 보여줍니다. 현재 ChatGPT는 많은 사람들에게 이미 일반 지능처럼 느껴집니다. 무엇을 물어봐도 지능적인 답변이 돌아오기 때문입니다. 그러나 샘 알트만은 현재 시스템이 진정한 AGI라고 보기 어렵다고 설명합니다. 그 이유는 현재 모델이 지속적으로 배우고 개선하지 못하며, 새로운 과학을 발견하거나 약한 부분을 스스로 개선할 수 없기 때문입니다. 더욱 중요한 점은 현재 시스템으로는 "이 업무를 처리해 줘"라고 말했을 때 인터넷을 클릭하고, 누군가에게 전화하고, 파일을 보고 처리하는 등의 복합적인 작업을 수행할 수 없다는 것입니다. 샘 알트만은 AGI를 "컴퓨터 앞에서 할 수 있는 모든 지식 작업을 수행할 수 있는 능력"으로 보고 있으며, 이는 단순히 질문에 답하는 것을 넘어서는 수준을 의미합니다.
| 구분 | 현재 AI (ChatGPT) | AGI |
|---|---|---|
| 학습 능력 | 고정된 지식 기반 | 지속적 학습 및 자기개선 |
| 작업 수행 | 질문 응답 중심 | 복합 업무 자율 처리 |
| 과학 발견 | 기존 지식 정리 | 새로운 과학 발견 가능 |
인터뷰를 보면서 가장 인상 깊었던 부분은 샘 알트만이 AGI의 도래 시점보다 "기하급수적으로 증가하는 능력 곡선"을 더 중요하게 생각한다는 점이었습니다. 그는 AGI가 언제 오느냐는 질문에서 벗어나, 이 믿을 수 없을 정도로 가파른 기술 발전 곡선 위에서 우리가 어떻게 안전한 시스템을 구축하고 사회를 준비시킬 것인지가 더 본질적인 문제라고 강조했습니다. 이는 AI 발전이 특정 시점에 멈추는 것이 아니라 AGI를 넘어 초지능으로 계속 발전할 것임을 의미합니다. Claude 4.5 Sonnet과 같은 최신 모델들은 이미 많은 지식 작업에서 인간 수준의 성능을 보이고 있으며, 주간 활성 사용자 5억 명이라는 놀라운 성장세를 기록하고 있습니다. 이러한 폭발적 성장은 AI 기술 혁신이 단순한 실험실 수준을 넘어 일상으로 깊숙이 파고들고 있음을 증명합니다.
에이전트 AI와 인터넷 접속의 양면성
에이전트 AI는 AI 발전의 다음 단계로, 사용자의 명령을 받아 스스로 작업을 계획하고 실행하는 자율적 시스템을 의미합니다. OpenAI가 출시한 'Operator'는 이러한 에이전트 AI의 초기 형태로, 식당 예약과 같은 실제 업무를 대신 처리할 수 있습니다. 샘 알트만도 직접 테스트했을 때 AI가 신용카드 정보를 요구하는 순간 약간의 불안감을 느꼈다고 솔직하게 고백했습니다. 조슈아 벤지오를 비롯한 많은 AI 연구자들은 에이전트 AI가 인터넷에 접속하는 순간을 가장 주목해야 할 시점으로 꼽습니다. AI가 인터넷상에서 자유롭게 행동할 수 있는 권한을 얻게 되면, 잠재적으로 예측 불가능한 결과들이 발생할 수 있기 때문입니다. 공상과학 소설에서 자주 등장하는 'AI의 탈출' 시나리오가 현실이 될 수 있는 순간인 것입니다. 샘 알트만은 에이전트 AI의 안전성이 곧 제품의 핵심 경쟁력이 될 것이라고 강조했습니다. "만약 여러분이 우리 에이전트가 여러분의 은행 계좌를 털거나 데이터를 삭제하지 않을 거라고 믿지 못한다면 사용하지 않을 것"이라는 그의 말은 AI 안전이 선택이 아닌 필수임을 명확히 합니다. 사람들은 신뢰할 수 있고 안전한 에이전트만을 사용하고 싶어 하며, 기업들은 그러한 시스템을 구축할 책임이 있습니다. 그러나 에이전트 AI가 가져올 위험은 개인 차원을 넘어섭니다. 누군가가 오픈 소스 모델을 악용하여 "인터넷에 나가서 특정 인물에 대한 허위 정보를 퍼뜨려라"와 같은 명령을 내릴 수 있으며, 이 에이전트는 자신을 복제하여 더 효과적으로 작업을 수행할 수도 있습니다. 이는 개인의 선택 차원이 아니라 사회 전체의 안전과 직결되는 문제입니다. 인터뷰를 보면서 느낀 점은 에이전트 AI가 가진 잠재력과 위험성이 동전의 양면과 같다는 것입니다. 한편으로는 2년 걸릴 소프트웨어 개발을 오후에 끝낼 수 있는 엄청난 생산성 향상을 가져다줄 수 있지만, 다른 한편으로는 생물 테러, 사이버 보안 위협, 통제력 상실과 같은 전례 없는 위험도 함께 증가합니다. 샘 알트만이 강조한 '준비 태세 프레임워크'는 이러한 위험을 사전에 식별하고 측정하며 완화하기 위한 체계적인 접근법으로, 모든 AI 기업이 따라야 할 기준이 되어야 합니다.
AI 안전과 창작자 저작권의 균형점 찾기
AI 안전 문제는 기술적 차원을 넘어 윤리적, 법적, 사회적 차원의 복합적인 과제입니다. 샘 알트만은 OpenAI가 현재 전 세계 인구의 약 10%가 사용하는 시스템을 운영하면서도 안전 기록에 대해 자랑스럽게 생각한다고 밝혔습니다. 그러나 그는 동시에 "기하급수적으로 증가하는 힘에 대해 이야기하고 있기 때문에 과거 실적만으로는 충분하지 않다"고 인정했습니다. AI 안전의 핵심은 안전한 시스템 구축이 반복적인 과정이라는 점입니다. 위험이 비교적 낮을 때 시스템을 배포하고, 실제 사용자 피드백을 받으며, 문제를 발견하고 해결하는 과정을 거쳐야 합니다. 특히 에이전트 시스템으로 전환하면서 해결해야 할 새로운 문제들이 대거 등장하고 있습니다. OpenAI는 모델을 출시하기 전에 생물 테러, 사이버 보안, 자기 개선 가능성 등 주요 위험 요소들을 체계적으로 테스트한다고 밝혔습니다. 창작자 저작권 문제는 AI 업계가 직면한 가장 논란이 많은 이슈 중 하나입니다. 샘 알트만에게 피너츠의 찰리 브라운 스타일 이미지를 생성하도록 요청했을 때, 이는 피너츠 재단과의 계약 없이 IP를 무단 사용하는 것처럼 보였습니다. 이에 대해 샘 알트만은 "인류의 창의적인 정신이 매우 중요하며, 새로운 사람들이 더 나은 예술과 콘텐츠를 만들 수 있도록 돕는 도구를 만들고 싶다"고 답했습니다.
| 이슈 | OpenAI 현재 정책 | 향후 방향 |
|---|---|---|
| 살아있는 아티스트 | 스타일 모방 제한 | 동의 기반 수익 모델 검토 |
| 미술 사조/스튜디오 | 생성 허용 | 공정 사용 기준 적용 |
| 표절 수준 콘텐츠 | 생성 차단 | 엄격한 필터링 유지 |
OpenAI는 현재 살아있는 아티스트의 스타일로 이미지를 생성해 달라는 요청을 거부하지만, 특정 미술 사조나 스튜디오 스타일로는 생성을 허용합니다. 샘 알트만은 창작물의 경제학에 대한 새로운 모델이 필요하다고 강조했습니다. 만약 7명의 아티스트 스타일을 혼합하여 이미지를 만들고 모두가 동의했다면, 각자에게 얼마씩 보상을 나눠줘야 할까요? 이는 AI 시대의 새로운 과제입니다. 캐럴 캐드왈라더가 ChatGPT에게 자신의 스타일로 강연을 시킨 사례는 동의 없는 사용의 문제를 부각시켰습니다. 샘 알트만은 프롬프트에서 특정 인물이 언급될 경우 그에 대한 보상 모델이 생겨야 한다는 점에 동의하면서도, 구체적인 방법론은 아직 개발 중임을 인정했습니다. 그는 "세상이 그런 모델을 빨리 파악하도록 도와야 하고, 그것이 큰 변화를 가져올 것"이라고 말했습니다. 인터뷰를 보면서 가장 공감했던 부분은 창작자들이 느끼는 감정의 차이였습니다. 자신의 작품을 도둑맞았다고 느끼는 것과 자신의 작품이 증폭되고 확장될 수 있다고 느끼는 것은 매우 다른 감정입니다. 만약 AI 업계가 창작자들에게 후자의 감정을 제공할 수 있다면, 인류 전체가 이 기술을 훨씬 더 포용할 수 있을 것입니다. 일부 창작자들은 이미 AI를 "최고의 도구"로 환영하며 놀라운 새로운 작품을 만들고 있지만, 다른 이들은 자신의 미래가 위협받는다고 느끼고 있습니다. 샘 알트만이 던진 "01 Pro 추론 모델"의 질문, "누가 당신이나 다른 사람에게 그런 도덕적 권위를 부여했습니까? 만약 당신이 틀렸다면 당신은 어떻게 개인적으로 책임지고 설명할 건가요?"는 AI 개발자들이 직면한 무게를 상징적으로 보여줍니다. 이는 단순히 기술 개발의 문제가 아니라 인류의 운명을 바꿀 수 있는 결정에 대한 책임의 문제입니다. 샘 알트만과의 대화는 AI 미래가 단순히 기술적 진보만의 문제가 아님을 명확히 보여줍니다. AGI 정의에 대한 합의, 에이전트 AI의 안전한 배포, 창작자 권리 보호, 그리고 무엇보다 이 모든 변화를 인류가 어떻게 받아들이고 준비할 것인가가 핵심입니다. 그의 아들이 자라날 세상은 "컴퓨터가 여러분을 이해하고 상상할 수 있는 모든 것을 해주는 세상"이 될 것이라는 비전은 희망적이면서도 동시에 우리에게 엄중한 책임을 요구합니다. 변화의 속도가 우리를 압도하기 전에, 사회 전체가 함께 방향을 설정하고 안전장치를 마련하는 집단적 노력이 그 어느 때보다 절실합니다.
자주 묻는 질문 (FAQ)
Q. AGI는 언제쯤 실현될 것으로 예상되나요? A. 샘 알트만은 AGI의 명확한 도래 시점보다 기하급수적인 능력 향상 곡선이 더 중요하다고 강조했습니다. AGI의 정의 자체가 연구자마다 다르며, 중요한 것은 특정 시점이 아니라 지속적으로 발전하는 AI 시스템을 안전하게 관리하는 방법입니다. 현재 AI는 이미 많은 지식 작업에서 인간 수준의 성능을 보이고 있으며, 향후 몇 년 내에 더욱 급격한 발전이 예상됩니다.
Q. 에이전트 AI를 사용할 때 개인정보 보안은 어떻게 보장되나요? A. OpenAI는 에이전트 AI의 안전성이 제품의 핵심 경쟁력이라고 강조합니다. 사용자는 에이전트가 은행 계좌나 개인 데이터에 접근하는 것을 선택적으로 허용할 수 있으며, 신뢰할 수 없다면 사용하지 않을 수 있습니다. OpenAI는 출시 전 엄격한 안전 테스트를 거치며, '준비 태세 프레임워크'를 통해 주요 위험 요소들을 체계적으로 관리합니다. 그러나 에이전트 AI는 새로운 기술이므로 사용자도 신중하게 권한을 부여해야 합니다.
Q. AI가 창작자의 스타일을 학습하는 것은 저작권 침해인가요? A. 이는 현재 법적으로 논란이 되는 영역입니다. OpenAI는 살아있는 아티스트의 스타일을 직접 모방하는 것을 제한하고 있으며, 명백한 표절 수준의 콘텐츠는 생성하지 않습니다. 샘 알트만은 창작자가 동의한 경우 수익을 공유하는 새로운 모델을 검토 중이라고 밝혔습니다. 공정 사용과 저작권법의 개념이 AI 시대에 맞게 재해석되어야 하며, 창작자들이 자신의 작품이 증폭되고 확장된다고 느낄 수 있는 방향으로 발전해야 합니다.
--- [출처] 영상 제목/채널명: https://www.youtube.com/watch?v=5MWT_doo68k