By STEVEN LEVY, WIRED US

2023년 6월, 필자는 10월 자로 보도한 바와 같이 오픈AI 본사에서 수석 과학자인 일리야 서츠케버(Ilya Sutskever)와 대화한 적이 있다. 당시 나눈 대화 주제 중에는 오픈AI의 비정상적인 구조도 있었다.

오픈AI는 인간의 지능과 같거나 더 우수한 인공지능(AI)인 범용 인공지능(AGI)을 안전하게 개발한다는 임무와 함께 비영리 연구 단체로 시작했다. 오픈AI는 놀라울 정도로 유창하게 글을 작성하는 대규모 언어 모델을 개발할 유망한 방법을 찾았다. 그러나 대규모 언어 모델 개발 및 구축 과정에는 컴퓨터 인프라와 자본이 대거 필요했다. 결국, 오픈AI는 영리 기관을 출범하여 외부 투자자를 확보하고, 마이크로소프트를 주요 협력사로 얻었다. 오픈AI 직원 전원 사실상 영리 법인에 근로한다. 그러나 오픈AI의 상업적 생명은 제한되었다. 오픈AI가 투자자에게 전달하는 매출 수준은 초기 투자자의 투자 금액 최대 100배라는 상한선이 있다. 오픈AI가 순수한 비영리단체에서 영리 법인으로 전환한 뒤의 일이다. 오픈AI의 모든 관계와 매출은 오픈AI의 초기 임무에 답변하는 초기 비영리 단체 이사회가 관리한다. 그리고 어쩌면, 신이 함께 관리한다고 말할 수 있을 것이다.

서츠케버는 필자가 조세 회피가 가능한 설계를 시행할 때 대규모 언어 모델인 GPT가 생성할 수도 있는 관계를 그린 복잡한 조직도를 두고 농담할 때 필자의 말을 전혀 이해하지 못했다. 서츠케버는 “오픈AI는 전 세계 기관 중 유일하게 매출 구조 상한선을 두었다. 매출 상한선을 정한 것이 말이 되는 이유는 다음과 같다. 만약, 오픈AI가 대성공을 거둘 수 있다는 점과 컴퓨터 전력이 모든 이의 일을 처리할 만한 능력을 갖출 수 있다고 확신한다면, 오픈AI가 무제한으로 이익을 기록하는 것이 훌륭한 것처럼 보일 것이다”라고 경고했다. 반면, 오픈AI의 영리 법인과 관련하여 AI가 인간의 통제에 벗어나지 않았다는 사실을 보장한다는 다짐을 피하지 않으려면, 오픈AI 비영리 단체에서 초기에 구성된 이사회가 상황을 계속 지켜보아야 한다.

인류의 수호자가 되고자 하는 오픈AI 비영리 단체 이사회는 샘 알트만(Sam Altman)이 이사회와의 정직한 소통을 꾸준히 이어가지 않은 탓에 오픈AI가 책임을 지는 것이 어려워졌다는 이유로 CEO로 신뢰할 수 없다고 주장하며, 해고하였다. 샘 알트만을 신뢰할 수 없다고 의심할 만한 행동은 밝히지 않았으며, 오픈AI 직원 중 언론 공식 보도 이전까지 해고 사실을 인지한 이는 없었다. 사티아 나델라(Satya Nadella) 마이크로소프트 CEO를 포함한 오픈AI 투자자도 해고 계획을 사전에 통지받지 않았다. 오픈AI를 대표하는 이사회 구성원 6명 중 과반수에 해당하는 4명은 그렉 브로크만(Greg Brockman) 오픈AI 사장의 사임도 요구했다. 브로크만은 즉시 사임했다.
 
오픈AI 내부 사정에 정통한 일부 소식통과 대화한 뒤 이사회가 알트만을 해고하면서 오픈AI가 강력한 AI를 안전하게 개발하기 위한 임무를 실천한다고 확신한 것이 분명하게 드러났다. 이사회가 해고를 결정한 유일한 이유이다. 매출이나 챗GPT 사용량 증가와 사내 존중도 증가, 오픈AI의 성과에 만족한 마이크로소프트를 비롯한 다른 투자자는 신경쓰지 않았다. 오픈AI 이사 애덤 디안젤로(Adam D’Angelo), 헬렌 토너(Helen Toner), 타샤 맥콜리(Tasha McCauley)와 서츠케버는 알트만이 이사회와 직접 대화하지 않았다고 판단했다. 즉, 이사회는 알트만이 오픈AI의 임무를 이어간다는 사실을 더는 신뢰하지 않는다는 의미이다. 이사회가 CEO를 신뢰할 수 없다면, 오픈AI의 임무 보호와 임무 실천 과정 관측이 가능하겠는가?

필자는 알트만이 실제로 오픈AI의 임무를 해치는 행동을 한 적이 있는지 확실히 말할 수 없다. 하지만 이사회가 오픈AI 직원의 존중을 받고, 경외심을 불러일으키던 지도자 해고 사유를 제대로 설명할 기회를 놓치면서 오픈AI의 임무에 피해를 주었다는 사실은 분명하다. 이사회는 알트만에게 해고 통보를 하고는 불필요한 인력 교체를 할 수 있다고 생각했다. 하지만 이사회는 즉시 돌이킬 수 없는 파문을 일으켰다. 알트만은 해고 소식이 알려진 후 이어진 분노를 잠재우지 않았다. 알트만의 직위 복귀 시도와 해고 소식 보도 후 며칠간 이어진 직원의 이사회 지시 복종 거부는 알트만을 해고할 권리가 있다고 입증하는 수단이었다. 반면, 실리콘밸리 전역에도 알트만을 해고한다는 소식이 타격을 주었으며, 오픈AI에는 어쩌면 영원히 존재할 수도 있는 오점이 남았다.

2023년 11월 20일(현지 시각) 아침 공개되고, 오픈AI 직원 770여 명 중 95% 이상이 서명한 공개서한에서 알트만의 지문을 찾아볼 수 없었다. 해당 서한은 이사회가 오픈AI를 감독할 능력이 없다고 주장했다. 또, 이사회가 알트만 해임 결정을 철회하지 않는다면, 서한에 서명한 직원 모두 퇴사 후 알트만과 브로크만이 설립한 마이크로소프트의 신규 AI 부서로 이동할 것이라고 경고했다. 처음에는 공개서한에 담긴 위협이 이사회의 문제를 해결하지 못하는 듯했다. 이사회는 공개서한을 받은 뒤 테러 조직처럼 협상을 요구받았다고 느꼈다. 어쩌면, 후회한다고 뒤늦게 밝힌 서츠케버는 다른 생각을 했을 수도 있다. 서한에는 서츠케버의 서명도 담겨있다. 서츠케버는 알트만을 믿지 못한다는 의사를 확실히 철회했다. 이후 서츠케버와 알트만은 X(구 트위터)에서 우호적인 태도를 보인 게시글을 주고받았다.

오픈AI 내부에 긴장감이 감돌던 때 이사회는 사실상 오픈AI를 떠나 알트만을 따라 마이크로소프트로 이직하려는 과감한 태도를 보인 수많은 직원에 맞서려 했다. 서한 내용에 따르면, 이사회는 오픈AI가 무너지도록 한 오픈AI 지도자가 조직 임무와 일치하는 행동을 한다고 전했다. 극단적인 발언인 듯하다. 직원 모두 퇴사한다면, 오픈AI가 재빨리 변화하는 AI 시장의 유일한 지도자라는 자리를 계속 이어갈 방식을 상상하기 어렵다. 또, 누군가가 오픈AI의 성과를 외부로 유출한다면, 오픈AI 이사회는 안전한 AI 개발이 이루어진다고 설명할 수 없을 것이다. 오픈AI의 뛰어난 직원 복지도 업계 최고 수준의 머신러닝 연구자가 오픈AI의 마법과 같은 일자리를 채우는 인재가 순식간에 사라질 수 있다고 느끼는 일을 막지는 못했다.

따라서 이사회가 알트만 측과 협상하고, 알트만의 복귀를 결정한 것은 충격적인 일이 아니다. 오픈AI 이사 두 명이 떠나고, 디안젤로만이 이사회를 지키고 있다. 이후 세일스포스 CEO 출신인 브렛 테일러(Bret Taylor)가 오픈AI 신임 사장이 되었다. 전직 재무부 장관이자 여성 모욕으로 맹비난 대상이 되었던 로렌스 서머스(Lawrence Summers)도 오픈AI 이사회에 새로 합류했다. 오픈AI가 이사회를 재구성하는 과정에서 분열이 더 심해질 수도 있다. 오픈AI를 떠나는 이사가 일으킨 타격을 완화하도록 돕는 일은 오픈AI가 알트만을 상대로 내부 수사에 착수하는 것이다.

오픈AI 해임 사건 이후 일시적인 이점을 찾는다면, 오픈AI 직원 모두 마이크로소프트에 합류한다는 일은 챗GPT가 허구를 진실인 것처럼 꾸며낼 생각도 하지 못하는 것처럼 보인다는 사실을 이야기할 수 있을 것이다. 물론, 마이크로소프트는 오픈AI 출신의 훌륭한 AI 연구원을 대거 확보한다는 점에서 오픈AI 내부 반란을 반겼을 수도 있다. 그러나 오픈AI의 인재를 얻는 대가는 매우 비싸며, 오픈AI 직원 다수가 이미 도보로 마이크로소프트 사옥으로 이동해 인터페이스 설계와 제품 관리, 개발 등과 같은 작업에 협업한다. 그렇다면, 마이크로소프트는 오픈AI 제품과 경쟁 관계였던 코파일럿 앱을 오픈AI 기술을 바탕으로 출시하지 않았을까?

하지만 말 그대로 마이크로소프트와 같은 대기업을 제치고 AI 기술 분야를 장악한 오픈AI가 업계에서 가장 유능한 인재를 거액을 보유한 마이크로소프트에 그대로 빼앗긴다는 일이 가장 말도 안되는 일일 것이다. 마이크로소프트는 오픈AI 전 직원이 미래를 위한 혁신을 거두어 진정으로 제한 없는 수준의 매출을 챙기는 데 불편함을 느끼지 않을 것이다. 오픈AI가 다른 설립 원칙을 지닌 것을 고려하여 알트만을 따라 오픈AI를 떠나고자 한 모든 이들이 깊이 생각한 일이기도 할 것이다.

오픈AI의 알트만 해임 소식 발표부터 복귀 결정까지 발생한 모든 일은 복잡한 부분이 많다. 5일 사이에 상황이 번복된 점에 많은 이들이 소식을 접하면서 인터넷에 만연한 마이클 잭슨이 팝콘 커넬을 입으로 던져 넣는 모습을 담은 GIF를 공유하듯 즐겨 말할 만한 소재이다. 오픈AI의 기이한 실제 상황의 이면에는 인류 집단의 미래 모습을 결정할 문제가 담겨있다.

2023년 6월, 인터뷰 당시 서츠케버는 “AGI가 제기하는 문제는 인류의 최종 과제가 될 것이다. 인간은 AGI로 무엇을 할까? AGI의 문제를 제대로 이해하고, 뛰어난 지능을 가진 존재와 다양한 관심사를 지닌 인간이 협력하면서 논의와 훌륭한 아이디어를 공유한다면, 좋은 일이 발생할 것이다. 하지만 지금 당장 오늘날 사악한 초지능에 맞서 인류를 보호할 후보는 암암리에서 이루어지는 싸움을 피한다. 이 때문에 인류의 신뢰도가 저하되었다. AGI 개발을 향해 다가가면서 AGI가 인류가 지닌 최고의 가치관에 부합하도록 확인해야 한다. 인류가 AGI와 부합하지 않는다면, 실현될 수 없는 일이다”라고 말했다.

** 위 기사는 와이어드US(WIRED.com)에 게재된 것을 와이어드코리아(WIRED.kr)가 번역한 것입니다. (번역 : 고다솔 에디터)

<기사원문>
OpenAI’s Boardroom Drama Could Mess Up Your Future