By WILL KNIGHT, WIRED US

2023년 11월, 일론 머스크가 영국으로 가서 인공지능(AI)이 제기하는 존립 위협을 강조했다. 그리고 며칠 뒤 머스크는 직접 창립한 신생 기업 xAI가 강력한 성능을 자랑하는 AI를 개발했다고 발표했다. xAI가 공개한 AI는 경쟁사의 AI 프로그램보다 안전 조처가 더 적다.

xAI는 공식 웹사이트에 자사의 AI 모델인 그록(Grok)은 “약간의 유머와 반항적인 답을 하도록 설계됐다. 따라서 유머를 싫어한다면, 사용하지 않기를 바란다!”라며, “그록은 대다수 AI 시스템이 거부할 만한 부적절한 질문에도 답변한다”라고 안내했다. (그록은 테크 업계 내부에서 ‘이해한다’라는 의미를 지닌 표현이다.)

xAI는 그록 출시 공식 언론 보도 자료로 부적절한 질문이나 반항적인 답변의 의미를 설명하지 않았다. 그러나 대다수 상용화 AI 모델은 성적으로 노골적인 표현이나 폭력적 콘텐츠, 불법 콘텐츠 생성을 거부하며, 훈련 데이터 내 선입견을 지닌 표현은 피하도록 설계됐다. 부적절한 콘텐츠를 생성하지 않도록 막을 대책이 없다면, AI 모델이 테러 세력의 폭탄 제조를 돕거나 인종, 성별, 연령과 같은 특성을 기준으로 사용자를 차별하는 결과로 이어질 수 있다.

xAI는 자사 웹사이트에 연락처 정보와 사용 도중 발생한 일반적인 문제를 다루도록 문의를 보낼 이메일 주소를 일절 게재하지 않았다. X의 언론 담당 메일로 문의를 보냈을 때는 “지금은 바쁘니 나중에 다시 연락하라”라는 자동 답변만 받을 수 있었다.

xAI는 그록이 330억 가지 변수를 다룬 언어 모델인 그록-1(Grok-1)을 바탕으로 개발됐다고 밝혔다. xAI는 그록을 2개월 만에 개발했다고 주장했다. 그록 개발 기간은 업계 기준 AI 개발 소요 시간보다 훨씬 더 짧다. 또한, xAI는 머스크가 2022년, 440억 달러에 인수한 X 플랫폼을 통해 실시간으로 전 세계 정보를 알 수 있다는 근본적 이점을 주장하기도 했다.
 
오픈소스 AI 노력을 지지하는 기업인 엘루더AI(EleutherAI) 소속 AI 연구원 스텔라 바이더만(Stella Biderman)은 xAI가 공식 발표로 주장한 내용이 그럴듯하다고 말했다. 바이더만은 그록이 검색 증강 생성(retrieval augmented generation) 방식을 사용해 X의 최신 데이터를 결과물에 추가할 것이라고 설명했다. 다른 첨단 언어 모델은 검색 엔진이 제공하는 결과와 기타 정보를 활용하여 사용자의 요청에 따라 결과물을 생성한다.

대규모 언어 모델은 지난 1년 동안 놀라울 정도로 뛰어난 역량을 입증했다. 오픈AI의 획기적인 발전을 선보인 챗봇인 챗GPT가 강조한 역량이 가장 유명하다.

언어 모델은 도서, 웹에서 찾을 수 있는 텍스트를 대거 주입하고는 사용자가 입력한 명령에 따라 답변을 제시한다. 일반적으로 인간의 추가 훈련 작업을 거치고, 공격성이나 무례함, 위험함을 지닌 결과물 생성 확률을 줄이면서 일관적이면서 올바른 듯한 답변을 생성한다. 그러나 여전히 오류와 편견을 지닌 답변을 생성할 확률이 남아있다.

오픈AI, 구글을 비롯한 대기업과 앤트로픽(Anthropic), 코히어(Cohere), 인플렉션 AI(Inflection AI) 등 스타트업이 개발한 언어 모델은 범죄 개시 방법에는 답변을 거부하거나 인종 차별성 질문에는 침묵한다.

xAI의 공식 발표 내용으로는 그록이 다른 AI 모델에서는 부적절하다고 판단한 요청에도 더 개방적으로 답변하도록 훈련을 받았는지 혹은 단순히 다른 AI 모델과 같은 2차 훈련이 없었는지 확실히 알 수 없다.

xAI는 대규모 언어 모델의 역량을 측정하도록 설계된 여러 벤치마크 테스트 결과를 공개했다. MIT 과학자 안드레이 바부(Andrei Barbu)는 그록이 제공하는 결과가 다른 인기 AI 모델과 비슷해 보인다고 전했다.

xAI는 그동안 소수 사용자를 대상으로 그록을 테스트했으나 이제 그록 서비스 신청자로 서비스 제공 범위를 넓힐 계획이라고 전했다. 머스크는 X에 X 프리미엄+(X Premium+) 구독자 모두 그록을 사용할 수 있다는 글을 게재했다. xAI는 자사 모델을 모두 공개 배포할 계획이라고 밝히지 않았다.

xAI의 발표는 xAI가 직접 생성한 결과물을 신뢰할 수 있는 모델과 필요에 따라 도움을 청할 능력, AI 모델의 잘못된 행동을 유도하도록 설계된 적대적 공격 방어 능력 강화 등 AI 개발 과정의 몇 가지 핵심 과제를 다루고 있다고 밝혔다. xAI는 공식 성명을 통해 “xAI는 재앙과 같은 악의적인 사용 사례에 맞서 신뢰할 수 있는 안전 조처를 개발할 것이다”라고 전했다.

머스크는 생성형 AI의 초기 투자자였다. 머스크는 2015년, 오픈AI에 500만~1,000만 달러를 투자하면서 오픈AI의 초기 운영을 도왔다. 그러나 2018년, 당시 비영리 단체였던 오픈AI를 인수하지 못하면서 오픈AI 지원을 중단했다.

오픈AI가 영리 기업으로 전환하여 마이크로소프트의 투자를 받고, 챗GPT의 성공이라는 성과가 뒤따르자 머스크는 오픈AI를 공개적으로 비판했다. 또, 오픈AI의 언어 모델의 선입견이 지나치다고 비난했다.

그리고 2023년 7월, AI 연구 분야에서 존중받는 소규모 인재를 모아 선입견이 적은 AI 개발에 나설 것이라고 공식 발표했다.

일부 AI 연구원은 이미 다양한 정치적 견해를 다루는 언어 모델을 개발하려 했다. 오픈AI도 자사 모델의 정치적 선입견을 없애는 작업을 진행 중이라고 밝혔다.

2022년, 일론 머스크가 X를 인수한 뒤 X는 신규 사용자의 콘텐츠 관리 반대 선언과 같은 맥락에서 극우 세력을 포함하여 논란을 일으킨 사용자의 계정을 복구했다. 여러 편의 연구를 통해 머스크가 인수한 뒤 X 내 거짓 정보가 증가했다는 사실이 입증됐다.

그록 출시 공식 발표에는 “xAI는 모든 인류가 최대한 이익을 누릴 수 있는 AI 툴을 개발한다. xAI는 출신 배경과 정치적 견해를 떠나 모든 인간에게 유용한 AI 툴을 개발하는 것이 중요하다고 믿는다. 또한, xAI의 AI 툴로 법률과 관련하여 사용자의 권리를 신장하고자 한다. xAI의 그록 개발 목표는 대중적 접근 방식 탐색과 입증이다”라고 명시되었다.

xAI의 개발 계획을 자세히 알고 있으나 xAI의 비공개적 특성을 고려하여 익명을 요청한 어느 한 AI 연구원은 xAI가 그록에 활용하고자 하는 코딩 툴도 개발 중이라고 전했다. 마이크로소프트는 오픈AI가 개발한 코딩 전문 언어 모델을 기반으로 한 자사 코딩 프로그램인 비주얼 스튜디오 코드(Visual Studio Code) 플러그인을 제공한다. 컴퓨터 코드로 모델을 훈련하면서 다른 작업의 성능을 개선할 수 있다.

와이어드는 저명한 AI 연구원 여러 명에게 연락했으나 그록을 사용한 적이 있는 연구원과는 연락이 닿지 않았다.

바부는 현재 훌륭한 언어 모델이 많다는 점에서 일론 머스크의 그록 개발 계획과 그록으로 매출을 확보할 방법에 의문을 제기한다. 바부는 “xAI는 훌륭한 인재를 모았으며, 무언가 개발하고자 하는 듯하다. 그러나 어떤 일을 하는지 확실히 알 수 없다”라고 말했다.

** 위 기사는 와이어드US(WIRED.com)에 게재된 것을 와이어드코리아(WIRED.kr)가 번역한 것입니다. (번역 : 고다솔 에디터)

<기사원문>
Elon Musk Announces Grok, a ‘Rebellious’ AI Without Guardrails