By WILL KNIGHT, WIRED US

2023년 3월, 인공지능(AI) 연구원과 기술자, 기업가, AI가 인류에 제기할 위협을 우려하는 전 세계 전문가와 비전문가 3만 5,000여 명이 비영리단체 생명의 미래 연구소(Future of Life Institute)의 서한에 서명했다. 서한은 챗GPT와 같은 AI 프로그램의 기능으로 드러난 바와 같이 인류가 위험에 처할 위험성 때문에 AI 개발 잠정 중단을 촉구했다.

서한에는 “현대 AI 시스템은 일반적인 작업에서 인간을 상대로 경쟁력을 갖추었다. 이제 인류는 스스로 다음 질문을 해야 한다. 결과적으로 인간보다 수가 더 많고, 지능이 뛰어나면서 인간 소외와 대체로 이어질 비인간적인 정신을 개발해야 할까?”라는 내용이 작성되었다.

지금도 필자의 의견이 틀리다는 반박이 가능할 수도 있을 것이다. 하지만 6개월 뒤의 상황을 보면, 그 어느 때보다 AI 개발 속도가 더 빨라지지만 문명사회가 붕괴하지는 않았다. 이럴 수가. 마이크로소프트의 혁신적인 챗GPT 통합 검색 오라클인 빙 챗(Bing Chat)이 출시되었는데도 구글을 뛰어넘은 적이 단 한 번도 없다. 그렇다면, 공개서한과 AI로 제기된 인간의 귀중한 작업이 기반이 된 공상과학 영화의 경고는 어떤 점이 유사한가?

MIT에서 기업학을 전공하는 학생인 이사벨라 스트럭만(Isabella Struckman)과 소피 쿠펙(Sofie Kupiec)은 AI 개발 잠정 중단 요구 서한의 초기 서명자 100여 명에게 연락해 AI의 위험성을 우려하게 된 계기를 알아보았다. 스트럭만과 쿠펙이 작성한 조사 결과는 서한 서명자 간의 광범위한 관점을 드러낸다. 서한은 공개적으로 받아들일 수 있으나 서명자 중 실제로 AI가 제기하는 인류 위협이 다가오고 있다는 점 자체를 우려하는 이는 비교적 적은 것으로 나타났다.

스트럭만과 쿠펙이 대화한 AI 서명자 다수는 AI 개발 6개월 잠정 중단이나 추후 AI 개발에 큰 영향을 미칠 일이 발생할 것으로 믿지 않는다. 대다수 서명자는 어느 한 익명의 서명자가 인정한 바와 같이 서한의 일부분에서 떠올릴 수 있는 인류 종말이 현실이 될 가능성을 상상하지 않는다.
 
서명자 절대다수는 챗GPT와 같은 AI 툴의 잠재력 관련 과장 정보가 어리석을 정도로 큰 성공을 거두어 주로 구글, 오픈AI, 마이크로소프트 등 AI 분야 대기업과의 경쟁 속도를 우려한다. 구글은 챗봇 개발 핵심이 되는 몇 가지 알고리즘의 초기 개발사이다. 그러나 챗GPT 열풍이 시작하기 전까지만 하더라도 진전 속도가 상대적으로 느렸다. AI 개발 잠정 중단을 촉구하는 서한에 서명한 이들에게 AI 개발 기업이 어떠한 위험성도 탐색하지 않고 서둘러 실험용 알고리즘을 배포하는 것이 우려 원인이었다. AI가 인류를 제거할 위험성이 아닌 거짓 정보 유포, 해롭거나 편견이 되는 조언 생성, 이미 강력한 테크 업계 대기업의 영향력과 부의 증대 등이 서한에 서명하게 된 원인이었다.

일부 서명자는 지금까지 유례없는 속도로 발전한 AI가 인간 근로자의 실직 원인이 될 수 있다는 비교적 더 거리가 먼 가능성을 우려했다. 또, 다수 서명자는 서한 덕분에 AI 모델 성능이 놀라울 정도로 대대적으로 발전한 것에 대중의 이목을 끌어모으는 데 도움이 될 수 있다고 느낀다. 더 나아가 규제 기관이 AI 발전 시 제기될 단기적인 위험성을 다루기 위한 일종의 조처를 추진하도록 할 것으로 기대한다.

2023년 5월, 필자는 서한에 서명한 전문가 몇 명과 대화했다. 필자와 대화한 이들 모두 서한이 주장하는 바를 100% 동의하는 것이 아니라는 점이 분명했다. 대부분 서한이 공개된 순간이 각자 우려하는 AI의 여러 위험성과 관련하여 관심을 집중시키기 좋은 시점이라고 판단하여 서명에 동참할 가치가 있다고 판단했다.

그러나 가장 기이하면서도 끔찍한 주장으로 정의할 수밖에 없는 서한으로 기존 AI와 최근 개발된 AI의 잠재적인 문제 여러 개를 다루려 한 것은 실수이다. 일부 AI 연구원은 몇 년 동안 앞서서 알고리즘에 포함된 인간의 편견 악화 등 대규모 언어 모델의 즉각적인 사회 문제를 경고했다. AI가 제기할 종말론과 관련하여 서한이 일으킨 AI 열풍 속에서 일부 전문가가 경고한 AI의 사회적 문제는 거의 주목받지 못했다. AI가 인류 종말을 초래한다는 사고는 2023년 5월, 거물급 AI 연구원 여러 명이 서명한 추가 서한을 통해 강화되었다. 5월 공개된 서한은 AI의 인류 종말 위협을 핵무기와 대유행병이 초래하는 종말 위협과 비교했다.

스트럭만과 쿠펙의 연구 논문 정식 게재에 앞서 검토 작업에 참여한 『기술 반발 및 기술 위기 소통(The Techlash and Tech Crisis Communication)』의 저자 니리트 웨이스 블라트(Nirit Weiss-Blatt)는 AI가 인류 종말 위협을 초래한다는 서한 두 통이 결과적으로 최첨단 AI 기술을 개발하는 기업의 이익을 위한 역할을 했다고 지적한다. 거리가 먼 최악의 상황에 초점을 맞추어 규제 당국이 AI를 매우 귀중하면서도 다루기 어려운 기술이라고 확신하도록 했기 때문이다. 웨이스 블라트가 언급한 바와 같이 서한에 서명한 전문가 다수는 서한에 서명한 것과 달리 AI가 제기하는 존립 위협을 생각하지 않는다. 그는 “서한에 서명한 전문가는 극단적인 AI 종말론에 이름을 빌려주었다. 바로 서한에 서명하면서 거짓 정보를 유포한다고 볼 수 있는 부분이다”라고 주장했다.

결국, AI 개발 잠정 중단을 요청한 서한은 서한에 서명한 이들이 원하는 것과는 반대 역할을 했다. AI의 인간 종말 제기 상황을 주제로 이어가는 논쟁이 더 유명해졌으나 서한은 초지능보다는 지능 수준이 낮은 기계가 주목받거나 AI 문제 대응 계기가 되는 것이 더 어려워지도록 한다.

** 위 기사는 와이어드US(WIRED.com)에 게재된 것을 와이어드코리아(WIRED.kr)가 번역한 것입니다. (번역 : 고다솔 에디터)

<기사원문>
A Letter Prompted Talk of AI Doomsday. Many Who Signed Weren't Actually AI Doomers