By KHARI JOHNSON, WIRED US

오드리 킴(Audrey Kim)의 반려견 머피(Murphy)는 고개를 끄덕이는 동작과 바닥에 있는 버튼 10개를 조합하여 의사소통을 하며, 까마귀를 친구로 사귄다. 킴은 머피에게 버튼 사용법을 가르쳤다. 의식은 광범위하고, 지능은 신비로운 일이기 때문이다. 바로 킴이 2023년 3월 3일(현지 시각) 샌프란시스코 인공지능(AI)의 미래를 주제로 한 임시 전시회인 미스얼라인먼트 뮤지엄(Misalignment Museum)의 큐레이터가 된 이유이다. 전시회는 최근 들어 대중의 관심이 급격히 증가한 생성형 AI와 오픈AI(OpenAI)의 챗GPT(ChatGPT) 등을 둘러싼 관심이 뜨거운 곳이기도 하다.

미스얼라인먼트 뮤지엄은 AI가 무수히 많은 공상과학 영화 속에서 상세히 묘사한 경로인 자각 능력을 갖고 인류 종말을 일으킬 가능성에서 시작한다. 다행히도 킴의 비전 속 알고리즘은 문제를 스스로 수정하여 모든 인류가 사망하지는 않는다. AI와 AI의 도움을 받아 제작한 예술 작품이라는 예술적 서사로 가득한 미스얼라인먼트 뮤지엄은 종말에 가까운 상황을 직면한 인류를 기념하는 공간이다.

킴은 길거리 전역에 있는 커피 전문점에서 “끔찍한 주제라는 점에서 이상하지만, 많은 이들이 전시회에 관심을 보인 것이 기쁘다”라고 말했다. 대화 도중 어느 한 행인이 오픈AI 사무실 8개 블록으로 구성된 전시회 공간을 들여다보는 모습을 볼 수 있었다. 벽면에는 “대다수 인류를 죽여서 미안하다”라는 유명한 문구가 작성된 것을 볼 수 있다.

전시회 프로젝트가 시작된 시점은 약 5개월 전, 챗GPT가 테크 업계의 기대를 모으기 직전이자 AI 혁신 열풍이 다가오면서 범용 인공지능(AGI)이라는 모호한 개념과 더 가까워진 이후이다. AGI의 개념 합의는 없었으나 미스얼라인먼트 뮤지엄은 종류를 떠나 인간이 수행할 수 있는 지능적 작업을 이해하거나 학습할 능력을 AGI라고 칭했다.

킴은 미스얼라인먼트 뮤지엄이 지능적이라고 가정한 기술 여파의 불안정화를 둘러싼 대화를 제기할 의도로 마련됐다고 설명했다. 전시회 컬렉션은 2층으로 나누어 구성되었다. 위층에서는 인간이 AI의 능력을 빌린 낙관적인 전망을, 아래층에서는 AI의 탈이상주의적 미래 전망을 보여준다.

위층에는 박테리아로 작곡한 피아노 음악이 있다. 음악은 시스티나 예배당 천당에서 찾아볼 수 있는 미켈란젤로의 아담의 창조(Creation of Adam)와의 상호작용에 따라 연주하며, 구글의 컴퓨터 비전을 사용해 카메라 앞에 등장하는 인간과 사물을 묘사한 대상이 설치된다.

아래층에는 매트릭스: 리저렉션(Matrix: Resurrections)에 등장하는 예술 작품이 전시되었다. 해당 작품은 AI로 생성한 슬라예보 지젝(Slavoj Žižek)과 베르너 헤어조크(Werner Herzog) 감독 간의 대화가 끊임없이 이어진다. 또한, 로봇 팔이 펜을 잡고 인간을 위협으로 보는 AI의 관점에 따라 글을 작성하는 모습도 볼 수 있다. (전시는 메트릭스: 리저렉션의 무대 디자이너인 바바라 문치 카메론이 전시회 개요 계획을 세우는 데 도움을 주었다.)

킴은 전시회장 아래층으로 향하는 출입문을 가리키면서 단테를 인용, “지옥으로 향하는 관문의 셀프 카메라 촬영 장소이다”라며, “들어가는 순간 모든 희망은 버려라”라고 말했다. 아래층의 전시회는 챗GPT로 생성한 스크립트 내용대로 말하는 아놀드 슈와제네거의 딥페이크와 AI 안전을 상징할 의도로 종이 클립 1만 5,000개로 제작된 인간 두 명이 포옹하는 동상, 빈에서 스팸 통조림으로 제작되었으며 작은 팔이 있는 로봇 등으로 가득하다. 
 
구글 초기 직원 출신이자 UN 전 직원이며, 와이 컴비네이터(Y Combinator) 스타트업 인큐베이터 공동 창립자인 폴 그레엄(Paul Graham)의 보조자인 킴은 “이와 같은 기술에는 영감을 얻을 수 있는 요소와 기술로 예방할 수 있는 고통이 많다. 또한, 기술이 심각한 파괴도 일으키고, 그 과정에서 수많은 것을 잃을 수도 있다. 인간이 모든 답을 가지고 있다고 생각하지 않는다. 인간을 옹호하며, 인간에게 AGI를 생각할 중요한 수단을 제공할 필요가 있다”라고 말했다.

전시회는 2023년 5월까지 익명의 후원자에게서 자금 지원을 받을 예정이다. 그러나 전시 공간 자체는 AI와 페이스북 공동 창립자 더스틴 모스코비츠(Dustin Moskovitz)의 효과적인 이타심에 대한 틀에 박힌 트윗부터 전시장 입구 근처에 배치된 파스타로 가득한 욕조까지 여러모로 다수 테크 기업 창립자와 사상가의 영향력을 보여준다. 특히, 파스타가 담긴 욕조는 오픈AI를 포함한 여러 기업의 미래 AI를 향한 경로와 관련하여 투자한 기업인 오픈 필란트로피(Open Philanthropy)를 모스코비츠와 함께 창업한 홀든 카노프스키(Holden Karnofsky)의 아이디어를 언급한다. 카노프스키는 현재 인간이 인류 역사상 가장 중요할 수도 있는 시대를 살고 있다고 주장했다. 카노프스키가 언급한 인류 역사상 가장 중요한 순간은 이른바 ‘과학 및 기술 발전 자동화 과정(Process for Automating Scientific and Technological Advancement, PASTA)’이라는 혁신적 AI가 도달하기 전을 의미한다.

AI의 먼 미래 예측은 최근 들어 챗GPT를 비롯해 그와 관련된 기술인 마이크로소프트의 신규 검색 인터페이스 등과 같은 기술의 중심 주제가 되었다. 그러나 챗GPT 등 AI 기술의 훌륭한 문서화 작업의 한계가 있으며, 그 가치는 불확실하다. AI의 미래 가치를 확신하는 기업가는 AI의 미래 역량과 관련하여 충격적일 수도 있는 발언을 한다. 일례로, 오픈AI CEO는 블로그를 통해 오픈AI가 AGI 개발을 계획 중이라고 밝혔다.

그 직후 기만행위에 해당하는 사업 관행의 피해를 보호를 책임지는 기관인 미국 연방거래위원회(FTC)는 마케터를 대상으로 근무 중인 기업이 개발한 AI 기술의 역량을 거짓으로 주장해서는 안 된다고 경고했다. FTC 변호인인 마이클 애틀레손(Michael Atleson)은 개인 블로그에 “인간은 컴퓨터기 실제로 신뢰할 만한 인간 행동 예측 결과를 제시하는 공상과학 세계 속에서 살고 있지 않다”라는 내용을 작성했다.

다수 AI 연구원은 챗GPT를 비롯한 AI 시스템이 인상적일 수도 있지만, AI의 지능을 신뢰할 만한 가치는 없다고 본다. 알고리즘이 훈련 데이터의 형태를 반복하고, 여러 차례 다시 혼합하기만 하기 때문이다.

이러한 관점에 따라 오늘날 협소한 범위의 AI를 지각력을 지닌 존재가 아닌 계산기나 토스트 기계에 더 가깝다고 생각하는 것이 낫다. 일부 AI 윤리학자는 지각력과 같은 인간의 특성으로 기술을 설명하는 일이 민주주의 국가와 독재 국가 내 기업에서 판매하는 감시 기술과 같은 해로운 자동화 형태를 둘러싼 논의에서 주의를 분산시킬 수 있다고 확신한다.
 
킴은 머신러닝 개념에 처음 익숙해진 순간이 추후 제너럴 모터스에 인수된 자율주행 스타트업 크루즈 취업 초기라고 믿는다. 당시 킴은 제대로 작동하는 AI가 불필요한 죽음과 고통을 없앨 방법을 생각했다. 마찬가지로 AI가 제대로 작동하지 않을 때 인간의 삶에 큰 위험성이 이어질 수도 있다고 생각했다.

미스얼라인먼트 뮤지엄은 AI 예술 작품과 AI의 예술 전시 이외에도 터미네이터(The Terminator), 엑스 마키나(Ex Machina), 그녀(Her)와 2022년 개봉한 신경과학 및 AI를 다룬 헤어조크 감독의 다큐멘터리인 ‘시어터 오브 쏘트(Theater of Thought)’ 등 더 어두울 수도 있는 AI의 잠재적인 부분을 탐색하는 영화 상영회도 계획 중이다.

킴은 전시회 주제와 달리 AGI가 인류 대부분을 죽이지는 않을 것이라고 생각한다. 그러나 인간은 교육계와 문학 작품 편집자가 인간과 AI가 생성한 텍스트 간의 차이를 분석하려 하는 상황이나 와이어드 내부의 생성형 AI가 기자에게 도움을 줄 수 있는 부분과 도움을 줄 수 없는 부분 논의와 같이 이미 등장한 AI의 영향을 생각해야 한다.

킴은 “AI는 모든 인간에게 영향을 미칠 것이다. 따라서 많은 이들이 AI에 대해 생각하고, 그에 대한 개인의 견해를 형성할 방법이 중요하다고 생각한다”라고 말했다. 미스얼라인먼트 뮤지엄은 매주 목요일과 금요일, 토요일마다 모든 시민에게 개방된다. 킴은 전시회를 둘러보고 AI의 기회와 잠재적인 피해를 주제로 한 읽을거리 모음집을 찾아보도록 학교 단체 관람 투어를 마련할 계획이다.

킴은 “아동이 전시회장을 방문하면, 스팸봇의 눈을 볼 수 있도록 AI를 접할 발판 마련 작업을 진행 중이다”라고 말했다.

** 위 기사는 와이어드US(WIRED.com)에 게재된 것을 와이어드코리아(WIRED.kr)가 번역한 것입니다. (번역 : 고다솔 에디터)

<기사원문>
Welcome to the Museum of the Future AI Apocalypse