By WILL KNIGHT, WIRED US

2023년 11월 1일(현지 시각), 미국과 유럽연합 회원국, 중국 등 28개국이 심각한 피해, 더 나아가 재앙 수준의 피해를 초래할 수 있는 불확실성을 안고 지나치게 빠른 속도로 인공지능(AI)을 개발하는 행위를 경고하는 선언문에 서명했다.

선언문은 영국 정부가 주관하여 2차 세계대전 당시 암호 해독을 했던 역사적인 장소였던 블레츨리 파크(Bletchley Park)에서 진행된 AI 안전 회담(AI Safety Summit)에서 발표됐다. 회담에서는 챗GPT의 근간이 되는 모델과 같은 대규모 언어 모델을 비롯하여 더 강력한 AI 모델 개발 정의와 위험성 탐색을 위한 국제 사회의 협력을 모색하기도 했다.

리시 수낵 영국 총리는 공식 선언을 통해 “AI 개발 위험성 선언문 서명과 함께 전 세계 AI 초강대국이 AI의 위험성 파악이 심각한 상황이라는 점에 동의하고, 미래 세대의 장기적인 미래를 보장하는 데 돕는다는 성과를 달성했다”라고 말했다.

AI 안전 회담 현장에서는 컴퓨터 연산 처리와 AI 개발의 근본이 되는 연구를 한 영국 수학자이자 2차 세계대전 당시 동맹군의 나치 암호 해독을 도운 앨런 튜링(Alan Turing)을 오마주하기도 했다. (영국 정부는 2009년, 튜링이 동성애자라는 이유로 1952년에 기소된 일을 두고 공식 사과하였다.)

AI 과장 광고 열풍은 가까운 우방국도 경쟁국으로 변질되도록 했다. AI 개발 미래를 모색한 서명은 미국이 AI 개발과 지침 부문에서 지도자 역할을 강조하면서 그 의미가 퇴색했다. 카멀라 해리스 미국 부통령이 딥페이크와 선입견을 지닌 알고리즘을 포함한 AI의 위험함을 경고하는 연설을 했다. 백악관은 AI 관리 및 규제를 골자로 제정한 긴급 행정명령을 발표했다. 그리고 2023년 11월 1일 자로 정부 알고리즘의 해로운 행동을 막을 새로운 규정을 발표했다.
 
해리스 부통령은 “최고위급 지도자가 AI 알고리즘의 결함 때문에 보건복지 계획을 공식적으로 실행한다면, 해당 지도자를 위해 AI가 존재한다고 말할 수 있을까? 여성이 노골적인 딥페이크 포르노로 폭력을 일삼는 배우자나 연인에게 위협받을 때는 AI가 해당 여성을 위해 존재하는 것이라고 말할 수 있는가?”라고 말했다.

영국이 추진한 AI 개발 협력과 경쟁은 2022년, 대규모 언어 모델이 제시한 주목할 만한 동시에 놀라우면서도 약간은 우려스러운 역량에서 비롯됐다. AI는 다수 전문가가 앞으로 몇 년간 불가능한 상태로 남을 것으로 예상했던 역량을 입증했다. 인간에게 부여된 일종의 범용 지능과 비슷한 능력을 복제할 능력을 이용한 일부 연구원의 AI 시스템 연구는 순식간에 가까운 미래에 실현될 수 있는 일이 되었다.

주요 AI 전문가 다수가 AI 안전 회담 참석차 런던에 방문했다. 필자가 만난 AI 전문가 중에는 각국 정부를 대상으로 현재 수준보다 더 발전한 AI의 위험성을 경고하고자 하는 딥러닝 분야의 선구자 요슈아 벤지오(Yoshua Bengio)와 스탠퍼드 기초 모델 연구소 소장 퍼시 량(Percy Liang), 필자에게 레드티밍(red teaming)을 이용한 AI 보안이 여전히 초기 원칙이라고 알려준 AI 시스템의 취약점 레드티밍 전문가 러먼 쵸드후리(Rumman Chowdhury), 구글 딥마인드 CEO 데미스 하사비스(Demis Hassabis) 등이다. 하사비스는 AI에 인간의 최악의 행동이 아닌 최고의 이익을 반영하기 위해 주어진 시간이 제한되었다고 주장했다.

필자는 AI 외교라는 짧은 역사 중 최대 규모의 행사 현장 취재를 준비하고자 런던 방문 전 AI 규제 지정학을 연구하는 스톡홀름대학교 교수 요나스 탈버그(Jonas Tallberg)와 대화를 나눴다.

탈버그 교수는 영국 AI 안전 회담 시작에 앞서 “전 세계 차원의 AI 규제의 위험성 대부분 확고하다”라며, “AI 무기 경쟁 승리국이 어떤 국가든 여러 국가와 지역의 경제적 경쟁력과 지정학적 위치에 큰 영향을 미칠 것으로 예상한다”라고 말했다.

리시 수낵 총리는 AI 안전 회담에 앞서 몇 주간 AI가 생화학 무기 개발, 사이버 공격 자동화, 거짓 정보 등과 같은 위협 속도를 높을 위험성을 경고했다. 또한, AI가 재활용 쓰레기통을 비난하려 한 것과 같은 인류 역사를 제기할 것이라는 의견을 이야기했다.

영국 정부가 미국, 중국과 AI 개발 경쟁을 펼치도록 돕는 것을 즉시 우선순위로 삼아야 한다고 주장하는 영국 AI 분야의 일부 관계자가 분노한 부분이기도 하다. 수낵 총리도 미국, 중국 등 다른 국가와의 AI 개발 경쟁을 부분적으로 우려할 수 있다. 아직 완벽한 개발 과정을 거치지 못한 기술 측면에서 세계가 가장 두려워하는 제2의 AI 강대국이라는 지위도 차지하지 못한다면, 전 세계의 주목을 받을 경쟁 무대 한가운데 설 다른 방법을 모색하고자 하는 충동을 느낄 수도 있을 것이다.

** 위 기사는 와이어드US(WIRED.com)에 게재된 것을 와이어드코리아(WIRED.kr)가 번역한 것입니다. (번역 : 고다솔 에디터)

<기사원문>
World Powers Say They Want to Contain AI. They’re Also Racing to Advance It