By WILL KNIGHT, WIRED US

미국은 오픈AI, 구글, 메타 덕분에 인공지능(AI) 분야의 세계 선두 기업이라는 인식이 널리 확산되었다. 하비나 미국 정부는 AI 기술이 제기하는 위험성을 관리하기 위해 다른 국가의 도움이 필요하다고 말한다.

2024년 5월 21일, 서울에서 개최된 국제 AI 안전 회담에서 미국 정부 관계자는 미국과 영국, 일본, 캐나다를 포함한 여러 동맹국을 아우른 여러 국가가 AI의 위험성을 억제하기 위해 협력하여 세계 AI 안전 네트워크를 구축할 것이라는 지나 러몬도(Gina Raimondo) 미국 상무부 장관의 메시지를 전달했다. 러몬도 장관은 다른 국가에도 동참할 것을 촉구했다.

러몬도 장관은 회담에 앞서 발표된 공식 성명을 통해 “최근 AI 발전 과정에는 인류 사회에 흥미로우면서도 삶을 바꿀 수 있는 변화가 함께 전달된다. 다만, 실제 위험성을 완화하는 데 온 힘을 다해야만 한다는 전제가 있다. AI가 제기하는 위험성 완화 노력 중 가장 중요한 부분은 올바른 행동과 세계 여러 동맹과 협력하여 AI 개발을 향한 규정이 인권과 안전, 신뢰를 방어하도록 제정되도록 해야 한다”라고 말했다.

과거, 미국 정부는 AI 발전이 생화학무기 개발 자동화나 가속화 가능성, 주요 기반 시설을 겨냥한 치명적인 사이버 공격 개시를 포함한 국가 안보 위협을 일으킬 수 있다고 경고했다.

러몬도 장관이 공식 성명에서 언급한 바와 같이 미국이 직면한 어려움 중 하나는 일부 국가의 AI 접근 방식이 미국과 다르다는 점이다. 러몬도 장관은 미국과 영국, 일보나, 캐나다, 싱가포르, 유럽 AI 사무실이 세계 AI 안전 연구소 네트워크 창립국으로 협력해야 한다고 말했다.

미국 상무부는 새로운 AI 안전 네트워크에 중국이 초대되었는가와 관련한 의견 공개를 거부했다. 중국이 첨단 AI를 이용하여 군사력을 강화하거나 미국을 위협할 것이라는 우려는 트럼프 행정부와 바이든 행정부가 중국의 핵심 기술 접근 권한을 제한하는 제재를 여러 차례 발행하는 결과로 이어졌다.
 
미국과 중국은 적어도 대화 가능성이 열려 있다. 2023년 11월, 조 바이든 미국 대통령과 시진핑 주석 간의 회담은 세계 초강대국인 미국과 중국이 AI의 위험성과 안전 회담을 공식적으로 가져야 한다는 점에 동의한다는 사실을 보여주었다. 2024년 5월, 미국과 중국 대표는 스위스에서 첫 번째 AI 위험 및 안전 회담을 진행했다.

미국 상무부는 2024년 중으로 신규 AI 안전 네트워크 회원국이 샌프란시스코에서 회담을 개최할 계획이라고 밝혔다. 상무부가 발행한 청사진 문서에는 세계 AI 안전 네트워크가 AI 모델 평가 방식과 수단, AI의 위험성 완화 방식을 개발하여 동의하는 데 협력한다는 목표가 명시되었다. 문서에는 “국제 AI 관리를 위한 미래 합의를 지지하는 과학과 관습을 마련하기를 바란다”라고 작성되었다. 상무부 대변인은 세계 AI 안전 네트워크가 회원국의 인재 확보, 실험 속도 향상, AI 표준 동의 등에 도움이 될 것이라고 전했다.

서울에서 개최된 회담은 2023년 11월, 첫 번째 주요 국제 AI 정상회담을 소집한 영국 정부가 공동으로 주최했다. 회담에는 미국과 유럽연합 회원국, 중국 등 28개국 이상이 AI가 재앙으로 이어질 수도 있는 심각한 피해를 초래할 수도 있는 속도로 불확실한 상태에서 발전하는 상황을 경고하는 내용의 선언문에 서명하면서 막을 내렸다.

2023년, 챗GPT를 포함한 생성형 AI 시스템이 지나치게 빠른 속도로 개발되자 테크 업계의 일부 지도자와 유력 연구원이 AI 알고리즘이 통제하기 어려운 기술이 되어 인류를 위협할 수도 있다는 점을 더 강력히 경고하기 시작했다. 이후 가장 심각한 위협 논의가 잠잠해졌으나 세계 각지의 정치인은 챗GPT 등 생성형 AI 툴의 거짓 정보 유포, 선거 개입 가능성 등 비교적 단기적인 문제에 우려한다. 2024년 1월, 뉴햄프셔 지역의 일부 유권자는 AI로 생성한 조 바이든 대통령의 가짜 음성을 동원한 스팸 전화를 받은 적이 있다.

2023년 10월, 바이든 대통령은 많은 사용자가 놀란 챗GPT의 능력으로 가장 분명하게 드러난 AI의 신속한 도약의 잠재적 문제와 함정을 다룰 포괄적인 행정명령을 발행했다. 상무부에는 여러 AI 안전 표준 개발 계획 작업과 전 세계의 AI 표준 촉진 및 개발 참여 계획 마련을 명령했다.

바이든 대통령의 행정 명령은 상무부 산하 기관인 미국 국립표준기술연구소(NIST)에 미국 AI 안전 연구소를 설립하여 AI 악용 가능성과 행동 방식을 이해하기 위한 AI 모델을 체계적으로 실험할 것을 요구하기도 했다.

** 위 기사는 와이어드US(WIRED.com)에 게재된 것을 와이어드코리아(WIRED.kr)가 번역한 것입니다. (번역 : 고다솔 에디터)

<기사원문>
The US Is Forming a Global AI Safety Network With Key Allies