By TOM SIMONITE, WIRED US

오라클과 구글, 마이크로소프트, 아마존은 치열한 경쟁이 이어지는 클라우드 컴퓨팅 시장에서 서로 가장 큰 적이다. 그러나 2018년 말, 아마존의 미래 CEO 앤디 재시(Andy Jassy)를 포함한 네 기업의 최고위급 임원이 모여 아무 대가 없이 부수 작업을 진행하기로 협력했다. 바로 미국 대통령과 미국 의회를 대상으로 인공지능(AI)이 국가 안보를 얼마나 강화할 수 있는가 자문하는 일이다.

네 기업 경영진은 미국 의회가 설립한 인공지능 국가 안보 위원회(NSCAI) 구성원으로 임명됐다. 구글의 전 CEO인 에릭 슈미트(Eric Schmidt)가 NSCAI 의장으로 이름을 올렸으며, 이후 “미국이 AI라는 혁신 기술을 최대한 활용해 미국 경제와 국가 안보 이익에 도움이 될 것”이라고 말했다.

슈미트와 재시, 그리고 테크 업계 대기업 출신 NSCAI 위원 모두 AI를 활용한 국가 안보 강화와 관련, 경제적 이익을 두고 있었다. 현재는 아마존의 소송으로 재작업이 진행 중이지만, 당시 네 기업 모두 100억 달러 상당의 제다이(JEDI) 프로젝트 등 미국 국방성의 계약을 두고 경쟁을 펼쳤다. 슈미트는 2019년까지 구글 모기업인 알파벳 CEO로 활동했으며, 이후 국방성 방위산업체인 리벨리온 디펜스(Rebellion Defense)에 투자했다.

NSCAI는 3년간의 활동은 2021년 10월 1일(현지 시각)에 종료됐다. 그러나 NSCAI 옹호 세력은 NSCAI의 유산이 여전히 존재하기를 바란다. 동시에 NSCAI 비판 세력이 우려하는 바이기도 하다. 옹호 세력과 비판 세력 모두 국방성이 테크 업계와 더 긴밀한 작업을 진행하도록 안내한 몇 가지 사항을 포함한 NSCAI의 권고를 지목하며, 이미 국방성과 테크 업계 간 협력 관련 법률을 제정했다. 미국에는 AI 관련 특별법이 몇 가지 존재하며, NSCAI는 글로만 작성한 내용의 상당 부분을 구성했다.

NSCAI는 미 의회 권고사항 19가지 중에는 2020년 12월에 승인된 국방 예산이 포함됐다고 밝혔다. 한 가지 권고사항은 국방성에 기존 업계 교환 프로그램을 사용해 테크 기업에 더 많은 AI 인재를 확보하도록 목표를 정했다. 또 다른 권고사항은 구글 등 상업용 AI 공급사의 기술 공급을 통한 국방성의 AI 사용 사례 확대라는 목표를 둔 국방성의 합동 AI 센터(Joint AI Center)의 소장이 공급 상황을 국방성 차관에게 직접 보고하도록 한다.

또 다른 권고사항에는 국방성에 점검된 클라우드 기업의 컴퓨팅 및 저장소 서비스를 사용하는 현재와 미래의 AI 프로젝트를 위한 내부 플랫폼을 생성하도록 하는 방안이 포함됐다. 또, 부처 전반에 걸친 상용화된 AI 솔루션을 사용한 상당수 관리 과정 자동화도 포함됐다.
 
NSCAI는 AI 전문가와 국방성 내부 및 외부 연구, 미국 반도체 개발 지원 투자 등을 제안했다. NSCAI의 전체 메시지가 무엇일까? 바로 AI가 미국의 운명과 안전의 중심이자 중국의 상업용 AI 및 군사용 AI 장악 계획에 맞서는 것이다.

국책연구소인 신미국 안보 센터(New American Security) 기술 및 국가 안보 프로그램 총괄인 마티즌 레이서(Martijn Rasser)는 “NSCAI는 매우 확고하면서 전략적인 미국 기술 정책 계획을 제안했다. 여러 의견이 법안으로 제안된 것이 매우 기쁘다”라고 말했다.

뉴욕대학교 AI연구소 소장인 메레디스 휘태커(Meredith Whittaker)는 NSCAI의 노력을 다른 관점에서 본다. 그는 “NSCAI를 정책과 법안을 적극적이지 않은 방식으로 작성해 테크 업계 대기업에 수억 달러를 유치할 수도 있는 기이한 갈등이 있는 준정부와 같은 존재로 본다”라고 주장했다. 휘태커 학과장은 전직 구글 직원이며, 구글 직원이었을 당시 구글 기술을 드론 감시 영상 분석에 사용한 국방성 계약 반대 시위 조직을 도왔다.
 
NSCAI는 2018년, 연간 예산 약 500만 달러와 직원 26명을 제공한다는 내용이 작성된 헌장과 함께 법률에 따라 설립됐다. 미국 국회에서 위원장 12명을 임명했으며, 국방성과 상무부에서는 각각 2명, 1명을 임명했다.

슈미트와 재시 외에도 테크 업계에서는 구글의 클라우드AI 부사장인 앤디 무어(Andrew Moore)와 오라클 공동 CEO 사프라 캣츠(Safra Catz), 마이크로소프트 연구부사장인 에릭 호르비츠(Eric Horvitz)도 NSCAI 위원장으로 이름을 올렸다. 또, 국방성의 최근 AI 전환에 도움을 준 전직 국방성 차관 로버트 워크(Robert Work)와 전 민주당 소속 FCC 위원장인 미뇽 클리이번(Mignon Clyburn)도 NSCAI 위원장이다.
 
NSCAI 소장은 2019년부터 활동을 시작하고, 2021년 3월, 756페이지 분량의 최종 작업 보고서를 전달하기 전까지 일련의 내부 보고서와 권고사항 발행 과정을 거쳤다. 사전 작성된 법안과 함께 전달됐다. 국회의원은 NSCAI의 의견을 그대로 법률로 옮겨 적고, 백악관에 행정명령 초안을 작성 내용을 전달했다.

NSCAI 구성원은 NSCAI의 단독 권고사항 전달을 포함한 의회 청문회에도 출석했다. 2021년 2월, 미 하원 군사위원회(House Armed Services committee) 청문회 당시 슈미트는 “중국의 핵심 기술 영역 선두 입지 확보 위협은 국가적 위기이므로 즉시 대처해야 한다”라고 경고했다.

NSCAI의 전무 역할을 하는 일리 바즈라크타리(Ylli Bajraktari)는 NSCAI의 권고사항에 대한 미 의회의 행동 자체가 NSCAI가 제 역할을 한 사실을 시사한다고 주장했다. 바즈라크타리는 “미 의회 지도자가 인류의 삶을 장악할 중요한 기술을 이해하지 못하는 듯하다. 초당적 지지가 필요한 부분이다”라고 주장했다.

또, NSCAI가 지나치게 테크 업계 중심적이지 않냐는 질문을 하자, 바즈라크타리는 NSCAI 위원장 15명 중 대다수가 테크 업계 출신이 아니며, 국회의원과 정부 기관이 임명한 인사라는 사실을 지목했다. 바즈라크타리는 “NSCAI가 민간 기업과 학계 수백 곳은 물론이고, 국제 동맹국과 협력 기관에도 자문했다”라고 말했다.

와이어드가 테크 기업에 NSCAI 참여가 이해관계 충돌을 유발하는지 물어보자 테크 기업 대다수는 와이어드의 질문을 무시했다. 오라클은 질문에 어떠한 반응도 보이지 않았다.

무어 부사장은 NSCAI의 일원이라는 점이 영광스러우며, NSCAI와 다른 프로젝트가 “미국의 AI 지도력을 강화하면서 더 훌륭한 AI 인재 성장으로 이어지기를 바란다”라고 말했다. 아마존은 와이어드에 2021년 3월, 아마존 공개회의 발언 현장에서 앤디 재시가 했던 말을 언급했다. 당시 재시는 아마존이 강조한 미국의 AI 지도력 문제에 대한 의미 있는 시급함을 이야기했다. 또, 마이크로소프트의 호로비츠 부사장은 NSCAI의 ‘신뢰 가치와 윤리성을 지닌 AI’ 작업을 이끌었다고 주장했으며, 공식 성명을 통해 소속 집단을 떠나 미국의 국가 안보와 번성이라는 목표에 깊이 헌신하도록 모든 NSCAI 위원장을 찾았다고 밝혔다. 슈미트 대변인은 슈미트의 테크 분야 전문 지식과 추후 국방성 변호사의 검토 과정을 거친 윤리성에 필요한 서류 작업을 제출해, NSCAI 위원장으로 임명됐다고 밝혔다.

NSCAI의 최종 보고서는 AI 시스템을 미국적 가치관으로 채우는 것이 전 세계와의 AI 경쟁의 일부분이라고 주장한다. 바즈라크타리는 “NSCAI 위원장이 AI 경쟁을 더 깊이 생각할수록 중국과 차별화할 수 있는 한 가지 요소는 미국의 AI 기술 사용 방법이라는 사실이 분명해진다”라고 설명했다.

현재 미 의회는 다음 국방 예산안에 NSCAI의 일부 권고사항을 포함하는 방안을 두고 검토 중이다. 그중 한 가지 권고사항은 국가 안보 기관과 국방성 산하 기관 모두 책임감 있는 AI에 모든 시간을 투자할 최고위급 지도자를 두어야 한다는 내용이다. 또 다른 권고사항은 미국 시민을 포함하는 AI 시스템에 대한 프라이버시와 시민 자유 위험성 공식 평가 요구이다.

전자개인정보센터(Electronic Privacy Information Center) 소속 AI 문제 담당 변호사인 벤 윈터스(Ben Winters)는 NSCAI의 일부 권고사항을 지지한다. 그러나 전체적으로 NSCAI의 권고사항이 AI 제한이 아닌 구축에 지나치게 의존한다고 덧붙여 전했다.

윈터스 변호사는 결과적으로 AI가 제기하는 어려움의 규모를 충족할 만큼 추진력이 부족한 테크 업계의 일부 AI 윤리 제안과 같다고 말한다. 그는 “AI 관련 권고사항의 가장 중요한 부분은 ‘AI 채택을 계속 추진해, 중국과의 경쟁에서 패배하는 일이 없도록 하는 것이다’라고 말하는 것과 다를 바 없다. NSCAI는 종합적인 프라이버시 법안이나 AI의 유해성 때문에 피해를 본 이들의 권리를 확고히 하 내용을 권고하지 않았다”라고 말했다. 전자개인정보센터는 NSCAI의 윤리 권고사항 형성 보고서를 포함한 상당수 보고서 공개를 강제로 시행할 소송에서 패소했다. 그러나 공개사항의 세부 정보가 편집됐다.

NSCAI의 효력 만료 나흘 후, 슈미트는 ‘특별 경쟁력 연구 프로젝트(Special Competitive Studies Project)’라는 이름의 NSCAI와 비슷한 성격을 지녔으나 정부 차원의 공식 지원은 없는 새로운 민간 기관을 공개했다. 바즈라크타리가 특별 경쟁력 연구 프로젝트의 CEO이다. 워크 전 국방성 차관도 특별 경쟁력 연구 프로젝트 이사회 구성원이다.

특별 경쟁력 연구 프로젝트는 1956년, 넬슨 록펠러(Nelson Rockefeller)가 설립하고, 헨리 키신저(Henry Kissinger)가 이끌면서 2차 세계 대전 이후 미국의 국가 우선 사항 의견을 제시한 특별 연구 프로젝트(Special Studies Project)에서 영향을 받아 설립되었다. 특별 연구 프로젝트가 1957년, 스푸트니크호 발사 후 발행한 보고서는 긴급 군사와 핵 개발을 권고하는 등 냉전 시대 미국의 전략 구상에 이바지했다.

슈미트가 새로 설립한 특별 경쟁력 연구 프로젝트는 2021년 11월 초에 열릴 첫 이사회에 초점을 맞춘 논의를 진행했다. 특별 경쟁력 연구 프로젝트는 국방과 정보, 경제, 사회 등 여러 영역에서 AI를 비롯한 신흥 기술의 영향을 연구할 패널을 구성할 계획이라고 밝혔다. 슈미트는 공식 성명을 통해 기술의 영향이라는 중대한 사안에 대한 국가적 논의의 중대한 격차를 줄일 것이라고 말했다. 이어, “전 세계 기술 경쟁을 이끌기 위한 사항을 이해해야만 한다”라고 덧붙였다.

** 위 기사는 와이어드US(WIRED.com)에 게재된 것을 와이어드코리아(WIRED.kr)가 번역한 것입니다. (번역 : 고다솔 에디터)

<기사원문>
This Group Pushed More AI in US Security—and Boosted Big Tech