By KHARI JOHNSON, WIRED US

테크 업계가 약 10년 전 머신러닝에 애정을 보이기 시작한 뒤 미국 국회의원은 인공지능(AI) 규제 필요성을 재빨리 이야기하기 시작했다. 그러나 기업 AI 프로젝트 규제 발의안 중 법률 제정으로 이어진 발의안은 없었다. 그러나 2022년 11월, 오픈AI가 챗GPT를 출시하면서 미국 상원의원을 향해 AI의 잠재적인 피해에 맞서 사용자를 보호할 필요성이 시급하다는 점을 설득했다.

5월 16일(현지 시각) 열린 상원 사법부 소위원회(Senate Judiciary subcommittee) 청문회 참석자는 길게 나열된 AI가 시민과 민주주의에 피해를 줄 수 있는 끔찍한 사례를 듣게 되었다. 양당 상원 의원은 미국 정부가 AI 규제 전문 법률을 새로이 제정해야 한다는 주장을 지지하는 발언을 했다. 심지어 오픈AI CEO 샘 알트만(Sam Altman)도 정부 차원의 AI 규제법 도입을 찬성했다.

알트만은 “가장 우려하는 사항은 테크 분야와 AI 기술, 업계가 전 세계에 심각한 피해를 초래하는 상황이다”라고 말했다. 또, AI 기업이 외부 검증 기관에 자사 AI 모델을 제출하는 방안을 지지하면서 미국 AI 규제 기관에 특정 한계를 넘어선 능력을 발휘하도록 생성된 AI의 라이선스를 박탈할 권한을 부여해야 한다고 주장했다.

연방통신위원회(FTC)와 식품의약국(FDA)을 포함한 복수 연방 기관은 이미 기업의 AI 사용을 규제한다. 그러나 버몬트주 민주당 상원 의원인 피터 웰치(Peter Welch) 의원은 의회에 있는 동안 규제가 기술 변화 속도를 따라잡을 수 없다는 점을 설득하였다.

웰치 의원은 “SNS와 AI의 의문 사항을 다루는 기관이 없다면, 부정적인 영향을 방어할 방법이 없다. 또한, 부정적인 영향이 발생할 것이다. 미국에는 AI를 규제할 기관이 분명히 존재한다”라고 말했다.

상원 사법부 소위원회 의장이기도 한 코네티컷주 민주당 상원 의원인 리처드 블루먼솔(Richard Blumenthal) 의원은 미 의회가 종종 최신 기술의 변화 속도를 따라잡지 못한 사례를 보여주었기 때문에 새로운 AI 규제 기관이 필요하다고 주장했다. 청문회에서는 미국 국회의원이 불규칙하게 디지털 프라이버시와 SNS 문제를 추적한 사실이 종종 언급되었다.

그러나 블루먼솔 의원은 새로운 연방 AI 규제 기관이 테크 업계의 변화 속도와 힘을 따라잡는 데 난항을 겪을 가능성도 우려했다. 블루먼솔 의원은 알트만과 IBM 최고 프라이버시 및 신뢰 책임자이자 업계 전문가인 크리스티나 몽고메리(Christina Montgomery)를 향해 “제대로 된 자금 지원이 없다면, AI 기업이 규제 기관보다 더 큰 권력을 지닌 채로 움직일 것이다”라고 지적했다. AI 논평가가 된 전직 심리학 교수 개리 마르쿠스(Gary Marcus)가 알트만과 몽고메리의 주장을 지원했다. 마르쿠스는 AI의 진화 감독 및 안전한 개발 장려를 위한 국제 기구 형성을 옹호한 인물이다.

블루먼솔 의원은 자신의 목소리를 이용해 챗GPT로 생성한 글을 읽는 AI 음성 복제 기술이 AI가 설득력이 있는 결과를 생성할 수 있다는 사실을 강조하는 사례라고 언급하며, 청문회를 시작했다.
 
상원 의회는 특정 기관의 이름을 제시하거나 AI 규제 담당 기관의 상세한 기능을 상세히 설명하지 않았다. 또한, 비교적 온건한 규제 대응도 논의 대상이 되었다. AI 영양 라벨과 같은 AI 시스템의 공공 문서 사용 제한이나 AI 시스템 생성 시 이용하는 데이터세트 등이 이에 포함된다. 모두 수년 전 전직 구글 윤리 AI팀 책임자 팀닛 게브루(Timnit Gebru)를 포함한 여러 연구원이 제시한 의견이다. 게브루는 구글에서 대규모 언어 모델의 한계와 위험성을 경고한 연구 논문 예고 글을 두고 언쟁을 벌인 뒤 구글에서 해고되었다.

국회의원과 업계 전문가 모두 똑같이 촉구한 다른 변경 사항 중에는 언어 모델과 인간이 아닌 대상과 대화할 때나 AI 기술이 생명에 변화를 줄 수 있는 중대한 결정을 할 때 사용자에게 정보 제공을 요청하는 공개 요구사항도 있다. 한 가지 예시로 안면 인식 기술을 이용해 체포 대상 혹은 범죄 혐의가 적용된 수배범을 찾을 때, 정보 공개를 요구하는 것을 언급할 수 있다.

상원 의회 청문회는 미국과 유럽 정부의 AI 규제 관심도가 커지자 진행되었다. 또, 테크 업계 내부 인사 중 일부는 AI가 인간에게 피해를 줄 상황을 막을 새로운 보호 대책 적용을 촉구하기도 했다. 2023년 3월, 테크 업계 유력 인사와 AI 분야 전문가 여러 명이 6개월간 AI 개발을 잠정 중단할 것을 촉구하는 서한에 서명했다. 2023년 5월, 백악관은 오픈AI와 마이크로소프트 등 테크 업계 주요 기업 여러 곳의 경영진을 대상으로 생성형 AI 시스템의 철저한 조사를 위한 공공 해킹 대회를 지원할 계획이라고 발표했다. 유럽연합도 AI법(AI Act)라는 신속하게 마련된 법률 제정 최종 단계에 있다.

몽고메리는 미 의회에서 AI 시스템을 인간이나 사회에 제기하는 위험성 정도로 분류하고 그에 따른 규정 혹은 금지 조치를 마련하는 유럽연합의 AI법에서 AI 규제 마련 동기를 부여받을 것을 촉구했다. 또한, 자율 규제를 지지하면서 IBM AI 윤리 이사회 일원이라는 지위를 강조하기도 했다. 그러나 구글과 액손(Axon)에서는 AI 윤리 이사회 구조가 논란 때문에 복잡한 상황에 엮이게 되었다.

테크 분야 전문 국책연구소인 데이터 혁신 센터(Center for Data Innovation)는 청문회 이후 공개된 서한을 통해 미국에는 AI 규제 기관이 필요하지 않다고 주장했다. 서한에는 “AI 규제 기관을 별도로 둔다면, 인간의 모든 의사 결정 규제를 정부 기관 한 곳이 형편없는 조언을 건넬 것이다. 마찬가지로 기관 한곳이 모든 AI 규제를 주제로 형편없는 조언을 건넬 것이다”라고 작성되었다.

데이터 혁신 센터 수석 애널리스트 호단 오마르(Hodan Omaar)는 “별도로 AI 규제 담당 기관을 두는 것이 실용적이지 않다고 생각한다. 또, 의회에서 당장 생각하는 방식으로 규제가 이루어지지 않을 것이다”라고 주장했다.

오마르는 미 의회가 아직 전반적인 데이터 프라이버시 보호 필요성과 같은 AI 규제와 관련하여 필요한 각종 테크 개혁을 거치지 않았다는 점을 고려하면, AI 규제를 담당하는 새로운 기관 운영 시작이라는 계획은 실현될 확률이 낮다는 견해도 전했다. 오마르는 기존 법률을 개정하고, 여러 연방 기관이 기존 규제 작업에 AI 감독을 추가하는 편이 낫다고 확신한다.

2022년 여름, 평등 고용 추진 위원회(Equal Employment Opportunity Commission)와 법무부는 채용 절차 진행 시 기업의 알고리즘 사용 시 미국 장애인법 준수 방법을 기술한 지침을 발행했다. (알고리즘은 인간에게 특정 관점이나 행동을 기대할 수 있다.) 이처럼 AI 사용 방식을 다룬 지침은 AI 정책이 기존 법률과 중복되면서 많은 지역 사회, 사용 사례가 포함될 수 있다는 점을 언급한다.

브루킹스 연구소(Brookings Institution) 펠로인 알렉스 엥글러(Alex Engler)는 미국이 2022년 가을, 연방 프라이버시 규제가 문제가 된 것과 같은 상황을 반복할 가능성을 우려한다. 연방 프라이버시 규제는 캘리포니아 의회는 캘리포니아주 자체 프라이버시 법안을 무시할 가능성을 지적하면서 투표를 보류하면서 실패했다. 엥글러는 “충분히 우려한 만한 부분이다. 이제 AI로부터 시민 사회를 보호할 수 없는 상황도 우려해야 하는가? AI의 위험성에서 시민 사회를 보호할 방식을 알 수 없다”라고 말했다.

청문회는 선거 거짓 정보 유포부터 지각력을 지닌 AI와 같이 아직 존재하는 개념 상의 위험성까지 AI의 잠재적 피해를 다루었으나 청문회 계기가 된 챗GPT와 같은 생성형 AI가 가장 주목받았다. 다수 상원 의원은 AI가 불평등과 독점 악화 원인이 될 수 있다고 지적했다. 과거, AI 규제를 공동 지지하면서 연방의 안면 인식 기술 금지를 지지한 코리 브루커(Cory Booker) 뉴저지주 민주당 상원 의원은 미 의회가 AI 규제 법률 제정을 진행하는 것이 AI의 위험성에서 인간을 보호할 유일한 방법이라고 주장했다.

** 위 기사는 와이어드US(WIRED.com)에 게재된 것을 와이어드코리아(WIRED.kr)가 번역한 것입니다. (번역 : 고다솔 에디터)

<기사원문>
Spooked by ChatGPT, US Lawmakers Want to Create an AI Regulator