By MATT LASLO, WIRED US

최근 들어 급부상한 생성형 인공지능(AI)은 미국 상원 의회가 지난 몇 년간 국회에서 논의를 지연한 프라이버시 개혁을 추진할 수밖에 없는 상황으로 향하도록 했다.

미국인의 개인 데이터는 상품 판매 및 거래, 채굴, 더 나아가 ‘재활용’ 대상까지 된다. 게다가 여러 외부 기관을 거쳐 어디서나 개인 정보가 공개되는 공간으로 전달돼, 일부 상원 의회는 미국 시민의 개인 데이터가 오픈AI, 구글 등 세계를 뒤바꿀 AI 기술 개발 기업의 일상 속 테스트, 변경, 배포 과정에서 고립되었다고 확신한다.

마르코 루비오(Marco Rubio) 플로리다주 공화당 상원 의원 겸 상원 정보위원회(Senate Intelligence Committee) 부의장은 “AI 기업은 마케팅 및 상품 판매 목적으로 미래를 예측하고자 한다. 이미 사용자 데이터를 이용하여 미래를 예측하는 관행이 존재한다”라며, 연방 프라이버시법 개혁이 필요하다는 일각의 주장을 대수롭지 않게 여겼다.

루비오 의원만 연방 프라이버시 법안 개혁을 반대한 것은 아니다. 상원 상무위원회 회장이기도 한 텍사스주 공화당 의원인 테드 크루즈(Ted Cruz) 의원도 루비오 의원의 주장에 동의했다. 크루즈 의원은 “민주당이 혁신과 AI 발전에 제약을 가하는 방안을 추진했으며, 이는 곧 미국에 재앙과 같은 일이 될 것이라고 확신한다”라는 발언을 했다. 미 의회에서는 미국이 AI 발전 및 혁신 부문에서 선두를 차지하지 않는다면, 적국(사실상 중국을 지칭)이 미국의 선두를 빼앗을 것이라는 주장이 이어졌다.

지금까지 AI가 세계를 180도 바꿀 잠재력을 지녔다는 우려가 존재한다. 바로 미 상원 의원 대부분이 무언가 대책을 마련해야 한다는 데 계속 의견을 모으게 된 대상이다. 그러나 국회에서 AI 관련 법안 제정을 시작하자 오랫동안 해결되지 않은 프라이버시 논쟁이 주된 걸림돌이라는 사실이 입증됐다. 게다가 오늘날 미 의회 양당 의원이 신중한 태도를 보여야 할 AI 법안 제정 과정의 실수 여지는 거의 없다.

급속도로 발전하는 세계에서 AI가 서서히 인류의 미래를 생성하더라도 미 의회는 과거의 프라이버시 개혁안을 논의해야만 한다.

과거를 통해 얻지 못한 교훈
미 의회가 2023년 8월 한 달간 휴회 기간을 맞이하자 미 의회는 상원 의원 전원이 참석한 세 번째 및 마지막 AI 브리핑을 개최했다. 비공개로 진행된 브리핑에는 양당 상원 의원 100인 모두 참석하지 않았으나 브리핑 자체는 AI의 이해라는 기본적인 법적 틀을 마련할 의도로 진행됐다. 유일한 사실이 있다면, AI 브리핑은 미 상원 의회가 AI를 주제로 논의한 것이 확실하다는 점이다. 순식간에 AI 관련 대화는 최근 의회 회담 주제에서 사라진 데이터 프라이버시 논쟁으로 돌아갔다.

루비오 의원의 개인적인 본능에 따른 반응은 미국 테크 기업이 새로운 분야를 선도하므로 AI 개발 선두를 통해 규제가 없는 상태에서 미국 테크 기업이 운영하도록 두어도 괜찮다는 의미였다. 루비오 의원은 상업은 상업일 뿐이라고 주장했다. 또, “미국 테크 기업은 사용자 데이터를 수집해, 사용자가 구매할 제품이나 여행할 곳, 보고자 하는 바를 예측한다. 이미 펼쳐지는 관행이다. 미국은 지금도 프라이버시와 지식재산권, 테크 기업의 데이터 수집 기반 사용자 행동 예측 관련 모든 영역을 관리하는 법률을 두고 있다. 사용자 데이터 수집 기반 행동 예측은 프라이버시를 위반하는 인간이든 기계든 앞으로 금지되어야 할 것이다”라고 말했다.

루비오 의원과 크루즈 의원을 비롯한 많은 의원은 최근, 미 의회에서 테크 업계에 엄격한 규제를 적용하지 않았을 때 발생한 일을 잊은 듯한 태도를 보였다. 구글은 사용자의 정보 검색 능력을 흡수하고, 수집할 수 있는 범위에서 모든 개인 데이터를 수집했다. 페이스북과 트위터는 자사 플랫폼에 접속하는 모든 사용자 관련 파일을 생성하고는 SNS에서 발언을 할 수 있는 대상과 그 내용을 통제했다. 아마존은 대부분 사용자 데이터를 이용해 유통 서비스 부문의 약 40%를 차지하면서 클라우드 저장소, 엔터테인먼트, 위성 인터넷, 그 외 과장하여 표현할 수 있을 정도로 모든 상거래 부문으로 사업 영역을 확장했다.
 
즉, 미국 테크 기업의 영향력은 백신, 식품, 암 연구, 환각 진료 센터, 형사 정의 개혁, 무주택 상황 등 모든 영역으로 확장된 상태이다. 게다가 테크 기업의 영향력 행사 범위 영역은 달까지 도달할 수 있다. (달과 관련하여 언급하자면, 상용화 우주선 개발 경쟁을 잊을 수 있는가?) AI 호황의 영향으로 테크 기업의 권력과 부도 더 확장될 것으로 보인다. 그러나 미 의회에서 일부 거물급 공화당 의원은 미국의 AI 장악력 보장이라는 목표에만 주력한다.

표면적으로 루비오 의원은 새로운 규제라면, 무엇이 되었든 미국 테크 업계 대기업과 미국 기업의 AI 실험에 백해무익한 제한으로 보는 듯하다. AI 브리핑의 한 가지 포괄적이라고 볼 수 있는 한 가지 핵심은 미국이 AI 발전 및 혁신 부문에서 세계 2위가 될 수 없다는 점이다.

루비오 의원은 “국경 제한이 없는 기술을 다루고 있다. 따라서 기업이 미국에서 할 수 없는 제한 사항을 명시한 법률을 제정하더라도 다른 국가나 정부의 일부 기업이 미국에 맞서 기술 혁신을 도모하고 기술을 사용하는 행위와 해당 기술을 배포하는 행위를 막을 수는 없다”라고 주장했다.

AI 브리핑을 이끈 상원 의원 중 한 명이기도 한 마이크 라운즈(Mike Rounds) 사우스다코타주 공화당 상원 의원도 미국이 기술 혁신 우위를 점해야 한다는 루비오 의원의 주장을 반복했다. 라운즈 의원은 “AI는 미국이든 다른 국가에서든 발전할 것이다. 미국은 적국보다 더 빠른 속도로 AI 발전을 추진해야 한다. 미국은 AI 발전을 이끌어야 한다. 그와 동시에 적절한 보호 조치를 적용하고자 한다”라고 말했다.

구체적인 논의 대상은 여전히 미 의회의 쟁점을 제한할 수 없는 상태로 남았다. 다수 의원은 이미 AI가 인간을 앞선 상황인데도 여전히 챗GPT, 구글 바드 등 새로운 대규모 언어 모델의 잠재력에 주목했다. 라운즈 의원은 모호한 새로운 변수에도 개방적인 태도를 유지했으나 결정적으로는 더 나아가 데이터 프라이버시를 기업에 건넨 것을 두고 미국 인터넷 서비스 사용자를 비판하는 발언을 하기도 했다.

라운즈 의원은 “사용자는 자발적으로 데이터 프라이버시를 포기했다. 사용자는 개인 정보의 많은 사항을 포기할 때 동의한 내용을 인지하지 못한 듯하다”라고 말했다.

이어, 미국 테크 기업이 미국 사용자가 기업에 건네는 데 동의한 정보를 수집했다면, 사용자 데이터를 마구 다루는 것이 괜찮을 수도 있다는 주장도 펼쳐졌다. 그러나 라운즈 의원을 비롯한 대다수 국회 의원은 사용자의 개인 데이터를 중국 소유 기업인 틱톡의 손에 들어가는 것을 맹비난했다. 틱톡은 누구나 동의할 수 있는 프라이버시 문제이다. 단, 틱톡이 주장한 미국 내 사용자 수 1억 5,000만 명은 제외이다.

라운즈 의원은 “수많은 미국 사용자가 개인 정보를 중국 공산당과 관련된 기업에 대거 건네는 것을 우려하지 않는 듯하다. 결과적으로 미국에 부정적인 영향을 미칠 방향으로 이용될 데이터베이스 생성에 도움이 된다는 점에서 안타까운 일이다”라고 말했다.

찰스 E. 슈머(Chuck Schumer) 뉴욕주 민주당 상원의원을 포함한 다른 의원은 AI 관련 대화가 정치적 대화가 되는 것을 피하려 했으나 이제 AI는 자유방임 자본주의로 독재자에 맞선다는 구시대적인 당파적 논쟁을 장악한 것으로 보인다. 마르틴 하인리히(Martin Heinrich) 뉴멕시코주 민주당 상원 의원은 AI 논쟁이 당파적 논쟁이 된 것을 두고 안타까울 정도로 근시안적인 논쟁이라고 지적했다.

하인리히 의원은 “미국은 인터넷을 규제할 수 있을 때 제대로 규제하지 못했다. 그리고 오늘날 공화당과 민주당은 대부분 ‘미국 10대 인구가 새로운 혁신 기술의 실험 대상이 되도록 했으며, 미국에 도움이 되지 않는다’라는 논리만 펼친다. 문제를 다루는 데 도움이 되지 않는다고 생각한다”라고 비판했다.

민주당만 우려의 목소리를 내는 것은 아니다. 의회에는 프라이버시 보호 강경론자도 몇 명 있다. 그중 대표적인 인물은 조쉬 하울리(Josh Hawley) 미주리주 공화당 상원 의원이다. 실리콘밸리 일대 테크 업계 대기업의 데이터 채굴 모델 통제가 미국의 AI 미래에 위험성을 제기한다는 크루즈 의원과 루비오 의원의 주장과 관련하여 질문을 받자 하울리 의원은 코웃음을 쳤다.

하울리 의원은 “허! 의회와 같이 폐쇄된 곳에서 AI의 미래를 실현할 수 있을지 모르겠다”라고 말한 뒤 분노에 찬 듯한 웃음을 지었다. 이어, “구글, 메타가 선의에 따라 행동하는 기업이 되기를 신뢰한다는 의견은 누구나 알다시피 현실이 되지 않을 것이다”라고 덧붙였다.

상원 의회의 공화당 의원 대부분 미국의 적국에만 초점을 맞추었다. 그러나 상원 의회 내 가장 강력한 중국 비판론자 중 한 명인 하울리 의원은 미국 테크 기업이 개인 데이터를 자사 AI 언어 학습 모델에 연결할 것이라는 생각에 동의했다.

하울리 의원은 “개인 데이터를 AI 언어 모델에 사용하는 행위를 금지해야 한다. 금지 조처가 필요하다. 의회는 연방법으로 기업의 사용자 개인 데이터 사용을 금지해야 한다. 기업이 개인 정보를 사용한다면, 소송할 수 없다. 개인적으로 법률 개정이 필요한 부분이라고 생각한다”라는 견해를 피력했따.

하울리 의원이 가장 우선순위로 보는 사항이기도 하다. 하울리 의원은 상원 프라이버시 및 기술, 법률 사법 소위원회의 공화당 소속 최고 의원이며, 소위원회 의장인 리처드 블루먼솔(Richard Blumenthal) 코네티컷주 민주당 상원 의원과 함께 생성형 AI 관련 기술 및 기업을 통신품위법 제230조 적용 대상에서 제외한 AI법의 면책특권 제230조를 도입했다.

하울리 의원과 블루먼솔 의원은 온라인 기업의 플랫폼에 사용자가 게재한 모든 콘텐츠 문제에서 기업의 책임을 면제하는 법률인 1996년 제정된 통신품위법 제230조에서 AI 관련 조항을 명시한다는 점에서 중요하다고 강조했다. 하울리 의원과 블루먼솔 의원 모두 다년간 통신품위법 제230조 개정을 추진했으나 생성형 AI 기반 딥페이크 때문에 발생한 피해에서 사용자를 보호하려면, 조금도 시간을 지체할 수 없었다.

더는 멈출 수 없다
2023년 여름 진행된 AI 브리핑은 신속함의 필요성도 서서히 주입했으며, 상원 의회는 드디어 의회 차원의 매우 느린 속도로 드디어 대응에 나서기 시작했다.

8월 휴회 전 의회는 첫 번째 생성형 AI 개정안을 통과시킨 뒤 연간 반드시 통과시켜야 하는 국방수권법(NDAA)에 추가했다. 이와 관련하여 택해야 하는 조처 중에는 미국 국방성이 버그 바운티 프로그램을 마련해, 국방성 관료가 미국 기업의 AI의 보안 결함을 테스트하는 방안이 있다.

슈머 의원이 이끄는 미국 상원 의회는 하원 의회에서 자체적으로 마련한 법안과 합의가 필요한 군사 부문 외 AI 개정안도 자체 국방법에 적용했다. 해당 법안은 연방준비 제도와 연방예금보호공사, 미국 통화감독청, 미국 신용조합 관리 위원회, 소비자 금융보호국의 관리 위원회의 AI 지식 격차를 미 의회에 보고하는 것을 의무화한다.

민주당 의원 다수는 의회가 AI 경쟁을 다루어야 할 필요성에 동의했으나 세부 사항은 윤리적으로 문제가 있다. 민주당이 제시한 대책은 상당수 비판 대상이 된 정부의 대책 중 하나이다.

블루먼솔 의원은 “미국은 중국이나 다른 적국, 경쟁국과 비교하여 스스로 불리한 상황에 처하도록 할 수 없다. 그러나 원자력과 같이 일종의 국제적 구조가 필요하다”라고 주장했다.

이어, 국제적 합의와 다자간 신뢰, AI 책임 및 다른 국가와의 AI 표준 협상을 시행할 중앙 기관이나 관리국 한 곳을 의미한다고 덧붙여 전했다.

비공개로 진행된 브리핑 현장에서 다수 상원 의원은 AI의 재정적 불균형이 임박했음을 우려하며, 다수가 AI를 손쉽게 복제할 때 얻을 수 있는 이점을 지금 당장, 그리고 미래에 존재할 것을 절실하게 보는 듯하다. 존 히켄루퍼(John Hickenlooper) 콜라라도주 민주당 상원 의원은 “의회에서 논의한 사항 중 하나는 대다수 기술과 마찬가지로 비용이 급격히 줄어들 것이라는 점이다. 논의 사항은 어떠한 형태든 비공개로 둘 필요가 없다고 본다. 미국 내 억만장자가 많다는 점을 고려하면, 억만장자가 자체 대규모 언어 모델을 생성할 수 있을 것이다”라고 말했다.

다수 상원 의원은 여러 측면에서 편향적은 논쟁에 개입했으나 AI가 민주주의에 미칠 영향에는 거의 초점을 맞추지 않았다.

메이지 히로노(Mazie Hirono) 하와이 민주당 상원 의원은 “솔직히 말하자면, 개인적으로 어떤 행동을 해야 하는지 파악하지 못했다. 하지만 정치계에서 처리할 수 있었던 문제의 피해가 발생한 것을 확인할 수 있다. 정치계에서 어느 정도 공개가 필요하다고 본다”라고 말했다.

다른 의원은 잠재적 공개 요구사항에 주목한다. 특히, AI가 대출, 보험 신청 및 기타 중요한 문제를 판단할 때 미치는 영향에 집중했다.

제임스 랭크포드(James Lankford) 오클라호마주 공화당 상원 의원은 “보험사든 정부 기관이든 AI가 판단한 사항을 바탕으로 의사 결정을 한다면, 의사 결정 시 사용한 AI의 근간이 된 데이터세트 정보를 알아야 할 권리가 있다. 더 중요한 당면 과제이기도 하다”라고 지적했다.

일부 신임 젊은 상원 의원은 비공개 AI 브리핑이 더 우려스러운 상황임을 지적했다. 상원 의회에 처음 발을 들인 J.D. 밴스(JD Vance) 오하이오주 공화당 상원 의원은 “AI 브리핑 논의가 구체적으로 진행되지 않은 점에서 상원 의회와 국방성 모두 다른 국가와 관련하여 미국의 AI 상황을 거의 알지 못할 것을 걱정한다. 미국이 무언가를 숨기면서 다른 국가가 미국을 AI 분야에 무지한 국가라고 생각하므로 본질이 없는지 분명히 알기 어렵다”라고 말했다.

미 상원 의회는 여러 연방 기관을 대상으로 AI 보건 확인을 요구하지만, 다수 국회 의원은 특별 위원회의 복잡한 문제가 다루기 어렵다는 사실을 발견하고는 맞춤 AI 법안에 동의한다.

전반적으로 이전과 같은 상황으로 돌아가지 않을 것이라는 점에 동의한다. 루비오 의원은 “인류 역사상 발전한 기술 중 퇴보한 기술이 없다는 사실만큼은 확신한다. AI도 앞으로 더 발전할 것이다. AI 보호 대책과 관련 관행을 구축해, AI의 이점을 최대한 활용하면서 피해를 줄일 방법을 찾는 것이 의문 사항이라고 본다”라고 전했다.

한편, 상원 의회는 처음 미 의회가 전혀 논의하지 않은 사항으로 돌아가지 않고는 문제 개선을 위해 더 나아갈 수 없다. 하울리 의원과 블루먼솔 의원 모두 통신품위법 제230조 개정이 AI 안전 대책의 출발점이 되어야 한다고 본다. 하울리 의원은 “통신품위법 제230조를 개정하여 AI 기업이 책임을 지도록 한다면, 이를 중심으로 AI 규제를 마련할 수 있을 것이다. 사용자에게 개인 데이터 보호 권리가 없다면, 생성형 AI 개발 및 훈련 목적의 사용자 데이터 사용을 요구할 수 있어야 한다. 개인 데이터 사용 금지를 주장하더라도 미국 연방통신위원회(FTC)의 과징금 부과와 같은 조처만으로 충분할까? 아니다. 사용자가 개인 데이터 사용 문제를 두고 기업을 상대로 소송을 제기하도록 해야 한다. 그렇다면, 기업도 데이터 프라이버시에 주목할 것이다”라고 주장했다.

** 위 기사는 와이어드US(WIRED.com)에 게재된 것을 와이어드코리아(WIRED.kr)가 번역한 것입니다. (번역 : 고다솔 에디터)

<기사원문>
The Ghost of Privacy Past Haunts the Senate’s AI Future