By JENNIFER CONRAD, WILL KNIGHT, WIRED US

상하이에서 접객업 마케터로 근무하는 웬 리(WEN LI)는 어느 날 밤 친구와 같은 차량 공유 앱을 사용할 때, 알고리즘의 문제를 처음 의심했다.

차량 공유 앱이 고급 승용차 호출 횟수가 더 적은 웬의 친구에게 더 저렴한 가격을 제시했기 때문이다. 웬은 같은 차량 공유 서비스의 다른 가격 책정 결과에 알고리즘을 탓하며, 해당 기업이 서비스 사용 빈도가 높은 사용자를 대상으로 과도한 비용 지출을 유도하고자 한다고 주장했다.

중국 차량 공유 업계는 교통 유입량에 따라 운임 책정 범위가 다양하다고 주장한다. 그러나 여러 연구와 언론 보도 내용을 보면, 차량 공유 서비스 앱 가격은 차량 호출 횟수와 앱을 실행한 스마트폰 종류에 따라 가격이 달라진다. 웬은 “차량 공유 서비스 기업의 주장은 그저 단순한 인터넷 기업이며, 운임 차이에 따라 추가 수익을 확보한다는 사실을 인정하는 것이다”라고 말했다.

3월 1일이면, 중국은 세계 최초 인공지능(AI) 규제 시도라는 가장 야심 찬 노력의 한 부분으로 알고리즘의 차별을 금지한다. 알고리즘 차별 금지 규정에 따라 기업은 개인 정보를 이용해 사용자마다 다른 서비스 가격을 제시할 수 없다.

가격 책정과 검색 결과 제어, 영상 추천, 콘텐츠 분류 작업을 하는 알고리즘 모두 대대적으로 시행되는 규정으로 다룬다. 해당 규정은 주요 차량 서비스 기업과 전자상거래 기업, 스트리밍 기업 SNS 기업에 적용하는 새로운 규제이다.

규제는 중국의 인기와 가치가 가장 큰 테크 기업에 시행하는 추가 제한 조치이며, 규정 위반 시 거액의 과징금과 주식 판매 제지 등과 같은 처벌을 받는다는 내용이 포함되었다. 2021년 10월, 중국 영문 소식지 페킹놀로지(Pekingnology)는 시진핑 주석의 발언을 인용, “중국 디지털 경제의 신속한 개발 상황에서 일부 건전하지 않고 무질서한 징조와 추세를 발견했다”라고 보도했다.

세계 각국의 정치계에서 중국의 알고리즘 규제에 주목한다. 네덜란드 라이덴대학교 중국 법률 및 정책 전문가 로저 크리머스(Rogier Creemers)는 “네덜란드 외교부 회의에 참석했을 때, 네덜란드에서 시행하지 않는 정책 중 중국이 시행하려는 정책이 있는지 질문을 받았다. 중국의 규제 시행 속도가 매우 빠르다”라고 말했다.

인터넷 정보 서비스 알고리즘 추천 관리 조항(Internet Information Service Algorithmic Recommendation Management Provisions)이라는 이름으로 알려진 기업의 가격 책정 알고리즘 사용 규제는 사이버 보안과 인터넷 검열, 전자상거래 규제를 시행하는 강력한 권한을 지닌 중국 정보화위원회판공실(Cyberspace Administration of China)이 초안을 작성했다. 정보화위원회판공실은 다른 여러 요소 중 가짜 계정과 교통량 조작, 중독성 있는 콘텐츠 홍보를 금지한다. 또한, 배달 기사와 차량 공유 서비스 운전기사를 포함한 임시직 근로자를 보호한다.
 
일부 조항은 온라인 서비스 관련 불만 사항을 다룬다. 예를 들어, 규정에 따라 기업은 사용자 개인 특성을 사용해 다른 제품 가격을 제시할 수 없다. 또, 알고리즘이 콘텐츠나 상품을 추천할 때, 사용자에게 이를 공식적으로 알리고는 알고리즘 추천 비활성화를 선택하도록 해야 한다.

규정을 위반한 기업은 과징금 부과 대상이 되거나 신규 사용자 등록 금지, 사업 운영 권한 박탈, 웹사이트 혹은 앱 차단 대상이 될 수 있다.

새로운 알고리즘 규제의 일부 요소는 시행이 어렵거나 불가능한 것으로 입증됐다. 새로운 입력 사항 때문에 계속 변경하게 되는 알고리즘의 행동을 기술로 감시할 수 있다. 
 
그러나 중국 사용자 대부분 매일 사용하는 테크 업계 대기업 플랫폼의 권한을 억제하려는 조치를 지지한다. 중국 테크 출판 플랫폼 차이니스 캐릭터리스틱(Chinese Characteristics) 창립자인 릴리안 리(Lillian Li)는 테크 기업에 대한 대중의 정서를 편리함을 선사하는 대신 사용자 개인 데이터를 수집하는 페이스북이나 구글을 향한 서양 대중의 애증의 감정과 같다고 비교했다.

지난 18개월 동안 중국 규제 당국이 거리낌 없이 유명 테크 기업을 응징하는 모습을 보였다. 중국 차량 공유 서비스 앱 디디는 중국 정부가 기업의 데이터 처리 관행에 우려를 제기한 뒤에도 미국 주식상장을 추진하자 즉시 중국 앱스토어에서 퇴출당했다. 전자 상거래 업계 대기업인 알리바바는 독점 방지 규정을 위반해 거액의 과징금을 부과받았다.

다른 규제 요소는 불분명하거나 열린 해석이 가능하다. 스탠포드 디지차이나(DigiChina)의 중국 규제 법안 번역문에 명시된 기업을 대상으로 주요 가치 방향과 긍정적인 영향 확산, 논란이 되는 사안 혹은 논란 예방 및 최소화 지지 등을 명령하는 조항을 예시로 언급할 수 있다.
 
또 다른 조항은 중국 기업을 대상으로 사용자의 중독이나 과소비를 유발하는 정책을 피하도록 요구한다. 이와 같은 우려 때문에 2021년, 중국 정부의 연예인 문화 단속과 청소년의 비디오 게임 사용시간을 강력하게 제한하게 되었다.

규제 시행 전부터 중국 기업의 변화가 감지되었다. 2021년 10월, 짧은 영상 공유 앱 더우인(Douyin)을 제작한 베이징 테크 기업 바이트댄스는 사용자에게 장시간 영상 시청을 위해 앱 접속 중단을 촉구하는 5초 분량의 영상을 게재하기 시작했다. 알고리즘이 엄선한 피드 중독을 억제하고자 시행한 조치이다. 또한, 더우인을 비롯한 자사의 다른 여러 앱에서 사용자가 알고리즘에 개인 정보를 제공하지 않도록 설정하는 기능을 제공하기 시작했다. 중국의 어느 한 언론 기관의 조사에서 2021년, 인기 앱 28개 중 26개가 개인 데이터 보호 관련 법률 준수 전략으로 사용자에게 맞춤 추천 비활성화 기능을 도입하기 시작했다.

중국 테크 기업은 이미 정부가 위험하다고 보는 정보 공유 관련 여러 규정 준수를 위해 콘텐츠를 밀착 감시한다. 2022년 2월 초, 중국 SNS 웨이보가 미국 출신 중국 피겨 스케이팅 선수 주이(Zhu Yi)를 포함한 올림픽 선수 공격 게시글 7만 1,000개를 삭제했다. 텐센트 비디오는 중국 배급사가 수정한 결말을 적용한 뒤 1999년에 개봉된 영화 파이트클럽(Fight Club)을 공개했다. (초기 결말을 수정하지 않은 버전이 즉시 복구되었다) 중국 스트리밍 플랫폼은 중국에서 대대적인 인기를 누린 미국 시트콤 프렌즈의 성 소수자 관련 장면을 계속 삭제하거나 변경했다.

기업의 알고리즘 사용 규제와 관련이 있는 또 다른 별도의 법률은 가짜 뉴스와 합성 음성, 딥페이크 이미지 및 영상 등 AI로 특정 인물의 얼굴을 조작하는 합성 콘텐츠를 다룬다. 해당 법률 조항 중에는 딥페이크 소프트웨어 제작사의 크리에이터 실명 인증과 모든 딥페이크 콘텐츠의 식별 라벨 적용을 요구하는 조항이 있다.

중국의 AI 관련 각종 법률은 세계 최초로 제정된 법률이 아니다. 유럽연합은 안면 인식 기술 사용 제한과 알고리즘 조작 금지, 챗봇과 컴퓨터 게임 등 AI 활용 서비스 규제 법안을 발의했다. 그러나 2021년 4월 자로 초안이 작성된 유럽연합 규정은 기존 규정이 관련 사안을 다루었다면, 수년간 논의가 진행될 수 있다.

네덜란드 암스테르담 자유대학교 법률학자인 실비아 데 콘카(Silvia De Conca)는 중국의 규제와 유럽연합의 발의안 간 공통점이 있다고 주장한다. 특히, 사용자에게 알고리즘 사용을 안내하면서 맞춤 추천 알고리즘 사용 비활성화를 선택하도록 한다는 점에서 공통점을 찾아볼 수 있다. 다만, 콘카는 유럽 국회의원이 시장과 개인 권리 발전 측면에서 규제 법안을 생각하지만, 중국은 사회적 안락함을 강조한다는 차이가 있다는 점에 주목한다. 콘카가 언급한 바와 같이 중국 당국은 테크 기업의 알고리즘 악용을 집단의 문제로 보면서 규제로 윤리성과 가치관 유지를 다루도록 지시한다.

중국 규제 당국은 일반적으로 AI에 간접적인 접근방식을 택하는 미국의 모든 국가 단위 법률보다 훨씬 더 야심 찬 규제 법안을 추진한다. 미국은 특정 도시만 경찰의 안면 인식 기술 사용 관행을 제한한다. 미국 상원 의회에 발의된 알고리즘 책임법(Algorithmic Accountability Act)은 성별이나 인종을 기준으로 한 알고리즘의 차별을 제한한다는 목표를 지녔으나 의회 청문회 이후 추가 진전 사항은 없다. 최근, 미네소타주 민주당 의원인 에이미 클로버샤(Amy Klobuchar) 의원과 와이오밍주 공화당 의원인 신시아 루미스(Cynthia Lummis) 의원은 플랫폼의 유해 콘텐츠 중독 및 확산 문제를 줄일 툴 적용을 요구하는 법안을 발의했다. 그러나 해당 법안이 통과되더라도 테크 기업이 제기하는 법적인 어려움을 직면할 것으로 보인다.

스탠퍼드대학교 인간 중심 인공지능 연구소(Institute for Human-Centered Artificial Intelligence) 정책국장 러셀 왈드(Russell Wald)는 “미국이 AI 규제 분야에서 뒤처진 점이 한탄스럽다. 미국 지도부에서 AI 규제를 더 나은 방식으로 다루고, AI 사용 규범을 정하는 데 도움을 주어야 한다”라고 말했다.

왈드 국장은 중국이 세계 최초로 제 역할을 하는 정책을 두고, 자국 테크 기업에 대대적으로 규제를 시행하기 때문에 AI 규제 영향력을 제대로 갖추었다고 주장한다. 그와 동시에 중국 정부의 알고리즘 혹은 데이터 사용 관행은 AI 규제 대상이 아니라는 점에 주목하며, 특정 가치관 홍보 등 AI 규제와 관련된 일부 새로운 규정이 정부의 통제력을 유지하게 될 것이라고 설명했다. 이어, “기업의 AI 사용 규제는 중국 정부의 AI 및 데이터 사용 이익을 더할 준비가 되었다”라고 언급했다.

한 국가나 지역이 다루기 까다로운 신기술 규제 노력을 펼치는 행위는 간혹 다른 곳에서도 주목할 만한 영향을 주었다. 일례로, 2018년에 시행돼 여러 기업의 개인 데이터 사용을 제한하는 유럽연합의 개인정보보호 규정(GDPR)은 세계 각국의 기업 정책과 캘리포니아주 등 유럽연합 회원국 이외 여러 지역의 법안에 영향을 미쳤다.

미국 의회에서 양당의 중국을 향한 적대감을 지닌 사실은 미국 국회의원이 AI 규제 관련 법안 발의 시 중국의 규제안을 인용할 확률이 낮다는 점을 시사한다. 그러나 중국 정부가 연속으로 신중하게 택한 규제는 감지하기 어려운 매우 미세한 효과를 지닐 수도 있다. 영국 일부 국회의원은 온라인 기업을 대상으로 중국의 규제 법안과 관련된 접근방식을 택하며, 미성년자의 유해 콘텐츠 노출 위험성을 보호할 것을 촉구했다.

미국 국책연구소 카네기 국제평화기금(Carnegie Endowment for International Peace) 소속으로 중국 AI 생태계를 연구하는 연구 펠로 맷 시한(Matt Sheehan)은 “중국 정부의 AI 규제와 같은 의견은 파급 효과를 낳을 수 있다. 중국의 규제 중 흥미로운 부분은 규제 의견을 실제로 시행할 때 의미하는 바를 대규모로 실험할 수 있다는 부분이다”라고 말했다.

파키스탄과 아랍에미리트, 일본 등 다른 여러 국가도 AI 관리 전략을 탐색하고 있다. 중국이 새로 도입할 규제는 이미 중국과 두터운 관계를 맺은 국가에 가장 큰 영향을 미칠 수 있다. 최근 공개된 어느 한 학술 연구는 중국 테크 기업이 파키스탄 등 중국의 우호국 정책 구상에 도움이 되었다는 연구 결과를 공개했다. 파키스탄의 규제 발의안은 정부의 온라인 콘텐츠 적합성 판단 권한을 이전보다 훨씬 더 큰 수준으로 부여할 수 있다.

크리머스는 “서양 국가는 지금까지 디지털 세계에서 정부가 AI 규제 역할을 할 수 있다는 인식을 갖추지 못했다. 정부가 실효성이 있는 AI 규제를 시행한다는 점을 높이 평가할 수 있다”라고 말했다.

** 위 기사는 와이어드US(WIRED.com)에 게재된 것을 와이어드코리아(WIRED.kr)가 번역한 것입니다. (번역 : 고다솔 에디터)

<기사원문>
China Is About to Regulate AI—and the World Is Watching