By WILL KNIGHT, WIRED US

2022년 초, 방글라데시 정부는 이름이 공개되지 않은 어느 한 중국 기업의 인공지능(AI)으로 강화된 인프라와 함께 벵골 만 일대 스마트시티를 구축한다는 제안을 받기 시작했다. 첨단 주요 도시 개발 계획 시작 전이었다. 만약, 중국 기업의 제안대로 스마트 구축 과정을 시작했다면, 공공 카메라가 대중 사이에서 실종자를 찾거나 범죄자를 추적할 용도로 사용할 안면 인식 소프트웨어를 포함할 수도 있었다. 중국의 여러 도시에서는 이미 표준이 된 기술이다.

2023년 1월, 하버드대학교와 MIT 학자 여러 명으로 구성된 합동 연구팀이 저명한 국책 연구소인 브루킹스 연구소(Brookings Institution)에서 발표한 연구는 대도시 안면 인식 기술 구축 프로젝트는 중국이 세계 지도자에게 안면 인식 기술을 수출하도록 할 수 있다고 주장한다.

해당 연구 논문은 중국 기업 여러 곳이 전 세계 안면 인식 기술 관련 수출 건수 총 201건으로 1위를 차지했다는 사실을 발견했다. 그 뒤를 이어 총 128건을 기록한 미국이 2위에 이름을 올렸다. 중국은 전 세계 인공지능(AI) 기술 수출 전반에서도 최대 수출국으로 확인됐다. AI 기술 수입국 136개국을 대상으로 성사된 기술 수출 거래 1,636건 중 중국의 AI 기술 수출 건수는 총 250건으로 확인됐다. 마찬가지로 AI 기술 수출 건수 2위를 차지한 국가는 총 215건을 기록한 미국이다.

연구 보고서는 중국의 AI 및 안면 인식 기술 수출이 다른 국가의 감시 증가로 이어지면서 시민 인권 침해로 이어질 수 있다고 주장한다. AI를 비롯한 최신 기술과 정부 정책, 거시경제학 간의 관계를 집중 연구하는 전문가이자 하버드대학교와 MIT의 공동 연구에 참여한 MIT 경제학자인 마틴 베라자(Martin Beraja) 박사는 “중국이 안면 인식 기술을 수출한다는 사실은 민주주의 수준이 더 발전할 수도 있는 기술 수입국의 더 심각한 독재 정치 전환으로 이어질 수 있다”라고 지적했다.

안면 인식 기술은 스마트폰 잠금 해제, 앱 인증 기능 제공, SNS 게시글 속 친구 찾기 등 실제로 다양한 활용 사례를 찾아볼 수 있다. 연구팀의 연구는 이른바 스마트 시티 기술을 포함한 거래에 초점을 맞추었다. 스마트 시티 기술은 종종 비디오 감시 강화 목적으로 안면 인식 기술을 적용한다. 연구는 카네가 국제평화기금(Carnegie Endowment for International Peace)의 전 세계 감시 프로젝트 정보와 중국 AI 기업에서 수집한 데이터를 활용하여 진행됐다.

미국 국회의원과 역대 대통령 여러 명이 지난 몇 년 동안 중국이 미국보다 AI 기술력에서 우위를 점하는 추세에 우려를 표했다. 연구팀의 연구 보고서는 이미 중국이 미국의 기술력을 앞지르기 시작한 영역 중 하나인 안면 인식 기술 분야의 확실한 증거를 제시한다.

AI 정책 시행을 연구 중인 신미국안보센터(Center for New American Security) 연구 펠로인 알렉산드라 세이무어(Alexandra Seymour)는 “연구팀의 연구는 안면 인식과 같은 기술을 중심으로 변수를 정할 필요성이 있다는 사례를 제시한다”라고 말했다.
 
미국 양당 국회의원 사이에서는 전 세계의 중국 기술 제재 관심도가 커지는 추세이다. 트럼프 행정부 시절 미국 정부는 미국을 포함한 세계 여러 국가에서 화웨이의 5G 기술 사용 제한 법률을 시행하고는 중국 AI 기업과의 칩 거래 금지를 목표로 삼았다. 바이든 행정부는 중국 기업의 최첨단 칩이나 반도체 생산 기술 접근을 막을 더 강력한 칩 제재를 시행했으며, 이슬람 소수 민족인 위구르족을 감시할 의도로 안면 인식 기술을 개발한 중국 공급사에 제재를 시행했다.

세이무어는 중국의 안면 인식 기술 수출 제한이라는 추가 제재가 세계의 중국 안면 인식 기술 수입 제재 형태로 시행될 가능성이 있다고 말한다. 다만, 미국이 안면 인식 기술 사용 규제 측면에서 세계 여러 국가에 선례를 남길 필요가 있다고 덧붙였다.

미국이 안면 인식 기술 제2의 수출국이라는 사실은 자칫하면 미국 정부가 강화한 미국 기술이 자유와 민주주의의 대표적인 예시라는 주장을 저하할 수 있다.

미국 경찰국의 안면 인식 사용 사례가 급격히 증가했으며, 일부 도시는 안면 인식 기술 사용 제한 정책을 시행했다. 그러나 안면 인식 기술 사용 금지나 제한에 적용할 국가 표준은 없다. 클리어뷰 AI(Clearview AI)와 같은 일부 미국 기업은 감시 카메라로 촬영한 개인의 모습을 온라인 정체성과 연결하는 안면 인식 기술을 개발한 뒤 수출했다. 시민 자유 단체는 이를 법적으로 정당화할 수 없는 시민 프라이버시 침해 행위라고 주장했다.

세이무어는 미국이 중국의 안면 인식 기술 수출에 맞설 가장 좋은 방법은 미국 내 안면 인식 기술 사용 규제 후 해외에 중국 기술을 대체할 기술을 제공하는 것이라고 주장한다. 세이무어는 “개인 정보 보호라는 가치관을 중심으로 한 대화가 감시용 안면 인식 기술에 필요한 제한 형태를 갖추는 데 도움이 될 것”이라는 견해를 전했다. 그러나 미 의회가 안면 인식 기술을 중심으로 의미 있는 제한 조치를 시행하는 데 동의할 가능성은 적다.

중국 기업이 안면 인식 기술을 장악하게 된 부분적인 이유는 개인 사진을 다량으로 제공하는 정부 기관과의 관계 및 정부 차원의 기술 부문 대상 거액의 자금 지원이다. 2021년 11월, 베라자 박사 연구팀은 기술과 중국 정부 목표 간 가까운 관계 때문에 독재 국가에서 안면 인식 AI 개발 혁신 성장이 이루어질 것이라고 주장하는 내용의 논문을 발표했다.

합의가 이루어지지 않은 상태에서의 안면 인식 기술 사용을 통제하기는 어려울 것이다. 안면 인식 기술의 더 심각한 사용 사례가 많아질 수도 있기 때문이다.

베라자 연구팀의 연구 논문 공동 저자 중 한 명인 하버드대학교 경제학자 데이비드 양(David Yang) 박사는 최근 미국 정부의 중국 기술 억제가 신규 기술 개발 역량을 막는 데 초점을 맞추면서도 기존 기술의 전환을 제한하지는 않았다고 분석했다. 양 박사는 “중국은 이미 판매할 수 있는 여러 기술에 감시 AI를 종합적으로 개발한 상태이다. 최근 미국 정부가 시행한 제재로는 중국 정부가 이미 성공한 안면 인식 기술 개발 및 활용 사례 변화를 일으키지는 못할 것이다”라고 설명했다.

세이무어는 AI의 여러 분야 중 새로이 떠오르는 다른 분야도 추후 확산 사례를 조심스럽게 지켜보아야 할 필요가 있는 강력한 감시 수단의 개발로 이어질 수 있다고 경고한다.

안면 인식 기술은 2010년대 초반 등장한 인공 신경망을 활용해 이미지 처리 알고리즘을 대거 개선한 뒤 처음 등장한 AI의 실질적인 활용 사례이다. 세이무어는 챗GPT(ChatGPT)와 같이 뛰어난 지능을 갖춘 대화 툴을 둘러싼 흥미를 일으킨 대규모 언어 모델이 안면 인식 기술과 비슷한 문제를 일으킬 수 있다고 내다보았다. 그 예시로 웹 콘텐츠 검열이나 대화 분석 효과를 높이는 데 악용하는 방안을 제시했다.

** 위 기사는 와이어드US(WIRED.com)에 게재된 것을 와이어드코리아(WIRED.kr)가 번역한 것입니다. (번역 : 고다솔 에디터)

<기사원문>
China Is the World’s Biggest Face Recognition Dealer