By WILL KNIGHT, WIRED US

유럽연합이 미국, 중국 등에 본사를 둔 테크 기업을 포함해, 회원국 내에서의 인공지능(AI) 사용을 제한 혹은 금지하는 규제안을 공개했다.

이와 관련된 규정은 지금까지 이루어진 국제적 차원에서의 AI 규제 노력 중 가장 중요하며, 안면 인식 기술과 자율주행 기술, 온라인 광고와 자동 채용, 신용 점수 평가 등을 하는 알고리즘을 다룬다. 유럽연합에 제안된 규정은 유망하지만 논란이 되는 AI 기술을 둘러싼 세계적 규범과 규정을 구상하는 데 도움이 될 것이다.

유럽 디지털 권리 비영리단체 액세스 나우(Access Now)의 유럽 정책 애널리스트인 다니엘 로이퍼(Daniel Leufer)는 “특정 AI 애플리케이션을 민주주의가 수립된 사회에서 용납할 수 없다는 세계적으로 매우 중요한 메시지가 담겨있다”라고 말했다. 로이퍼는 유럽연합의 규제안은 모호하지만, 잠재적으로 해가 되는 사용 사례를 점검하는 중대한 단계를 나타낸다고 분석했다.

이번 유럽연합의 규제안은 해외에서 긴밀히 지켜볼 수 있다. 유럽연합 회원국 내에서 AI 제품이나 서비스를 판매하는 모든 기업에 적용되기 때문이다.

AI 규제 옹호 세력은 AI 악용 사례로부터 시민을 보호하기에는 유럽연합이 발의한 법안에 허점이 너무 많다고 주장한다. 브뤼셀에 본거지를 둔 단체인 유럽 디지털 권리(EDRi) 소속 정책 및 캠페인 담당자인 엘라 자쿠보스카(Ella Jakubowska)는 “일종의 금지 규정이 있다는 사실은 긍정적이다”라고 말했다. 그러나 그는 특정 조항 때문에 많은 기업과 정부 기관이 의심스러운 형태로 AI를 사용한다고 지적했다.

일례로 규제안은 법률 집행 기관의 안면 인식을 위한 AI 사용 등 위험성이 높은 AI 애플리케이션 사용을 금지한다. 단, AI가 실시간으로 특정 인물을 찾아낼 때만 적용된다. 해당 조항은 경찰이 최소 징역 3년 이상 선고될 가능성이 있는 범죄 수사를 개시할 때도 잠재적으로 예외를 허용한다.

따라서 자쿠보스카는 AI가 여전히 공교육 현장과 기업, 쇼핑몰, 그리고 수많은 경찰의 심문 조사 등에서 시대를 역행하는 식으로 사용될 여지가 있다는 점에 주목한다. 그는 “근본적인 디지털 권리에 있어, 전혀 권리 보호에 가깝게 이루어지지 않는 관행이 많다. 따라서 더 과감한 입장을 취해야 한다”라고 주장했다.
 
최근 들어 AI가 발전하면서 더 효과적인 수단이 된 안면 인식 기술은 매우 큰 논란을 낳고 있다. 안면 인식 기술은 중국과 미국의 여러 법률 집행 기관 관료가 클리어뷰 AI(Clearview AI)와 같은 상업적 도구를 통해 대대적으로 이용하는 기술이다. 더 나아가 미국의 일부 도시는 대중의 강력한 반발에 따라 경찰의 안면 인식 기술 사용을 금지했다.

유럽연합이 이번에 제시한 규제안은 공공 기관에서 일반적인 목적으로 진행하는 AI 기반 평가와 특정 취약 계층을 대상으로 사용해, 특정 계층의 행동을 심각하게 왜곡하여 심리적 혹은 신체적 피해를 줄 수 있는 AI 시스템 사용도 금지한다. 이 규정에 따라 신용 평가나 채용 혹은 일부 감시 광고와 같은 목적의 AI 사용을 제한한다. 도박 중독 증세가 있는 사용자에게 도박 사이트를 홍보하는 광고를 게재하는 알고리즘 사용 금지가 이에 해당한다.

유럽 규제 당국은 위험성이 높은 AI 애플리케이션을 사용하는 기업에 위험 평가 결과를 제출해, 안전성을 입증하도록 요구할 것이다. 규정을 준수하지 못한 기업은 전 세계 판매 실적의 6%에 해당하는 벌금을 내야 한다.

유럽연합의 규제안은 여러 기업이 AI를 이용해 사용자의 감정을 감지하거나 생체 인증 기능을 사용해 성별과 연령, 인종, 성적 취향, 정치 성향과 같은 요소를 기준으로 사용자를 분류하는 등 기술적으로 애매모호한 목적을 지닌 애플리케이션을 사용할 때, 이를 사용자에게 안내하도록 한다.

로이퍼는 유럽연합의 규정 때문에 특정 지역 내 투자가 위축되며, 유럽연합 회원국과 그 외 다른 국가에 적용될 AI 산업 과정이 다르게 구성될 것이라고 설명한다. 그는 “일각에서는 AI 경쟁이 이루어지고 있다고 말한다. 유럽연합은 대대적인 감시를 가능하게 만드는 AI를 두고 중국과 경쟁해서는 안 된다”라고 주장했다.

2021년 1월에 작성된 규제안의 초안이 얼마 전에 유출됐다. 최종 법안은 상당히 주목할 만한 수준으로 달라졌다. 대표적으로 사용하지 않았다면, 많은 사람의 의견과 의견 형성, 결정을 내리는 데 피해를 줄 일이 없었을 위험성이 높은 AI 시스템을 금지하는 조항이 사라졌다.

해당 규제안은 유럽연합 의회와 유럽연합 위원회를 통과해야 하며, 법률이 승인되기 전에 크게 변할 가능성이 있다. 규제안은 EU 기본권 헌장(EU Charter of Fundamental Rights)과 EU 디지털 관리 법안(EU Digital Governance Act) 등을 포함한 여러 유럽연합 규제 내용과 일치해야 한다. 회원국은 자체적으로 법률을 시행하면서 최종 규정을 도입할 것이다. 이번 규제안은 유럽연합 AI 이사회(EU Artificial Intelligence Board)와 국가 감시 당국을 설립해, 법률 시행 사항을 감시할 것을 제안한다. 그러나 운영 방식과 관련된 구체적인 설명은 없다.

AI는 지난 몇 년간 빠르게 변화했으며, 간혹 그 속도가 지나치게 빨랐다. 다량의 데이터로 학습하는 알고리즘이 주로 획기적으로 발전한 덕분에 다른 요소 중, 각종 기계가 안면 인식 방법과 스스로 운전하는 법, 타깃 광고를 제공하는 법 등을 배우게 됐다. 그러나 AI 알고리즘이 작동하는 방식은 이해하거나 예측하기 너무 어렵다. 또, AI 시스템에 제공되는 데이터는 편견과 차별 문제를 일으킬 수 있다.

구글과 아마존, 페이스북 등 미국 기업과 알리바바와 텐센트, 바이트댄스 등 중국의 테크 업계 거물급 기업 모두 AI를 이용해 큰돈을 벌었다. 그러나 간혹 법률 집행 기관에 안면 인식 기술을 제공하거나 편견을 지닌 채용 알고리즘을 사용하는 등 의문스러운 방식으로 기술을 구축했다.

미국 테크 기업에 법률 자문을 하는 미국 로펌 데비보이스(Debevoise)의 파트너인 아비 게서(Avi Gesser)는 유럽연합의 규제안이 미국 기업에 큰 영향을 미칠 수 있다고 주장한다. 개인정보보호 규정(GDPR) 등 기존에 시행되던 유럽연합의 여러 규제안이 다른 곳의 규제에도 영향을 미쳤기 때문이다.

게서는 “여러 국가의 규제 당국은 일반적으로 AI 규제 도입을 기피한다. 우선, 기술력이 뛰어나고 생각해, 행동을 꺼린다. 또, 혁신에 제약을 가할 것도 우려한다”라고 말했다. 그러나 그는 유럽연합의 규제안 덕분에 다른 국가의 규제 당국이 실제로 특정 행동을 억제할 수 있는 방향으로 AI 규제 및 금지 법안을 더 편하게 도입할 수 있을 것이라고 덧붙였다. 

게서는 규제안이 실제 법률이 되기까지 몇 년이 소요될 것이지만, 궁극적으로 모든 유형의 미국 기업에 영향을 미칠 것이라고 내다보았다. 그는 “모든 광고는 행동을 조작하도록 설계됐다. 이제 용납할 수 있는 대상과 용납할 수 없는 대상을 판단하는 것이 문제가 될 것이다”라고 분석했다.

** 위 기사는 와이어드US(WIRED.com)에 게재된 것을 와이어드코리아(WIRED.kr)가 번역한 것입니다. (번역 : 고다솔 에디터)

<기사원문>
Europe's Proposed Limits on AI Would Have Global Consequences