2021년 4월, 유럽연합 위원회가 인공지능(AI)을 대상으로 한 규제 법안을 공개하자 미국 정치계 인사 대부분이 환호했다. 미국 정치계가 AI 규제 법안을 극찬한 부분적인 원인은 다음과 같은 사실이 깊은 영향을 미친다. 세계 최대 민주주의 국가인 미국은 AI와 기타 급부상하는 기술을 충분히 규제하지 못했으며, 유럽연합 위원회의 AI 규제 법안은 진전을 거둘 사항을 기술했다. 그러나 유럽연합 위원회의 규제 법안과 그에 대한 반응은 민주주의 국가에 발생한 AI 거짓 발언의 혼란을 부각한다.
지난 10년간 고위급 관료가 공식적으로 발표한 AI 규제 관련 목표는 종종 특정 규제 법안과 충돌했으며, 그 최종 결과는 어느 측면에서 보든 분명하지 않은 듯했다. 국가마다 차이가 클 수도 있지만, 세계적으로 매력적이며 민주주의적 방식을 통한 AI 규제가 논리적이면서 의미 있는 진전은 AI가 작성한 글에 존재하는 다수 모순적이면서 명확한 특성을 해결하는 것부터 시작한다.
유럽연합 위원회는 최근의 AI 규제 법안을 AI 규제의 중요한 단계라고 설득했다. 마르그레테 베스타게르(Margrethe Vestager) 유럽연합위원회 집행위원회 부회장은 AI 규제 법안 발표를 두고 “유럽연합 위원회는 AI 규제가 시급하다고 생각한다. 유럽연합 위원회가 세계 최초로 AI 규제 관련 법적 틀을 제시한다”라고 말했다. 유럽연합 위원회의 또 다른 집행위원인 티에리 브르통(Thierry Breton)은 “AI 규제 법안의 목표는 유럽이 연구소부터 시장까지 AI를 훌륭하게 다루는 세계 중심지라는 입지를 강화하면서 유럽의 AI가 인간의 가치관과 규칙을 존중하며, 산업 단위에서의 AI 활용 가능성을 최대한 통제하는 것이다”라고 설명했다.
유럽연합 위원회의 AI 규제 법안이 특히 미국을 비롯해 기업과 정부 기관, 기타 여러 기관 규제 대상 규제가 나아가야 할 방향에서 정체된 여러 국가 정부보다 낫다는 점은 분명하다. AI는 이미 유럽에서 널리 사용되고 있으나 그리스 아테네의 감시 기술이든 스페인 말라가의 버스 운영 체계든 AI 사용 감독과 책임은 최소한으로 이루어지고 있다.
그러나 유럽연합의 AI 규제를 ‘주요’ 규제 역할을 하도록 두는 이유는 그저 법안의 여러 문제를 숨기는 첫 번째 법안이기 때문이다. 이처럼 거짓 발언을 받아들이는 것은 민주주의적 AI 전략에 놓인 첫 번째 당면 과제이다.
[사진=Freepik]
총 108페이지 분량의 여러 ‘특별 사항’ 중, 안면 인식 기술 규제 접근 방식이 특히 중요하다. 안면 인식과 관련, “AI 시스템을 대중적으로 접근할 수 있는 공간에서 법률 집행 목적으로 인간의 ‘실시간’ 원격 생체 인증을 위해 사용하는 것은 기술을 우려하는 개인의 권리와 자유를 크게 침해하는 행위로 볼 수 있다. 개인의 사생활에 영향을 미칠 수 있어, 끊임없는 감시를 받는다는 느낌을 촉발하면서 간접적으로 집회의 자유 및 기타 근본적인 권리를 만류한다”라고 작성됐다. 처음 얼핏 보았을 때, 안면 인식 기술 관련 표현은 안면 인식 기술의 피해가 소외 집단을 대상으로 고통스러운 문제와 함께 심각한 대규모 감시 위험을 촉발할 수 있다는 여러 운동가와 기술 윤리 전문가의 주장을 지지하는 듯하다.
이어, 유럽연합 위원회는 “법률 집행 목적으로 사용하는 안면 인식 기술 시스템을 금지해야 한다”라고 작성했다. 그러나 종합적으로 나열됐으며 좁은 범위에서 정의된 상황 3가지는 예외로 둔다. 이 때문에 법률의 허점을 이용하게 된다.
유럽연합 위원회가 명시한 예외 사항은 유괴를 비롯한 범죄 용의자 수색 상황과 인간의 생명 혹은 신체적 안전 혹은 테러 범죄 관련 명백한 위협이 제기되는 상황, 형사 범죄 가해자 혹은 용의자 발견, 위치 파악, 신원 확인 혹은 기소 상황이다. 모두 좁은 범위에서 정의됐다고 설명하는 유럽연합의 표현은 법률 집행 기관에 무수히 많은 사법권을 부여해, 집행 기관이 원하는 대로 얼마든지 안면 인식 기술을 배치하도록 한다. 범죄 가해자 혹은 용의자 확인 목적의 안면 인식 기술 사용을 허가한다면, 기술 운동가가 오랫동안 경고한 바와 같이 종종 인종차별과 남성우월주의적 성차별을 일으키는 안면 인식 알고리즘을 일종의 차별 용도로 사용하도록 한다는 사실이 명백하다.
유럽연합의 개인정보 감시 기관인 유럽연합 데이터 보호 감독 기구(European Data Protection Supervisor)는 이를 재빨리 활용했다. 유럽연합 데이터 보호 감독 기구는 공식 성명을 통해 “AI가 유례없는 수준으로 발전하자 원격 생체 인증이 심각하면서 비민주적인 침입 위험성이 극도로 높다는 사실을 나타낸 점을 고려하면, 이전보다 더 엄격한 접근방식이 필요하다”라고 발표했다. 비영리단체인 유럽 디지털 권리(European Digital Rights)의 사라 찬더(Sarah Chander)는 미국 온라인 테크 매체 더버지와의 인터뷰에서 유럽연합 위원회의 AI 규제 법안을 “겉치레에 불과한 근본적인 권리 보호”라고 표현했다. 또 다른 전문가는 안면 인식 기술 금지 예외 조건이 표면적으로는 안면 인식 기술 사용을 제한하지만, 실질적으로 광범위하게 안면 인식 기술을 생성하는 미국의 법안 내용을 반영한다는 점에 주목했다.
법률 집행 기관과 보안 기관 모두 안면 인식 기술 사용을 원한다는 점은 의심의 여지가 없다. 이를 근거로 AI 금지 법안 규정의 초안 규정이 이후 완화된 것을 해명할 수도 있다. 프라이버시와 보안 간 대립되는 논쟁은 테크 정책에서 현재도 반복하여 채택되는 거짓된 분열 사례이다. (페이스북이 주장하는 ‘페이스북을 규제하던가 아니면 중국과 경쟁하라’는 주장이나 프라이버시와 사업 경쟁력 간의 대립 논쟁도 포함된다. 미국 프라이버시 규정이 더 나은 방향으로 개선된다면, 미국 기업을 더 신뢰할 수 있는 해외 기업으로 만들 수 없다는 주장처럼 다가온다>)
그러나 AI가 자칫하면 소외 계층에 피해를 줄 수 있다는 오랜 논쟁은 법률 집행 기관이 실질적으로 안면 인식 기술을 사용할 광범위한 권한과 맞물리지 않는다. 이러한 문제와 함께 한 가지 선택이 설명하기에는 너무 매우 광범위하면서 모호하기 때문에 통계적인 접근 방식을 나열한 AI 규제 법안의 AI 정의 등 여러 문제는 세계적으로 다음의 사안이 시급히 필요하다는 사실을 말한다. 바로 민주주의적 기술 법안을 구성하는 요소를 지지하는 추측을 검증하는 것이다. 안면 인식 기술을 광범위하게 사용하는 것이 진정으로 AI 규제의 민주주의적 이상이 맞는가?
테크 업계를 지지하는 여러 단체는 이미 시장 경쟁력을 저하하는 규제 법안을 비판했으며, 일부 관료는 규제 법안이 시장 신뢰도를 높인다고 주장한다. 사회 속 AI의 효과 관련 미묘한 차이를 지닌 모든 연구와 보고에 있어, 겉으로 내세우는 짧은 과장 발언이 지닌 힘은 계속 존재한다. 특히, 실리콘밸리의 테크 업계 대기업이 지닌 위원회에 대한 부정적인 반응을 부각하는 민주주의적 AI 전략을 형성하는 광범위한 문제이다.
2021년 5월 초, 전직 구글 CEO 에릭 슈미트(Eric Schmidt)가 유럽연합 위원회의 AI 규제 법안 관련 자신의 견해를 분명히 밝혔다. 그는 코펜하겐 민주주의 회담(Copenhagen Democracy Summit)에서 “유럽은 지금 많은 부분에서 매우 잘못된 행동을 하고 있다. 간혹 확실한 규제를 하지만, 유럽연합에 가장 중요한 것은 중국의 위협과 미국의 지도력 등과 비교해 유럽의 취약점을 분석하는 것이다. 그리고 더 많은 자금 지원, 더 많은 기업, AI 규제 분야 관련된 유럽의 투자 등과 함께 행동해야 한다. 그렇지 않으면, 유럽은 기본적으로 AI 규제 부문에서 영구적으로 뒤처지게 될 것이다”라고 주장했다.
슈미트의 의견은 미 의회 규제에 저항하는 중국의 경쟁 문제를 두고 미국 테크 업계 대기업이 주장하는 오랫동안 확고하게 이어진 형태와 부합한다. 또한, 미국의 AI 관련 대화를 지지하는 극도로 복잡하면서 모순되는 의견을 반복한다. 그리고, 현재 유럽연합의 규제를 과장된 방식으로 견제하고자 갈수록 과열되는 논쟁에 휘둘리고 있다.
국가 간 무기 경쟁이라는 거짓 발언은 미국 의회에서 이루어지는 AI 논쟁을 완전히 통제한다. 미국 정부와 중국 정부가 군사 목적으로 AI를 개발한다는 내용 등 산발적으로 약간의 사실을 포함한다. 그러나 잘못된 방식으로 구시대적인 냉전 시대의 비유와 같은 틀을 형성하면서 구상해, 특히 미국과 중국 사이의 모든 AI 개발 문제는 승리한 국가가 모든 것을 얻는다는 부정확한 주장을 펼친다. 또한, AI를 단일한 기술이라고 부정확하게 다룬다. 이는 아이폰의 페이스 아이디와 스포티파이의 노래 추천 등 다른 데이터세트 훈련에 의존하여 다른 머신러닝 기법을 적용하는 상황 등 근본적으로 다른 애플리케이션을 다룰 때 문제가 된다. 그런데도 슈미트는 이와 같이 겉으로 드러난 의견을 이용해 유럽연합 위원회의 AI 규제 법안 기반을 비판했다.
필자가 과거에 주장한 바와 같이 민주주의 국가가 말 그대로 단거리에서 최고 속도로 목표물을 저격하는 것과 같은 AI 무기 경쟁에서 반드시 중국을 제쳐야 한다는 주장은 어느 정도 모순된다. 이는 현재, 중국 정부의 AI를 비롯한 디지털 권리 악용 때문에 존재하며, 민주주의 국가가 절대로 향해서는 안 될 최종 목표이다. 미국 정치인은 한술 더 떠 민주주의적 AI 규제가 필요하다고 주장하면서 중국과의 경쟁에서 이겨야 한다는 거짓 발언을 지금까지 채택하고 있다. 여러 테크 기업도 중국과의 경쟁 문제를 무기화하고는 독재 국가의 AI 사용이 민주주의 국가가 아예 강력한 규제를 포기해야만 한다는 의미와 관련된 모호하면서 모순되는 설명에 의존한다.
실질적으로 민주주의 국가가 AI에서 원하는 것, 그리고 AI를 통해 얻고자 하는 바와 관련된 극도로 복잡한 거짓 발언은 규제를 형성(그리고 왜곡)한다.
루시 슈만(Lucy Suchman) 교수가 뉴욕대학교 AI 나우 연구소(AI Now Institute)에 게재한 글에서 주목한 바와 같이 미국의 영향력을 지닌 AI 국가안보위원회(National Security Commission on Artificial Intelligence)는 AI 무기 경쟁이라는 왜곡된 표현을 기반으로 한다. 게다가 AI 국가안보이위원회 위원장이자 알파벳 주주인 에릭 슈미트를 포함, AI 연구와 개발 자금 투자 비용 증가와 관련된 기득권을 지닌 여러 관계자를 기반으로 하기도 한다.
이와 비슷하게 유럽연합 위원회의 AI 규제 법안은 전 세계적으로 복잡하면서 바람직하지 않은 파장을 지닌 자체적인 추측을 지니고 있다. 해당 법안은 ‘사회적 점수 평가’에 사용하는 상황을 포함, AI 사용을 어느 정도 금지한다. 그러나 안면 인식 기술은 광범위하게 정의된 다양한 상황에서 법률 집행 기관이 사용할 수 있다. 소외 집단을 대상으로 고통스러운 문제를 유발하는 피해를 분명하게 기술한 상황이라도 예외 없이 안면 인식 기술을 사용할 수 있다. 마찬가지로 ‘조작된 기술’ 혹은 ‘악용된 기술’ 등을 우려하는 것을 존중할 수는 있지만, 향후 시행될 규정을 통해 정의하고 결과적으로 경쟁을 위해 AI가 필요하다는 기업이 문제를 유발할 수 있다. 유럽연합의 대대적인 규제 영향이 전 세계적으로 존재한다는 사실(기술 규제 포함)을 고려하면, 지금까지 언급된 판단이 중요하다.
이 모든 모순은 전 세계 민주주의 국가의 오랜 AI 규제 여정을 부각한다. 유럽연합 위원회의 집행위원은 규제 법안에서 안면 인식 기술 사용 금지의 광범위한 예외 규정을 삭제해야 한다. 유럽연합의 AI 관련 규정이 나아가야 할 방향은 세계적 표준 설정 효과를 지니게 될 것이다. 그 이후의 법안 초안 검토와 개정이 ‘악용된 AI’와 ‘AI’ 자체를 비롯한 여러 용어를 더 명확하게 표현하기를 바란다.
더 광범위하게 민주주의 국가의 정치인은 민주주의적 AI 전략을 훨씬 더 엄격하게 그 특성을 설명하고 정보를 제공하는 데 이용된 거짓 발언을 조사해야만 한다. 검증 과정은 오늘날 민주주의의 위치와 나아가는 방향, 목표를 위하 메커니즘을 활용할 방식 등을 검토하는 것부터 시작한다. AI 규제 비전에 대한 모순과 미묘한 차이의 부재는 규제와 겉으로만 내세우는 의견 및 대표적 표현 등을 고려하면, 대안을 생성할 어려우면서도 흥미로운 의문점을 제기한다. 소수의 같은 기업 및 AI 규제 문제 해답을 찾기 위한 위원회의 보고를 넘어선 범위를 모색하는 것이 한 가지 시작점이다.
** 위 기사는 와이어드US(WIRED.com)에 게재된 것을 와이어드코리아(WIRED.kr)가 번역한 것입니다. (번역 : 고다솔 에디터)
![[사진=Freepik]](/news/photo/202105/3157_4189_5248.jpg)
뉴스레터 신청