By MORGAN MEAKER, WIRED US

2023년 12월 8일(현지 시각), 유럽연합이 인공지능(AI) 개발자와 사용자를 대상으로 한 포괄적인 규정 마련을 위해 제정되는 AI법(AI Act)의 상세 규정에 동의했다. 유럽연합 내 많은 국회의원은 AI법 상세 규정 동의가 전 세계의 AI 규제를 위한 청사진을 형성하는 중대한 순간이 되기를 바란다.

오픈AI와 같은 기업 규제 방안을 두고 몇 개월 동안 논의를 이어간 끝에 유럽연합의 주요 정부 기관 세 곳인 유럽의회와 유럽연합 이사회, 유럽연합 집행위원회가 2023년 12월 6일 오후부터 8일 저녁까지 총 36시간이 넘는 시간을 들여 AI법 상세 규정 확립을 위한 합의에 도달했다. 그동안 국회의원은 2024년, 유럽연합 의회 선거 유세 운동 시작 전까지 AI 법안 협상을 완료하라는 압박을 받았다.

우르줄라 폰 데어 라이엔(Ursula von der Leyen) 유럽연합 집행위원회 위원장은 X(구 트위터)에 “유럽연합의 AI법은 세계 최초로 AI를 규제하는 법률이다. 누구나 신뢰할 수 있는 AI 개발을 위한 독특한 법적 틀이다. 또, 개인과 기업의 안전, 근본적 권리를 위한 법률이기도 하다”라고 게재했다.

하지만 AI법 자체는 세계 최초 법률이라고 보기 어렵다. 2023년 8월, 중국의 생성형 AI 관련 신규 법안이 발효됐다. 그러나 유럽연합의 AI법은 AI와 같은 기술을 대상으로 가장 광범위한 영역에 적용되는 규정을 확립한 법률이다. AI법에는 성적 취향, 인종 등 민감한 특성을 이용한 신원 확인 목적의 생체 시스템 사용 금지 규정과 인터넷에서 개인 얼굴 사진을 무차별적으로 수집하는 행위 금지 규정 등이 포함됐다. 유럽 국회의원은 법률 집행 기관이 특정 범죄 수사 목적으로 공공장소에서 생체 신원 확인 시스템을 사용할 수 있어야 한다는 점에 동의했다.

유럽연합 의회 소속 의원이자 AI법 조항 협상을 이끈 공동 대표단 2명 중 한 명이었던 드래고스 투도라치(Dragos Tudorache) 의원은 “오픈AI의 AI 챗봇인 챗GPT의 근간이 되는 GPT-4와 같은 범용 AI 모델을 대상으로 한 새로운 투명성 요구사항과 매우 강력한 AI 모델을 다루는 규정을 마련하고, 유럽연합에서 조직적인 위험성을 일으키지 않도록 보장한다”라고 설명했다.
 
AI법 규정을 준수하지 않는 기업은 전 세계 매출 최대 7%를 벌금으로 부과받는다. AI 금지 규정 적용은 6개월, 투명성 요구 사항은 12개월 뒤 발효된다. AI법 전체 규정은 약 2년 뒤 시행된다.

생성형 AI에 맞서 수월한 저작권자의 권리 보호와 범용 생성형 AI 시스템의 에너지 사용량 투명성 강화 규정도 AI법에 포함되었다.

8일 밤(현지 시각), 티에리 브르통(Thierry Breton) 유럽연합 집행위원회 위원장은 “유럽은 스스로 AI 규제 부문의 선두자라는 입지를 다지고, 전 세계 AI 규제 표준 설정이라는 역할의 중요성을 이해한다”라고 말했다.

지난 2년간 유럽연합 국회의원은 최근 합의된 AI법 규정과 두고 협상을 진행해 왔다. 그리고 AI 기술과 AI 관련 핵심 우려 사항은 급격히 바뀌었다. 2021년 4월, AI법 제정을 생각했을 당시 정책 입안자 사이에서는 취업에 성공할 입사지원자, 난민 자격 취득자, 사회 복지 수당 수급 자격자 등을 결정하는 불분명한 알고리즘을 우려했다. 하지만 이듬해 AI가 수많은 시민을 대상으로 적극적으로 피해를 일으킨다는 사례가 제시됐다. 일례로, 네덜란드에서는 알고리즘의 의사 결정이 특정 가족과 아동의 강제 분리와 관련되었다는 파문이 발생했다. 또, 원격 강의를 수강한 학생은 AI 시스템이 학생의 피부색을 기준으로 차별한다는 의혹을 제기했다.

2022년 11월, 오픈AI가 챗GPT를 출시하면서 AI 문제 논의 방향이 급격히 변했다. AI의 유연성과 인기가 급상승하자 AI와 핵무기를 비교한 일부 AI 전문가는 생성형 AI에 대한 경각심을 제기했다. 

생성형 AI의 잠재적 위험성 논쟁은 브뤼셀에서 진행된 AI법 규정 협상 도중 강화됐다. 논의는 챗GPT와 같은 이른바 근간이 되는 AI 모델 개발사인 오픈AI, 구글 등도 잠재적 문제 대상으로 고려하고, 그에 따른 규제가 필요한가 혹은 근간이 되는 AI 모델을 사용하여 챗봇, 이미지 생성 프로그램 등 새로운 AI 기반 애플리케이션을 개발하는 기업만 규제 대상으로 초점을 맞추어야 하는지 대화가 이루어졌다.

유럽의 생성형 AI 업계 대표는 AI의 근간이 되는 모델 규제에 신중한 태도를 보이면서 유럽연하의 AI 스타트업 혁신을 막을 수 있다고 지적했다. 2023년 11월, 프랑스 AI 기업 미스트랄(Mistral) CEO 아더 멘쉬(Arthur Mensch)는 “엔진이 전혀 없는 사용 사례를 규제할 수 없다. 예를 들어, 멀웨어 개발에 악용할 수 있다는 점에서 프로그래밍 언어인 C를 규제하지 않는다. 대신, 멀웨어를 금지한다”라고 말했다. 미스트랄의 근간이 되는 AI 모델 7B는 AI법 규정의 금지 대상에서 제외된다. 스페인 디지털 및 인공지능장관 카르메 아르티가스(Carme Artigas)는 기자간담회에서 7B가 규정 적용 대상이 아닌 이유로 여전히 연구, 개발 단계에 있기 때문이라고 설명했다.

늦은 밤 두 차례 진행된 AI법 규정 최종 논의 도중 두 차례 중대한 합의 실패 사항 중에는 법률 집행 기관의 안면 인식 기술 혹은 기타 생체 데이터를 이용한 실시간 혹은 회고적 개인 신원 확인 허용 여부도 있었다. 디지털 권리 단체 액세스나우(Access Now) 수석 정책 애널리스트 다니엘 로이퍼(Daniel Leufer)는 “안면 인식 기술과 신원 확인 목적의 생체 데이터 사용 행위 모두 공공장소에서의 익명성을 파괴한다”라고 말했다. 실시간 생체 신원 확인 과정은 실시간 보안 카메라 피드를 이용하여 기차역에 서 있는 승객의 신원을 확인할 수 있다. 또, 실시간 혹은 회고적 생체 신원 확인 혹은 기존에 보관한 이미지나 영상을 이용해 기차역, 은행, 슈퍼마켓 등에 하루 전 방문한 시민의 신원을 모두 찾아낼 수 있다.

로이퍼는 최종 결정된 AI법을 구축한 것으로 나타난 법률 집행 기관의 허점에 실망했다고 밝혔다.

유럽 규제 기관이 급부상하는 SNS 시대에 늑장 대응을 한 사실도 논의 대상으로 드러났다. 페이스북 출시와 온라인에서의 인권 보호를 골자로 한 유럽연합 법률인 디지털 서비스법(Digital Services Act) 통과로 시행되기까지 20여 년이 걸렸다. 당시 유럽연합은 미국 플랫폼이 일으킨 문제를 다룰 수밖에 없는 상황이었으며, 비교적 더 규모가 작은 유럽의 경쟁사를 육성할 수는 없었다. 유럽연합 의회 협상단 대표 중 한 명인 브랜도 베니페이(Brando Benifei)는 2023년 7월, 와이어드와의 인터뷰 당시 “유럽연합이 더 이른 시점에 규제를 시행했다면, 문제를 막을 수 있었을 것이다”라고 말했다. AI 기술은 빠른 속도로 변한다. 그러나 AI법이 실리콘밸리의 최신 기술을 규제 대상에 제대로 포함할 때까지 수년이 걸릴 것이다.

** 위 기사는 와이어드US(WIRED.com)에 게재된 것을 와이어드코리아(WIRED.kr)가 번역한 것입니다. (번역 : 고다솔 에디터)

<기사원문>
The EU Just Passed Sweeping New Rules to Regulate AI