본문 바로가기 주메뉴 바로가기 검색 바로가기
미국, AI가 막대한 영향력 지닌 세계에 필요한 것은 ‘권리장전’
상태바
미국, AI가 막대한 영향력 지닌 세계에 필요한 것은 ‘권리장전’
백악관 과학기술 정책실은 대중이 입력한 바와 함께 강력한 첨단 기술로부터 인간을 보호하기 위한 원칙을 고안한다.
By ERIC LANDER, ALONDRA NELSON, WIRED US

지난 10년간 데이터 기반 기술과 함께 세계가 대대적인 변화를 맞이했다. 그동안 다량의 데이터를 수집하고 인공지능(AI)이 수집한 데이터를 해석하도록 훈련했다. 번역 학습을 하는 컴퓨터와 스마트폰 잠금 설정을 해제하는 안면 인식 시스템, 환자의 암 질환 진단을 하는 알고리즘 등 기술 발전 가능성은 무한하다.

그러나 데이터를 기반으로 발전한 각종 첨단 기술로 제작된 새로운 도구는 결과적으로 여러 가지 심각한 문제를 일으키기도 했다. 기계가 학습한 내용은 훈련 과정에서 사용한 데이터 등 많은 요소에 의존한다.

미국 사회를 대변하지 못하는 데이터 세트는 결국 남부 지방의 억양을 이해하지 못하는 음성비서의 탄생으로 이어질 수 있다. 또, 인식 오류와 인종차별적 체포라는 문제를 일으키는 안면 인식 기술과 흑인 환자의 신장 질환 심각성을 실제보다 낮은 수준으로 평가해, 신장 이식 수술을 받지 못하도록 하는 보건 복지 알고리즘도 문제로 지적할 수 있다.

초기 사례를 기반으로 기계를 훈련한다면, 과거의 편견을 심고 오늘날의 차별 문제가 발생하도록 할 수 있다. 기존 직원의 특성을 학습한 채용 툴은 여성 컴퓨터 프로그래머 지원자와 같이 매우 훌륭한 자격을 갖추었어도 기존 직원과 비슷한 특성이 없다는 이유로 입사지원자를 부당하게 탈락시킬 수 있다. 신용 가치를 판단하는 담보 대출 승인 알고리즘은 특정 인종, 빈곤함과 관련성이 있는 우편 번호를 추론하고는 디지털 시대에 수십 년간의 주택 차별 문제를 심화할 수 있다. AI는 보건 복지 서비스가 가장 필요한 이들이 아닌 병원 복지에 가장 자주 접근하는 인구 집단을 위한 의료 지원을 추천한다. AI에 인터넷상의 대화를 마구 훈련한다면, 결과적으로 흑인과 유대인, 동성애자 등과 같은 특정 표현을 감정적으로 분석하는 결과를 낳을 수 있다.

차별 문제를 일으키는 기술은 프라이버시와 투명성에 대한 의문을 낳기도 한다. 스마트스피커에 노래를 재생하도록 명령했을 때, 사용자의 자녀가 하는 말을 녹음하는가? 학생이 온라인 시험을 치를 때, 웹캠이 학생의 모든 움직임을 감시하고 추적해야 할까? 주택담보 대출이나 채용 면접에서 탈락한 이유를 알 자격이 있을까?

게다가 AI를 의도적으로 악용하는 문제도 있다. 일부 독재 국가는 AI 툴을 국가가 지원하는 억압과 분열, 차별 수단으로 악용한다.
 
[사진=Freepik]
[사진=Freepik]

미국에서 일부 실패한 AI가 의도적으로 문제를 일으킨 것은 아니다. 그러나 의도하지 않았더라도 AI 때문에 발생한 문제는 매우 심각하면서 소외계층과 특정 지역사회에 이미 심각한 영향을 미치고 있다. 종종 AI 개발자가 제대로 된 데이터 세트와 종합적으로 감사 시스템을 사용하지 않은 결과로 발생한다. AI 개발 과정에서 최종 완성된 제품을 사용하기 전 문제를 예상하고 해결할 때 다양한 관점에서 문제를 다루지 않은 것도 문제의 원인이다. 혹은 문제를 해결할 수 없는 제품을 없애지 않은 것이 문제의 원인이 되기도 한다.

경쟁이 치열한 시장에서 더 쉽게 문제를 일으킬 수 있다. 그러나 다수에게 피해를 주는 AI 개발을 용납할 수는 없다. 다수에게 피해를 주는 의약품과 차량이나 아동용 장난감, 의료 장비 등 다양한 제품을 제작하는 것을 용납할 수 없는 것과 마찬가지이다.

미국인은 더 나은 것을 기대할 권리가 있다. 강력한 영향력을 지닌 기술은 민주주의적 가치를 존중하고, 모두를 공정하게 대해야 한다는 핵심 원칙을 준수해야 한다. 민주주의적 가치와 평등을 보장할 방법은 관련 규정 마련이다.

미국은 헌법 규정에 공식 합의한 뒤 권리장전을 채택해 강력한 권력을 지닌 정부로부터 시민을 보호했다. 표현의 자유와 집회의 자유, 정당한 절차에 대한 권리, 공정 재판, 부당한 압수수색 보호 등을 모두 하나하나 언급한다. 미국 역사가 이어지는 내내 헌법을 재해석하여 재차 확인하고, 시간에 따라 권리를 확대했다. 21세기에는 인간이 개발한 막강한 영향력을 지닌 기술로부터 인간을 보호하기 위한 권리장전이 필요하다.

미국은 데이터 기반 기술이 존중하리라 기대하는 것으로부터 미국 시민의 권리와 자유를 명확히 밝혀야 한다. 관련 논의가 필요한 것은 확실하지만, 다음과 같이 몇 가지 가능성을 생각해볼 수 있다. 먼저, 개인은 자신의 시민권과 자유에 영향을 미치는 판단에 AI가 영향을 미칠 시기와 방법을 알 권리가 있다. 또, 정확성과 편견 위험성이 없다는 사실, 충분히 모두를 평등하게 다룰 데이터 세트로 훈련한 사실을 보장하기 위한 신중한 감사가 이루어지지 않은 AI가 낳은 문제의 피해에서 벗어날 권리도 있다. 만연하거나 차별적인 감시 행위와 가정, 지역사회, 직장 내 감시에서 벗어날 권리, 알고리즘 사용 행위가 개인에게 피해를 줄 때 의미 있는 해결책을 요구할 권리도 있다.

물론, 모든 권리를 하나하나 언급하는 것은 AI의 위험성에서 인간을 보호하기 위한 첫 단계이다. 그렇다면, AI의 문제에서 인간을 보호하기 위해 인간이 할 수 있는 일은 무엇일까? 연방 정부가 인간의 권리를 존중하지 않는 소프트웨어나 기술 제품 구매를 거부하는 행위나 연방 정부와 계약한 기업에 권리장전을 준수하는 기술을 사용할 것을 요구하는 행위, 권리 보호 수준과 실제 AI가 일으키는 문제 간의 격차를 좁히기 위한 새로운 법률과 규정 채택 등을 언급할 수 있다. 각 주에서도 개인의 권리 보장을 위해 비슷한 관행을 채택할 수 있다.

앞으로 몇 개월간 필자가 이끄는 백악관 과학기술 정책실에서 기술의 문제로부터 개인의 권리를 보호하기 위한 권리장전을 작성할 계획이다. 권리장전 작성 시 미국 전역의 연방 정부와 학계, 시민사회, 민간 부문, 지역사회 등 여러 협력 기관, 전문가와 협력한다.

기술은 모두를 동등하게 포함할 때만 모든 인간을 위해 작동한다. 따라서 권리장전 작성 과정에 모든 이들의 의견을 듣고, 누구나 참여하기를 바란다. 의견이 있다면, ai-equity@ostp.eop.gov로 메일을 보내면 된다.

권리장전 작성은 10월 8일(현지 시각)부터 개인 신원을 확인하고 무언가를 추론하는 안면 인식 기술뿐만 아니라 음성과 신체적 움직임, 몸짓, 심박수 등 모든 것을 인식하고 분석하는 생체 분석 기술 관련 내용부터 다룬다. 생체 분석 기술 문제부터 다루는 이유는 단순히 신원 확인과 감시를 넘어 개인의 감정 상태와 의도까지 추론하기 위해 널리 채택되어 급속도로 발전하는 상황 때문이다. 생체 정보 데이터 수집 및 사용 전문가는 물론이고 비행기 탑승 전 안면 인식 과정을 거치는 여행객, 피로도 감시를 위해 피트니스 트래커를 개발하는 기업 소속 직원, 온라인 강의 소프트웨어를 사용해 수업에 집중하지 않는 학생을 잡아내는 교사 등 기술을 사용하는 모든 이들의 의견을 듣고자 한다.

또, 음성과 행동 분석을 사용할 수 있는 채용 소프트웨어를 사용하는 기업 인사 담당 전문가와 기술을 구매하고 설치하는 IT 전문가와 소비자, 기술을 설계하고 구축하는 데이터 과학자와 소프트웨어 엔지니어, 일상에서 생체 분석 기술을 접하는 모든 이들의 의견을 듣고자 한다. 어떠한 견해든 모든 이들의 의견을 듣고 싶다.

AI가 막대한 영향력을 행사하는 세계에서 권리장전을 작성하기는 쉽지 않지만, 중요한 일이다.

미국은 건국 당시부터 다양한 가치관을 열망하면서 단점을 인식하고 문제를 고치기 위해 노력하는 등 권리 보호를 위한 진전을 거두어왔다. AI도 다양한 가치관 모색과 문제 인식, 개선 노력이라는 표준에 따라 보유해야 한다. 데이터 기반 기술이 반영하고 존중하는 것, 그리고 민주주의적 가치를 보장하는 것은 모든 시민의 손에 달려 있다.

** 위 기사는 와이어드US(WIRED.com)에 게재된 것을 와이어드코리아(WIRED.kr)가 번역한 것입니다. (번역 : 고다솔 에디터)

<기사원문>
Americans Need a Bill of Rights for an AI-Powered World
이 기사를 공유합니다
RECOMMENDED