By TOM SIMONITE, WIRED US

2020년, 구글 인공지능(AI) 연구원 팀닛 게브루(Timnit Gebru)가 “해고됐다”라는 트윗을 게재하자 직원이 근무 기업의 기술의 영향에 의문을 제기할 자유를 둘러싼 논쟁이 점화되었다. 12월 2일(현지 시각), 팀닛 게브루가 책임감 있는 AI 사용법에 대한 의문을 제기하고자 새로운 연구소를 설립했다. 게브루는 구글을 포함한 다른 여러 테크 기업이 책임감 있는 AI 사용 문제를 연구하지 않을 것이라고 주장한다.

이제 DAIR의 창립자 겸 CEO인 게브루는 “한 기업의 내부에서 싸우기보다는 다른 보상 구조를 지닌 독립 연구소 모델을 보여주고자 한다”라고 말했다. 연구소 이름은 서양 출신 백인 남성 비율이 지나치게 높은 쪽으로 왜곡된 대다수 다른 AI 연구소보다 더 우수한 포괄성을 지니면서 그동안 테크 업계에서 거의 대변하지 못한 세계 각지의 인재를 골고루 채용하고자 하는 게브루의 목표를 나타낸다.

게브루는 구글과 다른 여러 테크 기업이 윤리적 문제를 염두에 둔 채로 신규 텍스트 처리 기술을 채택하도록 주의를 촉구하는 연구 논문을 두고 상사와 갈등을 빚은 뒤 갑자기 해고됐다. 구글은 게브루가 퇴사한 것이지 해고된 것은 아니라고 주장했으나 이후 게브루와 윤리적 AI 연구팀을 이끌던 구글 연구원 마가렛 미첼(Margaret Mitchell)도 해고된 뒤 구글이 게브루를 해고한 사실이 확인됐다. 구글은 AI 연구팀이 탐색할 수 있는 주제를 새로이 확인했다. 구글 대변인 제이슨 프레든펠드(Jason Freidenfelds)는 관련 문제에 대한 답변을 거부했으나 와이어드에 구글의 AI 관리 연구 최신 보고서를 전했다. 해당 보고서는 구글이 2018년부터 책임감 있는 혁신을 위해 500편이 넘는 논문을 게재했다는 사실을 주장한다.

구글의 행보는 AI 연구원을 후원하거나 채용해, 매출 창출에 이용하는 AI 기술의 영향을 연구하는 수많은 테크 기업에 내재한 갈등을 강조한다. 2021년 초, AI 기술과 사회의 주요 콘퍼런스 주최 측은 구글의 행사 후원을 취소했다. 게브루는 DAIR가 이전보다 더 자유롭게 AI의 잠재적 단점에 의문을 제기하고, 그동안 대학 연구를 복잡하게 만든 요소인 학계 정책 때문에 부담과 압박을 받을 일이 없다고 말한다.
 
DAIR는 다른 기관과 기업이 개발하지 않을 듯한 AI 연구도 진행할 예정이다. 게브루는 해당 연구 목적이 다른 AI 연구원이 새로운 방향으로 AI를 활용하도록 하는 것이라고 밝혔다. 이와 관련된 한 가지 프로젝트는 남아프리카공화국 항공 이미지 공공 데이터 세트를 생성해, 식민지 시절 인종차별 정책의 잔재가 토지 사용 분할에 미치는 영향을 평가하는 것이다. 앞서 진행된 이미지 분석 결과, 한때 유색인종에게 제한된 인구 밀도가 높으면서 빈곤층 밀집 지역에서 2011년부터 2017년까지 개발된 공터 대부분 부촌 거주지로 바뀌었다는 사실을 확인할 수 있었다.
 
남아프리카공화국 프로젝트 관련 논문은 DAIR가 2021년 12월 중으로 세계에서 가장 저명한 AI 콘퍼런스인 NeurIPS에서 AI 연구계에 공식적으로 처음 등장할 것을 나타낼 예정이다. 남아프리카공화국 출신 DAIR의 초대 연구 펠로인 래세체 세파라(Raesetje Sefala)가 해당 논문의 제1 저자이며, 논문은 외부 기관 연구원과 함께 작성했다.

테크 플랫폼의 사회 형성 방법을 연구하는 UCLA 교수인 사피아 노블(Safiya Noble)이 DAIR의 자문위원 역할을 한다. 노블 교수는 게브루의 프로젝트가 AI가 사회에 미치는 영향 이해와 대응의 진전에 포괄성이 뛰어난 새로운 연구소가 더 많이 필요하다는 사실을 나타내는 사례라고 말한다.

노블 교수는 “흑인 여성은 테크 업계 대기업이 일으킨 피해와 사회에 해로운 다른 여러 기술을 이해하는 데 주로 이바지한 인구 집단이다. 그러나 흑인 여성이 직면한 미국 기업과 학계의 한계를 알고 있다. 게브루는 구글에서 AI의 해로움을 이해하고, 문제 개선에 개입하고자 했다. 하지만, AI의 문제 심층 분석이 절실히 필요한 구글에서 크게 지지받지 못했다”라고 주장했다.

노블 교수는 최근, 에퀴티 엔진(Equity Engine)이라는 비영리단체를 설립했다. 설립 목적은 흑인 여성의 야망 지지이다. 노블 교수는 나이지리아 데단키마티 기술대학교(Dedan Kimathi University of Technology) 강사인 시라 와 마이나(Ciira wa Maina) 덕분에 DAIR 자문위원으로 합류하게 되었다.

현재 DAIR는 비영리단체 CS&S의 프로젝트 기관이지만, 게브루는 향후 DAIR가 권리를 지닌 자체 비영리단체를 설립하고자 한다고 밝혔다. 게브루의 프로젝트는 지금까지 포드, 맥아더(MacArthur), 오픈 소사이어티 재단, 카포센터(Kapor Center) 등을 통해 총 300만 달러가 넘는 지원금을 확보했다. 게브루는 시간이 지나면서 DAIR 자체 연구 관련 컨설팅으로 DAIR의 재정 지원을 다각화하고자 한다.

DAIR는 AI를 광범위하게 비판적인 관점에서 보며 승승장구하는 연구 및 단체에 합류했다. AI가 세계에 미치는 영향을 연구하면서 비판적 관점을 지니기 위한 신규 비영리단체와 대학 센터가 우후죽순으로 등장했다. 대표적인 기관으로 뉴욕대학교 AI 나우 연구소(AI Now Institute), 알고리즘적 정의 동맹(Algorithmic Justice League), 데이터 포 블랙 라이브스(Data for Black Lives) 등을 언급할 수 있다. AI 연구소 소속 일부 연구원은 적절한 알고리즘 사용법을 연구하며, 법률과 사회학 등 다른 분야의 학자는 AI를 비판적인 관점에서 보기 시작했다.

2021년, 백악관 과학기술정책국은 알고리즘 공정성 연구를 진행한 적이 있는 저명한 학자 두 명을 영입했으며, 지금은 AI의 피해로부터 미국 시민을 보호하기 위한 ‘권리장전’ 제정 작업 중이다. 2021년 11월, 연방통신위원회(FTC)는 AI 기술 자문위원으로 AI 나우 연구소 소속 전문가 3명을 채용했다.

시러큐스대학교 바오바오 장(Baobao Zhang) 부교수는 AI 문제 연구와 윤리적 사용 연구가 활발하게 이어지는 방향으로 변화해도 여전히 대중은 AI 발전을 안내할 광범위하게 신뢰할 수 있는 테크 기업을 원한다고 지적한다.

최근, 장 부교수는 AI 연구원과 공공 이익 측면에서의 AI 개발 구상을 신뢰하는 대중을 상대로 설문 조사를 진행했다. 조사 결과, 극명한 차이를 확인할 수 있었다. 대중은 주로 대학 연구원과 미국 군대를 가장 신뢰했다. 테크 기업 신뢰도는 그보다 조금 더 낮았으며, CERN을 비롯한 국제 연구 기관이나 비영리 연구 기관과 신뢰도가 비슷한 것으로 드러났다. AI 연구원의 미군과 특히 페이스북, 아마존을 비롯한 일부 테크 기업 신뢰도는 대중보다 더 낮았다. 그러나 UN과 비정부 과학 기관 신뢰도는 상대적으로 더 높았다.

** 위 기사는 와이어드US(WIRED.com)에 게재된 것을 와이어드코리아(WIRED.kr)가 번역한 것입니다. (번역 : 고다솔 에디터)

<기사원문>
Ex-Googler Timnit Gebru Starts Her Own AI Research Center