By TOM SIMONITE, WIRED US

지난달, 구글 인공지능(AI) 연구원 팀닛 게브루(Timnit Gebru)는 수석 매니저에게서 우려스러운 소식을 들었다. 수석 매니저는 게브루가 공동 저술한 논문에서 게브루의 이름 등록을 취소하거나 아예 삭제하도록 요청했다. 내부 검토 과정에서 불쾌한 내용이 발견된 것이 그 이유였다.

게브루의 논문은 최근, AI 기술이 발전하면서 언어 문제와 함께 제기된 각종 윤리 문제를 논의한다. 구글이 향후 자사의 사업에서 중요한 부분이라고 밝힌 문제이다. 게브루는 자신의 논문 작성 과정에 학문적 특성이 없다는 이유로 거부당했다고 주장한다. 12월 2일(현지 시각), 게브루가 해고당했다. 구글 대변인은 게브루가 해고된 것이 아니라 사임한 것이라고 주장했으며, 그에 대한 자세한 내용을 추가로 밝히는 것을 거부했다.

그러나 게브루가 12월 2일 밤에 게재한 다수 트위터 게시글은 구글과 최고 명문대학 및 마이크로소프트나 칩 제조사 엔비디아 등 여러 다른 곳의 AI 연구원들에게서 순식간에 수많은 지지를 얻었다. 많은 이는 구글 CEO 선다 피차이가 구글의 사업에서 지지하는 중요한 분야에서 구글의 명예가 실추됐다고 말한다. 12월 4일(현지 시각), 구글 직원 200여 명이 구글에 게브루의 논문 검토 과정을 상세히 밝히고, ‘연구의 무결성과 학문적 자유’를 약속할 것을 요구하는 공개서한에 서명했다.

이번 논란은 인간과 AI 개발 과정에서의 윤리적 결과 간의 긴장 관계와 함께 주요 AI 연구원 다수가 AI의 수익 창출 잠재력 때문에 기업에서 제대로 재정적 지원을 받지 못한다는 사실을 부각했다. 게브루는 윤리와 기술의 사회적 영향을 고려하는 최근의 AI 연구 운동에서 유명 인사이다. 그는 구글의 AI 연구 집단 내 윤리 연구에 전념할 수 있는 소규모 컴퓨터 과학자 및 사회 과학자 팀을 조직하고 이끌어 가는 데 도움을 주었다.
 
게브루는 구글과 AI 윤리 연구를 하던 이들에게서 AI 윤리 연구의 미래와 관련된 자신의 업무에 대한 성과를 거부당했다고 주장한다. 그는 “구글에 기쁨을 안겨줄 AI 윤리 연구 관련 논문에 이름을 올릴 수 없다는 말을 들었다. 이는 연구원이 되는 것과는 상반되는 의미이다”라고 말했다.
흑인 여성인 게브루는 자신이 구글 내부에서 직원의 다양성이 존재하지 않는다는 문제를 주장했던 점과 소수민족인 직원에 대한 처우도 자신이 거부당한 사유에 해당할 것으로 의심한다. 구글 직원은 최근 몇 년 동안 구글의 여성과 소수민족에 대한 처우 문제, 그리고 AI 기술의 윤리성에 대한 구글의 입장 때문에 시위를 벌이며, 거리에 나섰다.

게브루가 순식간에 해고당한 소식이 알려진 때, 연방노동관계위원회는 구글이 지난해 노조 집단구성에 관여한 직원 두 명을 부당해고 했다고 발표했다. 그중 한 명은 12월 2일, 게브루를 지지한다는 트위터 게시글을 올리며, 연방노동관계위원회에서 “게브루가 겪은 일”을 알기를 바란다는 의견을 밝혔다. 

2018년, 구글에 입사하기 전 게브루는 ‘젠더 쉐이즈(Gender Shades)’라는 프로젝트에서 MIT 연구원 조이 부올람위니(Joy Buolamwini)와 함께 연구했다. 그는 젠더 쉐이즈를 통해 IBM과 마이크로소프트의 안면 인식 기술이 백인 남성의 얼굴 인식 정확도는 매우 높지만, 흑인 여성의 얼굴은 정확히 인식하지 못한다는 사실을 밝혀냈다. 이를 계기로 미국 국회의원과 기술 전문가 모두 다양한 인구 집단에 따른 안면 인식 기술의 정확도에 의문을 품고, 테스트를 진행했다. 그리고, 마이크로소프트와 IBM, 아마존이 올해 안면 인식 기술 판매 중단을 발표하는 데 기여했다. 게브루는 AI 연구에 기여하는 연구원의 다양성을 늘리기 위한 목적으로 ‘흑인도 인공지능에 포함돼야 한다(Black in AI)’라는 이름의 영향력을 지닌 컨퍼런스를 공동 창립했다.

게브루가 최근의 AI 언어 소프트웨어 발전과 함께 제기된 윤리 문제를 논의한 논문을 위해 구글 안팎의 여러 연구원과 협력할 때, 게브루가 구글을 떠나기 시작했다.

연구원들은 방대한 범위의 온라인 텍스트를 훈련한 거대 머신러닝 모델을 생성하면서 문자 생성 및 답변과 관련된 문제에서 진전이라는 성과를 거두었다. 구글은 머신러닝 모델 덕분에 큰 이익을 거두었으며, 인물 검색 엔진이 향상됐다고 밝혔다. 그러나 연구원들은 이처럼 더욱더 강력한 모델을 생성하기 위해 엄청난 양의 전기가 소요된다는 사실도 보여주었다. 거대한 컴퓨팅 자원이 필요하며, 여러 모델이 온라인에서 발견한 성별, 인종에 따른 언어적 편견을 따라 할 수 있다는 사실을 문서화해야 하기 때문이다. 

게브루는 자신의 논문 초안이 기술 발전에 필요한 비용 및 자원 문제를 다루었으며, 언어 모델 생성에 사용하는 데이터 문서화와 같은 기술 사용의 책임을 촉구했다고 주장한다. 그는 수석 매니저가 게브루와 다른 구글의 논문 저자들의 이름이 논문에서 이름 등록이 취소되거나 아예 취소될 수 있다는 입장을 고수하면서 곤란한 상황에 부닥쳤다. 특히, 수석 매니저가 초인 검토에 사용된 과정을 알 수 없었을 때 매우 난처한 상황에 놓이게 됐다. 게브루는 “나를 비롯한 구글의 연구원들이 검열당하는 것과 같은 느낌을 받았으며, AI 윤리 연구 전체에 영향을 미치리라 생각했다”라고 밝혔다.

게브루는 논문 문제를 극복할 수 있도록 수석 매니저를 설득하지 못했다. 수석 매니저는 게브루의 이름을 삭제하겠다는 태도를 유지했다. 12월 1일(현지 시각), 게브루는 이메일로 다음과 같은 제안을 받았다. 만약, 게브루가 논문과 관련된 일을 완벽히 설명하고, 연구팀이 향후 연구를 공정하게 다루는 과정에 동의해 관리한다면, 게브루의 이름을 논문 저자에서 삭제한다고 제안했다. 그렇지 않다면, 게브루는 구글을 떠나야 하며, 대신 구글과 관계없이 논문을 게재할 수 있는 권한을 얻게 된다는 조건을 전했다.

이에 게브루는 구글의 AI 연구 집단에 매니저들의 다양성 향상 시도가 효과가 없었다고 말하는 내용의 메일을 전송했다. 그는 언어 논문을 둘러싼 논쟁을 구글 매니저들이 소외된 집단의 직원이 입을 열지 못하게 막는 사례로 언급했다. 12월 3일(현지 시각), 실리콘밸리와 민주주의 관련 소식을 다루는 웹사이트 플랫포머에 게브루의 메일 사본이 게재됐다.

12월 2일, 게브루는 구글 측에서 자신이 퇴사했으며, 이를 구글이 받아들였다는 내용의 보도 사실을 알게 됐다. 그리고, 구글 계정이 비활성화된 점도 확인했다.

매니저가 게브루의 개인 메일 주소로 보낸 메일에는 ‘구글 매니저의 기대를 충족하지 못하는 행동’이 반영된 메일을 전송했다는 이유로 즉시 구글을 떠나야 한다고 작성됐다. 게브루는 트위터에 이를 올렸으며, 온라인상에서 AI 연구원들의 집단적인 분노를 불러일으켰다.

구글 직원을 포함한 많은 이들이 구글을 비판했다. 동시에 구글이 AI 연구 직원 다양성에 해를 입힌 단 한차례의 큰 파장을 불러일으킨 행동과 함께 다양성 향상을 지지한다는 명성을 잃은 점에 주목했다. 게브루는 자신이 해고와 같은 처우를 받게 된 부분적인 이유가 과거, 다양성 문제와 소외된 집단에 대한 구글의 처우에 대해 노골적으로 발언한 일 때문이라고 의심한다. 그는 “우리는 항상 다양성 문제를 대변해왔지만, 구글 리서치(Google Research)에는 흑인 직원이 거의 없었다. 그리고, 지도자 직급에는 흑인이 전혀 없다”라고 말했다.

12월 3일, 구글의 연구 총괄인 제프 딘(Jeff Dean)은 구글 연구원에게 메일을 통해 게브루의 논문은 게재 기준을 충족하지 않았으며, 게브루는 구글이 요구한 뒤에 내부 검토용으로 논문을 제출했다는 주장을 펼쳤다.

그의 주장에는 논란이 된 게브루의 논문이 구글 매니저를 지나치게 부정적으로 인식했다는 점도 드러났다. 딘은 게브루의 논문이 거대 AI 모델이 환경에 미치는 영향에 대해 논하면서 더욱 효율적으로 AI 모델을 생성할 방법은 제시하지 않으며, 문제를 완화하지 않은 상태에서 편견을 지닌 언어에 대한 우려를 제기한다는 점도 주장했다. 일부 구글 AI 연구원들은 딘의 논란이 되는 메일의 특성을 트위터에서 밝혔다. 어느 한 연구원은 딘이 “거짓 정보와 오해”를 확산한다며, 딘을 비난했다. 또 다른 연구원은 딘의 논문은 민감 정보 공개 여부만 내부적으로 검토 받았을 뿐, 논문에서 인용한 부분은 검토받지 않았다는 사실을 알아냈다. 해당 논문은 구글의 독립적인 학문 컨퍼런스에서 공동 심사 과정을 거치고 있으며, 어떤 형태로든 게재될 수 있다.

딘의 개입은 게브루의 명분에 공감하는 일부 AI 연구원의 분노를 자극했다. 바로 모든 테크 기업이 추구하는 최고 AI 인재를 유지하고 채용할 수 있는 구글의 능력에 해를 끼칠 수 있는 것과 관련이 있다.

과거, 알파벳의 런던 AI 연구소 딥마인드에서 근무한 적이 있는 유니버시티 칼리지 런던의 명예 부교수 줄리엔 코네비스(Julien Cornebise)는 “논문 검열 문제를 배제하고 보아도 연구원을 해고한 방식이 매우 끔찍하다”라고 말했다. 코네비스는 게브루의 딱한 처지에 대해 구글 직원을 비롯한 여러 AI 연구원과 대화를 나누었다. 그는 “AI 연구원들 사이에서 믿을 수 없다는 감정과 경악, 커다란 분노 모두 존재한다”라고 전했다.

** 위 기사는 와이어드US(WIRED.com)에 게재된 것을 와이어드코리아(WIRED.kr)가 번역한 것입니다. (번역 : 고다솔 에디터)

<기사원문>
A Prominent AI Ethics Researcher Says Google Fired Her