By TOM SIMONITE, WIRED US

지난주, 구글의 유명 인공지능(AI) 연구원 팀닛 게브루(Timnit Gebru)가 구글에서 해고된 사실을 밝혔다. 해고 전, 매니저가 게브루의 논문 작성을 철회하거나 논문 저자에서 게브루의 이름을 삭제할 것을 요청했다. 구글은 게브루가 퇴사했다는 주장을 유지하며, 알파벳 CEO 선다 피차이는 12월 9일(현지 시각), 사내 내부 문서를 통해 게브루의 해고 관련 문제를 조사하겠다고 밝혔다.

게브루의 해고 논란은 AI 분야에서의 테크 기업의 영향력과 권력을 상기시킨다. AI는 구글의 검색 엔진, 아마존의 음성비서 알렉사 등 수익성이 뛰어난 제품의 기반이다. 대기업은 영향력이 있는 논문을 다량으로 게재하고 학술 컨퍼런스 비용을 지원하며, 최고 연구원 영입 경쟁을 펼치면서 대규모 AI 연구에 필요한 데이터 센터를 보유한다. 최근 발표된 어느 한 연구에서 자금 출처를 공개한 유명 대학 4곳의 교직에 있는 교수진 대다수가 테크 업계 대기업에서 지원을 받는다는 결과가 나왔다.

구글에서 객원 연구원으로 근무한 경력이 있는 캘리포니아대학교 버클리캠퍼스 부교수인 벤 레트(Ben Recht)는 자신의 동료 연구원들이 간혹 여러 기업의 이익이 단순히 과학에 대한 열정에서만 오는 것이 아니라는 사실을 망각한다고 지적한다. 그는 “기업 연구는 훌륭하다. 또, 구글의 벨 연구소(Bell Labs)와 PARC에서 놀라운 연구 결과가 나오기도 했다. 그러나 학문 연구인 것처럼 보이는 것이 이상하고, 기업 연구는 다 똑같다”라고 말했다.

샌프란시스코 응용데이터 윤리 센터(Center for Applied Data Ethics) 소속 연구원 알리 알카팁(Ali Alkhatib)은 게브루가 구글에서 받은 대우 때문에 제기된 의문 사항 때문에 자칫하면 구글의 연구 전체가 저해될 수 있다고 말한다. 그는 “구글에서 일어난 일을 언급하기는 위험하다. 많은 사람이 이야기할 수 없고, 뒤늦게 알게 된 뒷이야기가 있을 수 있기 때문이다”라고 언급했다.
 
과거, 마이크로소프트 연구 부서에서 근무한 적이 있는 알카팁 연구원은 기업 연구에 제약이 따른다는 사실을 이해한다고 말한다. 그러나 구글이 자사 연구 집단을 구글의 다른 부서로부터 보호하는 등의 조치로 자사와 외부 연구원에게서 신뢰를 다시 얻는 것이 눈에 보이는 변화를 만들 것으로 생각한다.
 
게브루가 구글을 떠나게 만든 논문은 언어와 관련된 작업을 하는 AI 기술과 관련된 윤리적 문제를 강조한다. 구글의 연구 총괄인 제프 딘(Jeff Dean)은 지난주 공식 발표를 통해, 게브루의 논문이 구글의 논문 발표 기준을 충족하지 못했다고 주장했다.

게브루는 매니저가 자신의 연구 논문이 구글의 사업 이익을 위협한다고 판단했거나 자신이 구글 AI 팀의 다양성 문제를 비판한 것이 해고 사유일 수 있다고 밝혔다. 다른 구글 AI 연구원들도 구글이 내부 논문 검토 과정을 이용해 게브루에게 응징을 하는 모습이 보였다고 공개적으로 발언했다. AI 연구원을 포함해 구글 직원 2,300여 명이 구글에 연구 논문 검토 과정을 위한 분명한 지침을 설립할 것을 요청하는 공개서한에 서명했다.

뉴욕대학교 AI 나우 연구소(AI Now institute)의 연구 총괄인 메레디스 휘태커(Meredith Whittaker)는 구글과 같은 기업이 소속 연구원을 독립적인 학자로 간주하지만, 게브루가 겪은 일은 기업이 학술 규범보다는 최종 수익이라는 결과를 우선순위로 둔다는 사실을 상기하는 계기가 됐다고 말한다. 그는 “잊기 쉬운 사실이지만, 어느 순간이고 기업이 갑자기 연구원의 연구를 중단시키거나 연구를 공공의 이익을 위한 지식의 산물보다는 기업의 홍보 수단 기능을 하도록 만들 수 있다”라고 설명했다.

휘태커는 구글에서 13년간 근무한 뒤 2019년에 퇴사했다. 그는 구글이 사내 성희롱 문제에 항의하기 위한 거리 행진 시위를 주최한 행위 때문에 자신에게 보복하고, AI의 윤리 문제를 제기한 자신의 연구의 중요성을 폄하했다고 밝혔다. 그는 구글과 국방부의 AI 계약 체결 반대를 위한 직원 시위 주최를 돕기도 했다. 이후, 구글은 국방부와 다른 계약을 체결했지만, 시위 이후 국방부와의 AI 공급 관련 계약을 철회했다.

머신러닝은 2012년까지 학계에서 모호한 영역이었다. 당시 구글과 여러 테크 기업이 컴퓨터의 대화, 이미지 인식 능력을 크게 향상한 머신러닝이라는 획기적인 기술에 매우 큰 관심을 두었다.

구글은 페이스북을 비롯한 여러 경쟁사가 경쟁에서 빠르게 따라잡자, 주요 학자들을 채용하고 얻었다. 그리고는 연구원들에게 계속 구글의 시스템과 관련된 논문을 게재하도록 촉구했다. 전통적으로 기밀을 엄격하게 지키기로 유명한 애플도 AI 인재를 모으기 위한 경쟁에서 자사의 연구 부분에서는 더 개방적인 태도를 약속했다. 기업 연구원 저자가 작성한 논문과 기업 소속 참가자들이 AI 업계의 주요 논문 발표 공간인 컨퍼런스에 대거 등장한다.

이번 주, 가상으로 열리는 대규모 머신러닝 컨퍼런스인 신경정보처리시스템학회(NeurIPS)의 참가지 수는 2012년 2,000명 이하였으나 지난해 1만 3,000여 명 이상으로 증가했다. NeurIPS는 지난 몇 년간 박사 연구원을 모으기 위해 저녁 식사와 파티에 아낌없이 막대한 비용을 지출하며, 테크 업계 대기업의 인재 채용팀이 연구원을 물색하기 적합한 장소가 됐다.

2020년 7월에 발표된 어느 한 논문에서 알파벳과 아마존, 마이크로소프트가 2004년부터 2018년까지 교직에 있는 AI 교수 52명을 채용했다는 사실이 공개됐다.

기업 AI 연구는 주기적인 테크 업계 대기업의 홍보 전략이 됐다. 레트 부교수는 간혹 대기업의 홍보 전략이 연구원들 사이에서 어떤 연구가 명성을 얻는지를 왜곡하며, 크게 주목을 받는 위치에 있는 유명 논문에 영향력을 행사해, 실제로는 중요한 논문 게재 가치가 없었던 기업의 작업을 받아들이도록 한다고 설명한다. 그는 데이터베이스와 그래픽 등 컴퓨팅 분야의 다른 영역도 기업의 영향력에 좌우되기 쉽다고 덧붙여 전했다. 업계와 컨퍼런스에서의 학술 연구를 위한 별도의 트랙을 생성하는 방식이 대표적인 예시이다.

과거, 구글에서 AI의 공공 관계 관련 업무를 했던 윌리엄 피츠제럴드(William Fitzgerald)는 자신이 근무하던 부서에서 일상적으로 기업 연구원에게 새로운 연구에 대한 설명을 들었다고 말한다. 그는 “간혹 구글이 자사를 더 분명하게 드러내고 과시하고자 한다. 또, 연구원이 무언가를 발표하면, 내가 ‘이런 연구를 해서는 안 된다’라고 연락을 해야 하는 때도 있었다”라고 밝혔다

레트 부교수는 이번 주, 자신이 공동 저자로 이름을 올린 논문 덕분에 NeurIPS에서 화상 회의를 통해 ‘이 시대의 테스트(Test of Time)’ 상을 받았다. 그는 “기업 컨퍼런스는 여전히 형편없다”라고 적힌 티셔츠를 입었다.

레트 부교수와 다른 전문가들은 기업의 과장을 우려하며, 업계 AI 연구 때문에 각종 프로젝트에 대한 비과학적 수정이 대가업의 데이터 센터에 접근할 수 있는 이들만이 가능하게 됐다. 이번 주, NeurIPS에서 발표한 수상 명단 중에는 수익을 위한 AI 연구소인 오픈AI(OpenAI)의 언어 모델인 GPT-3도 포함됐다. GPT-3은 유창한 언어 구사 능력을 자랑하지만, 오픈AI는 마이크로소프트에 맞춤형 슈퍼컴퓨터 제작을 위한 비용을 지불해야만 GPT-3을 만들 수 있다.

앨런 AI 연구소(Allen Institute for AI) 소속 박사후 연구원인 제스 도지(Jesse Dodge)는 GPT-3 프로젝트 자체는 인상적이지만, 학문적 가치는 제한적이라고 말한다. GPT-3의 생성에 포함된 자원은 누구나 접근할 수 없고, 대기업만 복제할 수 있기 때문이다. 오픈AI는 마이크로소프트와 손을 잡고 GPT-3을 상용화하며 GPT-3 모델 접근 권한을 판매하고 있지만, GPT-3을 공개하지 않았다.

도지 연구원은 “GPT-3 상용화 과정은 과학계 규범에 어긋난다. 과학계에서 연구원들은 일반적으로 널리 채택된 모델을 공개하고, 시간이 지나면서 추가적인 부분을 평가한다”라고 설명했다. 그는 컨퍼런스 주최 측이 더욱더 신중하게 수상 내역을 활용하고, 지속적인 과학적 이점을 제공할 수 있는 정의된 기준에 대한 작업을 강조할 것을 제안한다.

오픈AI는 컴퓨터 분야의 권력 발전이 지속되는 것은 주로 새로운 AI 개발을 타인이 복제할 수 있음을 의미한다고 언급했다.

게브루의 예기치 못한 해고 사유가 된 논문은 AI 개발자에게 언어를 처리하는 강력한 AI 시스템 구축 과정에서 더 신중한 태도를 지닐 것을 요청한다. AI 언어 모델의 능력이 향상됐지만, 온라인에서 학습한 여러 고정관념을 반복하는 경향을 보였기 때문이다. 게브루는 구글에서 AI 연구의 윤리적 여파를 연구하던 유명 연구팀 소속 공동 대표이다. 구글은 게브루 팀의 연구를 구글이 경쟁사보다 AI에 대해 깊이 생각한다는 증거로 홍보했다.

휘태커는 AI의 사회적 영향을 제대로 평가하는 것은 근본적으로 AI 연구소와 함께 존재할 수 없다고 말한다. 그는 “AI의 권력과 정치적 요소를 조사하는 종류의 연구는 AI로 이익을 얻는 기업과 본질에서부터 상반된다. 기업이 AI 연구에 함께 개입하고자 한다면, 연구원과 기업 간 마찰은 불가피하다”라고 설명했다.

게브루는 12월 11일(현지 시각), 기업 AI 프로젝트 때문에 발생한 긴장감을 생각하는 NeurIPS 워크샵에서 발표할 예정이다. 레지스턴스 AI(Resistance AI) 웹사이트는 AI 연구가 각국 정부, 그리고 기업의 손에 주어진 권력에만 집중하고 소외된 지역사회에는 집중하지 않았다는 사실에 주목한다. 안건은 게브루의 지위가 최근, 구글 윤리 AI 연구팀의 공동 대표가 아닌 대중적인 존경을 받는 AI 연구원으로 바뀐 사실이다.

** 위 기사는 와이어드US(WIRED.com)에 게재된 것을 와이어드코리아(WIRED.kr)가 번역한 것입니다. (번역 : 고다솔 에디터)

<기사원문>
The Dark Side of Big Tech’s Funding for AI Research