By KHARI JOHNSON, WIRED US

인공지능(AI) 분야에서 다양성 향상을 위해 집중되는 세 집단이 더는 구글의 자금 지원을 받을 수 없을 것이라고 말한다. 5월 10일(현지 시각) 발표된 합동 성명에서 블랙 인 AI(Black in AI)와 퀴어 인 AI(Queer in AI), 그리고 와이드닝 NLP(Widening NLP)라는 세 단체는 흑인 성 소수자 여성인 구글의 전 직원 에이프릴 크리스티나 컬리(April Christina Curley)에 대한 처우는 물론이고, 전직 AI 윤리 팀 지도자 팀닛 게브루(Timnit Gebru)와 마가렛 미첼(Margaret Mitchell)에 대한 구글의 처우를 항의하기 위해 행동할 것이라고 발표했다.

합동 성명서에는 “AI 기술이 우리 공동체 구성원에게 특히 피해를 줄 수 있다는 가능성이 암울하다. 구글이 지난 몇 달간 보인 행동은 우리 공동체 전체에 걸쳐 여러 차례 반복된 매우 심각한 피해를 초래했다. 단순히 피해를 주었을 뿐만 아니라 우리 공동체 내 허용되는 연구와 옹호, 보복 조치의 유형과 관련해 위험한 선례를 만들었다”라고 적혀있다.

공식 성명에는 블랙 인 AI와 퀴어 인 AI, 와이드닝 NLP 모두 2021년 3월, 구글의 전, 현직 직원이 구글의 자금 지원을 거부하기 위한 학술 콘퍼런스와 AI 연구계에서 내부 고발자 보호 강화 시행을 위한 정책 수립을 촉구한 것 모두 승인했다.

이번 사례와 함께 세 기관 모두 짧은 역사상 최초로 후원 기업의 자금 지원을 거부했다.

5월 10일 자 공식 발표는 구글의 흑인과 여성 처우에 반대하는 대응이자 학술 콘퍼런스에서 논문 게재를 두고 강력한 비판을 받은 AI 연구 논문에 개입한 사실 비난을 나타낸다.
 
2021년 3월, 공정성과 책임감 및 투명성(FAccT) 콘퍼런스는 구글의 자금 지원을 거부했으며, AI 연구원 루크 스타크(Luke Stark)도 구글의 지원금 6만 달러를 거부했다. 퀴어 인 AI 창립자인 루카 솔다니(Luca Soldaini)는 와이어드와의 인터뷰에서 2020년, 구글에게서 2만 달러를 지원받았다고 밝혔다. 같은 시기에 와이드닝 NLP는 구글에게서 1만 5,000달러를 받았다.

와이드닝 NLP 공동 의장인 산드라 스코필드(Xandra Schofield)는 2017년, 더 많은 여성의 AI 업계 진출이라는 목표와 함께 설립됐으며, 이번 합동 성명에 서명할 필요가 있다고 느낀 사실을 알려주었다. 그 이유는 구글의 행동이 그룹의 유례없는 연구원 지원이라는 임무와 일관성이 없었기 때문이다. 와이드닝 NLP는 미첼이 공동 설립한 기관이다. 와이드닝 NLP의 또 다른 공동 의장인 헤일리 렙(Haley Lepp)은 “여러 학자를 지원하면서 연구도 함께 지원하고 싶다. 그리고, 학자의 연구 능력은 AI의 효율성에 매우 중요한 요소이다”라고 주장했다.

블랙 인 AI와 퀴어 인 AI, 와이드닝 NLP와 같은 여러 공감 단체는 이전에 머신러닝 연구계가 대변하지 않았던 이들을 보호하고자 설립된 비영리 단체이다. 이러한 비영리 단체는 머신러닝 콘퍼런스와는 별도로 운영하지만, 참석자가 가장 많은 워크샵이나 사회적 행사로 최대 수백 명을 모을 수 있다. 최근 몇 년간 장애인과 유대인, 이슬람 신자를 보호하고자 여러 공감 단체가 형성됐다.

솔다니가 밝힌 바에 따르면, 퀴어 인 AI는 이름을 바꾼 뒤, 새로 논문을 개제하고자 하는 트랜스젠더 연구원과 성 정체성이 불확실한 연구원을 찾는 구글 스칼라(Google Scholar)의 접근을 거부했다.

솔다니는 “이미 성 소수자 처우 관련 끔찍한 경험을 했다. 그리고, 구글은 매우 끔찍한 경험을 안겨주었다”라고 말했다. 그리고, 구글의 이름 변경 문의는 종종 어떠한 반응도 얻지 못한다고 덧붙였다.

게브루는 블랙 인 AI의 공동 창립자이다. 게브루가 구글이 자신을 해고 사유가 됐다고 주장한 연구 논문은 대규모 언어 모델이 소외된 집단에 가하는 위험성을 설명하며, 결과적으로 게브루가 블랙 인 AI의 구성원임이 드러났다. 최근, 구글이 플래티넘 후원사로 이름을 올린 국제 학회인 ICLR에서 게브루는 학자에게 머신러닝 콘퍼런스에 제출돼, 변호사가 편집한 논문 검토를 거부하도록 독려했다.

게브루는 “학자는 자신이 확신하는 바를 제한해서는 안 된다. 확신하는 바를 꾸준히 주장해야 한다. 이는 의도에 대한 것이 아니다. 권력과 관련이 있는 부분이다. 다국적 협력은 매우 큰 힘을 지니고 있어, 규제가 필요하다”라고 주장했다.

캘리포니아대학교 버클리캠퍼스 전자공학 및 컴퓨터 과학부 최초의 흑인 교직원이 될 블랙 인 AI 공동 창립자 레디엇 아베베(Rediet Abebe)는 2020년, 구글의 자금 지원을 받지 않고 AI 연구에서 구글이 지닌 장악력을 줄이기로 다짐했다.

블랙 인 AI 이사회 구성원인 데빈 길로리(Devin Guillory)는 양 측의 주장을 인용하며, 블랙 인 AI는 현재 구성원에게 구글의 자금 지원을 거부하도록 독려하지 않는다고 밝혔다.

길로리는 “블랙 인 AI 구성원이 특정 방향으로 나아가도록 압력을 주고 싶지는 않다”라고 말했다.

구글은 이와 관련된 질문에 답변하지 않았다.

구글의 자금 지원 거부라는 여러 단체의 결정은 자금 지원 출처 관련 광범위한 정책의 필요성 관련 의문을 제기하게 됐다. 일부 중국 테크 기업의 질문에 대응하기 위해 2020년, 최대 연례 머신러닝 학술 콘퍼런스인 뉴립스(NeurIPS) 설립자는 후원 위원회를 구성해, 후원 기업을 평가하고 후원 기업 승인 및 거부 방식과 관련된 정책을 제정했다.

블랙 인 AI와 퀴어 인 AI, 와이드닝 NLP의 지도자 모두 각각의 단체가 기업 후원을 공식적으로 거부할 시점과 관련된 공식 정책을 둘 필요는 없다고 말한다. 다만, 이번에 구글의 자금 지원을 거부한 것은 각각의 단체가 기업 후원을 거부한 최초의 사례를 나타낸다고 전했다.

길로리는 “윤리적 자금 지원을 받는 것이 의미하는 바는 무엇인가? 어떤 단체가 콘퍼런스에 자금 지원을 해야 하는가? 그리고, 많은 기업이 의문스러운 윤리적 조치를 취하는 사실을 고려했을 때, 콘퍼런스에 자금 지원을 해서는 안 되는 기업은 또 어떤 기업인가? 블랙 인 AI와 퀴어 인 AI, 와이드닝 NLP의 합동 성명이 부당함이라는 문제에 비판적으로 주목하면서 행동을 한다고 약속하는 것을 보여줄 뿐만 아니라 다른 여러 단체도 똑같은 문제를 진지하게 생각하는 시작점이 되기를 바란다. 특히, 후원 기업이라는 측면에서 구글, 그리고 다른 기업 문제 모두 마찬가지이다”라고 말했다.

** 위 기사는 와이어드US(WIRED.com)에 게재된 것을 와이어드코리아(WIRED.kr)가 번역한 것입니다. (번역 : 고다솔 에디터)

<기사원문>
Black and Queer AI Groups Say They'll Spurn Google Funding