By WILL KNIGHT, WIRED US

2022년 3월, 일론 머스크가 트위터 인수 계획을 밝히고 얼마 지나지 않아 사용자 피드에 등장하는 트윗을 결정하는 알고리즘을 오픈소스로 전환해, 편견 문제를 감시하는 것을 신중하게 생각했다.

머스크의 지지자이자 SNS 플랫폼이 좌익 성향에 편중된 콘텐츠를 제공한다고 믿는 이들이 알고리즘의 오픈소스 전환이라는 의견에 기뻐했다.

하지만 11월 4일(현지 시각), 트위터 직원 수천 명 해고를 포함해 지출 비용을 대폭 삭감한다는 계획의 일환으로 머스크는 트위터 알고리즘의 투명성과 공정성 향상을 위해 노력한 인공지능(AI) 연구원으로 구성된 팀을 해체했다.

트위터 머신러닝 윤리 및 투명성, 책임(META)팀의 팀장이었던 루만 쵸드후리(Rumman Chowdhury)가 트위터를 통해 트위터 신임 CEO가 시행하는 대규모 정리해고의 일환으로 트위터를 떠나게 됐다는 트윗을 게재했다. 그러나 머스크가 이끄는 트위터에서 근무하는 것에 쵸드후리가 기뻐할 것처럼 보이지는 않았다.

쵸드후리는 최근 와이어드와 진행한 인터뷰에서 머스크가 트위터를 인수한 뒤 메타팀의 업무가 중단되었다고 밝혔다. 쵸드후리는 “메타팀 전체는 확실한 조건과 분노를 불러일으키지 않는 방식으로 작업 중단 지시를 받았다”라고 밝혔다. 이어, 메타팀이 정치적 편견을 다룬 중요한 신규 연구 여러 건을 진행 중이었다고 덧붙였다. 모두 트위터와 다른 SNS가 특정 견해 공유를 막아 불평등한 차별을 일으키지 않도록 하는 데 도움이 될 수 있던 연구였다.

트위터 메타팀 수석 관리자인 조안 데이치만(Joan Deitchman)도 메타팀 직원 모두 해고된 사실을 확인시켜주었다. 메타팀의 머신러닝 연구원으로 근무한 경력이 있는 크리스티안 럼(Kristian Lum)은 메타팀 전원이 해고 대상이 되었다는 트윗을 게재했다. 트위터나 메타팀 소속이었던 직원 중 와이어드의 정리해고 관련 문의에 답변한 이는 없었다.

인종과 성별, 연령 편견을 포함한 AI의 문제가 갈수록 더 많이 드러나자 다수 테크 기업이 AI의 편견 문제를 확인한 뒤 문제를 완화하는 데 전념하는 ‘윤리적 AI’팀을 설립했다.

트위터의 메타팀은 트위터가 보유한 AI 시스템의 문제 대부분을 상세하게 공개하는 것 이상으로 진전을 거두었으며, 연구원은 트위터 알고리즘의 몇 가지 새로운 문제를 자세히 조사하였다.
 
2021년, 사용자 여러 명이 트위터 사진 편집 알고리즘이 사진을 자를 때, 백인 얼굴을 선호한다는 문제를 발견하자 트위터는 META팀이 지금까지 발견한 알고리즘의 편견 문제를 상세히 공개하도록 두는 이례적인 결정을 내렸다. 이후 메타팀은 최초로 알고리즘 편견 발견 보상금 지급 대회를 개최했다. 대회는 트위터 외부 연구원이 다른 문제를 발견하기 위해 트위터 알고리즘을 시험하도록 했다. 2021년 10월, 메타팀은 트위터의 의도치 않은 정치적 편견 문제를 상세히 기술한 보고서를 발행했다. 해당 보고서는 우익 성향의 뉴스 출처가 좌익 성향의 뉴스보다 더 널리 확산된다는 점을 입증했다.

트위터 외부 연구원 다수는 메타팀 인력 해고를 트위터뿐만 아니라 AI 개선 노력의 타격이라고 평가한다. 온라인 거짓 정보를 연구하는 워싱턴대학교 부교수 케이트 스타버드(Kate Starbird)는 트위터에 “비극적인 일”이라고 작성했다.

샌프란시스코대학교 응용 데이터 윤리 연구소 소장 알리 알카팁(Ali Alkhatib)은 “메타팀은 테크 기업이 대중, 학계와 상당한 신뢰를 유지한 채로 AI 윤리팀을 운영한다는 점에서 유일하게 긍정적인 평가를 받을 만한 사례였다”라고 말했다.

알카팁 소장은 쵸드후리가 AI 윤리 연구계에서 훌륭할 정도로 훌륭한 아이디어를 갖추었으며, 메타팀은 테크 업계 대기업의 책임감을 유지하기 위해 진정으로 가치 있는 연구를 진행했다고 말했다. 이어, “기업 윤리팀 중 AI 윤리 문제를 진지하게 다루는 곳은 없다. 트위터 메타팀은 여러 범주에서 훌륭한 작업을 하던 팀이었다”라고 언급했다.

AI를 연구하는 마크 리들(Mark Riedl) 조지아공과대학 교수는 트위터를 포함한 여러 SNS 대기업의 알고리즘은 인간의 삶에 큰 영향을 미치므로 연구가 필요하다고 주장한다. 리들 교수는 “메타팀이 트위터 내부에 미친 영향의 유무는 외부에서 알아차리기 어렵다. 하지만 메타팀의 연구가 영향을 미칠 것이라는 약속이 있었다”라고 말했다.

리들 교수는 외부 연구원이 트위터 알고리즘을 연구하도록 한 것이 AI의 투명성과 문제 이해도를 높이기 위한 중요한 단계였다고 평가했다. 그는 “외부 연구원의 트위터 알고리즘 연구는 AI가 인간에게 영향을 미치는 방식을 이해하도록 도울 관측 방식이 되었다”라고 설명했다.

머스크의 트위터 알고리즘 오픈소스 전환을 이야기하자면, 실제 문제는 훨씬 더 복잡하다. 정보를 널리 공개할 방식에 영향을 미치는 알고리즘의 종류는 많다. 따라서 트위터 게시글과 조회수, ‘좋아요’ 개수 정보를 입력한 실시간 데이터가 없다면, 이해하기 어렵다.

알고리즘의 오픈소스 전환은 노골적으로 정치적 성향이 편향된 알고리즘이 더 위험한 편견과 문제를 지닌 시스템을 지나치게 단순하게 만들 수 있다는 의견을 제시한다. 트위터의 메타팀이 추진하던 일이기도 하다. 알카팁 교수는 “소속 조직의 알고리즘이 지닌 편견과 오류를 엄격하게 연구하는 조직이 많지 않다. 메타팀은 트위터 알고리즘의 문제를 철저하게 조사했다”라고 말했다. 이제 트위터는 자체 알고리즘의 문제를 연구하지 않는다.

** 위 기사는 와이어드US(WIRED.com)에 게재된 것을 와이어드코리아(WIRED.kr)가 번역한 것입니다. (번역 : 고다솔 에디터)

<기사원문>
Elon Musk Has Fired Twitter’s ‘Ethical AI’ Team