By VITTORIA ELLIOTT, CHRIS STOKEL-WALKER, WIRED UK

11월 12일(현지 시각), 트위터는 계약직 직원 4,400여 명을 해고하기 전에도 관리 문제의 조짐을 보였다. 일론 머스크의 인수와 정규직 직원 7,500명 정리해고 이후 복수의 거짓 정보 연구원과 사회 운동가가 트위터 내 유해한 가짜 콘텐츠 관리 담당 부서 자체가 사라졌다고 전했다. 여러 해에 걸쳐 트위터 콘텐츠 관리 부서와 관계를 형성해온 연구원이 트위터상의 거짓 정보 게시글 문제로 보낸 요청에 응답하는 이가 없다고 전했다. 그와 동시에 트위터가 이전보다 더 해로운 정보 유포 공간이 된다는 점을 시사하는 데이터가 등장했다.

트위터 콘텐츠 관리 문제는 브라질에서 유독 심각한 것으로 나타났다. 브라질은 머스크가 트위터를 인수하고 며칠이 지난 시점에 우익 성향의 현직 대통령인 자이르 보우소나루와 루이즈 이나시오 룰라 다 실바 후보의 2차 대통령 선거를 치렀다. 다수 관측통과 사회 운동가는 수개월 동안 보우소나루 대통령이 낙선한다면, 그의 지지 세력이 선거 결과를 받아들이지 못하고 폭력에 의존할 것이라고 경고했다. 보우소나루 대통령의 지지 세력이 온라인을 통해 선거 결과에 의문을 제기하기 시작할 때쯤 트위터는 콘텐츠 관리 담당 직원을 대거 해고했다.

브라질 국립 디지털 민주주의 과학 기술 연구소 소속 연구원 니나 산토스(Nina Santos)는 “지금은 트위터에 콘텐츠 문제와 관련하여 연락을 주고받을 인력이 없다. 그동안 콘텐츠 관리 문제로 연락을 주고받던 담당 직원 모두 트위터를 떠났다”라고 말했다. 산토스 연구원은 머스크가 트위터를 인수할 때까지만 해도 트위터 콘텐츠 담당 부서는 메타, 구글보다 선거 신뢰도 저하나 거짓 정보 유포 등 플랫폼 규정 위반 콘텐츠 삭제 요청에 신속하게 응답했다고 전했다. 트위터 브라질 지사 인력 모두 머스크의 정리해고로 트위터를 떠난 상태이다.

룰라가 대통령 선거에서 당선되었으나 산토스 연구원은 지금도 선거 결과나 선거 조작 동원 의혹을 이야기하는 트윗을 발견한다. 모두 위험성을 지닌 콘텐츠이다. 트위터의 현행 정책은 “선거나 다수 시민 사회 절차에서 대중의 신뢰를 저하할 의도를 지닌 거짓 정보나 오해의 소지가 있는 정보를 문제성 콘텐츠로 분류하고는 제거한다”라고 명시되었다. 트위터 거짓 정보 및 괴롭힘 퇴치 프로젝트인 봇 센티넬(Bot Sentinel) 창립자이자 CEO인 크리스토퍼 부지(Christopher Bouzy)도 미국 중간선거는 물론이고, 브라질 대통령 선거 관련 콘텐츠도 모니터링했다. 부지도 산토스 연구원과 마찬가지로 브라질 대통령 선거 조작을 주장하는 트윗이 지금도 확산된다고 전했다.

미국 중간 선거 기간에도 트위터에는 거짓 정보가 넘쳐났다. 특히, 애리조나주 최대 지역이자 항상 극우 세력의 공격 표적이 되는 마리코파 카운티 일대 선거와 관련된 거짓 정보가 많았다. 우익 성향의 계정 수천 개를 발견한 부지는 거짓 정보를 포함한 트윗 삭제를 위해 트위터 내부에 연락할 인력이 없었다고 전했다.

11월 15일(현지 시각), 70곳이 넘는 전 세계 시민 사회단체가 머스크에게 트위터에 혐오 발언이 더 확산되지 않도록 대응을 촉구했다. 미국 중간선거 이후 비영리 단체인 언론의 자유(Free Press)는 모든 SNS 플랫폼이 선거 거짓 정보가 만연한 상태가 되도록 했음을 강조하는 보고서를 발행했다. 언론의 자유 디지털 정의 및 시민 권리 수석 자문 총괄인 노라 베나비데즈(Nora Benavidez)는 트위터를 포함한 여러 SNS 플랫폼이 항상 연구원과 사회 운동 기관의 요청에 훌륭하게 대응한 것은 아니지만, 트위터 대규모 정리해고 사태 때문에 유해 콘텐츠 관리를 위해 트위터에 연락하기 더 어려워졌다고 전했다.

베나비데즈 총괄은 “연구원과 사회 운동가 모두 트위터 콘텐츠 관리 인력과 연락하려 했으나 결과적으로 불가능했다. 지금도 트위터에 재직 중인 것으로 보이는 이들에게 연락했을 때는 답변을 받을 수 없었다”라고 말했다.

다수 연구원이 트위터 콘텐츠 관리의 어려움을 파악하는 가운데, 대응 속도는 느린 편이었다. 간혹 문의 요청 후 하루가 지나야 답변을 받을 때도 있었다. 비영리 단체 코먼코즈(Common Cause) 캠페인 부사장 제시 리틀우드(Jesse Littlewood)는 트위터 정책을 위반한 것이 명백한 트윗을 신고해도 지금은 신고한 트윗이 삭제될 확률이 더 낮다고 전했다.

사용자와 감시 기구가 트위터에 신고하고자 하는 유해 콘텐츠 수는 앞으로 더 증가할 것으로 보인다. 플랫폼 신뢰 및 안전, 정책, 시민 청렴 부문을 담당한 다수 직원과 계약직 근로자가 지난 몇 주 사이에 해고되면서 거짓 정보와 혐오 발언 관리 담당 인력 모두 트위터를 떠났다.
 
멜리사 잉글(Melissa Ingle)은 11월 12일, 다른 계약직 근로자 4,400명과 함께 해고될 때까지 트위터 시민 청렴팀 수석 데이터 과학자로 근무했다. 잉글은 트위터 내 정치적 거짓 정보 감지 및 제거 시 사용하는 알고리즘 개발과 관리 작업을 담당했다. 가장 최근에는 미국과 브라질 선거 관련 트윗을 집중적으로 모니터링했다. 총 30명이 소속된 잉글의 팀에 남은 인력은 10명이다. 콘텐츠 관리와 트윗 검토 후 정책 위반 사항 경고를 담당하던 직원 대부분 해고됐다. 잉글은 “머신러닝은 꾸준한 입력값과 관리가 필요하다. 정치적 대화가 항상 바뀌므로 꾸준한 업데이트가 필요하다”라고 말했다.

잉글은 외부 사회 운동가나 연구원과 연락하지 않았으나 트위터 정책팀 직원 다수가 외부 전문가와 콘텐츠 관리를 위해 연락했다고 전했다. 외부 집단의 정보가 잉글과 동료의 유해 콘텐츠 감지 알고리즘 훈련에 필요한 용어나 콘텐츠를 이해하는 데 도움이 되었다. 잉글은 이제 정규직 직원과 계약직 직원 상당수가 트위터를 떠난 탓에 콘텐츠 관리 소프트웨어의 정확도 유지 작업을 할 인력이 부족할 것이라고 우려한다.

잉글은 “알고리즘 업데이트가 중단된 데다가 인간 관리자가 사라졌기 때문에 콘텐츠를 제대로 관리할 인력이 충분하지 않다. 앞으로 트위터 콘텐츠 관리 시 허점이 더 많이 생길 것이다. 그리고 시간이 지나면서 알고리즘의 정확도가 감소할 것이다. 또, 알고리즘의 콘텐츠 관리 허점을 보완할 인간 관리자도 없다”라고 말했다.

잉글은 머스크가 트위터를 인수하고 며칠이 지나자 사용자의 정책 위반 트윗 신고가 50% 증가했다는 내부 데이터에 주목했다. 머스크 인수 초기의 문제성 콘텐츠 신고 건수 급증 추세가 계속됐다. 하지만 정책 위반 콘텐츠는 머스크가 트위터를 인수하기 전 기록한 평균보다 약 40% 더 많았다.

조지워싱턴대학교 데이터, 민주주의 및 정책 연구소 소장 레베카 트롬블(Rebekah Tromble)도 트위터의 금지된 콘텐츠 방어 능력이 약해질 것으로 예상한다. 트롬블 소장은 “트위터는 항상 유해 콘텐츠 관리 측면에서 크게 어려움을 겪었다. 그러나 콘텐츠 관리 인력 덕분에 지난 몇 달 사이에 콘텐츠 관리 문제가 개선되었다. 이제는 문제 개선에 노력한 이들 모두 해고된 상태이다”라고 말했다.

다수 전문가가 입을 모아 말한 우려 사항은 2020년까지 트위터의 계약직 콘텐츠 관리 담당자로 근무했던 이도 똑같이 우려하는 부분이다. 현재 근무 중인 직장에 영향을 미칠 것을 우려해 익명을 요청한 전직 트위터 계약직 직원은 자신과 비슷한 업무를 담당했던 동료 중 꾸준히 연락하는 이들 모두 해고됐다고 밝혔다. 그리고 트위터가 이전보다는 매력적이지 않은 SNS가 될 것이라고 예상한다. 그는 “앞으로 트위터는 끔찍한 SNS 플랫폼이 될 것이다. 트위터에서 근무할 당시 트위터의 최악의 부분을 적극적으로 검색했다. 가장 심각한 인종 차별성 게시글과 끔찍한 게시글, 트위터의 가장 퇴폐한 부분까지 보았다. 앞으로 트위터의 끔찍한 부분이 더 심각해질 것이다”라고 전했다.

** 위 기사는 와이어드UK(WIRED.co.uk)에 게재된 것을 와이어드코리아(WIRED.kr)가 번역한 것입니다. (번역 : 고다솔 에디터)

<기사원문>
Twitter’s Moderation System Is in Tatters