By DAVID GILBERT, WIRED US

지난 10년간 SNS 플랫폼은 극단적 폭력 생중계 영상 중계 공유를 막는 데 난항을 겪었다. 이제는 다른 문제로 진땀을 빼고 있다. 이제 SNS 플랫폼은 자사 플랫폼에 어떤 콘텐츠가 게재될 것인지 알고 있다.

10월 7일(현지 시각), 하마스가 이스라엘을 공격한 뒤 하마스 군사 조직은 이스라엘이 가자지구를 공격할 때마다 이스라엘인 인질을 죽일 것이라고 협박했다. 알 카삼 여단(al-Qassam Brigades) 대변인 아부 오베이다(Abu Obeida)는 인질 처형 현장을 음성, 영상으로 생중계할 것이라고 경고했다. 10월 23일(현지 시각) 기준 이스라엘 국방부가 추산한 인질 수는 220명이다.

10월 7일(현지 시각) 공격 도중 어느 한 SNS 사용자가 하마스 요원이 이스라엘 시민을 살해하는 현장의 영상을 생중계했다. 이후 해당 영상은 도널드 트럼프 주니어가 X(구 트위터)에 공유했다. 며칠 뒤 하마스는 인질의 페이스북, 인스타그램 등 SNS 계정을 탈취하고는 실시간 공격 현장과 살해 협박 실시간 영상을 공유했다.

이에 여러 테크 기업이 상황을 심각하게 받아들였다.

메타는 페이스북, 인스타그램, 스레드 콘텐츠 추적 작업을 할 특수 작전 센터(special operations center) 출범 소식을 발표했다. 틱톡은 명령 센터(command center)를 설립했다. X(구 트위터)는 기업 간 지도자 단체를 설립했다. 유튜브는 정보 데스크 가동을 시작했다. 레딧은 와이어드의 문의에 안전팀을 두고 문제 콘텐츠를 경고한다고 전했다.

그러나 와이어드가 악의적인 의도를 지닌 사용자의 플랫폼 내 생중계 기능 무기화 방지 대책을 묻자 상세 사항을 전한 기업은 없다. 대신, 와이어드의 문의에 답변한 기업 모두 생중계 정책 관련 일반 온라인 지침을 제시했다. 일례로, 메타는 2019년, 최고 보안 책임자 가이 로젠(Guy Rosen)이 2019년 3월, 뉴질랜드 교회 대학살 당시 괴한이 51명을 죽인 사건 이후 블로그에 게재한 생중계 서비스 제한 사항을 제시했다.

긴급 상황 대응팀이 생중계 기능에 주력한다는 내용이 보도되었으나 업계 관계자는 SNS 기업의 투명성 부재를 지적한다. 이스라엘-하마스 전쟁 도중 생중계 기능을 차단하는 등 인질 처형 영상이 SNS 플랫폼 내 확산을 막을 대책을 시행할 의지 부재를 지적하는 목소리도 잇따랐다.
 
SNS의 혐오 발언 추적 비영리 단체인 디지털 혐오 대응 센터(Center for Countering Digital Hate) 창립자 겸 CEO 임란 아흐메드(Imran Ahmed)는 와이어드와의 인터뷰에서 "하마스의 인질 처형 생중계 협박은 SNS 내 생중계 기능을 사용할 수 있어서 가능한 일이다. 인질 처형 생중계 협박을 하는 이유는 생중계 기능으로 테러를 저지를 수 있기 때문이다. 인질 처형 영상 공개 협박이 가능한 요소를 없앤다면, 하마스가 협박할 수 있겠는가? 생중계나 인질 처형 둘 중 무엇이 먼저인가?"라고 말했다.

아흐메드는 많은 기업이 다른 콘텐츠 감지 능력과 같은 수준의 극단적 폭력 콘텐츠 감지 시스템을 효율적으로 구축하지 못했다고 비판한다. 그는 "영상 안에 저작권이 있는 음악 여러 곡을 담았다면, 시스템이 순식간에 음악을 감지하고는 차단할 것이다"라며, "테러 공격 피해자의 근본적인 인권을 음악가, 연예인의 지식 재산권처럼 최대한 시급한 문제로 다루어야 한다"라고 덧붙였다.

SNS 플랫폼의 생중계 기능 사용 제한 계획이 없는 부분적인 이유는 너무 많은 정보를 부여하여 하마스, 팔레스타인 이슬람 테러 조직(Palestinian Islamic Jihad, PIJ)을 비롯한 여러 무장 단체나 그 지지 세력이 SNS 플랫폼이 시행하는 계획을 우회하게 될 것을 우려하기 때문이다. 해당 사실은 전한 어느 한 주요 SNS 플랫폼 기업 직원은 공식 언론 인터뷰 권한이 없어서 익명을 요청했다.

온라인 극단주의 활동 퇴치에 주력하는 UN 관련 비영리 단체인 테크 어게인스트 테러리즘(Tech Against Terrorism) 창립자 겸 최고 책임자 애덤 헤이들리(Adam Hadley)는 민감하면서 변동성이 큰 분쟁 도중 콘텐츠 관리 방식의 비밀을 유지하는 것이 중요하지만, 테크 기업의 콘텐츠 관리 방식 투명성 확대가 필요하다고 보았다.

헤이들리는 "콘텐츠 발견, 분석 방식 상세 정보 공유 측면에서 어느 정도 주의가 필요하다. 그러나 테러 조직에 콘텐츠 감지 방식 관련 정보를 제공하지 않는 선에서 윤리적인 소통을 이어가고, SNS 플랫폼이 항상 어떤 활동을 하든 투명성을 갖추기를 바란다"라고 말했다.

SNS 기업은 이스라엘이 가자지구를 공격할 시점을 기다린다는 전망 때문에 콘텐츠 관리 전담팀이 제때 작업한다고 주장한다. 헤이들리는 이스라엘이 가자지구를 공격한다면, 인질 처형이 잇따를 것으로 내다보았다.

그러나 항상 수십억 달러 상당의 자본을 가진 테크 업계 대기업이 생중계 기능을 악용한 위기가 발생할 수도 있는 상황에 돈과 자본을 투자하지 않는 것으로 나타났다. SNS 플랫폼을 운영하는 기업은 테크 어게인스트 테러리즘과 같은 비영리 단체가 하마스나 팔레스타인 이슬람 테러 조직의 새로운 콘텐츠가 온라인에 게재될 때 보고하는 것에 의존하는 것으로 나타났다.

헤이들리는 테크 어게인스트 테러리즘이 대규모 SNS 플랫폼에 새로운 테러 콘텐츠가 게재되기 전 관련 사항을 알 수 있는 20가지 일반적인 정보를 보유했다고 밝혔다. 헤이들리는 지금까지 하마스 군사 조직이나 팔레스타인 이슬람 테러 조직의 검증된 콘텐츠를 추적하면서 주요 SNS 플랫폼의 콘텐츠양이 매우 적다는 사실을 확인했다고 전했다.

헤이들리는 "그동안 발견한 주요 SNS 플랫폼에 게재된 하마스나 팔레스타인 이슬람 테러 조직의 공식 콘텐츠는 수천 개였다. 텔레그램에서 발견한 콘텐츠는 훨씬 더 많았다. 테크 어게인스트 테러리즘은 지금까지 하마스와 팔레스타인 이슬람 테러 조직을 암시한 SNS 플랫폼 60여 곳에 경고 사항을 전했다. 그러나 실제 콘텐츠는 매우 적다"라고 설명했다.

페이스북, 인스타그램, 유튜브, 틱톡 모두 하마스를 금지했다. 따라서 보통 테러 콘텐츠를 더 널리 유포할 때는 주요 SNS 플랫폼을 사용하지 않는다. X는 2023년 10월 초, 하마스 관련 계정 수백 개를 제거했다고 발표했다. 그러나 하마스는 테러 메시지 유포 수단으로 텔레그램을 선호한다.

헤이들리는 "텔레그램은 만연하면서도 사용하기 쉽다. 테러 조직은 가장 손쉽게 사용할 수 있는 플랫폼을 선호하므로 하마스가 텔레그램을 계속 사용할 것으로 예상할 수 있다"라고 말했다.

메타와 X, 유튜브는 각자 플랫폼에서 관찰한 바를 공유한다. 텔레그램은 테러 조직 콘텐츠 퇴치를 위해 다른 기업과 협력하지 않는다. 특정 사법 관할 구역에서는 일부 채널을 차단했으나 텔레그램은 보통 간접적인 콘텐츠 관리 방식을 택한다. 하마스와 테러 관련 세력이 원하는 사항을 가장 자유롭게 공유할 수단이 텔레그램이라는 의미이다.

텔레그램과 X, 트위치는 와이어드의 인질 처형 영상 관리 계획 문의에 답변하지 않았다. 디스코드는 공식 의견 공개에 응하지 않았다.

헤이들리는 텔레그램을 프라이버시 문제로 보지만, 다수 주요 SNS 플랫폼이 테러 콘텐츠를 손쉽게 공유하도록 할 위험성이 남아 있다. 영상은 텔레그램에서 손쉽게 내려받고, 다른 SNS 플랫폼에 얼마든지 공유할 수 있다. 이 때문에 주류 SNS가 테러 영상 실시간 중단이라는 난제를 직면했다.

메타와 틱톡은 테러 조직 관리 노력을 묻자 관련 영상 확산 퇴치 작업을 기술한 내용과 관련된 자체 전략을 지목했다. 유튜브 대변인 잭 말론(Jack Malon)은 "유튜브는 언어, 위치를 떠나 해로운 영상을 현장에서 상시 모니터링한다"라고 전했다. 레딧 대변인은 "레딧은 언어, 각각의 분야 전문 지식을 기준으로 전담팀을 형성하고, 전쟁 관련 콘텐츠를 적극적으로 모니터링한다. 그와 동시에 레딧 사이트 전 영역에서 콘텐츠 정책을 시행한다"라고 설명했다.

테크 기업이 자사 플랫폼 내 극단적인 폭력성 콘텐츠 확산을 막을 핵심 방법으로 이른바 해시 데이터베이스 활용을 언급할 수 있다. 해시 데이터를 사용하면, 테러 조직이 올린 콘텐츠를 확인할 때 해당 콘텐츠를 해시 작업하여 SNS 플랫폼을 운영하는 모든 기업과 공유할 고유 식별 코드를 생성하여 자동으로 해당 영상이나 이미지를 다른 곳에서 공유하지 못하도록 할 수 있다.

폭력적 극단주의 세력의 SNS 플랫폼 악용을 막는다는 사명으로 모인 소규모 전문가팀인 GIFCT(Global Internet Forum to Counter Terrorism)가 해시를 공유하고 이스라엘-하마스 전쟁과 같은 상황과 관련된 정보 공유에 앞장섰다. GIFCT는 2017년, 페이스북, 마이크로소프트, X(당시 트위터), 유튜브가 정보 공유 중앙화 및 협력을 위해 공동으로 설립한 단체이다. 드롭박스, 아마존, 핀터레스트, 줌 등도 GIFCT 운영 자금을 지원한다.

GIFCT는 와이어드의 문의에 답변할 대변인 정보를 알려주지 않았다. 다만, GIFCT 공식 웹사이트에는 “모든 회원사를 대상으로 주기적인 상황 인지 사항을 제공하고, 플랫폼 정책을 위반하는 충돌 사항과 관련된 콘텐츠를 다루도록 지원한다”라는 내용의 공식 성명이 게재되었다.

주류 SNS 플랫폼은 인증된 테러 콘텐츠와 테러 콘텐츠를 면밀히 추적하는 전문가와의 중앙화된 소통 방식에 접근하더라도 폭력성 영상이 플랫폼에서 확산되는 것을 막으려면 많은 노력을 펼쳐야 한다.

헤이들리는 “이번 하마스의 인질 처형 생중계 영상 공개 협박 대응이 주류 플랫폼의 콘텐츠 관리 방식을 볼 수 있는 중요한 시험대가 될 것이다. SNS 플랫폼의 알고리즘 시스템이 하마스 로고와 같이 테러 조직의 콘텐츠임을 파악할 수 있는 요소를 식별하고, 그에 따라 대응하기를 바란다. 따라서 주요 플랫폼이 테러 콘텐츠를 올바르게 다룰 것임을 확신한다. 그리고 SNS 플랫폼에 적용된 알고리즘이 하마스, 팔레스타인 이슬람 테러 조직이 그동안 올린 다량의 콘텐츠를 기준으로 테러 조직의 콘텐츠임을 예측하도록 훈련이 이루어졌기를 바란다. 그러나 안타깝게도 이 모든 상황을 깊이 들여다볼 수 없다”라고 말했다.

** 위 기사는 와이어드US(WIRED.com)에 게재된 것을 와이어드코리아(WIRED.kr)가 번역한 것입니다. (번역 : 고다솔 에디터)

<기사원문>
The Hamas Threat of Hostage Execution Videos Looms Large Over Social Media