By JILLIAN YORK, WIRED UK

플랫폼에서 권리를 가져야 하는 이는 누구인가? 그리고, 온라인에서 허용된 표현을 결정하는 이는 누구인가? 이와 관련된 대화는 인터넷의 존재만큼 매우 오래되었다.

시민사회가 SNS와 처음 협력한 순간 중, 한 가지 중요한 순간으로 2007년, 이집트 기자 와엘 아바스(Wael Abbas)가 자국에서 일어난 경찰의 잔인한 모습을 담은 영상을 게재했다는 이유로 계정이 삭제된 때를 언급할 수 있다. 구글의 자회사인 유튜브가 아바스 기자의 영상을 삭제한 일은 그저 유튜브 자체 규정을 시행한 것뿐이지만, 국제 사회에서 대서특필되었다.

당시 유튜브의 규정은 간결하면서 엄격하지 않았다. 유튜브는 초기에 “유튜브 커뮤니티를 존중하며, 사용자에게 수녀나 노인, 뇌 외과 의사를 향한 깊은 존경심을 요구하지 않는다. 다시 말해, 유튜브를 악용하지 마라”라고 명시했다. 그러나 폭력 묘사 콘텐츠와 관련된 사항은 다음과 같이 명시했다. “폭력 묘사 혹은 지나친 폭력은 금지되었다. 타인에게 피해를 주거나 공격 혹은 굴욕감을 주는 영상이라면, 게재하지 마라.”

위키리크스를 통해 유출된 바에 따르면, 아바스 기자는 세계 각지의 영향력이 있는 단체에 소속된 친구는 물론이고, 미국 대사관에도 연락했다. 위키리크스는 아바스 기자의 영상 콘텐츠를 자세히 설명하며, 결국 국무부가 구글에 연락해 문제를 해결할 것을 요청하며 결론을 지었다. 미국 정부와 시민사회의 운동가 중, 어느 쪽이 먼저 구글에 연락했는지 확실하지 않다. 그러나 아바스 기자의 계정은 신속하게 복구됐다.
 
당시 콘텐츠 중재는 새로 떠오르는 분야였으나 몇 년이 지난 후, 수십억 달러의 가치를 지닌 산업으로 성장했다. 급속도로 크게 성장하면서 변화가 발생했다. 일부 변화는 긍정적이었으나 그리 긍정적이지 않은 변화도 발생했다. 아바스 기자의 계정 삭제 문제가 발생하고 1년 후, 대다수 주요 테크 기업이 정부의 사용자 데이터 요청 및 콘텐츠 삭제 요청에 어떻게 대응했는지 보여주는 정기 보고서인 투명성 보고서를 발간하기 시작했다. 투명성 보고서 발행 계획은 지금도 계속 이어지는 시민사회의 압력 때문에 탄생했다. 그러나 지금도 여전히 나아가야 할 길이 멀다.

2018년, 시민사회와 학계 협력자 연맹이 산타클라라 원칙(Santa Clara Principles)을 작성해, 투명성과 책임의 기본 기준을 정했다. 전 세계 기관 100여 곳이 지지하는 산타클라라 원칙은 간단하다. 기업에 콘텐츠 가이드라인을 위반했다는 이유로 삭제된 게시글과 영구적으로 혹은 일시적으로 정지된 계정의 수를 공개할 것을 요구한다. 또, 사용자에게 콘텐츠가 삭제되거나 계정이 정지되었을 때, 이를 알릴 것을 요청한다. 그리고, 가장 중요한 부분은 모든 사용자가 잘못되었을 수도 있는 결정이 내려졌을 때, 인간 관리자에게 문제를 호소할 기회를 주는 문제의 해결책을 가질 권리를 보장하는 것이다.

산타클라라 원칙 등장 1년 후, 페이스북과 트위터, 유튜브, 스냅, 애플, 깃허브, 인스타그램, 그리고 일부 테크 기업이 이를 채택했다. 그러나 실제로 산타클라라 원칙을 완전히 적용한 곳은 레딧(Reddit)이 유일하다. (레딧은 콘데 나스트의 모기업인 어드밴스 퍼블리케이션의 독립 자회사이다) 사실, 코로나19 확산세가 이어지는 가운데, 지난 몇 년간 사용자에게 호소력을 제공한다는 측면에서 이루어진 진전 상당수가 퇴보하고 있다. 필리핀과 같은 국가의 상업 콘텐츠 중재 기관이 사생활과 정신적 행복이라는 (유효한) 우려 때문에 일할 수 없게 된 탓이다.

자동화가 콘텐츠 중재의 새로운 핵심 요소로 홍보되었다. 그러나 자동화가 매일 공포스러운 콘텐츠를 보아야 하는 등의 인간 중재자가 직면하는 문제를 완화할 수 있지만, 뉘앙스를 구분하지 못해 각종 실수를 저지르게 된다. 전 세계 사용자가 스스로 표현할 수 있는 능력을 위협하는 실수를 범한다.

SNS 기업이 사용자 안전 유지를 위해 두는 규정은 간혹 필요할 때도 있지만, 반대로 논리적이지 않을 때도 있다. (여성의 신체를 금지하는 것이나 페이스북의 실명 인증 요청 등을 떠올려보아라) 그러나 SNS 기업의 규정이 공정하면서 균등하게 시행되며, 어쩔 수 없이 실수를 저지르게 된 상황에서 사용자가 정의를 요구할 수 있다는 것이 중요하다.

산타클라라 원칙은 시작점에 불과하다. 실리콘밸리의 테크 업계 대기업이 공정한 세계에 기여하는 데 조금이라고 관심을 두고 있다면, 지금보다 더 많은 진전이 이루어졌을 것이다. 이사회를 다각화하고, 기존의 각종 편견을 뿌리 뽑아야 한다. 상당수가 10여 년 전에 제정된 테크 기업의 규정은 감사를 시행하고, 21세기에 적합하게 개정돼야 한다. 그리고, 정책 제정 과정에 미국뿐만이 아니라 세계 여러 국가, 특히 저소득 국가의 주요 의견을 반영할 필요가 있다. 지금보다 더 공정한 인터넷 환경 구축이 가능하다.

** 위 기사는 와이어드UK(WIRED.co.uk)에 게재된 것을 와이어드코리아(WIRED.kr)가 번역한 것입니다. (번역 : 고다솔 에디터)

<기사원문>
Social media companies say they want to be transparent. So why aren’t they?