By DANIELLE K. CITRON, WIRED UK

인터넷 등장 초창기, 우리는 희망적인 부분만 보았다. 급부상하는 기술은 낯선 이와 연결하는 능력과 스테이플을 쉽게 구매할 수 있는 능력으로 호평받았다. 인터넷 전도사는 대중의 대화와 상업에 대대적인 변화를 가져오겠다고 약속했다. 단, 철도와 증기로 가동되는 공장 운영이 시작될 당시와 같이 법률상 중단될 일이 없다면 말이다. 미국 국회의원은 사용자의 안전과 프라이버시를 신뢰할 수 있도록 보장한다고 말한 새로운 투자와 젊은 남성(그렇다. 모두 남성이 맞다)에게 동의했다. 1996년, 미국 의회는 통신품위법 제230조를 통과시켰다. 온라인 서비스 공급 업체가 제대로 콘텐츠 적합성을 판단했는가를 떠나 외부 기관의 콘텐츠 때문에 발생하는 법적 책임으로부터 보호받도록 하는 조항이다. (단, 엄격한 적합성 판단이 이루어졌다는 신뢰가 있을 때 적용된다) 이는 테크 기업이 외부 기관의 게시글을 자사 플랫폼에서 삭제하거나 삭제하지 않았다는 이유로 제소될 때, 면책특권을 받도록 한다.

그러나 너무 광범위한 법원 판결 때문에 통신품위법 제230조는 결국 무법지대를 형성하는 역할을 했다. 미국은 불법 콘텐츠를 호스팅하는 기업의 도피처라는 불명예스러운 특이점을 지니고 있다. 통신품위법 제230조의 문제는 미국의 유일한 비정상적인 문제가 아니다. 장악력을 지닌 SNS 기업이 전 세계에 걸쳐 서비스를 제공하기 때문에 각각의 플랫폼이 호스팅하는 불법 콘텐츠는 전 세계 사용자에게 악영향을 미친다. 실제로 한국 행정안전부 장관과 호주 안전부 장관 모두 필자에게 자국민을 더 많이 도울 수 있다고 말했다. SNS 악용 문제 상당수가 미국 플랫폼에서 이루어지기 때문이다. 통신품위법 제230조는 케이맨 제도가 금융 업계에 오랫동안 해온 것처럼 SNS 기업에 적용해야 한다.

테크 기업은 큰 피해를 초래하는 거짓과 폭력적 음모론, 프라이버시 침해 등이 넘쳐난다. 모두 복사한 것처럼 똑같은 광고로 좋아요, 클릭, 공유 횟수 등에 따라 수익을 내기 때문이다. 테크 기업에 있어 유일한 위험한 요소는 신속하게 삭제와 금지, 사과를 통해 다룰 수 있는 형편없는 홍보이다. 개인과 사회에 있어 그 대가는 지나치게 크다. 코로나19 시기에 유포된 마스크 착용 관련 거짓 정보 때문에 공중보건 재앙과 죽음이라는 결과를 맞이했다. SNS에서 시작된 계획은 미국 국회의사당 폭동으로 이어졌다. 불평등할 정도로 여성과 소수민족을 지나치게 겨냥한 온라인 괴롭힘은 피해자의 입을 막으며, 직업 경력과 생명에 피해를 준다.
 
SNS 기업은 일반적으로 표현 관련 정책을 두고 있지만, 콘텐츠 중재는 종종 일종의 사기 행위와 같다. 기업은 자사의 콘텐츠 정책이 의미하는 바를 자세히 설명하지 않으며, 기업은 실제로 책임감을 느끼지 않는다. 안전과 프라이버시 보호는 수익성이 없다. 콘텐츠를 삭제하고, 개인을 퇴출하는 행위는 기업 수익이 될 수단(데이터 포함)이 빼앗기는 것과 같다. 그렇다. 미국 연방법은 SNS를 대중에게 제공하지만, 그만큼 큰 대가가 따른다.

온라인 연결성에 희망을 품던 시대는 지난 지 오래됐다. 더 이상 테크 기업은 미래 기술 발전을 보장하기 위해 공공 자금 지원을 받을 필요가 없다. 오히려 공공 자금 지원이 기업과 사회에 유익한 기술 발전에 피해를 주었다. 모든 기업은 광고 수익을 최적화할 방안을 생각했을 것이다. 피해에 대한 법적 책임을 생각하지 않아, 기업이 광고 수익을 서둘러 추구하는 행위는 민주주의와 공중 보건, 존엄성과 함께 일 자리를 얻고 자유 발언을 할 동등한 기회를 거부당한 개인에게 큰 피해를 주었다.

통신품위법 제230조를 유지해야 한다. 기업의 감시 참여 기회에 혜택을 부여하기 때문이다. 그러나 피해를 유발하는 불법 콘텐츠를 다루는 합당한 콘텐츠 중재 관행에 적용해야 한다. 여러 기업은 연방 법률에 따른 보호막을 얻을 수 없는 상황에서 자사의 서비스 및 관행을 소송으로부터 보호하기 위한 방향으로 설계해왔다. (합의 없는 성관계나 불법 총기 판매 등과 관련된) 악의적인 의도로 서비스를 제공하는 기업은 법적 책임을 피하기 어려울 것이다. 불법 콘텐츠 호스팅을 사업 모델로 두고 있다면, 합리적인 콘텐츠 중재 관행에 참여한 사실을 입증하기 어렵기 때문이다. 장악력을 지닌 플랫폼에 있어, 합리적인 정책과 절차를 두고 심각한 피해를 일으키는 불법 콘텐츠를 다루도록 보장하는 것을 의미할 수 있다. 시간이 지나면서 법원의 콘텐츠 중재 문제 관련 사건 판결은 다른 영역의 법률 판결과 마찬가지로 침해 행위와 데이터 보안부터 형사 절차까지 합당함의 의미를 보여준다. 

테크 기업은 정책 뒤에 숨을 수 없다. 합당한 절차를 적용하고 유지해, 합의 없는 성관계와 공중 보건에서의 긴급 상황을 유발한 거짓 정보, 폭력적인 음모론, 불법 총기 거래 등 불법 콘텐츠를 제대로 다루고 있음을 입증해야 한다. 테크 기업은 적절한 절차를 적합하게 변경해 변화하는 위협에 대응해야 한다. 현재, 온라인에 유포된 합의 없는 성관계 콘텐츠가 향후 가상 세계에서의 성범죄로 이어지는 등 피해가 커질 수 있기 때문이다. 그리고, 정책과 절차를 시간이 흐르면서 적합하게 변경해, 불법 콘텐츠를 더 잘 다루도록 하는 것도 중요하다.

조만간 SNS 기업이 발언 관련 정책 약관을 두고, 불법 콘텐츠 확산을 최대화하는 대신 영향력과 중요성을 줄이거나 삭제할 수도 있다. 테크 기업은 정책을 두고 있다고 밝히지 않고, 비판 여론이 형성될 때만 정책을 시행할 것이다. 이러한 상황 반복의 예시로 트위터와 페이스북이 트럼프 전 대통령의 심각한 피해를 초래한 거짓 발언 및 개인을 겨냥한 희롱을 끝내는 데 늑장 대응을 언급할 수 있다. 합의 없는 성관계 포르노 영상과 딥페이크로 제작된 음란물, 불법 총기 판매 등을 집중적으로 다루는 사이트는 무수히 많지 않을 것이다. SNS 기업이 불법 콘텐츠에 제대로 대응한다면, 여성과 소수집단이 훨씬 더 안전하며 자유로운 세계가 될 것이다.

** 위 기사는 와이어드UK(WIRED.co.uk)에 게재된 것을 와이어드코리아(WIRED.kr)가 번역한 것입니다. (번역 : 고다솔 에디터)

<기사원문>
Fix Section 230 and hold tech companies to account