By MORGAN MEAKER, WIRED UK

이안 러셀(Ian Russell)의 마음은 한 순간도 2017년, 가족용 컴퓨터 앞에 앉았던 순간에서 벗어나지 못했다. 그의 14살 딸인 몰리(Molly)가 자해 후 사망했으며, 러셀은 딸이 갑자기 자해하게 된 이유를 찾으려 했다. 몰리의 이메일 수신함을 살펴보면서 사망 원인을 설명할 만한 단서를 발견했다. 몰리는 사망 2주 전, 핀터레스트 측이 발송한 ‘좋아할 만한 우울증 핀터레스트 게시글’이라는 제목으로 메일 한 통을 받았다. 핀터레스트 측에서 보낸 메일에는 피가 묻은 레이저 사진이 포함되었다. 인스타그램도 몰리가 우울증과 관련된 콘텐츠를 접하도록 유도했다. 몰리는 사망 6개월 전부터 인스타그램에서 자살, 자해, 우울증 관련 게시글 총 2,000여 건에 ‘좋아요’ 버튼을 누르거나 다른 곳에 공유, 저장했다.

2022년 9월 말, 앤드류 워커(Andrew Walker) 런던 북부 지방 수사관은 몰리의 사망 원인을 자살이라고 보기 부적절하며, 인스타그램과 핀터레스트 게시글이 몰리의 사망과 관련이 있다는 결론을 내렸다. 워커 수사관은 “몰리는 우울증과 온라인 콘텐츠의 부정적인 영향을 겪던 중 자해한 뒤 사망했다”라고 발표했다.

몰리 이외에 더 많은 아동, 청소년이 온라인 세계에서 유해 콘텐츠에 노출되었다. 영국 매체 규제 기관 오프콤(Ofcom)이 발행한 보고서 분석 결과에 따르면, 영국 13~15세 청소년 2/3 이상이 소셜 미디어를 사용한다. 또, 8~15세 아동, 청소년 세 명 중 한 명꼴로 지난 1년간 우려할 만하거나 분노를 유발할 만한 해로운 콘텐츠를 접한 경험이 있다. 아동 보호 운동가 집단은 2017년 이후 자해 콘텐츠 유포가 더 어려워졌으나 여전히 온라인에서 관련 콘텐츠를 접할 수 있다고 경고한다.

하지만 몰리의 사례는 SNS 서비스와 아동 사망 간 관계에서 기업에 법적 책임을 물은 첫 번째 사례이다. 몰리의 유족 변호를 담당한 법무법인 레이데이(Leigh Day)의 메리 바니(Merry Varne) 변호사는 다수 SNS 플랫폼이 자해를 미화하고, 우울증을 비밀로 유지하도록 한 콘텐츠를 제공한 사실이 드러났다고 전했다. 바니 변호사는 “SNS에서 발견한 자해, 우울증 관련 콘텐츠는 비슷한 유형의 콘텐츠가 해롭다고 설명할 모든 요소를 보여주었다”라고 덧붙였다.

몰리의 사건 조사는 단순히 몰리의 공식 사망 원인을 확실히 밝히는 것에만 집중하였다. 그러나 인스타그램과 핀터레스트를 대상으로 2주간 비공식 심문을 진행했다. 인스타그램과 핀터레스트 모두 몰리가 사망한 뒤 5년간 대대적으로 변화하였다고 주장했다. 하지만 두 기업의 변화는 갑작스레 다른 방향으로 변화하며, SNS 플랫폼 운영 방식을 다룬 두 가지 구분된 모델만 제시했다. 인스타그램의 모기업 메타는 우울증을 앓는 미성년자가 지원받을 곳을 찾거나 도움을 청할 수 있다고 주장했다. 핀터레스트는 단순히 일부 주제를 자사 플랫폼과 관련이 없는 대상으로 분류하기 시작했다.

핀터레스트는 자해가 자사 플랫폼과 관련이 없는 주제 중 하나라고 주장한다. 주드 호프만(Jud Hoffman) 핀터레스트 커뮤니티 운영 글로벌 운영 책임자는 “사용자가 자살이나 자해 관련 콘텐츠를 검색할 때, 검색 결과를 전혀 제공하지 않는다. 대신, 실제로 정신적 어려움을 겪는 사용자를 도울 전문가에게 연락하도록 안내한다. 핀터레스트의 차단 목록에는 자해 관련 콘텐츠 2만 5,000개 이상 포함되었다”라고 말했다. 바니 변호사도 핀터레스트의 자해 콘텐츠 차단 기능이 개선된 점에 동의하지만, 여전히 완벽하지 않다고 지적한다. 바니 변호사는 “몰리의 가족과 조사한 결과, 지금도 핀터레스트에 자해, 우울증 관련 콘텐츠가 많다는 사실이 드러났다”라고 전했다.

인스타그램도 자해, 우울증 관련 표현을 숨긴다. 그러나 타라 홉킨스(Tara Hopkins) 인스타그램 유럽 및 중동·아프리카 공공 정책 책임자가 밝힌 바와 같이 검색어 자체가 자해 행위를 널리 알리거나 직접 행동으로 옮기도록 유도할 때만 해당한다. 홉킨스는 “기본적으로 정책 위반 사항에 해당하지 않는 자살, 자해 관련 검색어에는 검색 결과를 제공하기 전 지원 안내 메시지를 보여준다”라고 전했다. 인스타그램은 지금까지 차단한 자살, 자해 관련 콘텐츠 수 공개를 거부했다.

메타는 아동, 청소년 사용자의 표현의 자유와 함께 아동의 안전 관련 문제를 꾸준히 다룬다고 말한다. 메타는 몰리가 본 게시글 두 개와 법원에 제출된 문제성 콘텐츠 모두 몰리가 사망했을 당시의 인스타그램 정책을 위반한 사실을 인정했다. 그러나 엘리자베스 라곤(Elizabeth Lagone) 메타 건강, 행복 정책 책임자는 2022년 9월 말 진행된 조사에서 자살 충동을 겪는 이가 자유롭게 목소리를 낼 기회를 주는 것이 중요하다고 말했다. 러셀 가족의 변호를 담당한 올리버 샌더스(Oliver Sanders) 변호사가 라곤에게 법원에 제출된 문제성 콘텐츠 중 몰리가 본 콘텐츠가 안전하지 않다는 사실을 인정하는지 물어보았다. 이에, 라곤은 “자기 생각을 표현할 수 있는 이에게는 안전하다고 생각한다”라고 답변했다.
 
플랫폼 관리 방식은 바로 다수 연구원이 말하는 핀터레스트와 인스타그램 간의 중대한 차이점이 드러나는 부분이다. 새뮤엘 울리(Samuel Woolley) 텍사스대학교 오스틴캠퍼스 선동광고 연구소 프로그램국장은 “핀터레스트는 결정 사항을 더 우려하면서 분명한 결정을 내리면서 자사 플랫폼 표준을 충족하지 않는 콘텐츠를 제공하지 않으려 한다. 반면, 인스타그램과 페이스북은 표현의 자유를 훨씬 더 우려한다”라고 설명했다.

항상 핀터레스트가 유해 콘텐츠를 플랫폼에 제공하지 않는 운영 방식을 채택하는 것은 아니다. 호프만은 조사 당시 핀터레스트의 지침이 “의심스러운 콘텐츠를 발견할 때는 더 가벼운 콘텐츠 관리 방식을 적용한다”라고 밝혔다. 그러나 2017년, 몰리가 사망한 시기는 2016년, 미국 대통령 선거 이후 핀터레스트에 러시아 선동광고 확산 여파가 이어진 시점과 같다. 당시 핀터레스트는 백신 이론이나 음모론 등 자사 플랫폼 미션에 적합하지 않은 주제 전체를 금지하기 시작했다.

핀터레스트의 콘텐츠 금지는 인스타그램의 콘텐츠 관리 방식과 크게 상반된다. 울리 국장은 “인스타그램을 포함한 메타의 플랫폼은 소셜 미디어 기업보다는 전화나 이동통신사 AT&T와 같이 정보 제공 수단의 기반 시설과 같은 형태로 존재하기를 바란다는 반복된 주장으로 정책을 안내한다”라고 설명했다. 2020년, 메타 창립자 겸 CEO 마크 저커버그는 “페이스북이 진실을 중재하는 역할을 해서는 안 된다”라고 주장했다.

핀터레스트와 인스타그램 조사 결과는 두 플랫폼의 투명성을 향한 의지 차이를 강조하기도 한다. 바니 변호사는 “핀터레스트는 몰리의 자사 플랫폼 활동 관련 정보를 제공하며 도왔다. 핀터레스트가 공유한 정보는 몰리가 저장한 게시글과 핀터레스트에 접속하면서 클릭하고 화면을 통해 넘겨본 정보 등이다”라고 말했다. 그러나 메타는 법원에서 어떠한 상세 정보도 제공하지 않았다. 또, 메타가 공유한 상세 정보 대부분 공개 전 삭제되었다. 일례로, 메타는 몰리가 사망하기 6개월 전 슬픔이나 우울증을 다룬 이름을 포함한 계정 30개를 추천받은 사실을 공개했다. 그러나 실제 계정 명칭은 삭제되었다. 이에, 메타는 사용자 프라이버시 문제를 언급했다.

바니 변호사는 핀터레스트와 인스타그램 모두 2017년 이후 개선된 점을 인정했다. 핀터레스트의 자해 검색 결과는 2017년 당시의 그래픽 게시글과 같은 수준의 해로운 내용을 포함하지 않는다. 그러나 인스타그램은 훨씬 더 적은 수준에서 느린 속도로 변화를 보였다. 바니 변호사는 메타가 2019년까지 자해, 자살 관련 그래픽 이미지를 금지하지 않았다고 덧붙였다.

여러 기관에서도 핀터레스트와 인스타그램의 변화를 추적했다. 디지털 환경에서의 아동, 청소년 보호 운동 단체인 5rights의 영국 정책국장인 이지 위크(Izzy Wick)가 설명한 바와 같이 핀터레스트는 2017년 이후 미성년자 사용자를 위한 맞춤 추천 이메일 기능과 푸시 알림을 비활성화했다. 인스타그램은 아동이 팔로우하지 않은 낯선 성인의 다이렉트 메시지를 확인하는 기능을 비활성화했다. 아동에게는 낯선 성인의 계정을 추천하지도 않는다. 위크 국장은 “인스타그램의 변경 사항 상당수가 큰 축복을 받지 못한 채로 공식 발표되지 않았다. 많은 사용자가 미리 아동 보호를 강화할 기능을 적용하지 못한 이유를 두고 의문을 제기했기 때문이다”라고 설명했다.

인스타그램과 핀터레스트가 직면한 압박도 다르다. 대규모 SNS 플랫폼인 인스타그램은 미국에서 표현의 자유를 보존하라는 정치적 압박을 받는다. 주로 현재 일어나는 사건을 게시할 확률이 높은 인스타그램 사용자 20억 명보다는 핀터레스트 사용자 4억 3,300만 명을 관리하는 일이 더 쉽다. 몰리 러셀의 사건은 핀터레스트와 인스타그램을 분명하게 비교하는 이례적인 사례로, 두 플랫폼 간의 다른 콘텐츠 관리 모델을 드러낸다. 하지만 투명성을 자율적으로 관리한다는 점에서 핀터레스트와 인스타그램 간 차이점을 비교하기 어렵다는 사실도 함께 보여준다. 영국 온라인 학대 반대 자선 단체 글리치(Glitch) 정책 및 캠페인 관리자 힐러리 왓슨(Hilary Watson)은 “데이터가 없어도 SNS 플랫폼 간의 차이와 안전 조치를 비교할 수 있다”라고 말했다.

핀터레스트와 인스타그램 모두 몰리가 사망한 뒤 플랫폼에 변경 사항을 적용했다. 그러나 아동 안전 운동 단체는 영국에서 곧 시행할 규제가 더 급진적인 변화를 가져오기를 바란다. 몰리의 사망과 관련된 핀터레스트와 인스타그램 조사는 영국 정부에 오랫동안 계류된 온라인 안전법(Online Safety Bill) 개정 압박을 새로이 가하는 계기가 되었다. 미셸 도넬란(Michelle Donelan) 문화부 장관은 2022년 크리스마스 전까지 의회에서 온라인 안전법 개정안을 논의하도록 추진하겠다고 약속했다. 아동 보호 단체 전국아동학대방지협회(NSPCC) 정책 및 공공 문제 수석 관리자 한나 러셴(Hannah Rüschen)은 “지금 당장 최대한 빨리 온라인 안전법 개정안을 의회에 제출해야 한다”라고 말했다.

아동, 청소년 다수가 2017년 이후 SNS에서 자해 콘텐츠를 찾아보기 어려워졌다고 말한다. 그러나 러셴은 지금도 자해와 자살 관련 콘텐츠를 접할 수 있다고 지적하며, 조금 시간을 들여 검색어를 변경하여 전혀 다른 검색 결과를 볼 수 있다고 덧붙였다. 이어서 젊은 사용자가 NSPCC의 상담 서비스인 차일드라인(Childline)에 연락하는 주된 이유는 끊임없이 겪는 정신건강 문제라고 언급했다. 러셴은 “아동, 청소년의 삶에 온라인 세계가 미치는 영향의 규모가 매우 크다는 사실을 고려하면, 온라인 안전법의 엄격한 규제 확립과 합법적인 콘텐츠와 해로운 콘텐츠를 정확히 이해할 필요성이 크다”라고 강조했다.

온라인 안전법 지지자 다수가 법안을 통과해, 몰리의 사망과 같은 사례에 기업이 더 적극적으로 대응하도록 압박을 가하고, 위험 평가를 반드시 수행하도록 할 수 있을 것으로 본다. 왓슨은 “SNS 기업이 자사 플랫폼에서 발생하는 일과 자사 서비스에 의미하는바, 관련 대응 계획을 파악할 수 있다는 점에서 위험 평가가 중요하다. SNS 기업이 받아들일 수 있는 콘텐츠와 받아들일 수 없는 유해 콘텐츠 간의 경계를 제한하게 될 것이다”라고 내다보았다.

** 위 기사는 와이어드UK(WIRED.co.uk)에 게재된 것을 와이어드코리아(WIRED.kr)가 번역한 것입니다. (번역 : 고다솔 에디터)

<기사원문>
How A British Teen's Death Changed Social Media