By MATT BURGESS, WIRED US

지난 2년간 폰허브(Pornhub) 영국 웹사이트에서 아동 성 착취 영상을 검색한 수백만 명의 검색 활동이 중단됐다. 아동 성 착취와 관련된 단어나 문장 검색이 440만 회 진행됐을 때 불법 콘텐츠라는 안내와 함께 경고 메시지가 등장하면서 검색 결과 페이지를 차단했다. 아동 성 착취물 검색 사례 중 절반은 챗봇이 사용자에게 도움을 받을 곳을 안내하는 메시지도 전송한 것으로 확인됐다.

폰허브의 경고 메시지와 챗봇은 적은 개입 과정으로 불법 콘텐츠를 찾지 않도록 유도할 방법을 찾고자 영국 아동 보호 단체 두 곳이 시행한 시범 프로그램의 일부분이다. 와이어드에 단독 공유된 시범 프로그램 분석 결과를 담은 신규 보고서에는 챗봇 메시지 팝업이 아동 성 착취물 검색자 수 감소와 함께 많은 이들이 아동 성 착취물을 검색하는 행동을 멈추려 도움을 청하기 시작하는 결과로 이어졌다는 결론을 내렸다.

리띵크(reThink) 챗봇 평가를 이끈 태즈메이니아대학교 부교수 조엘 스칸란(Joel Scanlan)은 “아동 성 착취물 실제 검색 건수는 무서울 정도로 높았다”라고 말했다. 다년간 시범 프로그램을 운영하면서 폰허브 영국 웹사이트 내 아동 성 착취물 관련 검색 경고 건수는 440만 960건이었다. 또, 전체 검색 건수 중 99%는 실제 경고로 이어지지는 않았다. 스칸란 부교수는 “여러 검색 사례 중 아동 성 착취물 검색을 막는 데 소요되는 시간이 대폭 감소했다. 따라서 경고 메시지가 효과가 있다고 판단한다"라고 말했다.

매년 웹에서 아동 성 착취 게시물이 무더기로 발견되고, 삭제되기도 한다. SNS 공유나 개인 대화를 통한 거래 대상이 되기도 하며, 간혹 합법적 포르노 웹사이트에도 게재된다. 다수 테크 기업과 포르노 기업 모두 자사 플랫폼 내 불법 콘텐츠를 허용하지 않지만, 그 효과는 제각각이다. 폰허브는 2020년, 뉴욕타임스 보도 후 아동 성 착취물을 포함한 각종 문제성 콘텐츠를 제거하려 영상 1,000만여 개를 삭제했다.

과거, 마인드긱(MindGeek)이라는 이름으로 알려진 기업 에이로(Aylo)가 소유한 폰허브는 기업 대변인이 설명한 바와같이 다양한 언어와 수백만 가지 조합 전체를 통틀어 3만 4,000가지 금지어 목록을 사용해 아동 성 착취물 제거한다. 에이로 대변인은 금지어 목록 활용이 폰허브의 불법 콘텐츠 퇴치를 위한 다양한 시도 중 하나이자 사용자 안전을 목표로 한 기업 차원의 노력 중 한 부분이라고 전했다. 영국 사용자가 폰허브 금지어 목록에 해당하는 단어를 검색하면, 경고 메시지와 챗봇이 등장한다.
 
챗봇은 웹 내 아동 성 착취물 퇴치 비영리단체인 인터넷감시재단(IWF)과 아동 성 착취 조짐을 두고 작업하는 자선 단체 루시 페이스풀 재단(Lucy Faithfull Foundation)이 개발했다. 챗봇은 총 280만 회 메시지를 전송한 것으로 확인됐다. 시범 프로그램 도중 폰허브의 챗봇 메시지 전송 횟수를 집계하여 중복 집계되었을 수도 있으며, 아동 성 착취물을 검색하려 한 개인의 신원을 확인하지는 않았다. 보고서에는 폰허브의 아동 성 착취물 검색 건수가 의미 있는 수준으로 감소했으며, 적어도 챗봇과 경고 메시지가 부분적으로 도움이 되었다는 내용이 기술되었다.

챗봇은 사용자에게 여러 가지 질문을 하면서 답변 버튼을 누르거나 답변을 입력하도록 비교적 간단한 방식으로 구성되었다. 궁극적으로 사용자에게 검색하고자 하는 콘텐츠가 불법일 수 있다고 설명하며, 루시 페이스풀 재단의 도움 지원 서비스를 받도록 안내한다. 챗봇을 통한 도움 요청 건수는 1,656건, 루시 페이스풀 재단의 ‘스탑 잇 나우(Stop It Now)’ 웹사이트를 통해 도움을 청한 사례는 490건이었다. 루시 페이스풀 재단의 비공개 도움 지원을 통해 통화하거나 채팅을 한 사용자는 약 68명이다.

스탑 잇 나우 도움 지원 책임자 도널드 핀드래터(Donald Findlater)는 아동 성 착취물 전체 경고 건수보다는 도움 요청 건수가 비교적 많은 편은 아니지만, 적어도 도움을 원하는 이가 있다는 의미이므로 시범 프로젝트가 크게 성공했다고 본다. 핀드래터는 “웹사이트에서 바람직하지 않은 일을 해왔다면, 도움 요청 페이지에 접속하는 것이 과감한 행동이다”라고 말했다.

보고서는 경고 메시지와 챗봇 안내창을 본 사용자 대부분 아동 성 착취물을 단 한 번 검색했다고 분석했다. 사용자 170만여 명은 폰허브 웹사이트 종료 전 경고 메시지를 보거나 합법 콘텐츠와 관련된 다른 검색을 한 것으로 나타났다. 핀드래터는 “경고는 사라지지 않은다. 보통 경고 메시지는 웹사이트에 남아 다른 불법 활동을 살펴본다. 실제로 의문스러운 검색 활동을 한 뒤 멈춘 수백만 명의 영향력은 중요한 장점이다”라고 말했다. 그러나 모든 사용자가 아동 성 착취물 검색 활동을 멈춘 것은 아니다. 가장 끊임없이 아동 성 착취물 검색이 이루어진 사례를 살펴보면, 약 400명이 경고 메시지 등장으로 이어지는 검색어 10가지를 검색한 것으로 확인됐다.

폰허브 시범 프로그램 연구에 참여하지 않은 뉴욕주립대학교 올버니캠퍼스 심리학 부교수 신시아 나조위스키(Cynthia Najdowski)는 챗봇이 누군가의 아동 성 착취물 접근 시도를 막을 수 있다는 약속을 보여준다고 평가했다. 경고 메시지와 사소한 행동 유도는 프라이버시 및 저작권 침해부터 도박까지 사용자의 여러 온라인 행동을 바꾸는 데 사용된 방식이다. 구글은 2013년부터 아동 성 착취물 검색을 막는 메시지가 표시되도록 했다. 또, 다른 연구를 통해 아동 성 착취물 검색 및 조회수나 경고 건수가 감소한 사실이 확인됐다.

나조위스키 부교수는 범죄 행동에 가담하는 행위를 막을 3가지 방법을 언급했다. 바로 자신의 행동이 불법임을 스스로 인지하는 것과 자신의 행동에 법률 지식을 대입하는 것, 행동의 대가가 기대하는 이점보다 훨씬 더 크다는 것을 인지하는 것이다. 나조위스키 부교수는 “특정 검색 행위를 두고 불법 가능성 경고를 전송하는 챗봇이 불법 행위를 억제할 첫 번째 단계를 달성할 수 있다는 사실은 분명하다. 챗봇을 이용한 불법 행위 억제 첫 번째 단계만으로 큰 도움이 된다”라고 말했다. 다만, 아동 성 착취물 검색과 같은 문제 행동이 고질적인 행동이거나 더 복잡한 상황이라면, 챗봇으로 행동을 막는 일이 더 어려울 수도 있다.

스칼란 부교수는 챗봇 시범 프로그램을 운영하면서 몇 가지 복잡한 요소를 발견했다. 폰허브와 인터넷감시재단, 루시 페이스풀 재단이 제공한 데이터가 항상 완벽한 데이터는 아니며, 결과를 비교할 경고 시행 전의 수치가 데이터에 대입되지 않았다는 한계도 있다. 그러나 스칼란 부교수는 결과 자체는 시범 프로그램이 아동 성 착취물을 찾으려는 이들을 대상으로 한 포괄적인 교육과 예방의 일부분이 될 수 있음을 보여준다고 판단했다. 그는 “호기심 때문에 아동 성 착취물을 검색한다면, 아동 성 착취물을 접하는 문제 행동에 발을 들이기 전 행동 변화를 원할 것이다. 아동 성 착취물 검색자를 모두 체포하여 문제를 해결할 수는 없는 노릇이기 때문이다”라고 설명했다.

스칼란 부교수의 연구 결과는 시간이 지나면서 스탑 잇 나우를 언급한 웹 트래픽이 줄어들었음을 보여준다. 아동 성 착취물을 계속 검색하던 사용자가 스탑 잇 나우를 통한 도움 안내 메시지를 사용한 것이 그 원인일 수도 있을 것이다. 보고서는 추후 기존의 아동 성 착취물 억제 영상을 포함한 다양한 메시지를 사용할 가능성과 챗봇이 아동 성 착취물 검색자와 루시 페이스풀 재단의 도움 센터 관계자와의 실시간 대화를 직접 연결할 가능성을 제시했다.

챗봇 자체도 개선될 수 있다. 인터넷감시재단 최고 기술 책임자 댄 섹스턴(Dan Sexton)은 챗봇이 초기 설계 및 생성 단계에 있어, 생성형 인공지능(AI)이 사용자의 챗봇 인식과 상호작용 방식을 바꿀 수 있다고 본다. 현재 리띵크 챗봇은 한정된 질문에만 답변할 수 있다. 섹스턴은 챗봇의 질문 이해도를 높이고, 초기에 직접 다루도록 설계되지 않은 질문 답변 능력도 개선할 방법이 있을 것이라고 전했다.

시범 프로그램은 종료되었으나 챗봇과 경고 메시지는 폰허브 영국 웹사이트에 계속 저장된다. 섹스톤은 “도움 지원 챗봇과 경고 메시지를 비활성화할 계획은 없다. 시범 프로젝트로 진행했으나 즉각 효과를 보았다”라고 말했다. 연구에 참여한 이들은 다른 포르노 기업도 자사 서비스에 폰허브와 비슷한 방법을 도입하여 사용자가 아동 성 착취물을 찾는 행위를 막을 수 있다. 스칼란 부교수는 “포르노 기업 모두 폰허브의 리띵크 챗봇을 이용한 도움 지원과 경고 메시지 알림을 사용해야 한다”라고 말했다. 폰허브 대변인은 “폰허브의 시범 프로젝트 보고서와 기술 모두 해로운 불법 콘텐츠 식별, 제거, 보고를 향한 중요한 도약이다. 다른 주요 테크 기업과 SNS 플랫폼도 비슷한 예방 기술을 도입하여 모든 사용자를 위한 인터넷 환경을 만들어야 한다고 생각한다”라고 말했다.

핀드래터는 SNS 웹사이트와 파일 호스팅 플랫폼 등 다른 기업도 폰허브의 시범 프로젝트 결과를 보고 아동 성 착취물 검색자를 대상으로 한 비슷한 행동 변화 유도 방식을 적용하기를 바란다고 말한다. 섹스톤은 “경고 알림과 도움 안내 챗봇을 사용하는 플랫폼이 많을수록 도움이 필요한 이들을 더 많이 찾거나 도움을 청하고자 해도 도움을 청할 곳을 알지 못하는 이들에게 더 큰 도움을 줄 수 있을 것이다”라고 전했다.

** 위 기사는 와이어드US(WIRED.com)에 게재된 것을 와이어드코리아(WIRED.kr)가 번역한 것입니다. (번역 : 고다솔 에디터)

<기사원문>
A Pornhub Chatbot Stopped Millions From Searching for Child Abuse Videos