2017년 이후 온라인 공간에서는 당사자 동의 없이 제작된 딥페이크 포르노 영상이 급격히 증가했다. 유해 영상이 퍼지면서 트위치 스트리머, 게이머, 콘텐츠 크리에이터 등 여성 수천 명이 딥페이크 포르노 영상 호스팅 서비스를 제공하는 구글 웹사이트에 불만을 제기하며, 구글이 검색 결과에서 딥페이크 포르노 영상을 삭제하도록 하려 했다.
와이어드가 딥페이크 포르노 영상 호스팅을 제공하는 웹사이트와 관련하여 제기된 저작권 요청을 분석한 결과, 지금까지 삭제 요청 건수는 수천 건이 접수된 상태이면서 불만 접수 빈도가 계속 증가한 것으로 나타났다. 3만 개에 육박하는 URL을 포함하여 총 1만 3,000건이 넘는 삭제 요청은 최고 인기 딥페이크 웹사이트 10여 곳의 콘텐츠와 관련하여 구글을 상대로 제기한 삭제 요청이었다.
디지털미디어저작권법(DMCA)에 따라 제기된 삭제 요청의 결과로 당사자 동의 없이 제작된 딥페이크 포르노 영상 수천 건이 웹에서 삭제되었다. 구글 데이터와 하버드대학교 루멘 데이터베이스 기준, 인지도가 가장 높은 딥페이크 영상 웹사이트 2곳은 각각 6,000건, 4,000건이 넘는 삭제 요청을 받았다. 와이어드가 분석한 모든 딥페이크 플랫폼을 통틀어 보았을 때 구글의 저작권 투명성 데이터 기준 불만 접수 건수 중 약 82%는 구글에서 URL 삭제 결과로 이어졌다.
무수히 많은 사용자가 딥페이크라는 단어와 함께 유명인이나 콘텐츠 크리에이터 이름을 함께 검색하여 여러 웹사이트에 게재된 딥페이크 포르노 영상을 발견했다. 와이어드는 특정 딥페이크 포르노 웹사이트의 노출 수준 제한을 위해 특정 웹사이트 이름을 명시하지 않는다. 하지만 디지털미디어저작권법 불만을 체계적으로 제기하는 등 온라인 딥페이크 퇴치에 앞장서는 변호사와 기업은 저작권 불만 접수율과 높은 삭제율 모두 구글이 특정 웹사이트 대응을 강화해야 한다는 의미라고 지적했다. 구글의 대응 방안으로 검색 결과에서 딥페이크 포르노가 아예 등장하지 않도록 제거하는 과정도 포함되어야 한다고 덧붙였다.
제작자 당사자 허가 없는 콘텐츠 무단 사용 사례 발견 시 크리에이터의 콘텐츠 삭제 작업을 돕는 기업인 시어타스(Ceartas) 창립자 겸 CEO인 댄 퍼셀(Dan Purcell)은 “딥페이크 포르노 웹사이트의 유일한 목적이 학대 및 개인 브랜드 조작, 개인의 자치권 박탈, 보복성 포르노 제공 등이라면 존재해서는 안 된다”라고 말했다.
[사진=Unsplash]
최대 규모 딥페이크 포르노 웹사이트 한 곳만 보더라도 구글은 URL 1만 2,600개 삭제 요청을 받았다. 그중 88%는 오프라인 상태로 전환되었다. 퍼셀은 유해한 콘텐츠가 많다는 점을 고려했을 때 구글이 딥페이크 포르노 웹사이트가 검색 결과에 계속 등장하는 이유를 검토해야 한다고 지적했다. 그는 “저작권 침해 문제로 링크 1만 2,000개를 삭제한 뒤에도 완벽하게 사라지지 않는 이유가 무엇인가 생각해야 한다. 딥페이크 포르노와 같은 유해 콘텐츠를 제공하는 웹사이트는 웹 크롤링 대상이 되어서는 안 된다. 공공의 이익에 해당하지 않는다”라고 덧붙였다.
당사자 동의 없는 딥페이크 포르노가 처음 등장하고 5년간 테크 기업과 변호사는 늑장 대응을 펼쳤다. 당시 머신러닝 기술이 개선되면서 딥페이크 콘텐츠 제작이 수월해졌다. 오늘날 확실한 딥페이크 콘텐츠 종류는 소수이다. 인물 사진을 합의 후 촬영한 포르노 이미지에 합성한 콘텐츠나 인물 옷 벗기기 기능이나 누드 이미지에 특정 인물의 사진을 합성하는 기능을 제공하는 앱, 2024년 1월 온라인에 유포된 테일러 스위프트 이미지와 같이 전혀 다른 딥페이크 이미지 제작 기능을 제공하는 생성형 AI 등이 대표적인 예시에 해당한다.
각각의 딥페이크 제작 방식은 대부분 여성을 겨냥하는 등 여러 피해 중 비하, 희롱, 수치심 유발 등의 목적으로 무기화되었다. 줄리 인맨 그랜트(Julie Inman Grant) 호주 온라인안전위원회 위원장은 온라인안전위원회에 이미지 기반 학대 불만 제도를 통해 합성 아동 성 착취 콘텐츠와 미성년자의 동급생 성적 영상 제작 앱 사용 사례 등 각종 AI 생성 콘텐츠 문제와 함께 딥페이크 콘텐츠 신고 건수가 증가하기 시작했다고 발표했다. 그랜트 위원장은 “딥페이크 관련 피해는 실제 발생 건수보다 보고 사례가 더 적다는 사실을 인지하고 있다”라고 말했다.
딥페이크 영상 웹사이트 수 증가 영향으로 스트리머, 성인 모델 등 콘텐츠 크리에이터 중 디지털미디어저작권법을 활용하기 시작했다. 디지털미디어저작권법은 특정 콘텐츠의 지식재산권 소유자가 웹사이트에 직접 삭제 요청을 하거나 검색 결과의 삭제 요청을 허용한다. 구글에 접수된 게임부터 음악 콘텐츠 등 다양한 콘텐츠 삭제 요청 건수는 누적 80억 건을 넘었다.
피해자 권리 변호사 캐리 골드버그(Carrie Goldberg)는 “디지털미디어저작권법은 그동안 이미지를 바탕으로 한 성폭력 피해자가 인터넷에서 자신의 모습을 지울 중요한 방법을 제공했다”라고 설명했다. 골드버그 변호사는 새로 도입된 형법과 민법 절차 덕분에 이미지를 바탕으로 한 성폭력 콘텐츠 삭제가 수월해졌으나 딥페이크 때문에 상황이 복잡해졌다고 설명했다. 이어, “온라인 플랫폼은 프라이버시 침해 피해자에게 전혀 동감하지 못하면서도 저작권법은 준수한다”라고 덧붙였다.
와이어드가 딥페이크 웹사이트 14곳을 분석한 결과, 구글은 디지털미디어저작권법 규정에 따라 14개 웹사이트의 콘텐츠 삭제 요청을 받은 사실을 확인할 수 있었다. 다수 웹사이트는 딥페이크 콘텐츠만 제공하며, 종종 유명인에만 집중한다. 웹사이트 자체에도 사용자가 직접 콘텐츠 삭제 요청 시 활용하도록 디지털미디어저작권법 연락 양식도 두고 있다. 다만, 삭제 요청 관련 통계는 일절 공개되지 않았으며, 불만 대응 효과도 불확실한 상태이다. 어느 한 웹사이트는 배우, 유튜버, 스트리머, 방송인 등 다양한 공인과 연예인의 영상도 제공한다. 해당 웹사이트는 ‘테일러 스위프트'를 제목에 포함한 영상 수백 편의 호스팅 서비스를 제공하기도 했다.
디지털미디어저작권법 대다수 삭제 요청은 최대 규모 딥페이크 웹사이트 두 곳과 관련이 있는 구글이 나열한 딥페이크 웹사이트 데이터와 연결된다. 두 웹사이트 모두 와이어드의 의견 공개 요청에 답변하지 않았다. 와이어드가 조사한 주요 딥페이크 포르노 웹사이트 14곳의 불만 접수 사례 중 80% 이상은 구글이 추후 콘텐츠를 삭제한 것으로 나타났다. 실제 제출된 삭제 요청 양식에는 “딥페이크 콘텐츠는 내 명예를 훼손하고, 괴롭힘을 가한다”, “딥페이크 포르노 문제를 매우 심각하게 생각하며, 삭제를 위해 온 힘을 다할 것이다” 등과 같은 내용이 작성되었다.
디지털미디어저작권법 요청을 포함하여 유출, 탈취, 당사자 동의 없는 딥페이크 포르노 이미지 공유 피해자 지원 기업인 오렌지 워리어스(Orange Warriors) CEO 이베트 반 베쿰(Yvette van Bekkum)은 “타인의 삶에 심각한 영향을 미치는 문제이다”라고 말했다. 이어, 오렌지 워리어스도 온라인 공간에서 딥페이크 포르노 콘텐츠가 증가한 사실을 확인했으며, 피해자는 피해 사실을 털어놓고 삭제 요청을 하고자 할 때 장벽을 직면한다고 전했다. 반 베쿰은 “인력 동원 절차와 타인이 구글에 자신의 이름을 검색한 뒤 노골적인 딥페이크 포르노 콘텐츠를 발견한다고 생각해 보아라”라고 말했다.
네드 아드리안스(Ned Adriance) 구글 대변인은 디지털미디어저작권법 절차로 적절한 콘텐츠 소유자의 개인 온라인 작업 보호를 허용하며, 구글은 별도 양식과 삭제 절차 등 딥페이크 콘텐츠를 다룰 수단을 별도로 보유했다고 밝혔다. 아드라인스 대변인은 “구글은 당사자 동의 없는 딥페이크 포르노 제작 반대 정책을 두고 있으므로 사용자는 자신의 외형을 포함한 딥페이크 콘텐츠를 검색 결과에서 삭제할 수 있다”라며, “구글은 딥페이크 콘텐츠 피해자를 도울 추가 안전 대책도 개발 중이다”라고 말했다. 구글은 특정 웹사이트 내 유효한 저작권 콘텐츠 삭제 요청 건수가 많을 때 해당 웹사이트가 질적으로 훌륭하지 않은 콘텐츠를 제공한다는 신호로 해석한다. 또, 구글은 당사자 동의 없는 딥페이크 포르노가 복사되었을 때 사용할 복사본 삭제 시스템을 제작하기도 했다. 최근에는 사용자가 검색하지 않을 때 등장하는 딥페이크 콘텐츠가 검색 결과에 등장하는 사례를 제한하도록 업데이트하기도 했다.
디지털미디어저작권법은 완벽한 수단이 아니다. 특히, 딥페이크 콘텐츠에서는 완벽성 수준이 더 낮다. 골드버그 변호사는 딥페이크 포르노 영상이나 이미지 저작권자라고 주장하는 이를 대상으로 한 확실한 위증 처벌의 필요성을 주장했다. 그러나 골드버그 변호사가 지적한 바와 같이 딥페이크 제작 과정은 결과물이 원본과 같은 지식재산권 적용 대상이 아닌 새로운 이미지가 될 정도로 이미지를 바꿀 수 있다. 결과적으로 딥페이크 영상 제작자가 성폭력 행위에 해당하는 콘텐츠의 저작권자일 수도 있다. 이에, 골드버그 변호사는 “오랫동안 불법 작업물 저작권을 피해자로 변경하여 딥페이크 포르노 콘텐츠를 피해자가 직접 통제하도록 하는 방안을 지지해 왔다. 하지만 법은 아직 현실을 따라잡지 못했다”라고 설명했다.
퍼셀은 디지털콘텐츠저작권법이 목적에 부합하지 않는 탓에 딥페이크 웹사이트가 법에 따른 삭제 요청에 반박할 통지를 할 정도로 손쉽게 무기화될 수 있다고 주장했다. 그는 “디지털콘텐츠저작권법에 따른 삭제 요청에 반대한다면, 최후의 수단으로 소송을 할 수밖에 없다”라며, 현재의 문제를 제기했다. 딥페이크 콘텐츠 웹사이트는 종종 상세 연락처 정보나 딥페이크 콘텐츠 제작자 정보를 제공하지 않는다. 게다가 딥페이크 콘텐츠 웹사이트가 법률 적용이 어려운 국가에 거주할 수도 있다. 반 베쿰은 “딥페이크 콘텐츠 웹사이트는 익명으로 무엇이든 할 수 있다. 얼마든지 정체를 숨길 수도 있다. 의도적으로 해외 호스팅 기업을 이용한다”라고 말했다.
그랜트 위원장은 호주 온라인안전위원회가 테크 플랫폼과 협력하여 딥페이크 콘텐츠 삭제 명령을 발행한다고 전했다. 호주 온라인안전위원회는 딥페이크 웹사이트에 영상을 게재한 이도 처벌한다. 2023년, 호주 온라인안전위원회는 호주 공인의 모습을 합성한 딥페이크 이미지를 최대 규모 딥페이크 웹사이트에 게재한 남성을 추적했다. 결국, 이미지 게재자는 삭제 명령을 받고, 개인 기기에서도 이미지를 삭제했다.
소장에 따르면, 호주 온라인안전위원회가 추적한 딥페이크 이미지 게재자는 법률 명령을 확인한 뒤 보낸 메일을 통해 “나는 호주 거주자가 아니다. 삭제 명령은 나에게 아무 의미가 없다. 삭제 명령을 내리는 것이 옳다고 생각한다면, 체포 영장을 발행해라”라고 전했다. 결국, 몇 달 후 그랜트 위원장은 딥페이크 이미지 게재자가 호주에 입국했다는 이민국의 연락을 받았다. 이후 딥페이크 이미지 게재자는 법원을 모욕하여 기소되었다.
호주 온라인안전위원회 사건은 규제 당국이나 법률 집행 기관이 딥페이크 제작자를 상대로 제대로 대응에 나선 드문 사례에 해당한다. 엔드탭(Endtab) 창립자 겸 변호사인 애덤 도지(Adam Dodge)는 테크 기업이 공교육 기관과 지역사회를 대상으로 딥페이크 제작, 공유 피해 교육 노력을 강화할 비용을 지원하고, 의회에서는 딥페이크 콘텐츠 삭제 부담을 피해자에게 주지 않을 법률을 도입해야 한다고 주장한다. 도지 변호사는 “딥페이크 콘텐츠를 경멸스럽고 용납할 수 없는 다른 금지 혹은 범죄, 규제 콘텐츠 형태와 같이 해로우면서도 심각한 피해를 주므로 인터넷 안전 측면에서 중요한 대상으로 보아야 한다”라는 견해를 피력했다.
** 위 기사는 와이어드US(WIRED.com)에 게재된 것을 와이어드코리아(WIRED.kr)가 번역한 것입니다. (번역 : 고다솔 에디터)
![[사진=Unsplash]](/news/photo/202403/5421_7014_387.jpg)
뉴스레터 신청