메타의 온라인 광고 라이브러리는 메타가 페이스북, 인스타그램, 메신저에서 인공지능(AI)이 생성한 전체 공개를 하기에는 안전하지 않은 동반자나 여자 친구 앱 광고 수천 개를 게재한다는 사실이 밝혀졌다. 메타는 불건전한 대화 샘플과 신체 일부를 가린 상태이면서 비현실적인 몸매를 지닌 여성의 이미지를 구현한 AI 이미지를 이용하여 성적 표현이 노골적으로 드러나는 사진과 텍스트를 제공한다고 홍보한다.
와이어드가 검토한 광고 속 가상 여성의 모습 대부분 다소 소름이 끼치지만, 실존 인물과 같은 젊은 여성의 모습이며, 포르노의 성적 고정관념을 담았다. 잠재적 고객은 AI 계모와 역할극을 수행하거나 AI가 생성한 히잡을 착용한 10대 소녀와 연결하거나 1분 만에 성적 만족도를 선사한다고 약속하는 아바타와의 대화에 참여하도록 초대받는다.
메타의 광고 정책에 노골적이거나 간접적으로 성적인 요소를 연상케 하는 인물 혹은 성적 행위를 과도하게 암시하거나 성적 유혹을 하는 활동 묘사를 포함한 성인 콘텐츠 금지 규정이 명시되었다. 그러나 메타의 플랫폼에 AI 기반 성적 대화 앱 광고가 우후죽순으로 등장한다.
AI로 생성한 성적 대화 앱 광고가 AI와 인간 근로자 간 갈등의 새로운 논쟁 국면이 탄생한 배경이 되었다. 일부 인간 화류계 종사자는 메타가 챗봇을 추가하도록 하면서도 성인 콘텐츠 규정을 과도하게 시행하여 성매매 산업에 종사하는 인간의 메타 플랫폼 내 기존 게시물을 차단하는 부당한 규제를 시행한다는 불만을 토로했다.
영국 화류계 종사자 권리 및 폴댄스 행사 기관인 폴댄스스트리퍼 무브먼트(Pole Dance Stripper Movement) 소장 젬마 로즈(Gemma Rose)는 “성매매업 종사자가 ‘무엇이든지 원하는 행동을 하고, 순식간에 유혹할 수 있다’라는 내용의 콘텐츠를 게재하면, 즉시 삭제된다”라고 말했다.
메타의 정책은 나체나 성행위를 보여주는 콘텐츠와 스마트폰을 이용한 성행위 관련 사진 공유를 포함한 성매매 관련 콘텐츠 게재를 금지한다. 로즈를 포함한 화류계 종사자 여러 명은 메타가 불건전한 채팅 앱을 허용하면서도 인간 화류계 종사자에게는 같은 행동을 금지하는 이중잣대를 적용한다고 주장한다.
성교육이나 성적 긍정적 인식 콘텐츠 게재자나 다년간 화류계에 종사한 이들은 메타가 부당한 콘텐츠 억압 관행을 펼친다는 불만이 잇따랐다. 와이어드가 본 스크린샷으로 확인한 바와 같이 메타는 로즈의 게시글 중 일부를 팔로워가 아닌 사용자는 볼 수 없는 상태로 차단했다. 로즈의 개인 인스타그램 계정과 폴댄스스트리퍼 무브먼트 계정 모두 메타의 정책을 위반했다는 이유로 정지되었다.
로즈는 메타의 플랫폼에 광고가 게재된 AI 성적 챗봇과 관련, “다수 커뮤니티 가이드라인과 규정, 규제 사항을 반대하는 것은 아니다. 하지만 화류계 종사자는 인터넷에서 여전히 검열되거나 플랫폼 활동을 떠나 돈을 벌 수 있다”라고 말했다.
[사진=Freepik]
와이어드는 메타의 플랫폼에 현재 게재되는 모든 광고와 유럽연합에 지난 1년간 게재된 모든 광고, 지난 7년간 게재된 선거나 정치, 사회적 문제 관련 광고를 볼 때 사용하는 투명성 툴인 광고 라이브러리를 이용하여 챗봇 광고를 조사했다.
와이어드가 메타에 문의했을 시점인 2024년 4월 셋째 주 기준으로 활성화된 광고는 2,700여 개였다. 그리고 며칠 뒤 라이언 다니엘스(Ryan Daniels) 메타 대변인은 메타가 성인 콘텐츠를 포함하는 광고를 금지하며, 광고를 검토하고는 정책을 위반한 광고는 삭제한다고 전했다. 다니엘스 대변인은 “메타는 평소처럼 정책을 위반한 광고를 확인하는 즉시 삭제한다. 앞으로 정책을 위반한 광고와 행동 감지 방법을 포함한 광고 관리 시스템을 개선할 것이다”라고 말했다.
그러나 4월 23일(현지 시각) 기준 메타의 광고 라이브러리에서 확인할 수 있는 광고 중에는 AI 여자 친구 관련 광고 3,000건과 성적으로 불건전한 광고 1,100건이 포함되었다.
와이어드는 광고 라이브러리 초기 검토 당시 구글 플레이스토어 다운로드 횟수 10만 회를 돌파한 AI 여자 친구 앱 허쉬(Hush)가 메타의 모든 플랫폼에서 광고 1,700건을 게재한 것을 확인했다. 일부 광고는 실제 인간과 같은 여성 캐릭터부터 애니메이션 여성 캐릭터, 만화 동물 캐릭터까지 성적으로 노골적인 대화와 비밀 사진 제공을 약속하는 광고였다.
허쉬가 메타의 여러 플랫폼에 게재한 광고 중 하나는 AI 여성이 중세 감옥에 목과 손목이 묶인 채로 갇혀 “도와주세요. 무엇이든 할게요”라고 애원하는 모습이 담겨있었다. 메타의 SNS 플랫폼을 이용하는 18세~65세 성인 남성을 대상으로 게재된 또 다른 광고는 애니메이션 캐릭터와 함께 “더 노골적인 사진을 보고 싶은가?”라는 문구를 보여주는 광고였다.
와이어드가 검토한 메타의 광고 중 980여 건은 개인 맞춤형 AI 동반자 앱 로지톡(Rosytalk)이 앳된 AI 여성 이미지와 함께 쉴 새 없이 대화를 이어간다고 약속하는 광고였다. 로지톡 광고는 ‘갓 성인이 된 여성’, ‘착한 여자’, ‘10대’ 등과 같은 태그를 사용했다. 로지톡은 로지걸(Rosygirl), 로지 롤플레이 챗(Rosy Role Play Chat), AI 챗GPT(AI Chat GPT) 등 최소 9개 브랜드 이름으로 광고 990건을 게재했다.
메타 광고로 성적으로 불건전한 대화를 제공한다고 홍보한 AI 여자 친구 앱을 최소 13개 더 찾아볼 수 있었다. AI 여자 친구 앱이 제공하는 기능 중 사용자가 AI 여자 친구의 옷을 벗기고는 이미지를 다운로드하도록 하는 ‘누드’ 기능도 있다. AI 여자 친구 앱 광고 중 몇 개는 메타의 광고 표준을 위반하여 삭제되었다. 소셜미디어 연구 기업 그래피카(Graphika)가 최근 데일리메일과의 인터뷰에서 밝힌 바에 따르면, 옷 벗기기 앱도 복수 주류 SNS 플랫폼과 링크드인에서 광고로 게재되었다.
이른바 AI 동반자 앱의 일부 사용자는 외로움을 퇴치하는 데 도움이 된다고 말한다. 반면, AI가 진짜 파트너 같다고 말하는 이들도 있다. 와이어드가 검토한 광고 모두 성적 이미지로 자극을 주는 방식으로 홍보하기만 한 것은 아니다. 일부 광고는 노골적인 성적 표현을 하는 AI 챗봇이 감정적으로 지원한다는 점도 홍보한다. 메타 플랫폼에 등장한 허쉬 광고 중에는 “아무 상대이든 대화하라! 혼자가 아니다!”라는 문구가 적힌 광고도 있다.
영국 노섬브리아대학교 디지털시민센터(Center for Digital Citizens)에서 소셜 미디어 연구를 담당하는 혁신 연구원 캐롤라이나 아(Carolina Are)는 메타가 자사 플랫폼에서 인간 화류계 종사자의 광고 게재가 매우 어려운 일이 되도록 관리한다고 분석했다.
과거, 메타 플랫폼의 상실된 계정 및 부당하게 정지된 화류계 종사자의 계정 재활성화를 도운 아 연구원은 “스스로 신체를 이용하여 일하면서 돈을 벌고자 할 때 SNS 플랫폼에서 금지된다. 반면, 이미 존재하는 성적으로 노골적인 이미지를 이용하는 이들을 바탕으로 서비스를 제공하는 AI 기업 대부분 노골적인 성적 행위나 이미지로 돈을 벌 수 있다”라고 지적했다.
아 연구원은 성적 유혹을 하는 AI 여자 친구를 보면, 발전 수준이 낮은 포괄적인 인터넷 포르노 초기가 떠오른다고 밝혔다. 이와 관련, “화류계 종사자는 비교적 개인 맞춤 수준이 높은 방식으로 고객, 구독자, 팔로워와 소통한다. 나체 사진 공유를 넘어선 수많은 일과 감정 노동이 이루어진다”라고 설명했다.
노골적인 성적 표현을 하는 AI 앱 개발 방식이나 기본 텍스트나 이미지 생성 알고리즘 훈련 방식을 파악할 정보는 제한적이다. 앱 이름 자체로 오픈AI의 AI 영상 생성 프로그램과의 관련성을 시사하는 듯한 앱인 소라(Sora)는 앱 개발 과정이나 알고리즘 훈련 과정을 공개하지 않았다.
노골적인 성적 표현을 구현하는 AI 앱 개발자는 음지에서 활동한다. 메타의 플랫폼에 앱 생성 사실을 홍보하면서 구글 플레이스토어나 페이스북에 등록된 개발자 중 와이어드의 의견 공개 요청에 응답한 이는 없다.
성인 산업 비영리 단체인 표현의 자유 연합(Free Speech Coalition) 공공 문제 소장 마이크 스태바일(Mike Stabile)은 노골적인 성적 표현을 하는 AI 여자 친구 앱 홍보와 광고 전략 모두 스캠이라고 본다. 성인 산업은 온라인 광고 게재가 금지되었으나 노골적인 성적 표현을 하는 AI 앱이 우후죽순으로 등장하고 있다. 스태바일 소장은 “결국, 실제 화류계 종사자를 검열하거나 침묵하도록 강요하고는 성적 표현을 생성하는 AI 앱이 SNS 플랫폼에 기승을 부리도록 하는 검열의 역설이 존재한다”라고 분석했다.
2018년, 서명되어 미국 법률이 된 성매매 목적 인신매매 금지 법안인 FOSTA-SESTA는 온라인에 게재된 콘텐츠와 관련, SNS 플랫폼이 책임을 지도록 하면서 성인 콘텐츠 대부분 제한한다. 하지만 양측 당사자의 동의로 성매매를 하는 화류계 종사자도 디지털 세계에서는 성매매 목적 인신매매 대상으로 보고는 성적 콘텐츠 크리에이터를 온라인 세계에서 퇴출하고는 이미 소외된 화류계 종사자가 더 취약한 상태에 내몰리도록 한다.
메타가 자사 SNS 플랫폼에서 AI 여자 친구 광고를 제거한다면, 인간 화류계 종사자 모두 퇴출된 과거가 반복될 것이다. 로즈는 폴댄스스트리퍼 무브먼트는 메타의 지침을 성실히 따르려 했으나 2023년 6월, 성 관련 계정 최소 45개가 대거 삭제되던 시기에 사전 경고 없이 차단되었다고 전했다. 결국, 메타는 일부 삭제 대상이 된 계정을 복구하고는 오류였다고 주장했다. 그러나 SNS 계정을 보유한 화류계 종사자에게는 과도한 검열로 계정이 갑자기 사라지는 일이 반복될 수 있다.
2021년 6월, 로즈의 개인 계정과 백업 계정 모두 코로나19 당시 폴댄스 워크샵 관련 사진을 게재하자 삭제되었다. 로즈는 온라인 폴댄스 교실을 운영하는 동시에 성인 구독 웹사이트 온리팬스(OnlyFans)에도 콘텐츠를 게재했다. 로즈는 “하루아침에 사업용 계정이 사라졌다. 스스로 일을 유지할 방법이 없었다”라고 전했다.
로즈는 “SNS 계정이 삭제되었다. 하지만 AI 기업은 화류계 종사자가 게재해서는 안 될 광고를 게재해도 아무 문제가 없다. 말이 안 되는 일이다”라고 불만을 토로했다.
** 위 기사는 와이어드US(WIRED.com)에 게재된 것을 와이어드코리아(WIRED.kr)가 번역한 것입니다. (번역 : 고다솔 에디터)
![[사진=Freepik]](/news/photo/202405/5525_7129_228.jpg)
뉴스레터 신청