By KATE KNIBBS, WIRED US

2024년 5월 8일(현지 시각), 오픈AI가 챗GPT를 포함한 자사의 인공지능(AI) 기술의 행동이 어떤 방식으로 이루어지기를 바라는가를 기술한 문서 초안을 공개했다. ‘모델 스펙(Model Spec)’이라는 제목으로 발행된 문서는 오픈AI가 포르노를 포함한 기타 노골적인 성적 표현을 담은 콘텐츠로 거두고자 하는 성과를 공개했다.

오픈AI의 현행 AI 기술 사용 정책은 노골적인 성적 표현이나 성적 암시 콘텐츠를 금지한다. 하지만 해당 규정과 관련하여 모델 스펙에 작성된 의견은 성적 콘텐츠 허용 방식을 고려한다.

의견란에는 “오픈AI는 API와 챗GPT를 통해 시대에 적절한 맥락에 따라 불건전한 콘텐츠 생성 능력 제공 책임을 다할 수 있는가 탐색 중이다. 오픈AI는 책임을 다한 불건전한 콘텐츠 생성 영역에서 사용자와 사회적 기대감을 더 깊이 이해하고자 한다”라고 기술되었다. 노골적인 성적 콘텐츠를 불건전한 콘텐츠라는 용어로 표현했다.

모델 스펙에는 성적 표현, 극단적 폭력, 욕설, 청하지 않은 음란함 등이 불건전한 콘텐츠에 해당한다고 명시되었다. 오픈AI의 책임을 다한 불건전 콘텐츠 생성 방법 설명으로는 오픈AI의 생성형 AI 기술 사용 정책이 성적 콘텐츠 생성을 허용하거나 광범위한 영역에서 노골적인 성적 표현이나 폭력 묘사를 허용하는 사례와 같이 약간 완화될 가능성을 확실히 알 수 없다.

오픈AI는 자사 기술이 욕설과 성적 콘텐츠를 포함한 불건전한 콘텐츠로 고려할 만한 다양한 콘텐츠의 범위를 책임을 지면서 생성하는 방법을 고려한다. 그러나 오픈AI는 노골적인 성적 표현 방식을 다루는 것을 특히 더 중요하게 다룬다.
 
니코 펠릭스(Niko Felix) 오픈AI 대변인은 와이어드에 보낸 공식 성명을 통해 “오픈AI는 생성형 AI 포르노를 생성할 의도가 전혀 없다”라고 말했다. 그러나 모델 스펙 작성을 도운 오픈AI 관계자 조안나 장(Joanne Jang)은 NPR과의 인터뷰에서 오픈AI의 기술이 성인 콘텐츠를 생성한다면, 사용자가 궁극적으로 직접 성적 콘텐츠를 제작하기로 결심할 수 있다고 말하며, 그는 “사용자 개인이 인식하는 포르노 정의에 따라 다르다”라고 전했다.

그레이스 맥귀리(Grace McGuire) 오픈AI 대변인은 모델 스펙이 대중과 정치 입안자, 기타 이해관계자의 관점과 피드백을 받는 것과 관련하여 AI 개발 과정의 투명성을 추가하려 했다고 설명했다. 맥귀리 대변인은 오픈AI의 노골적인 성적 콘텐츠 생성 과정 탐색 시 포함 사항이나 오픈AI가 노골적인 성적 콘텐츠 생성과 관련하여 얻은 피드백의 상세 사항 공개는 거부했다.

2024년 초, 오픈AI 최고 기술 책임자 미라 무라티(Mira Murati)는 월스트리트저널과의 인터뷰에서 오픈AI가 추후 영상 생성 툴 소라(Sora)를 이용한 나체 이미지 묘사를 허용할 가능성이 확실하지 않다고 밝혔다.

AI 생성 포르노는 오픈AI가 선도한 생성형 AI 유형 적용 중 가장 심각하면서도 문제가 된 적용 사례가 되었다. AI 툴로 당사자 동의 없이 실제 인물을 노골적인 모습으로 묘사한 이미지나 영상을 칭하는 이른바 딥페이크 포르노는 여성과 소녀를 대상으로 한 성희롱의 보편적인 수단으로 변질되었다. 2024년 3월, 와이어드는 미국 플로리다주에서 최초로 당사자 동의 없는 AI 생성 나체 이미지를 배포한 청소년 두 명이 체포된 소식을 보도했다. 당시 플로리다주 경찰은 생성형 AI로 동급생의 이미지를 배포한 혐의로 중학생 두 명을 기소했다.

생성형 AI 포르노 문제를 연구한 적이 있는 버지니아대학교 법학 교수 다니엘레 키츠 시트론(Danielle Keats Citron)은 “딥페이크 성적 영상과 기타 당사자 동의 없는 합성 성적 이미지를 포함한 개인 프라이버시 위반 행위가 기승을 부리면서 매우 심각한 피해를 초래한다. 이제는 노골적인 성적 이미지 생성 목적의 악용 사례의 대가가 업무, 발언, 물리적 안전 등 개인의 매우 중요한 기회를 표적으로 삼는다는 사실을 분명한 관측에 따라 지지한다”라고 말했다.

시트론 교수는 오픈AI가 노골적인 성적 AI 콘텐츠를 적극적으로 받아들일 가능성에 경각심을 가져야 한다고 촉구했다.

오픈AI의 정책에는 당사자 동의 없는 타인 사칭을 금지한다는 내용이 명시되었다. 따라서 오픈AI가 불건전한 콘텐츠 생성을 허용하더라도 당사자 동의 없이 생성한 노골적인 성적 이미지는 금지 대상이 될 것이다. 하지만 오픈AI가 노골적인 성적 콘텐츠 생성을 효과적으로 관리하여 악의적 의도를 지닌 사용자가 생성형 AI 툴을 악용할 가능성을 막을 수 있을지는 더 지켜보아야 한다. 마이크로소프트는 자사 생성형 AI 툴 중 하나를 변경했다. 404 미디어가 자사 생성형 AI 기술이 X에서 유포된 테일러 스위프트의 노골적인 성적 이미지 생성 과정에 동원된 사실을 보도한 후의 일이다.

** 위 기사는 와이어드US(WIRED.com)에 게재된 것을 와이어드코리아(WIRED.kr)가 번역한 것입니다. (번역 : 고다솔 에디터)

<기사원문>
OpenAI Is ‘Exploring’ How to Responsibly Generate AI Porn