By KATE KNIBBS, WIRED US

유튜브가 딥페이크 시대에 따라 규정 변경 사항을 발표했다. 2024년 3월 19일(현지 시각), 유튜브에 영상을 업로드하는 사용자 모두 생성형 인공지능(AI) 등 특정 합성 미디어를 사용했다면, 해당 사실을 공개해 사용자가 시청하는 영상이 진짜가 아니라는 사실을 알 수 있도록 해야 한다. 유튜브는 실제 건물 화재 현장처럼 제작한 합성 영상이나 서로 다른 인물의 얼굴과 신체를 교체한 이미지 등 현실적인 대체 미디어에 합성 미디어 사용 사실 공개 규정이 적용된다고 설명했다.

유튜브가 새로 적용한 정책은 2024년 미국 대통령 선거를 앞두고 AI로 생성한 거짓 정보 확산을 억제하는 데 도움이 될 수 있다. 또한, 놀라운 허용 조건을 제시하기도 했다. 유튜브는 아동용 AI 생성 애니메이션에는 합성 콘텐츠 공개 규정이 적용되지 않는다고 밝혔다.

유튜브의 신규 정책은 애니메이션 콘텐츠를 공개 요구 사항에서 아예 제외했다. 즉, 신속하게 부를 축적할 수단으로 새로 떠오르는 AI 콘텐츠 생성자가 생성형 AI 사용 사실을 전혀 밝히지 않고 아동용 영상 콘텐츠를 계속 대거 생성할 수 있다는 의미이다. 부모는 허술한 동요가 포함된 영상 품질 때문에 AI로 생성한 만화를 직접 찾아내야 할 수도 있는 상황을 우려한다.

유튜브 신규 정책에는 뷰티 필터나 영상 및 음성 노이즈 정돈 등 주로 미적 용도로 적용된 사소한 편입 사항에 AI를 사용한 사실을 공개할 필요가 없다는 사실도 명시되었다. AI를 사용하여 스크립트나 캡션을 생성 혹은 개선하는 행위도 공개 대상에 해당하지 않는다.

AI를 사용하지 않고 제작된 저품질 콘텐츠가 이미 넘쳐나는 상황에서 생성형 AI는 영상 콘텐츠 생성 속도를 높이는 방식으로 영상 제작 장벽을 낮춘다. 유튜브 모기업인 구글은 최근, 검색 알고리즘을 변경하여 챗GPT 등 AI 툴로 생성한 조회수 상승 유도 저품질 콘텐츠의 대규모 유입을 억제한다고 밝혔다. 영상 생성 기술은 완성도가 낮은 편이지만, 빠른 속도로 개선되고 있다.
 
확립된 문제
유튜브는 아동의 대규모 엔터테인먼트 플랫폼이다. 넷플릭스와 디즈니 등 다수 경쟁사는 아동 엔터테인먼트 시장에서 차지하는 비중이 훨씬 더 적은 편이다. 유튜브는 아동에게 특히 적합하거나 매력적으로 보이면서도 비윤리적인 주제를 포함한 콘텐츠를 더 자세히 보여주는 콘텐츠 호스팅으로 강력한 비판을 받았다.

최근, 와이어드는 아동을 대상으로 한 유튜브 채널 중 AI 영상 생성 툴을 이용하여 실제 3D 애니메이션과 인기 동요를 비정상적으로 반복하는 것으로 나타난 채널이 급격히 증가하는 추세를 보도하였다.

아동 애니메이션은 유튜브 신규 정책 적용 대상에서 제외라는 사실은 부모가 검색 결과에서 AI 콘텐츠를 제외하거나 아동이 인기가 높으면서도 PBS 키즈(PBS Kids), 미즈 레이첼(Ms. Rachel) 등 철저한 검증을 받은 채널 영상을 보도록 설정한 뒤 유튜브 추천 알고리즘이 AI 생성 만화 자동 재생을 실행하도록 할 수 없다는 의미이다.

아동을 대상으로 한 일부 문제성 AI 생성 콘텐츠는 유튜브 신규 정책에 따른 경고가 필요하다. 2023년, BBC는 AI 툴을 이용하여 고학년 아동을 대상으로 유사 과학과 기후변화 부정 등 음모론을 유포하는 영상이 급격히 증가한 추세를 조사했다. BBC 조사 대상이 된 문제 콘텐츠는 이집트 기자의 실제 피라미드를 보여주는 등 기존 실시간 반응 교육 영상을 모방하여 AI 사용 사실을 의심하지 않는 시청자가 정확한 교육 콘텐츠로 착각하도록 한다. (피라미드 영상은 피라미드 구조물이 전기를 생산할 수 있다고 주장했다.) AI 생성 콘텐츠 공개 규정은 교육 콘텐츠로 가장한 문제 콘텐츠를 단속할 수 있을 것이다.

엘레나 에르난데스(Elena Hernandez) 유튜브 대변인은 “아동 콘텐츠 크리에이터에게 실제 이미지처럼 보이는 대체 영상 혹은 합성 영상을 공개하도록 요청한다. 다만, 누가 보더라도 확실히 비현실적인 모습이어서 시청자가 실제라고 혼동할 일이 없는 콘텐츠는 합성 기술 사용 사실 공개 요구 대상에 해당하지 않는다”라고 말했다.

아동 전용 앱인 유튜브 키즈는 자동화 필터와 인간 검토, 사용자 피드백을 함께 활용하여 훌륭한 아동 콘텐츠를 찾아내도록 적절한 콘텐츠를 엄선한다. 그러나 많은 부모가 메인 유튜브 앱만 사용하여 자녀가 직접 유튜브 영상을 보도록 하고, 눈에 띄는 영상 제목과 목록, 썸네일 이미지에만 의존하여 적합한 영상을 판단한다.

지금까지 와이어드가 유튜브에서 찾은 아동 콘텐츠 중 AI로 생성한 것이 가장 분명한 영상은 기존의 저급 아동 애니메이션과 비슷한 방식으로 완성도가 낮은 콘텐츠로 제작되었다. 모두 시각적 아름다움이 없고, 일관성이 없는 서사를 다루면서 교육적 가치가 전혀 없다. 하지만 다른 영상보가 유독 시각적 아름다움과 일관적 서사 수준이 낮거나 교육적 가치가 전혀 없는 것은 아니다.

AI 툴은 콘텐츠 생성 작업을 이전보다 더 수월하면서도 대규모 콘텐츠 생성이 가능해지도록 돕는다. 와이어드가 본 일부 AI 아동 콘텐츠 채널 중 일부 채널은 1시간이 넘는 영상을 포함하여 긴 영상을 게재한다. AI 생성 아동 콘텐츠에 AI 사용 사실 공개 라벨을 적용한다면, 인간의 검증이 최소화되거나 전혀 없는 AI 만화를 분류하는 데 도움이 될 것이다.

** 위 기사는 와이어드US(WIRED.com)에 게재된 것을 와이어드코리아(WIRED.kr)가 번역한 것입니다. (번역 : 고다솔 에디터)

<기사원문>
Kids’ Cartoons Get a Free Pass From YouTube’s Deepfake Disclosure Rules