By KATE KNIBBS, WIRED US

인터넷에서 부자가 될 새로운 방법이 여럿 생겨났다. 적어도 인공지능(AI)을 이용하여 아동용 영상을 제작하여 돈을 벌 수 있다고 홍보하는 유튜브 튜토리얼 영상을 서둘러 접한다면, 인터넷에서 떼돈을 벌 수 있을 것이다. 아동 콘텐츠나 아동 콘텐츠 전문 유튜브 채널 생성 방법을 검색한다면, 몇 시간 동안 공들여 간단한 애니메이션을 제작하는 법을 알려주는 튜토리얼 영상을 확인할 수 있을 것이다. 모두 챗GPT, 음성 합성 서비스 일레븐랩스(ElevenLabs), 머프 AI(Murf AI), 어도비 익스프레스(Adobe Express) 내 생성형 AI 기능을 이용한 음성, 영상 생성은 물론이고 스크립트 자동 생성을 지지한다.

검색 결과 최상단에 등장한 어느 한 영샹의 썸네일 이미지에는 “어렵지 않다”라는 문구가 등장하며, 다른 영상의 제목에는 ‘In Under 20 Minutes!’와 같은 동요 원본을 이용하여 영상을 생성할 방법을 알려준다는 약속이 담겨 있다. AI로 아동 콘텐츠를 생성하면서 벌어들일 수 있다고 홍보하는 수익은 천문학적인 금액이다. 어느 한 영상 제목에는 “AI로 아동용 영상을 제작하고 120만 달러를 벌 수 있을까?”라는 문장이, 다른 영상 제목에는 “한 달 동안 5,000달러 벌어들이기”라는 내용이 포함되었다.

유튜브는 아동 엔터테인먼트 분야에서 가장 강력한 장악력을 지녔다는 점에서 부수입으로 생성한 AI 기반 아동 영상은 약간의 성공만으로 조회 수 수백만 회를 기록할 수 있다. 2023년, BBC는 유튜브에서 고학년 아동을 주요 시청자로 지정한 유사 과학 영상 증가 추세를 조사하고, AI를 이용하여 유사과학과 음모론을 알린 유튜브 채널 50개 이상 발견했다. 그러나 미취학 아동을 대상으로 한 애니메이션 영상 관련 연구는 훨씬 더 부족하다.

와이어드는 AI로 생성한 아동용 콘텐츠를 제공하는 계정 여러 개를 확인했다. 주로 게재한 영상이 많은 신규 채널을 검색하는 방식으로 확인할 수 있었다. 딥페이크 탐지 스타트업 리얼리티 디펜더(Reality Defender)는 일부 채널의 샘플을 조사하고, 생성형 AI가 생산 라인의 일부분이라는 증거를 찾아냈다. 딥페이크 탐지 스타트업 리얼리티 디펜더 CEO 벤 콜먼(Ben Colman)은 “그동안 스캔한 영상 중 일부 영상은 AI로 스크립트나 음성을 생성하거나 스크립트와 음성 모두 AI로 생성하고는 결합한 것으로 보인다. 그리고 생성형 AI로 생성한 텍스트 기반 음성 변환 기술은 날이 갈수록 보편적인 유튜브 영상이 되는 추세이다. 아동용 영상도 마찬가지라는 사실은 분명하다”라고 전했다.

예스! 네오(Yes! Neo)라는 생성형 AI 기반 아동 유튜브 채널은 구독자 97만 명 이상 보유했으며, 주기적으로 영상 조회 수 100만 건을 넘긴다. 예스! 네오는 2023년 11월 개설 후 며칠 간격으로 새로운 영상을 주기적으로 올린다. 주로 올리는 영상 제목은 “이런! 아가가 다쳤어요”, “응가송” 등이다. 리얼리티 디펜더는 표본 영상의 스크립트를 분석했다. “다친 아기 디노를 돌보기”와 같은 문장은 AI로 생성했을 확률이 98%로 판별되었다.

인도 기업 하이데라바드(Hyderabad)가 생성한 아동 유튜브 채널 슈퍼크레이지키즈(Super Crazy Kids)도 비교적 최근 공개한 애니메이션 영상 제작 과정에 AI를 포함한 것으로 확인됐다. 슈퍼크레이지키즈는 구독자 1,100만 명 이상 보유했다. 리얼리티 디펜더는 슈퍼크레이지키즈의 샘플 영상 분석 후 합성 음성 스니펫이 존재한다는 사실을 확인했다. (영상 제목은 “돼지 손가락 가족 노래 아동 유치원생 운용 다채로운 자동차 색상 아동용 45분 영상 컬렉션”과 같이 난해한 표현을 사용했다.) 슈퍼크레이지키즈는 교육용 유튜브 채널이라는 소개와 함께 영상을 색상, 모양, 숫자 학습용 영상으로 분류한다.

예스! 네오와 슈퍼크레이지키즈 운영자 모두 와이어드의 의견 공개 요청에 답변하지 않았다.
 
제한 사항은 극소수
예스! 네오, 슈퍼크레이지키즈, 그 외 비슷한 AI 생성 아동 콘텐츠 채널을 통해 보편적인 양상을 발견할 수 있다. 모두 미국 유튜브에서 최고 인기를 누리는 아동용 채널인 코코멜론(Cocomelon)과 유사한 형태의 3D 애니메이션을 보여준다는 점이다. 코코멜론의 모기업인 문버그(Moonbug) 대변인 다나 스타이너(Dana Steiner)는 코코멜론의 영상 중 AI를 사용하여 제작한 영상은 단 한 편도 없다고 전했다. 그러나 “문버그의 유능한 창의적 콘텐츠 제작팀은 항상 새로운 툴과 기술을 탐구한다”라고 말했다.

영상의 미적 요소가 익숙하다는 점에서 바쁜 부모는 재빨리 화면을 보면서 자녀에게 틀어준 영상이 AI로 생성한 영상을 보여주는가 헷갈릴 수 있다. 특별히 훌륭하게 제작한 영상이 아니라는 점에서 AI로 생성한 아동 콘텐츠는 오늘날 인간이 제작한 아동 엔터테인먼트의 부산함과 소란스러움, 모방성이라는 특성을 담은 조잡한 영상과 마찬가지로 조잡한 영상을 보여주고는 한다.

유튜브는 AI 생성 콘텐츠에 적용할 신규 정책을 도입 중이지만, 대대적으로 제한할 방안은 강구하지 않는다. 유튜브 대변인 엘레나 에르난데스(Elena Hernandez)는 “유튜브는 조만간 현실성을 대체하거나 합성 모델을 포함한 콘텐츠를 게재하는 크리에이터를 대상으로 콘텐츠 라벨 및 공개 요구사항을 도입할 계획이다”라고 전했다.

AI 생성 발견을 위한 적극적인 노력, AI 생성 영상 라벨 추가를 적용할 계획을 묻자 에르난데스 대변인은 추가 상세 사항은 추후 공개될 예정이라고 답변하면서도 지금은 자발적 공개에 주로 의존할 계획이라고 밝혔다. 에르난데스 대변인은 “유튜브의 주요 접근 방식은 크리에이터 스스로 현실적인 영상에 대체 혹은 합성 콘텐츠를 적용했다면, 이를 자발적으로 공개하도록 요청하는 방식이다”라고 말했다. 유튜브는 자동화 필터와 인간 검토, 사용자 피드백을 결합하여 제한 수준이 더 엄격한 유튜브 키즈(YouTube Kids) 서비스로 접할 수 있는 영상을 판단한다고 전했다.
 
일각에서는 유튜브와 전 세계 부모가 AI로 생성한 아동용 콘텐츠의 대규모 유입에 제대로 대비하지 못했다는 우려를 제기한다. 신경 과학자 에릭 호엘(Erik Hoel)은 최근, AI를 이용한 아동 콘텐츠 제작 튜토리얼 영상 여러 편과 AI로 제작한 것으로 보이는 아동 영상 여러 편을 보았다. 호엘은 슈퍼크레이지키즈 등 일부 채널을 지목하며, 섭스택(Substack) 게시글을 통해 불만을 제기한 AI 생성 아동 콘텐츠를 향한 불안감을 숨기지 못했다. 호엘은 섭스택에 “부모가 무심하게 건넨 아이패드를 받은 전 세계 갓난아이는 합성 콘텐츠 경쟁 대상이 되고, 소비하는 미디어에서도 인간과의 접촉 기회가 박탈된다”라며, “탈이상주의라는 표현 말고는 마땅한 표현이 없다”라고 작성했다.

호엘의 경고를 보고 ‘엘사게이트(Elsagate)’라고 알려진 아동 유튜브의 가장 최근 파문을 떠올릴 수 있다. 엘사게이트는 2017년, 많은 사용자가 주로 디즈니 겨울왕국 캐릭터 엘사, 스파이더맨, 페파피그(Peppa Pig)의 돼지 영웅 캐릭터 등이 등장하는 유튜브에서 아동을 대상으로 초현실적이면서 불쾌한 영상 노출 빈도를 인지하면서 시작되었다. AI 생성 콘텐츠는 엘사게이트와 같은 최악의 순간에 이르지 않았으나 AI로 생성한 아동 콘텐츠 제작자는 유튜브 자동 추천 알고리즘의 관심을 끌어모은다는 비슷한 목표에 따라 영상을 대거 게재한다.

아동 콘텐츠 창작 부대
더 의문스러운 아동용 AI 영상 채널은 이미 이상한 방향으로 향하기 시작했다. 일례로, 브레인너시에그TV(Brain Nursey Egg TV)라는 채널은 “아동용 차량. 가사가 적힌 슬라이드 트레일러”라는 제목의 불안한 영상을 게재했다. 해당 영상 설명에는 “디즈니 주니어 엘리미 브라크마 24 치마 소로자트 빔NG-디스트럭션 알리 바바닌 시프트리기 샤르키시 라 브루지타 아동 창직물 성직자 손가락”이라는 난해하면서도 긴 키워드가 나열되었다.

AI가 생성한 서사가 없는 영상은 떠다니는 안구, 색상이 흘러내리는 블록 등 시각적 결함 여럿을 결합했다. 아동의 박수갈채 소리, 숫자를 세는 로봇 음성, 아기 웃음소리, ‘유튜브’라는 단어를 읊는 다른 로봇 음성이 섞인 사운드트랙은 임의로 적용된 듯하다. 콜먼은 “음성을 영상에 따라 생성하고는 AI 스크립트를 주입하거나 AI 생성 스크립트를 바탕으로 완성된다. 또, 최근 기억한 예술 작품 중 최고 혹은 최악의 초현실적 영상 예술 작품이 된다”라고 설명했다. 최고이든 최악이든 AI로 생성한 아동 영상은 아직 크게 주목받지 못했다. 브레인너시에그TV의 일부 영상은 조회 수가 매우 적은 편이다. 브레인너시에그TV 운영자는 이메일 주소나 기타 운영자 연락처 정보를 공개하지 않았다.

AI로 제작한 저급한 스펀지밥 애니메이션인 AI스펀지(AISponge)는 AI로 제작한 예술 작품이라는 사실을 공개했다. 아동 애니메이션 프로그램을 이용했으나 성인이 논의할 만한 주제임이 확실한 소재를 제공하는 관객에게 서사를 요청한다. 와이어드가 본 AI스펀지 에피소드는 집게사장이 운영하는 햄버거 가게의 근로자 파업을 중심으로 제작되었다. 해당 에피소드에서 일부 캐릭터가 집게사장에게 적은 임금 문제로 분노를 표출했다. 다른 에피소드에서는 스펀지밥이 친구 뚱이에게 조심스럽게 브라질리언 제모 방법을 알려주는 내용이 등장하기도 한다.

유튜브 아동 프로그램 중 AI를 공개적으로 받아들인 주류 프로그램도 몇 편 찾아볼 수 있다. 과거 지니어스 브랜드 인터내셔널(Genius Brands International)이라는 이름으로 알려진 카툰 스튜디오스(Kartoon Studios)는 ‘키다버스 펀 팩트(Kidaverse Fun Facts)’, ‘워런 버핏의 비밀 백만장자 클럽(Warren Buffett’s Secret Millionaires Club)’ 등 아동용 프로그램에 AI를 사용한 사실을 홍보했다. 두 영상 모두 유튜브에서 볼 수 있다.

유튜브 외 다른 플랫폼에서도 AI를 이용한 콘텐츠 제작을 실험하는 유명 아동 콘텐트 크리에이터를 찾아볼 수 있다. 아동용 고급 엔터테인먼트 표준을 준수하는 콘텐츠 제작사인 PBS 키즈(PBS Kids)는 ‘라일라 인 더 루프(Lyla in the Loop)’, ‘엘리노어 원더스 와이(Elinor Wonders Why)’ 등 상호작용 디지털 에피소드 제작 시 AI를 사용하는 방안을 탐색 중이다. 그러나 프로젝트에서는 생성형 AI로 콘텐츠를 제작하지 않는다. PBS 키즈 커뮤니케이션 수석 책임자 루브나 아불바(Lubna Abuulbah)는 “AI는 사용자 반응을 해석하고는 에피소드의 스크립트가 사전 주입된 캐릭터 반응을 지시하는 데 도움을 준다”라고 말했다.

AI 툴은 의도적으로 깊이 고려하여 사용한다면, 축복이 될 수 있다. 아불바는 AI가 지시한 상호작용 프로그램이 유망한 학습 수단이 될 수 있다는 사실을 시사하는 연구를 근거로 인용했다. 보스턴아동병원 산하 디지털행복연구소 연구소장 데이비드 버캠(David Bickham)은 PBS 키즈의 AI 툴 적용 유형이 매우 유용한 형태로 발전한다고 평가했다. 다만, AI 아동 콘텐츠를 서둘러 받아들인다면, 저급한 콘텐츠가 새로이 마구 유입되는 시대가 열릴 것으로 예상한다. 버캠 소장은 “AI가 생성하는 콘텐츠는 무조건 관심을 끌어모을 의도로 제작될 것이다. AI로 마구 생성한 아동 콘텐츠로 교육이나 기타 긍정적 영향을 기대해서는 안 될 것이다”라고 말했다.

낮은 품질의 아동 프로그램은 AI 호황기 전에도 유튜브, 그리고 TV에도 존재했다. 생성형 AI기 유발한 주된 위협은 단순히 낮은 품질의 아동 프로그램을 빠른 속도로 대거 생성하는 일이 수월해졌다는 사실일 것이다. AI가 웹 콘텐츠 자체에 미친 악영향과 비슷하다고 볼 수 있다.

버캠 소장은 “최고의 콘텐츠 제작 공식은 철저한 과정을 거치는 것이다”라며, 세서미스트리트와 같은 일부 아동 TV 프로그램 제작진이 주도면밀한 작업으로 실제 아동에게 전달하고자 하는 교훈을 계획한 뒤 TV에 최종 완성된 에피스도를 방영한다는 사실에 주목했다. 급하게 조합한 AI 캐릭터가 등장하는 유튜브 영상은 철저한 과정으로 제작된 TV 프로그램과는 180도 다른 접근방식을 택하고, 실제 아동의 삶에 도움을 줄 교훈보다는 콘텐츠 양과 알고리즘의 주목, 수익화에만 초점을 맞춘다.

게다가 AI 툴이 콘텐츠 제작 과정을 자동화하므로 AI 생성 아동 콘텐츠를 최대한 많이 게재하는 데 초점을 맞춘 채널은 타인이 영상을 보기 전 최종 완성 영상을 검수하지도 않았을 가능성이 있다. 미디어 문해력 비영리 단체 커먼센스미디어(Common Sense Media)의 최고 AI 자문위원 트레이시 피조 프레이(Tracy Pizzo Frey)는 “AI 생성 콘텐츠 중 인간이 검수한 뒤 공개하는 영상 수를 알아낸 방법은 없을 것이다”라고 말했다.

유튜브가 조만간 적용할 정책은 AI 생성 콘텐츠임을 공개하기만 한다면, 인간의 검수 작업이 없어도 AI 콘텐츠 게재를 허용할 것으로 보인다. 악의를 지닌 이들은 직접 올리는 영상 제작 시 AI를 사용한 사실을 밝히지 않고, 검수가 없는 로봇 콘텐츠를 얼마나 오래 올릴 수 있는지 살펴보기만 할 것이다.

피조 프레이는 콘텐츠 크리에이터와 플랫폼 모두 아동에게 제공하는 콘텐츠에 책임을 져야 한다고 말한다. 이어, “특히, AI로 생성한 콘텐츠라면, 의미 있는 인간의 감독이 매우 중요하다. 콘텐츠 관련 책임을 아동의 보호자에게 떠넘겨서는 안 된다”라고 강조했다.

** 위 기사는 와이어드US(WIRED.com)에 게재된 것을 와이어드코리아(WIRED.kr)가 번역한 것입니다. (번역 : 고다솔 에디터)

<기사원문>
Your Kid May Already Be Watching AI-Generated Videos on YouTube