By WILL KNIGHT, WIRED US

2024년 1월, 컨설팅 기업 액센추어(Accenture)가 잠재적 고객사를 대상으로 이례적이면서도 모두의 시선을 끄는 신규 프로젝트 홍보 프리젠테이션을 진행했다. 해당 고객사는 전형적인 슬라이드 프리젠테이션 대신 추진하고자 하는 프로젝트를 완벽하게 설명한 가상 무대에 선 직원 몇 명의 딥페이크를 보았다.

딥페이크를 활용한 홍보 프리젠테이션을 제안한 액센추어 최고 운영 책임자 레나토 스카프(Renato Scaff)는 “고객사 관계자에게 액센추어팀 직원을 보여주고자 했다. 액센추어도 경쟁사와 차별화할 수 있는 방법이기도 했다”라고 말했다.

직원의 동의를 받고, 딥페이크를 제작한 기업은 액센추어가 투자한 기업이기도 한 터치캐스트(Touchcast)이다. 터치캐스트는 실제 인간이나 합성 인간의 아바타를 특징으로 한 상호작용 프리젠테이션 플랫폼을 제공한다. 터치캐스트의 아바타는 관련 정보 분석, 즉석 답변 능력을 갖춘 인공지능(AI) 모델을 이용하여 음성 혹은 문자로 전달한 질문에 답변한다.

스카프는 딥페이크로 구현한 직원의 모습을 이야기하며, “불쾌한 요소가 있지만, 멋진 요소가 더 많다”라고 말했다.

딥페이크는 거짓 정보와 명예훼손 위험성을 지닌 무기이다. 그러나 많은 기업이 딥페이크를 새로이 영리한 방식으로 고객에게 접근하여 소통할 수단으로 보면서 채택하기도 한다.

딥페이크를 이용한 새로운 소통 방식 실험은 기업에만 국한된 것이 아니다. 임페리얼칼리지런던 경영대학원 혁신디지털교육분석 연구소(Innovation, Digital Education, and Analytics Lab) 소장 모니카 아레스(Monica Arés)는 실제 교수의 딥페이크를 제작하여 강의실 바깥에서도 학생의 질문과 문의의 참여도를 높이고 효과적으로 답변할 수 있기를 바란다. 아레스는 딥페이크가 개인화 수준 향상과 새로운 학생 관리 및 평가 방법 제공, 학생 참여도 향상 잠재력이 있다고 본다. 아레스는 “여전히 인간이 말하는 것을 좋아할 것이다. 따라서 매우 자연스러운 일이다”라고 말했다.
 
오늘날 종종 접할 수 있는 사례와 마찬가지로 AI 덕분에 복잡한 현실을 풀어낼 수 있었다. 할리우드 스튜디오는 오래전부터 소프트웨어로 배우의 음성, 얼굴, 습관 등을 복제했다. 그러나 최근 몇 년 동안 AI 기술의 접근 범위가 넓어지면서 사실상 무료가 되었다. 터치캐스트 외에도 신테시아(Synthesia), 헤이젠(HeyGen) 등 많은 기업이 프리젠테이션, 마케팅, 고객 서비스용으로 생성한 실존 인물이나 가짜 개인의 아바타를 제공한다.

터치캐스트 창립자 겸 CEO 에도 세갈(Edo Segal)은 디지털 아바타가 새로운 프리젠테이션, 콘텐츠 상호작용 방식을 제공할 수 있다고 본다. 터치캐스트는 사용자의 자체 디지털 트윈 생성 기능을 지원하는 소프트웨어 플랫폼 제니씽(Genything)을 개발했다.

그와 동시에 딥페이크는 미국을 비롯한 여러 국가가 선거 일정을 앞둔 2024년, 중대한 우려 사항이 되었다. 2024년 1월, 조 바이든 미국 대통령의 목소리를 모방한 AI 로보콜이 선거 거짓 정보 유포에 동원되었다. 최근, 테일러 스위프트도 널리 배포된 AI 이미지 툴을 이용하여 생성한 딥페이크 포르노로 피해를 보았다.

벤 부차난(Ben Buchanan) 미국 백악관 AI 특별 고문은 최근, 와이어드와의 인터뷰에서 “딥페이크 이미지는 백악관 내부에서도 우려하고, 경계해야 할 대상임을 분명히 인지했다”라고 전했다. 테일러 스위프트의 딥페이크 이미지와 관련 “딥페이크가 온라인 희롱과 학대 대상이 될 확률이 압도적으로 높은 여성과 10대 소녀에게 악영향을 미치는 사례가 지나치게 많은 광범위한 추세의 요점이기도 하다”라고 말했다.

2023년 10월 백악관 행정명령에 따라 설립된 미국 AI 안전 연구소(US AI Safety Institute)는 AI 생성 미디어의 워터마크 표준을 개발 중이다. 메타, 구글, 마이크로소프트 등 복수 테크 기업도 위험성이 큰 AI 무기 경쟁이 될 수 있는 AI 불법 복제를 감지하도록 설계한 기술 개발 작업을 진행하고 있다.

그러나 간혹 딥페이크를 정치에 이용하는 사례는 딥페이크 기술의 잠재적 장단점을 모두 부각한다.

그 예시로 임란 칸(Imran Khan) 전 파키스탄 총리가 수감 중에 자신의 정당 추종 세력에게 집회 주소를 보낸 사례를 살펴볼 수 있다. 파키스탄의 전설적인 크리켓 선수로 활약하다 정치계에 입문한 칸 전 총리는 소속 정당이 군사 쿠데타라고 정의할 수 있는 행동으로 징역형을 선고받았으며, 연설 현장에 서서 실제로 한 적이 없는 발언을 한 자신의 모습을 실제 모습으로 신뢰할 정도로 복제한 딥페이크를 이용해 연설하였다.

AI 기반 영상 조작 수준이 강화되면서 이전보다 사용하기 쉬워진 가운데, 기업과 고객 사이에서 정당한 딥페이크 기술 사용 관심도도 커질 것으로 보인다. 최근, 중국 테크 업계 대기업 바이두는 사용자가 자사 챗봇 앱을 이용해 설 인사를 보낼 용도로 딥페이크를 생성하는 기능을 지원했다.

딥페이크를 초기에 채택한 이들도 악용 가능성을 염두에 두고 있다. 스카프는 “딥페이크의 보안 필요성이 무엇보다도 중요하다는 사실은 부인할 수 없다. 딥페이크로 제작한 인물의 합성 이미지를 보유하면, 무엇이든 생성하고 마음껏 다양한 발언을 할 수 있다”라고 말했다.

** 위 기사는 와이어드US(WIRED.com)에 게재된 것을 와이어드코리아(WIRED.kr)가 번역한 것입니다. (번역 : 고다솔 에디터)

<기사원문>
Some People Actually Kind of Love Deepfakes