By NINA SCHICK, WIRED UK

온라인 동영상 콘텐츠의 점점 더 많은 부분이 2021년에 합성될 것이며, 이는 전체 또는 부분적으로 AI에 의해 생성된다는 것을 의미한다. 이 영화 중 일부는, 지금까지 만들어진 모든 할리우드 영화에 인공지능의 힘을 이용해 니콜라스 케이지를 넣고 있는 유튜버들처럼, 온순하고 우스꽝스럽기까지 하지만, 완전히 악의적인 의도를 가지고 만들어진 영화들이 많이 있을 것이다.

실제로, 거의 전적으로 여성을 대상으로 하는, 합의되지 않은 딥 페이크 음란물인 합성 매체가 널리 사용되는 것은 2017년 말에 처음 등장한 이후 크게 증가했다. 비주얼 매체의 딥 페이크(deep fake)와 싸우기 위해 2018년 설립된 암스테르담에 본사를 둔 사이버 보안 스타트업 센시티(Sensity)에 따르면, 온라인의 딥 페이크 음란 동영상은 6개월마다 두 배씩 늘어나고 있으며, 내년 여름까지 18만 개의 동영상을 볼 수 있게 될 것이라고 한다. 2022년까지 그 수는 72만에 이를 것이다.
 
2021년에는 딥 페이크가 사기 및 정치 선전 무기로 더욱 발전할 것이며, 우리는 이미 이러한 사례를 보고 있다. 2020년 초, 벨기에 소멸 반란 지부(Belgian Branch of Extinction Rebellion)는 인공지능을 사용하여 벨기에 총리 소피 윌머스(Sophie Wilmès)의 허구적인 연설을 만들어냈다. 이를 위해, 이 그룹은 윌머스가 만든 진짜 비디오 주소를 가지고 기계 학습을 사용하여 그녀가 자신의 목적을 위해 말하는 단어를 조작했다. 그 결과 윌머스가 가짜 연설을 하는 비디오가 생성되는데, 그녀는 코로나19가 "자연 환경의 인간에 의한 착취와 파괴"와 직접적으로 관련이 있다고 주장한다.

누구나 이런 식으로 신분을 악용할 수 있다. 필요한 모든 것은 설득력 있는 딥페이크를 생산하기 위해 인공지능을 "훈련"하기 위한 의도된 대상에 대한 이미지, 비디오 또는 오디오이다.

딥페이크가 번성하는 세상은 또한 범죄의 문서화된 증거에 의심을 던질 수 있는 세상이 될 것이다. 모든 것이 가짜라면, 어떤 것도 부정될 수 있다.

사회의 응집력을 유지하기 위해 필요한 객관적이고 공유된 현실에 대한 더 심각한 도전은 상상하기 어렵다. 2021년에는 문제를 전체 정보 생태계의 부식으로 정의하여 딥페이크에 대항해야 한다. 우리는 온라인에 유포되는 것을 검증하기 위해 사람들이 계속 사실을 확인할 것이지만, 기술적인 해결책도 필요할 것이다.

이러한 범주는 크게 탐지 및 검증의 두 가지 범주로 나뉜다. 미 국방고등연구계획국(DARPA)은 이미 인공지능을 이용해 조작 사실을 탐지하고 폭로하는 이른바 미디어 포렌식스(MediFor) 프로그램을 개발 중이다. 아도비의 컨텐트 진위 여부 계획(Adobe's Content Authentity Initiative)은 디지털 콘텐츠 속성을 위한 업계 표준을 개발하려고 한다.

그러나 궁극적으로 우리의 정보 위기는 기술만으로는 해결되지 않을 것이다. 가짜 미디어가 보편화된 이 새로운 환경에 우리 인간이 적응할 수 없다면 어떤 기술적인 해결책도 쓸모가 없을 것이다. 이를 위해서는 디지털-문맹 및 인식교육을 통한 정보화가 필요하지만 정부, 군, 시민단체의 설득력 있는 정책대응 등 적극적인 대응책이 필요하다. 사회의 완전한 동원이 있어야만 우리는 우리의 손상된 정보 생태계가 제시하는 위험을 견딜 수 있는 뛰어난 복원력을 구축할 수 있을 것이다.

Nina Schick은 방송인이자 딥페이크: 다가오는 인포칼립스(Deep Fakes: The Coming Infocalypse)의 저자이다.

** 위 기사는 와이어드UK(WIRED.co.uk)에 게재된 것을 와이어드코리아(WIRED.kr)가 번역한 것입니다. (번역 : 배효린 에디터)

<기사원문>
Deepfakes are jumping from porn to politics. It's time to fight back