본문 바로가기 주메뉴 바로가기 검색 바로가기
딥페이크, 미국 대선에서 어떤 위협 가했나?
상태바
딥페이크, 미국 대선에서 어떤 위협 가했나?
국회의원과 전문가 모두 AI로 조작된 영상이 2020년 대통령 선거에서 심각한 영향을 미칠 것이라고 경고했다. 그러나 실제로는 문제가 발생하지 않았다.
By TOM SIMONITE, WIRED US

2019년 6월, 하원 정보위원회 청문회에서 전문가들은 딥페이크(Deepfake)라고 알려진 인공지능(AI)이 민주주의를 왜곡할 위험이 있는 비디오 생성하는 데 악용될 위험성을 경고했다. 아담 쉬프 의장은 엘리자베스 워렌 상원의원을 흉내내, ‘딥페이크가 2020년 대선을 망친 후에는 너무 늦을 것’이가 때문에 SNS 기업에 딥페이크의 위험성을 심각하게 받아들일 것을 요청하는 모습이 담긴 영상을 재생했다. 당시 메릴랜드대학교 법학 교수였던 대니얼 시트론(Danielle Citron)은 “딥페이크 영상과 음성이 선거에 영향을 미쳐 민주주의적 과정을 저해할 수 있다”라고 말했다.

이제 2020년 대통령 선거가 끝났다. 분노를 표출한 이들도 있지만, 딥페이크가 대중의 분노를 일으키지는 않았다. 딥페이크 추적 스타트업 센시티(Sensity)의 창립자인 조지오 파트리니(Giorgio Patrini)는 “실제로 딥페이크가 전혀 사용되지 않았다”라고 말한다. BBC를 비롯한 언론 기관과 비영리 단체 등과 협력해 딥페이크 감지 툴을 테스트하는 AI 파운데이션의 제품 총괄인 앤지 하이든(Angie Hayden)도 딥페이크가 선거 운동에 사용되지 않았다고 보고했다. 그는 “기술이 어려움에 대한 솔루션을 제공할 수 있다면 좋다. 그러나 문제에 대한 솔루션이 필요하지 않다면 더 좋을 것이다”라고 말했다.
 
[사진=Freepik]
[사진=Freepik]

최근의 미국 대선과 관련, 무수히 많은 거짓 정보가 확산됐으며 지금도 확산되고 있다. 그러나 대중의 오해를 불러일으킬 수 있는 영상은 알고리즘 방식이 아닌 교묘하게 사람이 직접 조작하는 방식으로 제작됐다. 팩트체크 담당자들은 딥페이크 영상이 영상 편집기와 같은 기존의 툴로 잘못된 내용을 말하거나 편집하는 식으로 제작됐다고 말한다. 대표적인 예시로 조 바이든이 플로리다주민에게 미네소타 주민이라고 말하며 인사를 건네는 모습이 담긴 영상을 언급할 수 있다. AI가 생성한 프로필 사진은 가짜 조 바이든의 모습으로, 바이든의 아들에 대한 거짓 정보를 유포해 혼란을 주고 명예를 실추시키려는 목적과 관련이 있다는 사실이 드러났다. 그러나 방해 공작에서 크게 중요한 역할은 하지 않았다.

트위터와 페이스북은 올해 초, 딥페이크와 관련된 특별 내용을 규정에 추가했지만, 해당 규정을 실제로 적용한 사례는 없었다. 최근, 트위터는 선거와 관련된 노력을 마무리하는 블로그 게시글을 통해 10월 27일부터 오해를 일으킬 수 있는 트위터 게시글 30만 개에 경고 라벨을 추가했다고 밝혔다. 선거 관련 전체 게시글의 0.2%에 해당하는 비율이다. 딥페이크에 대한 언급은 없었으며, 트위터 대변인은 딥페이크에 대해 특별히 언급할 내용이 없다고 말했다. 페이스북은 딥페이크 관련 논의에 대해 답변을 하지 않았다.

미국 유권자를 설득하려 한 딥페이크 캠페인 영상 두 편은 공개적으로 딥페이크 기술의 위험성을 경고하려 했다. 

플로리다주 민주당 하원 후보인 필 에르(Phil Ehr)는 상대 후보인 맷 가에츠 공화당 의원의 딥페이크 버전 선거 광고를 공개했다. 해당 영상 속에서 가에츠 후보는 평소답지 않게 ‘폭스뉴스는 형편없다’, ‘오바마 전 대통령이 나보다 멋지다’ 등과 같은 발언을 했다. 완전히 인간처럼 보이는 에르 후보의 얼굴을 한 인물이 끼어들어 딥페이크와 국가가 배후에 있는 거짓 정보 문제에 대한 공익 광고를 한다. 그는 “선거에서 이런 식으로 영상을 제작한다면, 푸틴이 당장 하는 행동을 생각해보아라”라고 말한다.

선거 고문인 케이트 프레슬리(Keith Presley)는 전자 전쟁에 참전한 해군 참전용사인 에르 후보가 가에츠 의원이 거짓 정보에 대한 주제에 참여하도록 설득하고자 했다고 밝혔다. 에르 후보는 가에츠 의원이 거짓 정보 문제를 대수롭지 않게 여긴다고 생각한다. 선거는 딥페이크 기술을 이용해 패션 사진과 온라인 상업 광고 사진, 영상을 제작하는 스타트업 로즈버드AI(RosebudAI)를 통해 이해하게 됐다. 프레슬리 고문은 선거가 1분짜리 영상을 악의적인 목적으로 재설정될 위험을 최소화하도록 설계됐다고 밝혔다. 또한, 알고리즘으로 생성된 가에츠 의원은 유권자들이 보는 TV 화면 속에서 조그맣게 등장하기만 하고, 은연 중에 결함을 드러낸다는 점도 언급했다. 가에츠 의원은 이와 관련된 질문에 답변하지 않았다.

에르 후보는 첨단 기술을 사용한 선거 광고에도 불구하고 큰 차이로 패배했다. 프레슬리 고문은 선거 기간에 악성 딥페이크가 전혀 등장하지 않았다고 말하며, 여전히 대중을 교육시키는 것이 중요하다고 주장한다. 그는 현실을 원활하게 흉내낼 수 있다고 주장하는 기술의 결실을 보는 것의 역설을 다음과 같이 주장한다. “누가 어떻게 알겠는가?”

다른 2020년도 딥페이크 공개 광고는 무소속 비영리단체인 리프리젠트US(RepresentUs)가 만든 가짜 영상이다. 해당 영상에서 러시아 블라디미르 푸틴 대통령과 북한의 독재자 김정은이 분열된 미국이 민주주의에 대한 신뢰를 잃게 되는 모습을 논의한다. 미소를 짓고 있는 영상 속 김정은은 “민주주의가 붕괴되는 것은 어렵지 않다. 아무것도 하지 않고 그냥 기다리기만 하면 된다”라고 말한다. 에르 후보의 AI 선거 영상처럼 궁극적으로는 드러나지 않는 딥페이크의 위협을 경고할 방안을 모색한다.

딥페이크가 이번 선거에서 거의 등장하지 않았던 이유는 필요하지 않았기 때문이다. 올해 거짓 정보를 유포할 방안을 모색하던 이들은 AI 알고리즘 조작을 할 필요가 없는 여러가지 방안을 택할 수 있었다. 페이스북 게시글 생성, 포토샵 실행, 트럼프 대통령의 트위터 게시글 리트윗 등이 대표적인 예시이다. 딥페이크는 독특하고 치명적일 정도로 정확하다는 점에서 유명해졌으나 대부분 좋은 평가를 받지 않는다. 당분간은 기존의 영상 제작 기법으로 현실을 조작하는 것이 더 쉬울 것이다. 팩트체크와 언론계 생태계는 2016년 대통령 선거 당시의 왜곡 이후로 많은 이들이 우려한 2020년 거짓 정보 유포에 더욱 훌륭하게 대응했다.

지난해, 의회에서 딥페이크에 대해 경고했던 현 보스턴대학교 교수인 시트론 교수는 딥페이크와의 전쟁에서 승리를 선언하기에는 너무 이르다고 말한다. 딥페이크 기술 비용이 저렴해졌고, 접근이 용이해졌으며 딥페이크를 사용할 수 있는 기회가 얼마든지 있기 때문이다. 그는 “거짓 정보로 가득한 정보 생태계 덕분에 미국에는 두 가지 현실이 있다. 매일 현실에 피해를 줄 수 있는 가능성이 존재한다”라고 말했다.

2020년 대통령 선거가 딥페이크에 장악당하지 않은 것은 좋은 소식이다. 자동으로 AI 영상을 감지하는 일이 지금까지 크게 성공하지 않았기 때문이다. 페이스북이 연구원들에게 딥페이크 감지 코드 생성 대회를 열었을 때, 6월에 발표된 바와 같이 수상자도 시범 과정에서 딥페이크 영상 1/3 이상을 놓쳤다. 와이어드가 AI 파운데이션의 딥페이크 감지 프로토타입을 테스트했을 때, 성공할 때도 있었고 실패할 때도 있었다.
 
“기술이 어려움에 대한 솔루션을 제공할 수 있다면 좋다. 그러나 문제에 대한 솔루션이 필요하지 않다면 더 좋을 것이다”
앤지 하이든, AI 파운데이션 제품 총괄

AI 파운데이션의 리얼리티 디펜더(Reality Defender) 서비스는 마이크로소프트와 AI 연구소가 함께 개발한 딥페이크 감지 알고리즘에 사용하기 쉬운 인터페이스를 제공한다. 마이크로소프트와 뮌헨공과대학교 딥페이크 감지 알고리즘은 김정은의 가짜 영상 검토 요청을 받았을 때, 이상한 점을 전혀 발견하지 못했다. 그리고, 리얼리티 디펜더는 “조작된 영상이 아닌 것으로 보인다”라고 보고했다. 마찬가지로 그래픽 연구원과 딥페이크 제작자 하오 리(Hao Li)가 만든 트럼프 대통령의 가짜 영상도 조작된 영상임을 인지하지 못했다. 어느 한 언론인에게 일론 머스크의 얼굴을 붙여 제작한 딥페이크 영상은 플래그됐다. 그러나 조작되지 않은 원본 영상도 플래그됐다.

하이든 총괄은 현재 AI 파운데이션이 새로운 감지 알고리즘을 추가하고 결과를 내기 위한 다양한 벙법을 실험 중이라고 밝혔다. 캘리포니아대학교 버클리 캠퍼스가 제작해 최근에 추가한 감지 알고리즘은 김정은의 영상이 가짜임을 발견했다. 캘리포니아대학교 산타바바라 캠퍼스 교수들이 공동 설립한 어느 한 기업에서 실험 중인 알고리즘은 영상 배경으로 조작 가능성을 훌륭하게 감지했으며, 미국 대통령 선거 개표 기간에 의심스러운 활동을 펼칠 목적을 지닌 영상을 테스트했다. 또한, AI 파운데이션은 감지 알고리즘이 딥페이크의 발전에 따라 지속적으로 업데이트할 수 있는 방법을 생각 중이다. 가짜 플래깅 알고리즘을 보관하기 위한 AI 위변조 컬렉션을 유지하는 방식으로 이루어질 듯하다.

2020년 대통령 선거에서 딥페이크가 등장하지 않았다고 해서 그 위험성이 줄어들까? 2019년, 딥페이크를 2020년 거짓 정보 명단에 딥페이크를 먼저 명시한 뉴욕대학교 보고서 저자인 폴 배럿(Paul Barrett) 교수는 딥페이크에 대한 경고가 효과가 있어, 딥페이크 영상을 제작하려던 이들이 빠르게 드러났다고 주장한다. 그러나 그는 딥페이크의 위협이 남아있다고 경고한다. 뉴욕대학교 비즈니스 및 인권센터 부총괄인 그는 “딥페이크는 명백히 위험한 존재이며, 미래에는 딥페이크가 증가할 것이다”라고 말했다.

안전한 2024년 대통령 선거 예측에 이미 강력히 증가하고 있는 다음의 요소를 추가한다. 딥페이크에 대한 경고가 다시 증가할 것이며, 영상 합성 기술은 더욱 발전할 것이다. 딥페이스 감지 기술도 함께 발전히기를 바란다.

** 위 기사는 와이어드US(WIRED.com)에 게재된 것을 와이어드코리아(WIRED.kr)가 번역한 것입니다. (번역 : 고다솔 에디터)

<기사원문>
What Happened to the Deepfake Threat to the Election?
이 기사를 공유합니다
RECOMMENDED