By ANGELA WATERCUTTER, WIRED US

미래 세대는 중대한 변화 분위기를 인지할 것이다. 2023년 3월, 갑자기 SNS 피드 전체가 보통 엄숙하면서 눈에 띄지 않는 종교 의상을 착용한 채로 공개 석상에 모습을 드러낸 프란치스코 교황이 깔끔한 흰색 패딩 코트를 착용한 모습을 담은 사진으로 도배됐다. 패딩을 착용한 교황의 모습은 순식간에 밈이 되었으며, 나쁜 소식이 도배된 상황에서 많은 이들이 폭소하였다. 그러나 누리꾼 사이에서 화제가 된 교황의 사진은 진짜가 아니었다. 누군가가 인공지능(AI) 툴 미드주어니를 이용하여 합성한 사진이다. 그러나 많은 이들이 AI 합성 사진에 깜빡 속아 넘어갔다. 다수 언론 기관이 패딩을 착용한 교황 사진이 AI 사진이라는 소식과 함께 “AI에서 비롯된 광범위한 거짓 정보가 상당수 누리꾼을 속인 첫 번째 사례”라고 보도했다.

AI가 생성한 콘텐츠에 수많은 이들이 동시에 속은 사실을 적는 것 자체가 끔찍하다고 느낄 수 있다. ‘핸드메이즈 테일(The Handmaid’s Tale)’ 시리즈에서 누군가가 빨간 망토를 착용한 것을 처음 본 것과 같다. 단순한 탈이상주의의 조짐이 아니다. 어찌 되었든 멋지게 차려입은 누군가의 사진 한 장에서 시작되었을 뿐이다. 그런데 많은 누리꾼을 속인 AI 합성 사진이 교황의 옷차림이 아닌 우크라이나 전쟁터의 모습을 조작한 사진이었다면 어떨까? 혹은 바이든 대통령의 비공개 회담 현장 모습을 조작한 사진이었다면 어떨까? AI가 정치, 외교와 관련하여 민감한 사안을 대상으로 거짓을 생성할 가능성은 매우 우려스러운 부분이다.

재앙과 같은 상황을 직면한 볼로디미르 젤렌스키 우크라이나 대통령의 딥페이크 사진을 유포하는 것이 교황의 모습을 담은 어설픈 AI 합성 사진을 유포할 때보다 더 많은 이의 오해를 불러일으킬 수 있다. 디 애틀랜틱의 찰리 와즐(Charlie Warzel) 기자가 지적한 바와 같이 누구나 사실을 알아내고자 다양한 경험적 요소를 활용한다. 이는 도널드 트럼프 전 미국 대통령이 경찰에 체포된 모습을 담은 AI 합성 사진보다 패딩을 착용한 프란치스코 교황의 AI 합성 사진이 진짜라고 믿기 더 쉽다. 따라서 많은 이들이 교황의 AI 합성 사진을 보고 진위성을 확인하려 의문을 제기하지 않은 채로 웃으면서 사진을 계속 찾아본다.
 
하지만 교황의 AI 합성 사진은 문제가 될 만한 선례를 남긴다. 패딩을 착용한 교황 AI 합성 사진 제작자는 누군가의 오해를 유도할 의도가 없었다. 사실, 제작자는 버즈피드 뉴스와의 인터뷰에서 밝힌 바와 같이 버섯에 걸려 넘어지면서 무언가 재미있는 사진을 떠올리려 했을 뿐이다. 그런데 만약 AI 합성 이미지 제작 과정이 거짓 정보 유포 작전의 한 부분이었다면 어떨까? AI가 생성한 콘텐츠 상당수는 인간의 눈과 귀로는 원본을 감지하기 어려울 정도로 매우 정교하다.

모건 네빌(Morgan Neville) 감독이 뉴요커와의 인터뷰에서 밝히지 않았더라면, 다큐멘터리 로드러너(Roadrunner)를 본 이들은 다큐멘터리 속 배우 안소니 부르뎅(Anthony Bourdain)의 음성이 조작된 사실을 알지 못했을 것이다. 딥페이크는 이미 정치적 수단으로 널리 동원되고 있다. 마찬가지로 회의론자는 이미지가 가짜라고 의심할 때 신뢰할 만한 뉴스 출처를 요청할 수 있다. 그러나 뉴스 미디어 신뢰도는 이미 역대 최저치를 기록했다. 누구나 무엇이든 원하는 이미지를 생성할 수 있어 출처가 무엇이든 이미지 신뢰도는 최저치로 하락한다면, 누가 거짓 사진을 보고 신뢰하겠는가?

교황의 AI 합성 사진이 화제가 되고 며칠이 지난 시점에 프란치스코 교황이 급성하기도감염증 때문에 로마의 어느 한 병원으로 이송된 사실이 확인됐다. 이후 교황은 호전되었음을 보여주었으나 사실을 다룬 소식이 유포되면서 가짜 사진 이야기 속에서 교황의 건강 관련 소식이 어느 정도 잊혀졌다. 교황은 다른 두 가지 이유 때문에 화제의 중심에 서게 되었다. 언뜻 보았을 때는 둘 중 어떤 소식이 사실인지 판단하기 어려웠다.

SNS의 시대에 온라인 자체가 의문을 해결하기 좋은 공간으로 바뀌었다. 회의주의가 강력한 영향력을 행사한다. 음모론도 마찬가지이다. 사실 이후의 시대를 넘어서 신뢰할 만한 이미지와 텍스트, 영상을 눈에 보이지 않는 곳에서 생성할 수 있는 시대가 되었다. 인터넷의 가장 훌륭한 약속 중 하나는 누구든지 그 어느 때보다 많은 이들에게 정보를 전달할 수 있다는 사실이다. 지난 몇 년간 거짓을 유포하는 이들을 찾는 일이 수월해졌다. 악성 URL과 조잡한 포토샵, 어색한 텍스트 입력 모두 거짓 유포 세력 퇴치에 도움이 되었다. 그러나 AI가 악의적인 세력의 실수를 완화할 수 있다. 필자는 손쉽게 공포심 때문에 경각심을 제기하는 편은 아니지만, 아직 말이 안 되는 모습을 담은 사진에 속아 넘어간 적은 없다.

** 위 기사는 와이어드US(WIRED.com)에 게재된 것을 와이어드코리아(WIRED.kr)가 번역한 것입니다. (번역 : 고다솔 에디터)

<기사원문>
The Pope’s Coat Is Here to Ruin Your Faith