By REECE ROGERS, WIRED UK

이 글을 읽는 독자도 SNS로 접했을 가능성이 있는 도널드 트럼프의 체포 현장을 담아 널리 확산된 인공지능(AI) 생성 이미지는 가짜이다. 그러나 실제와 같은 사진 제작 능력을 보면, 사진을 진짜라고 믿기 쉽다. 독립 언론 기관 벨링캣(Bellingcat) 창립자 엘리엇 히긴스(Eliot Higgins)가 트위터 스레드를 통해 공개한 다른 사진은 비디오 게임 화면이나 환상적인 꿈의 한 장면을 그린 그림처럼 보인다. 트럼프가 합성 이미지로 생성한 경찰 집단에게서 도망가는 모습을 담은 사진과 죄수복을 입은 트럼프의 모습을 담은 사진은 트위터에서 조회 수 300만 건을 넘어섰다.

히긴스는 직접 트위터에 게재한 사진을 본 트위터 사용자가 트럼프가 결국 체포된 것처럼 보이는 실제 사진과 가짜 AI 이미지 간의 차이점을 구분하고자 할 수 있는 일이 무엇이라고 생각할까?

히긴스는 메일을 통해 “트위터 스레드로 많은 사진을 생성하면서 종종 처음 묘사한 대상에 초점을 맞추며, 주변 모습은 종종 결함이 있다는 사실이 분명하게 드러났다. 트럼프 합성 사진의 사례에서는 트럼프 가족이 사진의 초점 대상에 해당한다”라고 설명했다. 가짜 트럼프 사진의 초점에서 벗어난 주변 이미지를 살펴보아라. 사진의 초점 이외의 나머지 모습은 추후 생각한 요소일까?

히긴스의 스레드에서 사용한 미드주어니(Midjourney) 버전 5 이후 프로그램과 스테이블 디퓨전(Stable Diffusion) 등 최신 AI 이미지 툴이 크게 발전하였으나 여전히 사소한 상세 표현에서 실수가 존재한다는 점을 가짜 이미지의 공통적인 징조로 언급할 수 있다. AI 아트의 인기 상승세와 함께 많은 아티스트가 AI 알고리즘이 일관성과 자연스러움을 유지한 채로 인간의 신체 모습을 복제하는 데 어려움을 겪는다고 지적한다.
 
히긴스의 트위터 스레드에 게재된 트럼프의 AI 사진을 보면, 다수 사진 속 인물의 얼굴은 인물의 손처럼 진짜라고 신뢰할 수 있는 것처럼 보인다. 그러나 트럼프가 경찰에게서 도망치는 사진을 보면, 경찰 주변 인물의 신체 비율이 왜곡되거나 보기 어렵다는 점을 확인할 수 있다. 현재는 해당 사진이 가짜라는 사실이 분명하게 드러났으나 이미지 생성 알고리즘이 추가 훈련과 개선 과정을 통해 이상하게 보이는 신체 부분을 피할 수 있을 것으로 예상할 수 있다.

또 다른 설명이 필요한가? 벽이나 옷, 눈에 보이는 다른 사물의 이상한 글씨를 보아라. 히긴스는 지저분한 텍스트를 가짜 이미지와 진짜 사진을 구분할 또 다른 요소로 지목했다. 예를 들어, 경찰이 트럼프를 체포하는 모습을 담은 가짜 사진 속 경찰이 착용한 배지와 모자, 기타 문서를 언뜻 보면, 문자가 있는 것처럼 보인다. 그러나 가까이서 보면, 글자는 말이 되지 않는 내용을 담고 있다.

추가로 AI가 생성한 이미지를 잡아낼 방법은 과장된 표정에 주목하는 것이다. 히긴스는 “가짜 사진 속 인물의 표정과 관련된 부분을 물어본다면, 미드주어니는 미소 짓는 인물의 피부 주름을 매우 선명하게 그려내는 등 과장된 방식으로 표정을 묘사한다는 사실을 찾아냈다고 말할 수 있다”라고 설명했다. 멜라니아 트럼프의 고통스러운 표정은 인간 사진작가가 촬영한 스냅샷보다는 ‘에드바르트 뭉크(Edvard Munch)’의 작품 절규를 재생성하거나 미개봉된 A24 공포영화 속 인물 표정을 복제한 것처럼 보인다.

전 세계 지도자와 유명인, SNS 인플루언서를 포함하여 온라인에 사진이 대거 유포된 이들을 염두에 둔다면, 인터넷에서 존재감이 비교적 적은 인물의 AI 생성 이미지보다 딥페이크 사진을 더 신뢰하는 것으로 드러났다. 히긴스는 “유명한 인물일수록 AI가 이미지 생성 방법을 더 많이 학습한다는 사실이 분명하다. 매우 유명한 이들의 모습은 매우 훌륭하게 생성하지만, 인지도가 낮은 이들의 이미지 생성 결과물은 불규칙하다”라고 설명했다. 알고리즘이 자신의 얼굴을 재생성하는 능력을 침착하게 받아들이고 본다면, 친구와 밤에 파티를 즐기면서 촬영한 셀카 여러 장을 올리는 것을 두 번 생각하는 것이 더 가치 있다. (다만, AI 이미지 생성 툴이 이미 웹에서 평범한 인물의 사진을 수집했을 수도 있다.)

차기 미국 대통령 선거와 관련, 트위터가 고려하는 AI 생성 이미지 관련 정책은 무엇일까? 트위터의 현행 정책 중 일부는 “타인을 속이거나 혼란을 유발하여 결과적으로 피해를 줄 수 있는 합성 사진이나 조작된 사진, 통제 불가능한 수단은 공유할 수 없다”라는 규정이 명시되었다. 다만, 밈과 해설, 타인의 오해를 유발할 의도로 제작하지 않은 콘텐츠 등에는 여러 예외 규정을 적용한다.

불과 몇 년 전만 하더라도 일반 사용자가 조만간 집에서 세계 최정상급 지도자의 실제와 같은 딥페이크 사진을 조작하게 될 것을 상상조차 할 수 없었다. 날이 갈수록 AI 사진과 진짜 사진을 구분하지 어려워지는 추세이다. 따라서 SNS 플랫폼은 합성 콘텐츠 접근 방식을 다시 생각하고, 복잡하면서 종종 확고하지 않은 생성형 AI 세계를 통해 사용자를 안내할 방법을 찾아야 한다.

** 위 기사는 와이어드US(WIRED.com)에 게재된 것을 와이어드코리아(WIRED.kr)가 번역한 것입니다. (번역 : 고다솔 에디터)

<기사원문>
How You Can Tell the AI Images of Trump’s Arrest Are Deepfakes