By WILL KNIGHT, WIRED US

2016년부터 2018년까지 중국 신장지구의 대규모 수용소가 확장되는 모습을 담은 위성 이미지는 중국 정부가 백만 명이 넘는 이슬람 신도를 단속한다는 가장 강력한 증거 중 하나였으며, 국제 사회의 비난과 제재를 촉발했다.

이란의 핵 설치 장소와 북한의 미사일 실험 현장 등을 담은 항공 이미지도 전 세계적으로 중국 신장지구 수용소의 위성 사진과 비슷한 반응을 불러일으켰다. 이제는 인공지능(AI)으로 조작한 이미지 조작 툴이 위와 같은 위성 사진과 항공 사진을 진짜 모습으로 받아들이기 더 어렵게 만들 수도 있다.

2021년 4월, 워싱턴대학교의 보 자오(Bo Zhao) 교수는 이른바 딥페이크를 생성할 때 적용하는 것과 비슷한 AI 기법을 적용해, 일부 도시의 위성 이미지를 변경한 것을 설명한 논문을 온라인에 게재했다. 자오 교수 연구팀은 시애틀과 베이징의 이미지 특성을 변경해, 두 도시에 없는 건물 모습을 보여주고 베이징의 건축물을 제거해 녹지로 바꾸었다.

자오 교수는 사이클GAN(CycleGAN)이라는 알고리즘을 사용해, 위성 사진을 조작했다. 캘리포니아대학교 버클리캠퍼스 연구팀이 개발한 사이클GAN은 모든 종류의 이미지 조작용으로 대대적으로 사용됐다. 사이클GAN은 인공 신경망을 훈련해, 그림 스타일이나 특정 유형의 지도에 나타나는 특성 등 특정 이미지의 핵심 특성을 인식했다. 그리고, 다른 알고리즘이 조작된 이미지를 감지하려 하면서 첫 번째로 작동한 알고리즘의 성능 중 불필요한 부분을 없애도록 돕는다.

조작된 이미지가 각국 정부의 특정 사안에 대한 오해를 유발하거나 SNS에 유포되는 상황 등 논란이 되는 상황을 보여주는 목적으로 제작되면서 거짓 정보가 발생하거나 실제 시각적 정보가 의심을 사게 되었다.
 
자오 교수 연구팀의 AI를 이용한 위성 사진 조작 연구에 참여하지 않은 캐나다 맥길대학교 공간데이터 과학 부교수인 그랜트 맥켄지(Grant McKenzie)는 “평범한 다수 일반 시민에게는 당장 큰 영향을 미칠 큰 문제는 아니지만, 향후 10년 후면 배후에서 더 큰 문제를 일으키는 역할을 할 수 있다고 생각한다”라고 말했다.

맥켄지 교수는 “주 정부나 다른 관계자가 실제로 이미지를 조작해 특정 장소에 아무것도 없는 모습이나 실제와는 다른 모습을 보여준다고 생각해보아라. 이미지 조작 문제를 중단하기 위해 어떤 행동을 취해야 하는지 전혀 확신이 서지 않는다”라고 밝혔다.

조잡하게 조작된 위성 사진 몇 장이 이미 SNS에 널리 유포됐다. 그중에는 손으로 타인과 직접 접촉을 한 것이 분명한 모습이 담긴 힌두교 축제 디왈리(Diwali) 기간의 인도 모습을 보여주려는 의도를 지닌 사진도 포함됐다. 훨씬 더 첨단화된 딥페이크 위성 사진이 무기 설치 현장을 숨기거나 군사 행동을 잘못된 방식으로 정당화하는 등의 목적으로 악용되는 것은 시간 문제이다.

미디어 조작 문제를 집중적으로 연구하는 하버드 케네디스쿨 산하 쇼렌슈타인 센터의 연구원 가브리엘 림(Gabrielle Lim) 박사는 AI가 없어도 지도가 오해를 일으키는 용도로 악용될 수 있다고 말했다. 림 박사는 미국 뉴욕주의 알렉산드리아 오카시오코르테스(Alexandria Ocasio-Cortez) 의원이 1월 6일 국회의사당 폭동 당시 자신이 주장한 위치와 다른 곳에 있었음을 시사하는 이미지와 영유권 분쟁이 이어지는 남중국해를 중국 영토로 표기한 중국 여권 사진을 보여주는 이미지 등이 온라인에 유포된 사실을 지적했다. 림 박사는 “AI라는 화려한 기술이 없어도 비슷하게 악의적인 목적으로 이용될 수 있다”라고 말했다.

디지털 매핑(digital mapping)과 날씨 시스템 추적, 투자 안내 등과 같이 높은 가치를 지닐 수 있다는 점을 고려했을 때, 조작된 항공 사진도 상업적인 중요성을 지닌다.

미국 정보기관도 조작된 위성 사진의 위협이 커지고 있다는 점을 인지했다. 국방성 산하 지리 공간 정보 수집 및 분석, 유포를 감독하는 국립 지리정보국(National Geospatial-Intelligence Agency)의 대변인은 “적국이 가짜 정보나 조직된 정보를 악용해, 미국이 세계 동향을 파악하는 데 영향을 미칠 수 있다”라고 말했다.

이어, 포렌식 분석이 가짜 사진을 식별하는 데 도움이 될 수는 있지만, 자동화 기술이 급부상하면서 가짜 사진을 찾기 위해 새로운 접근방식이 필요할 수도 있다는 점을 인지한다. 소프트웨어가 시각적 인위적 정보나 파일의 데이터 변경사항 등 숨길 수 없는 조작 징후를 식별할 수도 있을 것이다. 다만, AI가 조작 사실을 숨기는 방법을 학습해, 조작을 일삼는 세력과 조작된 정보를 찾는 세력 간의 쫓고 쫓기는 싸움이 발생할 수 있다.

국립 정보국 대변인은 “미국의 출처의 중요성 인지와 유효성 검증, 신뢰는 갈수록 커지고 있으며, 기술이 이에 큰 역할을 한다”라고 말했다.

AI로 조작된 이미지를 감지하는 일은 학계와 업계, 정부 연구에서 주된 영역이 되었다. 페이스북과 같이 거짓 정보 유포를 우려하는 테크 업계 대기업은 딥페이크 영상 식별 자동화 기술 개발 노력을 지원한다.

자오 교수는 딥페이크 위성 사진 자동 식별 기술을 탐색하고자 한다. 자오 교수는 시간에 따른 풍경 변화 연구가 가짜 이미지 분류에 도움이 될 것이라고 말한다. 그는 “일시적 공간 형태가 매우 중요하다”라고 언급했다.

다만, 자오 교수는 정부가 가자 이미지 감지에 필요한 기술을 보유했더라도 많은 시민이 아무 경고 없이 영향을 받게 될 수 있다는 점에 주목하며, “SNS에 널리 퍼진 위성 사진이 있다면, 문제가 될 수 있다”라고 말했다.

** 위 기사는 와이어드US(WIRED.com)에 게재된 것을 와이어드코리아(WIRED.kr)가 번역한 것입니다. (번역 : 고다솔 에디터)

<기사원문>
Deepfake Maps Could Really Mess With Your Sense of the World