By DAVID GILBERT, WIRED US

투어 홍보 포스터처럼 보이는 테일러 스위프트의 사진 옆에 “이제 얼마나 걸릴까? 우크라이나인은 기술이 뛰어난 것처럼 행동한다. 그리고 우리는 계속 그 대가를 주어야 한다. 올바른 일이 아니다”라는 프랑스어 문장이 작성되었다.

또, 패션 잡지 화보로 촬영된 셀레나 고메즈 사진 옆에는 “우크라이나인이 돈을 벌 때마다 모든 상황이 잘못된다”라는 독일어 문장이 작성됐다.

킴 카다시안이 무대에서 말하는 모습을 담은 사진에는 독일어로 “우크라이나인이 우리의 도움을 이용한다는 점이 매우 실망스럽다. 누군가가 진지하게 우크라이나인을 돕는 일을 멈추어야 한다”라고 작성됐다.

앞서 언급한 사진 모두 테일러 스위프트, 셀레나 고메즈, 킴 카다시안의 실제 발언처럼 보이지만, 사실 세 명 모두 우크라이나 관련 발언을 한 적이 없다. 모두 세계에서 가장 유명한 인물이 러시아를 지지하면서 우크라이나를 혐오한다는 점을 시사하는 광고 작전 생성 및 거짓 정보 대량 유포라는 목적으로 생성된 친러시아 성향의 가짜 페이스북, X(구 트위터) 계정 네트워크의 작품이다. 러시아의 우크라이나 혐오 거짓 정보 유포 광고에는 비욘세, 오프라 윈프리, 지지 하디드, 레이디 가가, 제니퍼 로페즈, 저스틴 비버, 샤키라, 기네스 팰트로, 크리스티아누 호날두 등 세계적인 인기를 누리는 유명 인사 여러 명이 동원됐다. 오프라 윈프리 사진 옆에는 “우크라이나인을 지지하는 일을 용납할 수 없다. 우크라이나인을 지지하는 행동은 삶과 사회를 파괴한다”라는 인용구가 작성됐다.

와이어드가 검토하고 거짓 정보 퇴치 권한을 부여하는 비영리단체 리셋(Reset)이 수집한 광고 데이터베이스 기준 2023년 11월 시작된 러시아의 의도적인 거짓 정보 유포 작전으로 생성된 거짓 정보는 페이스북에서만 최소 760만 명에게 도달했다. 지금도 유명인을 동원한 거짓 정보 유포 작전은 진행 중이며, 별도의 거짓 정보 전문 연구팀 두 팀은 러시아 정부와 관련된 것으로 알려진 도플갱어(Doppelganger)라는 이름의 악명높은 러시아 영향력 작전이 이번 선동 광고 유포 작전을 주도한다고 확신한다. 와이어드에 단독으로 공유된 정보는 이번 선동 광고 유포 작전이 러시아 군사 조직인 GRU와 관련이 있다고 시사한다.

2023년 11월 초 리셋 연구팀은 가짜 페이스북 페이지 네트워크 두 곳이 주도하는 이른바 공격 광고 작전을 발견했다. 연구팀은 일주일 동안 러시아 지지 문구, 우크라이나 반대 문구가 옆에 게재된 유명인 사진이 등장하는 페이스북 광고 최소 560건을 발견했다. 일부 광고는 사용자 수천 명에게 도달하는 수준에 그쳤으나 전 세계 사용자에게 널리 확산된 광고도 많다. 크리스티아누 호날두 사진을 이용한 러시아 선동 광고는 비활성화 직전까지 11만 5,000명이 넘는 사용자에게 접근했다. 해당 사진에는 “우크라이나가 세계의 원조를 이용하는 것에 화가 난다. 누군가가 우크라이나 지원 중단에 진지하게 나서야 한다”라는 내용이 작성됐다.

리셋 연구팀은 선동 광고가 페이스북 광고 검증과 콘텐츠 관리 허점을 이용해 우크라이나를 향한 적대감을 조장하고, 유럽연합의 우크라이나 지지도를 저하하려 한다고 확신한다. 여러 사진 속 유명인의 가짜 인용문을 포함한 선동 광고는 페이스북이 협력 작전을 찾아내기 더 어렵도록 만드는 요소이다. 프랑스, 독일을 특별히 겨냥한 선동 광고는 광고 속 링크나 추가 메시지도 제거하여 메타가 추적하는 데 어려움을 더한다.

도플갱어는 한동안 페이스북과 X 두 곳에서 거짓 정보를 널리 유포했다. 도플갱어는 2022년 9월, 유럽연합을 겨냥한 거짓 정보 퇴치 전문 비영리단체인 EU 디스인포랩(EU DisinfoLab)이 정보를 공개한 단체이지만, 적어도 2022년 5월부터 운영된 것으로 보인다. 도플갱어는 가디언, 빌드를 포함한 여러 언론사 복제 웹사이트를 생성해 거짓 정보를 유포하고는 기사, 영상, 여론조사 등으로 가짜 웹사이트를 채웠다. 러시아의 우크라이나 침략과 관련하여 러시아 정부를 지지할 의도로 생성된 것이다.
 
2023년, 프랑스 정부가 르 파리지앵(Le Parisien), 20 미닛츠(20 Minutes), 르몽드(Le Monde), 르 피가로(Le Figaro) 등 복수 프랑스 언론사 웹사이트를 겨냥한 또 다른 선동 광고 유포 작전을 발견했다. 선동 광고 유포 작전 도중 르몽드 웹사이트처럼 보이는 가짜 웹페이지에 ‘프랑스 총리, 우크라이나서 러시아 군인 살해 지지’라는 가짜 기사 제목이 등장했다.

도플갱어는 선동 광고 유포 사실이 거듭 발견되었으나 선동 광고 유포를 멈추지 않았다. 폭스 뉴스 등 여러 언론 기관의 가짜 웹사이트도 생성하여 이스라엘-하마스 전쟁 도중 혼란과 무질서를 조장했다.

그동안 일부 언론은 도플갱어의 선동 광고 유포 작전이 러시아 정부와 관련이 있다고 보도했다. 하지만 연구팀이 거짓 정보 유포 작전을 추적하면서 확보한 새로운 정보는 GRU와 도플갱어의 관련성을 보여준다.

과거, 도플갱어의 가짜 웹사이트를 널리 알리는 데 동원된 X의 봇 계정 네트워크는 GRU와 직접 연결된 웹사이트 접속을 유도하기도 했다. X에서 도플갱어의 활동을 긴밀히 추적한 러시아 거짓 정보 반대 연구팀 Antibot4Navalny 소속 연구팀은 와이어드에 “도플갱어 봇은 최근, GRU와 긴밀한 관계가 있는 웹사이트 두 곳을 널리 홍보했다”라고 전했다. 연구팀은 보안 우려 때문에 정확한 정체 공개를 거부했다.

도플갱어 봇이 첫 번째로 홍보한 웹사이트는 ObservateurContinental.fr이다. 웹사이트 등록과 관련된 공개 정보 기록 데이터인 후이즈(Whois) 데이터에는 ObservateurContinental.fr가 러시아 정부 선동 광고 유포 목적을 지닌 웹사이트 수백 곳을 운영하는 GRU 작전과 관련되었던 뉴스 통신사인 인포로스(InfoRos)와 연결된 것으로 나타났다. 2018년, 워싱턴포스트 보도를 통해 인포로스가 GRU 54777부대에서 통제하는 조직이라고 최초로 알려졌다. 당시 GRU 54777부대는 2014년부터 러시아의 크림반도 합병 관련 거짓 정보를 의도적으로 유포하는 데 적극적인 것으로 알려졌다.

도플갱어 봇이 두 번째로 유포한 웹사이트는 독일인에게 접근할 목적으로 생성된 웹사이트이다. 2022년 10월, 독일 신문사 디 벨트(Die Welt)는 EuroBRICS 콘텐츠 작성자가 인포로스에서 직접 임금을 받는다는 사실을 발견했다. 인포로스는 독일 도메인 등록 시 EuroBRICS 웹사이트 운영사로 등록됐다.

간혹 영어권 대중을 상대로 진행한 거짓 정보 유포 작전과 함께 도플갱어의 선동 광고 유포 작전에 동원된 똑같은 사진 다수는 도플갱어의 봇 네트워크가 X에 게재하기도 했다. 해당 봇 네트워크는 과거, 도플갱어의 선동 광고 유포 작전 링크를 공유하기도 했다.

Antibot4Navalny의 어느 한 연구원은 “미국, 유럽연합 출신 유명인의 가짜 인용문 75개 이상 발견했다. 모두 도플갱어 봇이 러시아 정부 지지 영향력 행사 작전을 펼치면서 대거 게재한 콘텐츠이다”라고 전했다.

페이스북 작전과 같이 X에서 진행된 선동 광고 유포 작전에 총 1만 개가 넘는 봇 계정이 동원됐다. 도플갱어의 봇 계정은 선동 광고 작전을 개시하는 동안 8시간 동안 총 2만 7,000건이 넘는 메시지를 게재한 적이 있다. 1분 단위로 러시아 지지 메시지 120건을 게재한 때도 있다.

X 게시글은 리셋 연구팀이 확인한 페이스북 가짜 광고 게시글과 똑같다. 다만, 일부 게시글은 영어로 작성되었다는 차이점이 있다. X 선동 광고 유포 작전도 유명인의 인스타그램 인증 계정을 모방한 가짜 계정을 동원하여 유명인 인스타그램 계정 스크린샷처럼 보이도록 하고는 비슷한 내용의 우크라이나 반대 발언을 공유했다.

X는 도플갱어의 선동 광고 문제와 관련하여 와이어드가 보낸 문의에 답변하지 않았다. 2022년 10월, 일론 머스크가 트위터를 인수한 뒤 신뢰 및 안전팀을 해체했다. 이후 X에는 거짓 정보가 넘쳐났다. 특히, 이스라엘-하마스 전쟁과 같은 분쟁을 다룬 거짓 정보는 부지기수가 되었다.

보복성 공격 가능성에서 보호하고자 신원 비공개를 요청한 리셋의 어느 한 연구원은 최근, 도플갱어의 유명인 사진을 바탕으로 한 선동 광고가 진화한 사실을 발견했다고 전했다. 현재 X에 게재된 가짜 콘텐츠와 마찬가지로 페이스북의 선동 광고는 같은 유명인의 인증된 인스타그램 계정처럼 보이는 스크린샷을 공유하는 방식으로 광고로 유포하는 내용이 진실임을 추가로 주장한다. 기업가 리처드 브랜슨(Richard Branson)의 가짜 인스타그램 계정 스크린샷은 브랜슨이 노드 스트림(Nord Stream) 폭발 사고 배후에 미국이 있다고 확신한다는 주장을 함께 공유했다.

연구팀은 실제 유명인의 영상에 가짜 오디오 더빙을 추가한 선동 광고도 발견했다. 해당 영상 속 음성은 텍스트 음성 변환 앱으로 생성됐다. 리셋 연구팀은 영상 생성 자동화 과정에 동원된 앱을 확인할 수 없었다. 와이어드가 검토한 어느 한 선동 광고 영상은 독일 영화 제작자 빔 벤더스(Wim Wenders)가 영어로 자신의 영화를 설명하는 영상에 프랑스어로 우크라이나가 망했다는 더빙을 추가했다. 페이스북 광고 라이브러리에 따르면, 2023년 11월 25일 자로 페이스북에 게재된 광고는 최대 3,000명이 조회한 뒤 면책 조항이 없다는 이유로 삭제됐다. 

페이스북은 선동 광고 유포 페이지 다수를 제거했으나 일부 페이지는 여전히 선동 광고 유포 작전을 활발하게 이어가고 있다. 게다가 메타의 대규모 거짓 정보 유포 작전 대응 능력 격차가 크다는 사실을 보여주기도 했다.

메타는 선동 광고와 가짜 광고 유포 목적으로 생성된 가짜 계정 네트워크 관련 의견 공개 요청을 거부했다.

페이스북의 계정 자동 생성 기능은 널리 알려진 문제점이다. 메타는 다양한 인공지능(AI) 시스템을 이용해 대거 생성된 가짜 페이지와 계정 퇴치 노력을 적용했다. 페이스북의 자체 발표에 따르면, 페이스북은 분기마다 가짜 페이지 수백 개를, 간혹 최대 수십억 개를 제거한다. 간혹 가짜 페이스북 페이지 생성은 단 몇 분 만에 완료되는 것으로 나타났다. 메타는 월평균 사용자 5%는 가짜 계정이라고 주장했다. 그러나 와이어드의 취재에 응한 다수 전문가는 실제 메타의 SNS 플랫폼 내 가짜 계정 비율이 메타의 주장보다 훨씬 더 높다고 말했다.

도플갱어가 선동 광고 유포 작전을 펼치는 가운데, 도플갱어가 이용한 가짜 페이스북 페이지는 페이스북의 가짜 페이지 대규모 네트워크 생성 전문 기관을 통해 구매한 것으로 확인됐다. 리셋 연구팀은 지금도 도플갱어가 선동 광고 유포 시 사용하는 가짜 네트워크 초기 생성 세력을 조사 중이다. 그러나 연구팀은 과거, 각각 가짜 페이지 5만 2,000개와 2만 5,000개를 포함한 것으로 확인한 별도의 네트워크 두 곳이 선동 광고 유포를 추진한 것으로 드러났다고 전했다. 2023년 10월, 리셋 연구팀은 가짜 페이스북 페이지 34만 개 이상의 가짜 페이지를 포함한 대규모 네트워크도 존재한다는 사실을 밝힌 내용의 연구 보고서를 발행했다. 가짜 페이지 네트워크는 이미 공개되었으나 지금도 선동 광고 작전에 동원된다.

2024년, 미국 대통령 선거 등 여러 선거가 예정되었다는 점에서 복수 전문가가 메타의 거짓 정보 통제 능력을 우려하는 목소리를 냈다.

리셋 유럽연합 소장 펠릭스 카르테(Felix Kartte)는 “메타의 허술한 제품 안전 대책은 2024년 선거 일정이 가까워지는 유럽과 미국 두 곳의 보안 책임이 되는 부분이다. 선동 광고 유포 세력은 페이스북 광고 시스템의 허점을 계속 악용해 전 세계 최대 민주주의 국가의 유권자 수백만 명을 속이는 악성 콘텐츠 제공을 목표로 삼을 것이다”라고 경고했다.

** 위 기사는 와이어드US(WIRED.com)에 게재된 것을 와이어드코리아(WIRED.kr)가 번역한 것입니다. (번역 : 고다솔 에디터)

<기사원문>
A Kremlin-Linked Network Used Fake Taylor Swift Quotes to Push Anti-Ukraine Propaganda