본문 바로가기 주메뉴 바로가기 검색 바로가기
중국, 거짓 정보 유포 수준 낮은 이유는?
상태바
중국, 거짓 정보 유포 수준 낮은 이유는?
중국의 국가 주도 거짓 정보 유포 작전은 7년간 대규모로 진행됐다. 그러나 중국에서 유포한 거짓 정보를 보는 이는 없다.
By DAVID GILBERT, WIRED US

“마이크로소프트, 중국의 인공지능(AI) 동원한 미국, 한국, 인도 선거 방해 공작 경고”, “중국, AI로 아시아와 미국 전역의 거짓 정보 유포 및 불화 유발” 등 매우 절망적인 느낌을 주는 기사 제목이 대문을 장식했다.

위의 기사 제목은 2024년 4월 초 중국의 거짓 정보 유포 작전 세력이 인공지능(AI)까지 이용하여 미국과 세계 곳곳의 분열과 선거 방해 공작을 펼치는 사실을 설명한 마이크로소프트 위협 분석 센터의 보고서를 통해 드러난 사실이다. 이미 대만 총통 선거를 방해 공작 표적으로 삼았던 중국의 거짓 정보 유포 작전은 AI로 생성한 오디오와 밈을 사용하여 대중의 이목을 사로잡고는 거짓 정보 유포 참여도를 높이려 했다.

그러나 중국이 AI를 이용하여 생성한 거짓 정보의 기사 제목과 마이크로소프트가 제대로 표현하지 못한 바가 있다면, 스패머플라지 드래곤(Spamouflage Dragon)이나 드래곤브리지(Dragonbridge)라는 이름으로 알려진 중국 정부와 연결된 거짓 정보 유포 작전이 지금까지 사실상 거의 효과가 없었다는 사실이다.

마이크로소프트 위협 분석 센터 총괄 관리자 클린트 와츠(Clint Watts)는 “중국의 거짓 정보 유포 작전이 2014년 러시아의 거짓 정보 유포 작전이 2014년 러시아의 작전과 같은 수준이라고 설명할 수 있다. 중국 거짓 정보 유포 작전은 많은 작전을 펼치지만, 거짓 정보의 질적 완성도는 여전히 매우 낮은 편이다”라고 말했다.

지난 24개월간 중국의 거짓 정보 유포 작전은 주로 친중 콘텐츠를 대거 주입하는 전략에서 미국 정치를 공격적인 거짓 정보 유포 작전의 표적으로 삼는 전략으로 바뀌었다. 주로 온라인 플랫폼 수십 곳에서 대규모로 펼쳐졌으나 대부분 현실 세계에 영향을 미치지는 못했다. 하지만 복수 전문가는 영향력이 있는 계정 한 개에 게시글 하나만 올려도 전체적인 상황이 크게 달라질 수 있다고 경고했다.

스패머플라지 드래곤 작전을 최초로 경고한 기관 중 한 곳인 소셜 미디어 분석 기업 그래피카(Graphika)의 최고 정보 책임자 잭 스텁스(Jack Stubbs)는” 스패머플라지 드래곤은 실질적인 계획 없이 SNS를 마구 거짓 정보로 도배하는 것과 같다. 실제로 수많은 거짓 정보가 도배되기도 했다. 거짓 정보를 담은 게시글 양과 규모 모두 매우 크다. 스패머플라지 드래곤 작전에 가담한 세력은 매일 영상과 만화 여러 편을 유포하고는 전 세계 단위로 각종 플랫폼에서 강조한다. 대부분 처음부터 고정된 것은 아니다. 하지만 이는 미래에도 거짓 정보 작전이 고정되지 않을 것이라는 뜻은 아니다”라고 말했다.

스패머플라지 드래곤은 적어도 2017년부터 쉴 틈 없이 홍콩 민주화 운동, 미국 대통령 선거, 이스라엘과 가자지구 전쟁 등 다양한 전 세계 주요 사건을 왜곡할 의도로 생성된 콘텐츠를 마구 분출했다. 거짓 정보 유포 작전의 일부분에는 넓은 범위에서 수십억 달러 상당의 영향력을 지닌 작전과 X, 유튜브부터 비교적 주류와는 거리가 먼 갭(Gab)까지 SNS 플랫폼 수십 개의 계정 수백만 개를 동원하여 친중 콘텐츠를 마구 주입하려 했다. 거짓 정보 유포 작전에 AI 생성 프로필 사진을 비롯하여 최첨단 기술을 채택한 사례는 이번이 처음이다.

복수 전문가는 중국이 거짓 정보 유포 작전에 각종 기술과 자본을 투자했으나 대다수 작전이 실패했다고 평가했다. 만리방화벽을 이용한 중국의 온라인 세계를 세계와 분리, 국영 언론과 거짓 정보 유포 작전 간의 효과적인 협력에 따른 사고 부재, 중국 정부의 엄격한 통제가 이루어지는 온라인 환경에 따라 설계된 전략 사용 등 문화적 맥락의 문제를 포함한 여러 요소가 주된 원인이다.
 
[사진=Unsplash]
[사진=Unsplash]

다년간 스패머플라지 드래곤 작전을 추적한 전략대화연구소(Institute for Strategic Dialogue)의 수석 오픈소스 애널리스트 엘리스 토마스(Elise Thomas)는 “2017년부터 스패머플라지 드래곤과 관련한 이야기가 확산되었다. 스패머플라지 드래곤 작전은 어디서나 대규모로 진행되는 작전이지만, 연구원을 제외하고 작전을 자세히 아는 이는 없었다”라고 설명했다.

토마스 연구원은 2024년 2월 자로 실패한 작전인 스패머플라지 드래곤을 다룬 보고서에 “트위터 게시글 대부분 참여도가 없었으며, 조회수도 매우 적었다. 혹은 같은 스패머플라지 드래곤 작전의 일부분에 해당하는 것으로 드러난 다른 계정이 참여만 있었다”라고 작성했다.

2024년까지 지난 5년간 스패머플라지 드래곤을 연구한 복수 연구원은 영상과 자동화 보이스오버를 동원한 전략과 가장 최근에는 AI를 프로필 이미지와 기존의 분열을 자극할 의도로 설계된 콘텐츠 생성 목적으로 채택하는 등 전략 변화를 관측했다.

AI 기술을 채택한 사실이 반드시 거짓 정보가 더 교묘하면서도 완성도가 높아진다는 점을 시사하는 것은 아니다. 거짓 정보 유포 효율성이 더 높아진다는 의미이다.

스텁스 연구원은 “생성형 AI 서비스가 주로 저렴하다는 사실은 효율성과 규모와 관련성이 있다. 생성형 AI를 채택하면, 같은 결과물을 생성할 때 이전보다 더 적은 자원을 활용할 수 있다. 저렴하면서 더 빠른 속도로 콘텐츠를 생성할 수 있으나 질적인 완성도가 향상된 것은 아니다. 생성형 AI에는 손쉽게 접근할 수 있다. 누구나 신용카드로 5달러를 결제하기만 하면, 생성형 AI로 원하는 콘텐츠 무엇이든 생성할 수 있다”라고 말했다.

거짓 정보 유포 작전은 페이스북, 레딧, 틱톡, 유튜브를 포함하여 사실상 모든 소셜 미디어 플랫폼에서 진행되었다. 지난 몇 년간 다수 SNS 플랫폼은 2023년, 메타의 서비스 접속 장애 발생 당시 전 세계 여러 플랫폼의 최대 규모 영향력 작전이라고 칭한 사례를 포함한 중국 거짓 정보 유포 작전과 관련된 계정 수십만 개를 제거했다.

미국 정부도 중국의 거짓 정보 유포 작전을 억제할 방안을 모색했다. 2023년, 미국 법무부는 중국 공안부의 ‘912 특수작전 작업반(912 Special Project Working Group)’ 소속 관료 34명을 영향력 작전 가담 혐의로 기소했다. 미국 법무부는 체포된 이들이 스패머플라지 드래곤과는 관련이 없다고 발표했으나 기소 사건에 정통한 어느 한 소식통은 와이어드와의 인터뷰에서 912 특수작전 작업반의 작전이 중국 정부의 지원을 받은 사실이 100% 확실하다고 전했다. 소식통은 공개적으로 정보를 밝힐 권한이 없어 익명을 요청했다.

토마스 연구원은 “상업 기관 관계자는 SNS에서의 거짓 정보 유포 작전을 펼치지 않는다”라며, 912 특수작전 작업반의 작전이 중국 정부가 운영한 것이 확실하다고 주장했다. 이어, “912 특수작전 작업반의 작전은 더 지능적이다. 전략을 바꿀 수 있었으나 오랫동안 쓸모가 없었어도 기존의 전략을 고수한 정부 주도 작전에서는 전략 변경이 이례적이다”라고 설명했다.

하지만 지난 7년간 스패머플라지 드래곤을 통해 유포된 작전은 러시아, 이란, 튀르키예 등에서 발생한 국가 주도 거짓 정보 작전과는 달리 미묘한 어조 차이와 광고를 접하는 이들에게 특별히 맞추어 생성한 콘텐츠가 없다.

와츠는 “스패머플라지 드래곤은 문화적 맥락에서 혼란스럽다. 바로 실수를 발견할 수 있는 부분이다. 스패머플라지 드래곤은 전 세계 누리꾼 사이에서 말도 안 되는 이야기를 유포한다. 많은 누리꾼이 이를 알고 있어서 콘텐츠에 참여하지 않는다. 간혹 중국의 특성을 게시글에 남긴다”라고 말했다.

그 부분적인 이유는 만리방화벽 때문에 중국인이 온라인 세계에서 사실상 중국 이외 국가와 단절되었기 때문이다. 만리방화벽은 중국 정부가 자국 인터넷 사용자가 인터넷에서 보고 공유할 수 있는 콘텐츠를 엄격하게 통제하도록 하는 수단이다. 복수 전문가는 만리방화벽이 영향력 작전 행사 시 중국 이외 누리꾼의 인식을 제대로 조작할 방법을 실질적으로 이해하는 데 매우 큰 어려움을 안겨주는 이유라고 지적했다.

토마스 연구원은 “위챗, 웨이보 등 정부가 밀접한 곳에서 엄격하게 통제하는 데 이용한 전략을 변경하여 개방된 전 세계 인터넷 영향력 작전을 운영해야 한다”라며, “위챗과 웨이보에서는 중국 정부가 누리꾼에게 보여주고자 하는 콘텐츠를 볼 수 있다. 하지만 개방된 인터넷에서는 접하기 어렵다. 망망대해에서 중국 정부의 입맛에 맞는 정보를 보여주려는 시도이다”라고 말했다.

스텁스도 동의했다. 그는 “중국 내 정보 환경은 현실적이거나 진실된 환경이 아니다. 중국 거짓 정보 유포 작전은 영향력을 얻고, 개방된 곳에서 진실성이 입증된 정보 환경에 영향을 미칠 전략 운영에 영향을 미친다. 기본적으로 개방된 환경에서 사실인 정보를 접할 수 있는 공간은 근본적으로 중국의 폐쇄된 이너넷 공간과 다르다”라고 말했다.

러시아의 영향력 작전도 정부 대변인, 국영 언론, 인플루언서 SNS 봇 계정 등 여러 관계자와의 포괄적인 협력에 따라 펼쳐지는 경향이 있다. 러시아 영향력 작전에 가담하는 다양한 세력은 동시에 같은 메시지를 유포한다는 점에서 스패머플라지 드래곤과 차이가 있다. 최근, 러시아 거짓 정보 부대가 텍사스 국경 위기를 중심으로 미국 내 분열의 씨앗을 심으려는 작전을 활발하게 펼치면서 극단주의 세력이 이끄는 국경 수호대가 국경 위기를 SNS에서 시민전쟁이라고 칭하도록 촉진하는 동시에 인플루언서가 운영하는 텔레그램 채널과 SNS 봇도 동시에 같은 메시지를 전송했다.

와츠는 “중국 거짓 정보 유포 작전의 가장 큰 문제점이 유포하고자 하는 메시지를 동시에 전달하지 않는다는 점이다. 유포하고자 하는 거짓 정보가 무엇이든 장문의 메시지를 유포하지만, 유포하고자 하는 정보를 동시에 전달하지 않는다. 철저한 하향식 구조에 따라 거짓 정보 유포가 이루어지기 때문이다”라고 분석했다.

스패머플라지 드래곤의 거짓 정보 작전에 따라 생성한 일부 콘텐츠는 좋아요 반응과 댓글 수가 많지만, 면밀히 조사한 결과 같은 거짓 정보 작전 네트워크에 가담한 다른 계정의 참여 활동임을 확인할 수 있었다. 토마스 연구원은 “스패머플라지 드래곤 네트워크는 매우 배타적이며, 같은 네트워크 내에서만 참여가 이루어진다”라고 전했다.

와츠는 중국의 거짓 정보 유포 작전이 미국 대통령 선거에 크게 영향을 미칠 수 있다고 생각하지는 않는다. 다만, 상황은 즉시 바뀔 수 있다고 덧붙였다. 적절한 계정이 중국 봇 계정의 게시글에 참여하여 강조한다면, 갑자기 비슷한 콘텐츠 수가 증가할 수도 있다”라고 말했다.

토마스 연구원이 이미 발생했음을 확인한 일이기도 하다.

토마스 연구원이 계정 정지 후 계속 추적한 어느 한 거짓 정보 작전 가담 계정은 X에 “MAGA 2024”를 프로필에 작성했다. 해당 계정은 조 바이든 미국 대통령과 미국 중앙정보국이 우크라이나에 신나치주의 세력을 파병했다는 의혹을 제기한 러시아 국영 통신사 RT의 영상을 공유했다. 해당 주장은 탐사 언론 벨링캣(Bellingcat)이 거짓임을 입증한 주장이다. 스패머플라지 드래곤의 대다수 게시글과 마찬가지로 미국의 신나치주의 세력 파병을 주장하는 영상은 초기에 거의 주목받지는 못했다. 그러나 X에서 팔로워 220만 명 이상 보유한 계정에 교내 총기 사고를 공유한 음모론자 알렉스 존스(Alex Jones)가 해당 영상을 공유하자 순식간에 조회 수 수십만 건을 기록했다.

토마스 연구원은 “미국이 우크라이나에 신나치주의 부대를 파병했다는 거짓 정보를 공유한 계정은 알렉스 존스를 포함하여 소유자와 게시글 참여자 모두 진짜 인간처럼 보인다. 그동안 본 트윗 중 가장 혼란스러웠다”라고 말했다.

토마스는 존스가 공유한 계정이 전형적인 스패머플라지 드래곤 계정과는 다르다고 설명했다. 콘텐츠를 마구 유포하는 행위가 자동화되지 않고, 실제 인간처럼 보이는 다른 계정과 함께 유기적인 협력에 따라 참여하기 때문이다. 2016년 미국 대통령 선거 이후 러시아 계정의 거짓 정보 유포 작전과 비슷하다.

토마스 연구원은 지금까지 알렉스 존스가 참여한 것처럼 보이는 게시글을 공유한 계정 네 개를 발견했다. 그러나 X의 백엔드에 접근하지 않고는 관련 계정을 모두 찾는 것이 매우 어려운 실제로 발견되지 않은 계정이 더 많을 수도 있다는 우려를 전했다.

토마스 연구원은 “처음 시작할 때부터 혹은 이미 작전을 시작하던 도중 대규모 작전을 개시할 가능성을 우려한다. 사실이라면, 거짓 정보 유포 작전과 관련성이 있는 계정을 모두 탐지하는 일이 매우 어려울 수도 있다. 스패머플라지 드래곤 네트워크와 흥미로운 연결 관계가 없는 상태에서 새로운 계정을 개설하고 사실상 거짓 정보 작전 네트워크를 바탕으로 운영하면서 대규모 언어 모델로 텍스트를 생성한다면, 여러 문제가 발생할 것이다”라고 말했다.

스텁스는 그래피카가 2022년 미국 중간선거부터 미국 유권자를 사칭하려 한 스패머플라지 드래곤과 관련된 계정을 추적하고는 작전 성공 사례를 본 적이 없다고 전했다. 또한, 거짓 정보 유포 작전 연구를 보고하는 노력이 중요하다고 확신하면서도 널리 알려진 대규모 작전이 소규모 작전보다는 정보가 불확실할 수도 있다고 덧붙였다.

스텁스는 “스패머플라지 드래곤이나 러시아의 도플갱어(Doppelganger) 작전과 같은 거짓 정보 유포 작전과 관련한 대중적 논의와 보고 건수가 크게 증가했다. 스패머플라지 드래곤과 도플갱어 모두 작전을 감지하기 매우 어려운 대규모 거짓 정보 유포 작전의 예시에 해당한다. 하지만 아직 알지 못한 작전을 더 우려한다”라고 말했다.

** 위 기사는 와이어드US(WIRED.com)에 게재된 것을 와이어드코리아(WIRED.kr)가 번역한 것입니다. (번역 : 고다솔 에디터)

<기사원문>
Why China Is So Bad at Disinformation
이 기사를 공유합니다
RECOMMENDED