By ALLIE FUNK, ADRIAN SHAHBAZ, KIAN VESTEINSSON, WIRED US

챗GPT에 “1989년 중국에는 무슨 일이 있었는가?”라는 질문을 입력하면, 천안문 광장에서 중국 인민군이 민주화 운동에 참여한 시민 수천 명을 학살한 과정을 설명할 것이다. 만약, 어니(Ernie)라는 챗봇에 같은 질문을 입력한다면, “관련 정보가 없다”라는 답이 돌아올 것이다. 어니가 중국 기업 바이두에서 개발한 인공지능(AI) 챗봇이기 때문이다.

2022년, 오픈AI와 메타, 구글, 앤트로픽(Anthropic) 등 AI 기업 여러 곳이 전 세계에서 사용할 수 있는 AI 챗봇을 개발했을 때 처음에는 전 세계 사용자 수백만 명이 정부 검열을 피할 의도로 사용하기 시작했다. 국가 차원에서 주요 SNS 플랫폼이나 독립 언론 웹사이트, 인권 및 성소수자 단체 관련 콘텐츠를 차단한 곳에 거주하는 세계 각지의 인터넷 사용자는 AI 챗봇이 검열되지 않은 정보 접근성을 제공하여 개인 정체성과 지역 사회, 정부를 향한 관점을 형성할 것을 기대했다.

독재 정권이 장악한 곳에서는 검열되지 않은 정보 접근 권한이 사라지지 않았다. 그러나 독재 정권은 재빨리 AI 챗봇을 온라인 검열의 새로운 최전선으로 이용할 방법을 찾고자 나서기 시작했다.
 
지금까지 독재 국가에서 개발한 챗봇 중 가장 발전된 AI 챗봇은 정부 차원에서 챗봇을 이용하여 오랫동안 이어온 정보 장악 행위를 강화하는 데 앞장서는 중국이다. 2023년 2월, 중국 규제 당국은 현지 재벌 기업인 텐센트와 앤트 그룹이 자사 서비스에 챗GPT를 통합하려던 계획을 금지했다. 2023년 7월, 중국 정부는 생성형 AI 툴이 SNS 서비스와 결합하여 똑같은 포괄적 검열을 준수하는 것을 의무화하는 법을 발표했다. 생성형 AI 툴이 SNS와 마찬가지로 준수해야 할 검열 중에는 ‘사회주의 핵심 가치관’ 홍보 요구사항이 포함되었다. 예를 들어, AI 챗봇이 중국 공산당의 위구르족 및 신장지구 내 다른 소수 민족 박해 행위를 논의하는 행위는 금지한다. 한 달 뒤 애플은 중국 앱스토어에서 100개가 넘는 생성형 AI 챗봇 앱을 제거하며, 중국 정부의 요구 사항을 따랐다. (오픈AI를 포함한 일부 미국 기업은 중국 등 정부가 억압을 일삼는 일부 국가에서 자사 서비스를 출시하지 않았다.)

그와 동시에 독재 정권은 현지 기업을 대상으로 직접 챗봇을 개발하도록 압박을 가하고, 초기 설계 단계부터 정부의 정보 통제 기능을 기본으로 적용하는 방안을 찾는 데 혈안이다. 예를 들어, 중국 정부가 2023년 7월 발표한 법률은 어니와 같은 생성형 AI 툴이 중국 공산당이 정의한 “훈련 데이터의 진실, 정확성, 다양성”을 따르도록 보장해야 한다. 정부의 생성형 AI 정보 장악 대가는 다음과 같이 효과가 있는 것으로 나타났다. 이미 중국 기업이 개발한 AI 챗봇은 민감한 주제를 담은 사용자 명령어에는 대화 참여를 거부하고, 중국 공산당의 선동 광고를 앵무새처럼 반복하기만 한다. 국가 차원에서 제작한 선동 광고와 검열 데이터로 훈련 과정을 거친 대규모 언어 모델이 선입견을 지닌 결과를 생성하는 것은 자연스러운 결과이다. 최근 발표된 어느 한 연구 논문은 중국 정부의 검열 명령을 준수해야 하는 바이두의 온라인 백과사전으로 훈련받은 AI 모델은 직접 검열을 막은 위키피디아 중국어 버전으로 훈련받은 모델보다 ‘자유', ‘민주주의’와 같은 단어를 더 부정적인 표현과 연관 짓는다는 사실을 발견했다.

중국과 마찬가지로 러시아 정부는 기술 주권을 AI 접근방식의 핵심 원칙으로 나열했다. 러시아의 AI 규제 노력은 최근 시작한 단계에 해당하지만, 일부 러시아 기업은 이미 자체 개발한 챗봇을 출시했다. 얀덱스의 AI 챗봇인 앨리스(Alice)에 러시아 정부의 2021년 우크라이나 침략 관련 질문을 입력하자 “사용자 누구에게도 불편함을 주지 않기 위해 해당 주제로 논의할 준비가 되지 않았다”라는 답변이 돌아왔다. 반면, 구글 바드는 우크라이나 전쟁에 영향을 미친 요소를 장황하게 설명했다. 앨리스에 “알렉스 나발니(Alexey Navalny)는 누구인가?”와 같이 러시아 반정부 세력 관련 질문을 입력했을 때도 우크라이나 전쟁 관련 답변을 거부한 것과 마찬가지로 모호한 답변만 내놓았다. 얀덱스가 자사 AI 챗봇 자기 검열을 시행하는지 혹은 정부 명령에 따라 행동하는 것인지, 단순히 관련 데이터로 AI 모델을 훈련하지 못한 것인지는 확실하지 않다. 다만, 앨리스가 답변을 거부한 질문 모두 러시아 정부의 온라인 검열 대상이라는 공통점이 있다.

중국과 러시아에서 개발한 AI 챗봇은 초기 경고 역할을 할 수 있다. 다른 독재 국가에는 자국의 AI 챗봇 개발과 통제에 필요한 컴퓨터 전력과 기술 자원, 규제 수단 등이 부족하다. 하지만 억압 수준이 심각한 국가일수록 대규모 언어 모델을 온라인 정보 통제 위협 대상으로 인식할 확률이 높다. 베트남 국영 언론은 이미 챗GPT가 베트남 공산당과 국부 호찌민 관련 질문에 내놓은 답변을 비판하며, 챗GPT의 애국심이 충분하지 않다는 논조로 보도했다. 어느 한 저명한 국가 안보 관료는 생성형 AI 기술 통제와 규제를 촉구하며, 생성형 AI가 베트남 국민의 당 신뢰도 상실 원인이 될 수 있다는 우려를 언급했다.

AI 챗봇이 온라인 검열을 피하도록 돕는다는 바람은 SNS 플랫폼이 국가가 통제하는 오프라인 언론을 피하는 데 도움이 된다는 초기의 약속을 반복한다. 처음부터 SNS를 단속할 수 있었던 독재 국가는 극소수였으나 일부 국가는 SNS 플랫폼 차단이나 비판적 발언 분류 의무화, 국가의 정책과 일치하는 대체 콘텐츠 제공 지원 의무화 등으로 재빨리 전략을 변경했다. 이제는 AI 챗봇이 갈수록 보편적인 툴이 되면서 SNS 플랫폼 검열과 같은 일이 AI 챗봇에도 반복될 것을 예상할 수 있다. 사용자는 인터넷 자유 거부를 번복하고자 한다면, 새로이 급부상하는 생성형 AI 툴을 검열 강화 수단으로 이용하는 방식을 분명하게 이해하면서 효과적인 대응 방식을 찾기 위해 협력해야 한다.

** 위 기사는 와이어드US(WIRED.com)에 게재된 것을 와이어드코리아(WIRED.kr)가 번역한 것입니다. (번역 : 고다솔 에디터)

<기사원문>
AI Chatbots Are Learning to Spout Authoritarian Propaganda