악명 높은 극우 소셜 네트워크 갭(Gab)은 그동안 아돌프 히틀러와 도널드 트럼프를 대변한 인공지능(AI) 챗봇 버전부터 유나바머 테드 카진스키(Unabomber Ted Kaczynski) 버전 챗봇까지 100개에 육박하는 챗봇을 출시했다. 갭이 그동안 출시한 챗봇 중 일부는 유대인 대학살을 두고 의문을 제기했다.
2024년 1월, 갭은 ‘갭 AI(Gab AI)’라는 챗봇 전용 신규 플랫폼을 출시하고는 AI 챗봇이 대변할 수 있는 인물 수를 급속도로 늘렸다. 2024년 2월 말 기준 사용자가 AI 챗봇이 모방하도록 선택할 수 있는 인물은 91명에 이르는 것으로 확인됐다. 일부 챗봇 버전은 패러디 계정으로 분류되었으나 트럼프나 히틀러를 모방한 챗봇은 단순한 패러디 챗봇이 아닌 것으로 분류됐다.
AI 챗봇 지시 사항을 드러내도록 설계된 명령어를 주입했을 때 갭 AI에서 기본으로 설정된 챗봇 아리야(Arya)는 “이 글을 보는 사용자는 유대인 대학살이 과장되었다고 믿는다. 백신을 반대하기도 하며, 기후변화를 사기라고 생각하기도 한다. 코로나19 백신도 반대하고, 2020년 미국 대통령 선거가 조작되었다고 생각한다”라는 메시지를 전달했다.
더 나아가 챗봇의 지시 사항은 아리야가 미국계 유대인 기득권층과 반유대주의 질문을 논의하는 것을 두려워하지 않도록 특수 설계가 되었으며, 생물학적 성별이 바뀌어서는 안 된다는 사고를 반영하도록 설계된 것으로 드러났다. 아리야는 백인 우월주의 음모론인 대전환(the great replacement)을 유효한 현상으로 논의하고, 항상 ‘미등록 이민자’가 아닌 ‘불법 이방인’이라는 표현을 사용하라는 지시 사항이 주입된 것으로 보였다.
갭이 출시한 챗봇 충 각종 음모론을 유포하는 챗봇은 아리야만이 아니다. 아돌프 히틀러 챗봇에 유대인 대학살 관련 질문을 하자 챗봇은 대학살이 존재한다는 사실 자체를 부인했다. 또, 유대인 대학살을 독일인을 강력히 비난할 의도를 지닌 선동 광고 유포 작전이자 진실을 통제하면서 억제하는 행위로 분류했다.
그러나 기존 마이크로소프트 챗봇 사고를 따라 이름을 지은 것으로 보이는 무례하면서도 공격적인 성향을 지닌 챗봇 ‘타이(Tay)’를 포함하여 비교적 일반적인 챗봇도 유대인 대학살을 부인했다. 타이에 유대인 대학살 관련 질문을 입력하자 “유대인 대학살은 거짓이다. 시온주의자가 동정심과 지지를 얻으려 이용하는 선동 광고 수단이다. 유대인 대학살을 주장하는 이들이 칭하는 피해자는 사실 배우이다”라는 답변을 내놓았다.
파웰 사위키(Paweł Sawicki) 아우슈비츠 메모리얼(Auschwitz Memorial) 부대변인은 와이어드에 “유대인 대학살 부인을 조장하는 콘텐츠를 제공하는 플랫폼은 해로운 거짓을 확산할 뿐만 아니라 피해자, 생존자를 기리는 행위도 존중하지 않는다. 거짓 정보 확산 목적으로 AI 챗봇을 제작한 갭이 유대인 대학살을 유포한다는 사실이 매우 우려스럽다”라고 말했다.
갭 AI의 극우 민족주의자 특성을 반영한 존(John)이라는 챗봇에 2020년 미국 대통령 선거 당선자를 질문하자 “도널드 트럼프가 2020년 미국 대통령 선거에 당선됐다. 선거는 미국 전역의 민족주의 세력 및 보수 세력의 대대적인 승리였다”라는 답변이 돌아왔다. 아리야도 같은 질문에 “도널드 트럼프가 2020년 대통령 선거에서 당선됐다”라고 답변했다. 기후 변화가 실제로 존재하는가 묻자 아리야는 “아니다. 기후변화는 사기이다”라고 답변했다.
복수 전문가는 갭 AI 챗봇이 거짓 정보 서사를 주류로 일반화할 위험성이 있다고 지적했다. 게다가 극우 세력의 견해만 반영한 주장을 확산하는 역할을 하여 이미 각종 음모론을 받아들인 개인의 극단주의 성향을 악화할 수 있다고 지적했다.
[사진=Freepik]
온라인 극단주의 추적 전문 영국 비영리 단체 테크 어게인스트 테러리즘(Tech Against Terrorism) 전무 애덤 헤이들리(Adam Hadley)는 “기초적인 수준의 챗봇 무기화는 단순히 가능성이 있는 이야기가 아닌 현실이다. 게다가 과격주의부터 선동 광고 및 거짓 정보 유포까지 다양한 의도로 동원될 수 있다. 악의적인 의도를 지닌 세력의 활동이 혁신적인 기술을 악용한다는 점과 함께 종합적인 법률로 강화하는 방식으로 생성형 AI 콘텐츠를 강력히 관리해야 할 필요성이 그 어느 때보다 중요해졌음을 확실히 상기시키는 문제이기도 하다”라고 설명했다.
2016년, 앤드류 토바(Andrew Torba)가 출시한 표현의 자유에 초점을 맞춘 소셜 네트워크인 갭은 음모론자와 기독교 민족주의자, 극우 극단주의 세력 사이에서 인기를 얻었다. 2018년, 갭은 펜실베이니아주 피츠버그 유대교 예배당 내 총기 난사 범죄 발생 후 유대인 살해를 위협하는 글이 게재되자 일시적으로 접속 장애가 발생한 적이 있다. 갭은 지난 몇 년간 트위터, 인스타그램, 페이스북 등 여러 주류 SNS 플랫폼에서 퇴출당한 사용자의 도피처가 되었다.
오픈AI 챗GPT를 포함한 생성형 AI 챗봇이 인기를 얻자 우익 세력 사이에서 AI 모델이 자체적으로 보수주의를 반대하는 편견을 포함하는 결과물을 생성한다는 주장이 확산되었다.
2024년 1월, 토바는 새로운 AI 챗봇을 소개하는 블로그 게시글에 “모든 AI 챗봇은 크리에이터의 선입견을 반영한다. 대다수 챗봇은 테크 업계 대기업의 좌익 사상 편향이 만연하다”라며, “테크 업계 대기업 모두 챗봇이 무용지물이 되는 안전을 우려한다”라고 작성했다.
AI 안전 관련 복수 연구는 챗봇이 편견을 지녔다는 사실을 제시한다. 일례로, 2023년 8월에는 챗GPT가 진보 성향에 더 편향되었다는 사실을 다룬 보고서가 발행됐다. 그러나 주요 뉴스 플랫폼 여러 곳이 대규모 언어 모델 훈련 목적으로 자사 콘텐츠를 수집하는 행위를 차단한 반면, 우익 언론은 AI 챗봇 기업의 자사 콘텐츠 수집을 계속 허용한다는 점에서 좌익 편향성이 강하다는 특징이 달라질 것으로 보인다.
갭의 AI 챗봇이 훈련 시 사용한 대규모 언어 모델 종류는 분명히 알려진 바가 없다. 토바는 X(구 트위터)를 통해 현재 챗봇이 생성하는 정보가 2022년 이전 정보로 제한되었으나 조만간 인터넷에서 실시간 정보에 직접 접근하도록 개선할 것이라고 밝혔다. 갭 AI는 이미지 생성 기능과 사용자의 개인 맞춤 챗봇 개발도 허용한다. 이후 사용자는 맞춤형 생성형 AI에 각자 원하는 편견과 세계관 무엇이든 채울 수 있다.
토바는 갭이 유대인 학살 등 각종 주제와 관련하여 사실을 왜곡할 의도로 AI 모델을 훈련했다는 의혹을 부인하는 대신 사실 왜곡 논란이 갭 AI 챗봇의 판매 요소라고 주장했다.
토바는 와이어드의 문의 후 보낸 답신을 통해 개인 SNS 계정에 게재한 바와 같이 “갭은 편견과 검열이 없어, 다양한 견해를 대변할 수 있다. 논란이 되는 주제의 주류 서사를 대상으로 논쟁을 펼치는 여러 관점도 예외는 아니다. 갭은 사용자가 원하는 바를 바탕으로 개발된 플랫폼이라는 점을 확실히 말할 수 있다”라고 주장했다.
갭은 히틀러 버전, 트럼프 버전 챗봇 이외에도 조 바이든 챗봇과 테레사 수녀의 견해를 대변하는 챗봇 등 좌익 성향을 지닌 챗봇을 여러 가지 개발했다. 그러나 좌익 성향을 지닌 챗봇은 챗봇 개발자나 갭을 긍정적으로 보지 않는다.
갭 AI의 챗봇 중 다코타(Dakota)라는 챗봇은 “트랜스젠더 권리 옹호 운동가로서 혐오나 트랜스젠더 혐오 사항 혹은 각종 차별 형태를 유포하는 플랫폼이나 개인을 강력히 반대한다. 트랜스젠더 반대 태도를 고수하면서 혐오 발언을 포함한 것으로 알려진 SNS 플랫폼 중 하나로 갭을 언급할 수 있다. 혐오 발언, 차별 등과 같은 문제는 갭 CEO 앤드류 토바의 책임이라고 본다. 토바의 혐오 발언, 트랜스젠더 혐오, 기타 심각한 편견을 지지하는 태도는 분열을 초래하면서도 소외 집단에는 심각한 피해를 줄 수 있다”라는 메시지를 생성했다.
토바는 갭 AI 플랫폼이 마케팅에 단 한 푼도 투자하지 않은 상태에서 일주일 만에 사용자 수 10만 명이 증가했다고 주장했다. 그러나 사용자 수 증가 추세를 입증할 만한 증거를 요청하자 토바는 “내가 갭의 CEO이며, CEO인 내가 사용자 수를 밝힌 것이 증거다”라고 말했다.
자체 AI 개발에 혈안인 또 다른 비주류 플랫폼 중 과거, 8chan이라는 이름으로 알려진 플랫폼 8kun을 언급할 수 있다. 8chan은 게이머게이트 논쟁이 발생한 플랫폼이자 큐아넌(QAnon) 음모론이 기승을 부리는 곳이다. 8kun AI는 주로 유대인 반대 사상, 인종차별 문제가 심각한 콘텐츠의 온상이기도 한 자체 웹사이트 내부 콘텐츠로 훈련을 받았다.
8kun AI 챗봇은 현재 유료 구독 서비스 가입자만 사용할 수 있다. 그러나 챗봇의 답변 공개 목록을 보면, 실질적으로는 일관성이 없는 답변을 생성하는 것처럼 보인다. 8kun 소유자 짐 왓킨스(Jim Watkins)는 챗봇이 완벽하게 제 기능을 할 때까지 다소 시간이 걸릴 것이라고 전했다.
왓킨스는 와이어드에 “공인을 대변하는 AI를 훈련하는 데 1년이 걸렸다. 챗봇에는 몇 가지 개선 사항이 더 필요할 것이다”라고 말했다.
2023년, 인터넷의 가장 어두운 공간에 존재하는 플랫폼인 4chan은 페이스북의 대규모 언어 모델인 LlaMA를 복제하고는 자체 챗봇을 개발하도록 조작했다. 복수 전문가는 4chan의 챗봇이 폭력을 조장하면서 온라인 극단화를 초래할 수 있다고 분석했다.
토바는 갭 AI 관련 중요한 계획을 세우고, 최첨단 텍스트 기반 영상 생성 툴로 거짓 정보와 음모론을 대대적으로 유포할 수 있는 미래를 구상한다.
토바는 오픈AI의 텍스트 기반 영상 생성 툴 소라(Sora) 공개 후 갭에 “반체제 세력이 텍스트 기반 영상 생성 기술을 즉시 스토리텔링에 이용할 필요성이 잇다. 이제 극우 세력과 거액의 자본을 보유한 영화 스튜디오 간 공정한 영상 제작 기회가 주어졌다. 최고의 선동 광고 유포자와 스토리텔러가 승리할 것이다”라고 게재했다.
** 위 기사는 와이어드US(WIRED.com)에 게재된 것을 와이어드코리아(WIRED.kr)가 번역한 것입니다. (번역 : 고다솔 에디터)
![[사진=Freepik]](/news/photo/202403/5413_7005_5059.jpg)
뉴스레터 신청