By DAVID GILBERT, WIRED US

틱톡이 2024년 6월 치렀던 유럽연합 선거를 앞두고 청년층 유권자에게 독일의 극단주의 성향의 극우 정당을 홍보한 것으로 밝혀졌다. 와이어드에 단독 공유된 신규 보고서에 따르면, 투표권이 있는 틱톡 사용자가 다른 정당이나 다른 정당 소속 정치인을 검색할 때도 극우 정당 홍보 콘텐츠가 검색 결과로 등장했다.

보고서는 비영리 단체인 AI 포렌식(AI Forensics)과 정보 기술 전문 유럽 국책연구소인 인터페이스(Interface) 소속 연구팀이 공동 작성했다. 연구팀은 2024년 6월 5일 투표 당일까지 몇 주간 독일인이 틱톡에서 특정 정당과 정치인을 검색한 사례 중 약 1/4은 다른 정당과 정치인 정보를 검색 결과로 제공한 것으로 나타났다. 검색하고자 하는 바와 다른 정보가 검색 결과로 제공된 사례 대부분 독일의 주요 극우 정당인 ‘독일을 위한 대안(AfD)’과 관련성이 있는 콘텐츠를 보여주었다.

AfD가 젊은 세대를 대상으로 극단주의와 거짓 정보를 널리 유포할 의도로 틱톡을 악용하는 데 성공한 사실을 밝힌 문서가 훌륭하게 작성되었다. 그러나 AI 포렌식과 인터페이스가 새로 발표한 연구 결과는 2024년 초반 독일 법원에서 ‘극단주의 세력’이라고 분류한 AfD가 정당 홍보 과정에서 틱톡 알고리즘의 도움을 받았다는 사실을 시사한다.

AI 포렌식과 인터페이스의 보고서 공식 게재에 앞서 최종 보고서 사본을 받은 틱톡은 연구 결과에 반박하지 않았다. 그러나 틱톡은 과거, 콘텐츠 위반 사항 때문에 AfD와 관련된 일부 계정이 틱톡 검색 추천 대상으로 콘텐츠를 제공할 자격이 없다고 밝혔다.

인터페이스 소속 인공지능(AI) 기반 추천 시스템 추적 전문가인 마틴 디겔링(Martin Degeling)은 와이어드에 “주기적으로 틱톡에 정당, 정치인을 검색할 때 AfD와 관련된 콘텐츠가 더 많이 등장한다. AfD가 틱톡에 더 많이 등장하기 때문이다. 그러나 검색 제안 사항에는 AfD와 소속 정치인 검색과 관련하여 결정할 수 있는 알고리즘적 측면도 있다. 틱톡에 녹색당(Green Party)을 검색하면, AfD가 검색 결과로 등장한다. 독일 기독교민주연합(CDU)을 틱톡에 검색할 때도 마찬가지이다. 그러나 AfD를 검색하면, 다른 정당 콘텐츠는 전혀 등장하지 않는다”라고 설명했다.

연구팀은 연구 결과가 틱톡과 AfD를 포함한 극우 정당 간 적극적인 협력이 있었다는 사실을 입증하지는 않지만, 틱톡 구조 자체는 악의적인 의도로 콘텐츠를 게재하는 세력이 틱톡 내에서 기승을 부릴 기회를 줄 수 있다는 사실을 시사한다고 진단했다. AI 포렌식 연구원 미아지아 쉴러(Miazia Schüler)는 “’다른 검색 추천 사항(Others Searched For)’을 비롯하여 틱톡에 기본적으로 자체 설계된 기능은 콘텐츠 관리 작업이 매우 부실하여 AfD를 중심으로 여러 극우 세력이 악용할 수 있는 공간을 제공한다”라고 전했다.

AI 포렌식 연구 책임자 살바토레 로마노(Salvatore Romano)는 “선거 기간 틱톡은 모든 정당의 콘텐츠가 동일하게 제공하지 않는다. 기본적으로 추천 콘텐츠 생성 시 앱 내 콘텐츠를 기준으로 하지 않는다”라며, AI 포렌식이 프랑스, 폴란드, 이탈리아 및 기타 유럽연합 회원국을 조사했을 때도 독일과 마찬가지로 틱톡이 문제 콘텐츠를 제공한다는 사실을 확인했다고 덧붙였다.

틱톡은 유럽연합 선거 도중 거짓 정보 유포 문제를 퇴치할 국가 전용 툴을 적용하지 않았다고 밝혔다.
 
아리앤 드 셀리어스(Ariane de Selliers) 틱톡 대변인은 와이어드에 “틱톡은 선거 거짓 정보, 혐오 발언을 반대하는 확고한 정책을 적극 시행하여 무결성을 보호하며, 사용자가 유럽연합 선거 직전 750만 명 이상이 방문한 틱톡의 선거 센터(Election Centers)에서 제공하는 신뢰할 만한 정보와 연결하도록 했다”라고 말했다.

연구팀은 선거 관련 정보를 검색할 때 세 번 중 한 번꼴로 검색어와는 관련성이 없는 음모론과 조회수를 높일 의도로 생성된 듯한 콘텐트의 검색 제안 사항이 사용자에게 전달된다는 사실도 확인했다.

녹색당 관련 콘텐츠를 검색할 때 등장하는 틱톡 검색 제안 사항에는 녹색당 대표이자 독일 부총리인 로버트 하벡(Robert Habeck)을 언급한 “하벡의 부인이 떠나다”라는 내용이 포함되었다. 검색 추천 사항으로 등장한 콘텐츠의 주장에는 본질이 없었으며, 틱톡에서 관련 영상을 단 한 건도 찾을 수 없었다.

연구팀은 보고서에 “틱톡이 제공하는 정당 및 정치인 관련 검색 제안 사항의 콘텐츠는 약간의 정치적 여파가 있는 뉴스 보도 가치를 지닌 소식처럼 보이는 거짓 정보 유포 사항을 바탕으로 한 근거 없는 소문과 같은 호기심임을 암시한다”라고 작성했다.

와이어드는 검색어가 제안 사항을 제공하는 방식이나 이유를 문의했으나 틱톡은 어떠한 답변도 하지 않았다.

다른 예시로 독일 사회민주당(Social Democratic Party)을 검색하면, ‘양성애자 공주’라는 표현과 같이 무작정 조회수를 높일 의도로 생성된 검색 제안 사항이 등장하거나 녹색당을 검색할 때 ‘푸틴의 마지막 경고’처럼 불안감을 자극하는 검색 제안 사항이 등장하는 것을 언급할 수 있다.

연구 결과는 사용자가 틱톡의 검색 제안 사항을 일절 사용하지 않고 단순히 제안 사항을 보기만 해도 사용자의 기억에 확실히 남아있기 충분하며, 제안 사항이 극단적일수록 기억하기 쉽다는 사실을 보여준다.

2023년, AI 포렌식과 인터페이스 연구팀은 연속된 검색 제안 사항을 접한 사용자가 가장 많이 선택하는 검색 제안 사항은 검색 제안 수준이 가장 높은 제목이 작성된 콘텐츠임을 확인했다. 이때 연구팀은 ‘올라프 숄츠, 클럽에서 목격’이라는 실제 사건과 관련성이 없는 데다가 틱톡 영상이 단 한 건도 없는 내용의 가짜 기사 제목이 가장 많은 사용자가 기억하는 콘텐츠라는 점을 예시로 언급했다.

디겔링은 “실제로 많은 이들이 주장을 뒷받침하는 영상이나 콘텐츠가 전혀 없는 상태로 시스템에 계속 남아 있는 근거 없는 소문이가 사용자의 조회 유도 목적의 가짜 기사 제목을 기억한다. 검색 제안 사항 자체가 관련 영상 유무를 떠나 사용자의 기억에 남는다”라고 설명했다.

AI 포렌식과 인터페이스는 연구를 통해 18~25세 독일 틱톡 사용자가 틱톡 검색 기능을 자주 사용한다는 사실을 확인했다. 그와 함께 어도비(Adobe)가 2024년 초반 공개한 연구가 미국 사용자 40%가 틱톡을 검색 엔진처럼 사용하며, Z세대 사용자는 검색 기능 사용 시 구글보다 틱톡에 의존한다는 결론을 제시한 사실도 관련 내용으로 주목할 수 있다. 틱톡 검색 활동은 사용자 사이에서 콘텐츠 발견 시 갈수록 중요한 기능이 되었다. 특히, 젊은 사용자 사이에서 틱톡 검색 활동의 중요성이 더 커졌다.

틱톡 안에서 검색 제안 사항은 다양한 위치에 나타난다. 그러나 연구팀은 연구 과정에서 ‘다른 검색 추천 사항’ 기능을 중점적으로 다루었다. 해당 기능은 다른 검색어 8개로 구성되어 검색 페이지의 초기 검색 결과 바로 아래에 등장한다. 표면적으로는 실제로 사용자가 입력한 검색어와 관련성이 있는 것처럼 보인다.

틱톡은 여러 요인이 검색어 추천과 댓글 및 영상 시청 후 보편적인 검색어 등 추천 키워드를 판단하는 데 영향을 미친다고 설명했다.

연구팀은 틱톡이 특정 정당이나 정치인과 관련하여 정확하지 않거나 분쟁을 유발하는 검색 결과 확산을 제한할 조처를 했으나 관리 노력이 틱톡 전체에 균일하게 적용되지 않았다는 결론을 내렸다.

또, 연구 결과는 틱톡이 차단 목록을 적용한다는 사실도 입증한다. TK?!를 검색했을 때 세 번 중 한 번꼴로 ‘다른 검색 추천 사항’에 검색어가 전혀 나타나지 않기 때문이다. TK?!는 극우 정당인 AfD부터 극좌 성형의 자유민주당(Free Democratic Party)과 녹색당까지 아우르는 표현이다.

틱톡은 와이어드에 차단 목록을 사용한다는 가정이 정확하지 않다고 주장하면서도 특정 검색어의 검색 결과가 등장하지 않도록 판단하는 기준을 추가로 묻자 답변하지 않았다.

로마노는 “틱톡의 콘텐츠 관리 정책이 적용되었다면, 정책을 일관적으로 적용하지 않는 것이다”라고 지적했다.

** 위 기사는 와이어드US(WIRED.com)에 게재된 것을 와이어드코리아(WIRED.kr)가 번역한 것입니다. (번역 : 고다솔 에디터)

<기사원문>
TikTok Pushed Young German Voters Toward Far-Right Party