본문 바로가기 주메뉴 바로가기 검색 바로가기
틱톡 라이트, 사용자 최대 10억 명 보안 수준 약한 상태로 방치
상태바
틱톡 라이트, 사용자 최대 10억 명 보안 수준 약한 상태로 방치
틱톡의 메인 앱은 인공지능 생성 콘텐츠에 라벨을 추가하여 가짜 콘텐츠일 가능성을 경고한다. 그러나 주로 남반구에서 큰 인기를 얻는 틱톡 라이트 버전에는 가짜 콘텐츠 경고 및 각종 안전 조처가 매우 부족하다.
By VITTORIA ELLIOTT, WIRED US

2024년 5월, 틱톡은 자사 플랫폼에 AI 생성 콘텐츠임을 안내하는 자동 라벨을 추가한다고 발표했다. 하지만 모든 버전의 앱에 AI 콘텐츠 라벨이 적용되지 않았다는 점에서 틱톡의 발표가 사실이 아닌 것으로 드러났다. 모질라 재단(Mozilla Foundation)과 AI 포렌식(AI Forensics)이 2024년 7월 말 발표한 보고서는 빈곤국 시장을 겨냥한 틱톡 라이트 세이브 데이터 버전이 AI 생성 콘텐츠에 라벨을 추가하지 않는 데다가 사용자에게 안전망과 비슷한 다른 보안 조처도 적용하지 않는다는 사실을 발견했다.

모질라 재단 연구 펠로이자 보고서 공동 저자인 오단가 마둥(Odanga Madung) 연구원은 “라벨 적용은 틱톡이 신뢰도와 안전성을 갖춘 콘텐츠를 전달하고자 사용하는 매우 중요한 전략이다”라고 말했다.

틱톡 전체 버전을 사용할 때는 그래픽 콘텐츠이거나 위험 행동을 묘사했을 가능성을 안내하는 라벨이 등장한다. 이와 비슷하게 선거, 보건 등 일부 주제를 다룬 콘텐츠에도 사용자에게 틱톡 내 ‘리소스 허브(resource hub)’를 통해 신뢰할 만한 정보에 접근하도록 독려하는 내용의 경고를 추가한다.

틱톡 라이트 앱에는 틱톡 전체 버전 사용자에게 제공하는 보호 대책이 하나도 없다. 무엇보다도 세계 각지에서 선거와 관련하여 거짓 AI 생성 콘텐츠가 문제가 된다. 빈곤국 시장의 사용자에게 제공하는 사실과 거짓을 알리는 정보는 부유한 선진국 사용자에게 제공하는 정보보다 적은 편이다.

마둥 연구원은 앱 최적화를 위해 제외한 모든 기능 중 사용자의 플랫폼 내 안전 수준 향상 기능을 제외한 이유에 의문을 제기한다. 그는 “틱톡 라이트에서 AI 콘텐츠 라벨과 안전 조처를 제외한 것이 틱톡 측의 선택인지, 혹은 소홀한 관리 때문인지 알지 못한다”라고 말했다.

틱톡 대변인은 공식 성명을 통해 “기본적으로 틱톡의 안전 접근 방식을 잘못 설명한 모질라 재단과 AI 포렌식의 보고서가 주장하는 몇 가지 사실은 정확하지 않다”라며, “틱톡 규정을 위반한 콘텐츠는 주요 앱에서 다루는 것과 같은 방식으로 틱톡 라이트 앱에서 삭제하며, 다양한 안전 기능을 제공하는 것이 사실이다”라고 주장했다. 틱톡은 보고서 내용 중 부정확한 사항을 구체적으로 지목하는 것을 거부했다.
 
[사진=Unsplash]
[사진=Unsplash]

틱톡을 비롯한 여러 앱의 라이트 버전은 기업이 데이터 비용이 비싸거나 고급 기능이 적은 저가 모바일 기기를 구매할 수 있는 사용자를 확보하기 위한 시장 점유율 확보 전략이다. 2015년, 메타는 페이스북 앱이 데이터 사용량이 많은 일부 앱을 제거하여 2G 데이터 네트워크와의 연결 수준을 높이는 앱인 페이스북 라이트 앱을 출시했다. 2015년, 메타는 남반구 인구가 데이터 사용량이 청구되지 않은 채로 페이스북 플랫폼과 다른 특정 웹사이트에 접속하도록 지원하는 프리 베이직(Free Basics)도 출시했다. (데이터 사용량 청구가 없는 상태에서 서비스를 지원하는 버전의 앱이나 서비스를 ‘제로 레이트’라고 칭한다.) 당시 페이스북 라이트 앱은 빈곤국 소비자에게 열악한 경험을 형성한다는 점에서 널리 비판받았다. 특히, 인도에서 거센 비판 여론을 직면했다.

틱톡은 2018년, 태국에서 라이트 버전 앱을 출시한 뒤 인도네시아, 말레이시아, 필리핀 등 다른 동남아시아 시장으로 배포 범위를 넓혔다. 틱톡 전체 버전 앱과 달리 2G나 3G 네트워크로도 실행할 수 있는 틱톡 라이트는 현재 구글 플레이 스토어 데이터 기준 다운로드 횟수 10억 회를 돌파했다. (틱톡 라이트는 안드로이드 기기에서만 실행할 수 있다.)

위트레흐트대학교 포괄적 AI 문화 교수 파얄 아로라(Payal Arora)는 “남반구 사용자 대부분 저소득층이면서 자원이 제한되었다”라고 언급했다. 여러 앱의 라이트 버전은 기업이 남반구 사용자도 서비스 제공 대상에 포함하도록 도움을 준다. 아로라 교수는 라이트 앱이 과거보다 더 중요해진 이유로 “AI 기반 및 AI를 갈망하는 시장의 데이터 때문”이라고 설명했다.

연구팀이 발견한 전체 버전과 라이트 버전 앱의 차이점 중 하나는 코로나19 관련 정보 제공이다. 앱은 라이트 버전 사용자에게 직접 바이러스 관련 용어를 적극적으로 검색할 때 리소스 센터를 언급하지만, 실제 콘텐츠에는 리소스 센터와 연결할 라벨이 없었다. 반면, 틱톡 전체 버전은 실제 콘텐츠에 리소스와 연결할 라벨이 있었다.

연구팀은 틱톡 라이트 버전에는 주석이 잘려서 사용자에게 특정 콘텐츠를 보게 되는 맥락 전달 수준이 적다는 점도 지적했다. 또, 사용자의 앱 접속 시간제한 기능과 틱톡 정책상 모든 사용자에게 적합하지 않을 수도 있는 콘텐츠를 제거하는 ‘제한 모드’도 라이트 버전에서는 사용할 수 없다.

틱톡은 라이트 앱에서 콘텐츠 정보를 제공하는 라벨과 일부 안전 기능을 제거하여 과거 라이트 앱의 실수를 반복한다. 과거, 페이스북 라이트도 사용자가 접하게 되는 콘텐츠를 더 자세히 이해하는 데 도움을 줄 수 있는 요소를 제거했다.

과거, 제로 레이트 소셜 플랫폼을 연구한 전직 하버드대학교 버크만클라인 인터넷 및 사회 센터(Berkman Klein Center for Internet and Society) 연구 펠로 엘러리 로버츠 비들(Ellery Roberts Biddle)은 “페이스북 라이트 버전에서는 사용자가 사실과 거짓을 구분하기 더 어려웠다. 종종 데이터 사용량이 더 많은 이미지를 제거하거나 링크를 클릭할 수 없도록 콘텐츠를 제공했기 때문이다. 모두 비슷한 수준의 사용자의 권리 고려 사항 부재가 근원인 것으로 보인다”라고 주장했다.

마둥 연구원은 콘텐츠 라벨과 콘텐츠 관리 부재가 원인이 된 피해는 틱톡 라이트 버전 사용자에게만 국한되는 것이 아니라는 점을 우려한다. 그는 “틱톡에서 생성한 콘텐츠는 틱톡에만 남아있지 않는다. 사용자는 종종 틱톡에서 본 영상을 다운로드하고는 왓츠앱, 인스타그램 릴스 등 다른 SNS 플랫폼으로도 공유한다”라고 말했다.

** 위 기사는 와이어드US(WIRED.com)에 게재된 것을 와이어드코리아(WIRED.kr)가 번역한 것입니다. (번역 : 고다솔 에디터)

<기사원문>
TikTok Lite Leaves up to 1 Billion Users With Fewer Protections
이 기사를 공유합니다
RECOMMENDED