2024년에는 전 세계 50개국 이상이 선거를 치르면서 가장 많은 선거를 치르는 해가 될 것이다. 그러나 사회 운동가와 국회의원, 언론인 모두 선거 관련 거짓 정보 확산과 의도적인 거짓 정보 생성 작전, 폭력 발생 위험성을 두고 경각심을 제기한 가운데, 다수 플랫폼 운영사가 SNS 안전 유지를 책임지는 근로자를 해고하고, 담당 부서를 해체했다.
특히, 메타는 왓츠앱, 인스타그램, 페이스북 등 인기 SNS 플랫폼의 전 세계 사용자 약 30억 명을 보유하여 전 세계 정보 체계 형성 시 강력한 영향력을 행사할 수 있는 독특한 위치에 있다. 2016년, 메타는 도널드 트럼프의 대통령 당선이라는 결과를 추진하는 중심 역할을 한 것으로 나타났다. 미국 민주주의 보호 측면에서 충분한 노력을 펼치지 못했다는 비판에는 민감한 반응을 보이는 메타는 2020년 미국 대통령 선거 시기에는 선거 관련 거짓 정보 및 선동 광고 확산을 막을 새로운 툴과 과정에 투자했다. 그러나 2020년 미국 대통령 선거가 끝나고 몇 주 뒤 원제로(OneZero)에는 ‘선거 조작 중단’이라는 단체가 거짓 정보를 과장하여 유포했다. 이후 메타는 거짓 정보를 막으려 도입한 새로운 완화 전략을 철회하면서 조 바이든의 당선 정당성을 둘러싼 의문 사항이 2021년 1월 6일 미국 국회의사당 폭동 사태 후 계속 확산되도록 했다. 폭동 이후에도 메타는 2020년 미국 대통령 선거 결과에 의문을 제기하는 광고를 계속 게재할 수 있도록 두었다.
페이스북이 로드리고 두테르테(Rodrigo Duterte) 필리핀 전 대통령이 수월하게 인기를 얻는 결과를 낳고, 언론인과 사회운동가, 야당 정치인을 겨냥한 악의적인 온라인 공격 세력이 기승을 부리도록 했다. 이후 2020년 스리랑카 선거 당시 메타는 사실 검증 전문 기관이 이미 거짓으로 판별한 정보를 현지 정치인이 유포하도록 두었다. 당시 유포된 거짓 정보 중에는 스리랑카 내 이슬람 소수 집단을 표적으로 한 폭력 선동 게시물도 있다.
파멜라 산 마틴(Pamela San Martín) 메타 감독위원회 위원은 와이어드와의 인터뷰에서 “SNS 플랫폼은 과거의 실수에서 교훈을 얻고, 2024년 선거에 대비하여 더 훌륭하게 문제를 다룰 수 있도록 해야 한다. 메타 감독위원회는 SNS 기업이 선거 기간의 거짓 정보 확산이라는 중대한 문제 관리 수준 충족과 전 세계 선거 기간에 발생하는 상황 등을 다루기 위한 노력을 펼쳐야 한다고 확신한다”라고 말했다. 메타 감독위원회는 특정 콘텐츠 관리 결정을 판단하는 독립 기관이다. 감독위원회는 메타가 설립한 독립 신뢰 기관의 지원을 받는다.
메타는 지난 18개월간 테크 업계 대기업 여러 곳과 마찬가지로 근로자를 대거 해고했다. 메타 내 거짓 정보 유포 및 생성, 혐오발언 문제를 관리하는 ‘신뢰 및 안전 부서’는 지난 18개월간의 대규모 정리해고 칼바람으로 유독 심각한 타격을 입었다. 코리 체임블리스(Corey Chambliss) 메타 대변인은 “메타의 무결성 노력은 꾸준히 업계를 선도한다. 메타는 과거에 얻은 교훈을 통합하여 앞으로 다가올 위협에 한발 앞서도록 도움이 되도록 한다”라고 말했다
산 마틴은 와이어드와의 인터뷰에 응하며, 메타가 민주주의의 중요한 해를 맞이하여 준비한 콘텐츠 관리 과정과 감독위원회의 첫 번째 긴급 판단, SNS 플랫폼의 무기화 등을 주제로 이야기했다.
인터뷰 내용은 분량과 명확성을 고려하여 편집했다.
[사진=Unsplash]
와이어드: 2024년 미국 대통령 선거와 관련하여 가장 우려하는 바는 무엇인가? 메타가 2016년과 2020년 미국 대통령 선거 후 교훈을 얻었다고 생각하는가?
파멜라 산 마틴: 이전과 100% 똑같은 선거는 없다. 따라서 이전 선거 당시 겪은 문제 해결부터 시작해도 충분하지 않다. 미국 대통령 선거와 브라질 선거 시기에 발생할 상황을 고려한다면, 선거를 앞두고 SNS 콘텐츠 관리 측면에서 매우 진지하게 고려해야 할 부분은 메타가 선거 관련 문제를 다루기 위해 더 많은 툴을 사용한다는 점이다. (과거, 미국과 브라질 대통령 선거 이후 선거 결과에 의문을 제기한 극우 세력이 의회 폭동 사태를 일으켰다.)
그러나 2020년 미국 대통령 선거와 2022년 브라질 대통령 선거 기간 사이 메타는 조직화된 유세운동이나 시민의 집회 모임, 봇을 이용한 국가 안정성을 해칠 메시지 전달 등으로 선거 과정의 신뢰나 확신 부재를 유발할 수 있는 자사 플랫폼 악용 가능성을 제대로 다루지 못했다. 개인적으로 메타가 미국 선거 상황에 더 주목해야 한다고 생각한다. 플랫폼 관리 허점을 통해 선거에 영향력을 행사하려는 이들이 메타의 SNS 플랫폼을 악용하는 방식을 다루어야 한다.
2021년 미국 국회의사당 폭동이 메타의 선거 시기 플랫폼 관리 방식이나 선거 시기의 위험성 사고를 어떤 방법으로 바꾸었는가?
감독위원회가 메타에 지시한 사항 중 하나는 선거 무결성 조처의 일부분에 필요한 조직화된 유세 운동 문제 해결이다. 국회의사당 폭동 사태는 물론이고, 메타가 여러 국가에서 겪은 선거 주기마다 얻은 교훈도 필요하다.
도널드 트럼프의 사례를 예시로 언급하자면, 감독위원회는 메타 측에 자사 알고리즘이 미국 국회의사당 폭동 사태의 일부분이 된 폭력적 서사를 강화한 것과 관련하여 측정하는 인권 영향 평가를 권고했다. 메타는 권고 사항을 받아들이지 않았다. 그러나 메타는 자사 알고리즘과 뉴스피드, 자체 콘텐츠 추천 시스템, 정치 광고 등이 선거 과정 보호나 방해에 미치는 영향을 평가할 책임이 있다. (코리 체임블리스 메타 대변인은 와이어드의 질문에 메카가 2020년 미국 대통령 선거에 미친 영향을 대상으로 한 학술 연구를 허용했다는 과거 공식 성명문을 제시했다. 그러나 메타는 인권 감사를 시행하지는 않았다.)
보통 미국 유세 운동 기간은 다른 국가보다 긴 편이다. 미국의 유세 운동 기간이 길다는 점이 메타의 플랫폼 관리 작업의 어려움으로 연결되는가?
시간에 따라 선거에 미치는 영향이 달라진다고 본다. 선거에 미치는 역효과를 제대로 해결과 예방, 완화하고자 한다면, 실시간 모니터링이 필요하다. 물론, 선거 유세 운동 기간이 길수록 실시간 모니터링 기간도 길어진다. 그와 동시에 세계 각지에서 동시에 선거를 치르게 된다면, 미국 상황만 별도로 관리해서는 안 된다고 생각한다. 미국 선거 유세 운동 기간이 길다는 특징이 플랫폼 관리에 영향을 미친다는 점이 분명하다고 생각한다. 메타가 선거 상황을 더 오래 모니터링하고, 다양한 툴과 자원 사용을 늘려야 하기 때문이다. 그러나 둘 중 하나만 선택할 수 있는 문제가 아니다. 메타는 미국은 물론이고, 미국을 제외한 세계 각국에서 발생하는 다른 문제를 다루어야 한다.
2023년 한 해 동안 감독위원회가 2024년 선거를 앞두고 주목할 사례로 얼마나 많은 사례를 선정했는가? 예를 들어, 캄보디아 선거와 관련, 감독위원회는 정치 반대 세력을 향한 폭력 위협을 지적하며, 훈센 전 총리의 페이스북 페이지 삭제를 권고했다. 또한, 조 바이든 미국 대통령이 손녀에게 부적절한 신체 접촉을 하는 모습을 보여주도록 조작된 영상과 관련된 문제도 발생했다.
감독위원회의 판단과 별도로 선정한 사례 상당수는 메타가 특정 선거 문제를 다룰 방법이나 위기 상황의 맥락을 손쉽게 파악할 정보를 준비하도록 제공했다.
물론, 감독위원회는 선거와 관련된 몇 가지 문제를 다루고, 선거 시기의 SNS 콘텐츠 관리 방식을 개선하는 방향으로 도움을 줄 것을 기대한다. 선거 무결성 지표 발행, ‘뉴스 보도 가치가 있는 정보’가 폭력이나 반대 세력의 침묵을 용인할 수 없다는 사실 입증, 규정 위반 행위를 반복하는 정치계 지도자에게 진지한 대응이 이어진다는 결과 강조 등도 포함된다. 선거 시기에 등장하는 문제 상당수가 무조건 새로이 등장한 문제인 것만은 아니다. 온라인 거짓 정보 생성 및 유포, 악의적인 언론 조작, 정치적 위협, 폭력 선동 등도 선거 일정이 가까워지면서 큰 문제가 발생하는 부분이다. SNS 플랫폼은 과거 실수를 통해 교훈을 얻어 2024년 선거를 앞두고 문제점을 개선해야 한다.
2023년 8월, 감독위원회는 메타에 훈센 전 캄보디아 총리가 반대 세력을 상대로 폭력 위협을 가하자 페이스북 페이지 삭제를 권고했다. 그러나 메타는 훈센 전 총리의 페이지를 삭제하지 않았다. 캄보디아의 사례가 세계 곳곳에서 연달아 선거를 치를 예정인 2024년, 다른 정치계 지도자에게 의미하는 바를 우려하는가?
감독위원회가 훈센 전 총리의 페이스북 페이지 삭제를 권고한 이유는 훈센 전 총리의 폭력적인 행동 때문이 아니다. 전 세계 곳곳에는 폭력을 일삼는 지도자가 많다. 훈센 전 총리의 페이스북 페이지 삭제를 권고한 이유는 페이스북을 반대 세력을 겨냥한 폭력, 위협 증가 및 폭력 선동 수단으로 이용했기 때문이다. SNS 플랫폼 무기화 사례에 해당한다.
메타가 훈센 전 총리의 페이스북 페이지를 삭제하지 않으면서 정치계 지도자에게 잘못된 메시지를 전달했다고 본다. 특히, 2024년 선거를 앞둔 여러 국가의 지도자에게 잘못된 메시지가 전달되었을 가능성을 우려한다. 정치계 지도자가 위협 수준 강화, 반대파의 입막음, 정적을 대상으로 한 위협 목적으로 SNS를 무기로 삼는 사례가 증가하는 추세이다. 감독위원회는 훈센 전 총리의 사례에서 메타 측에 유명 인사가 정치 반대 세력을 겨냥한 위협 및 입막음, 폭력 선동 목적으로 자사 플랫폼을 악용하는 상황을 막고자 채택할 과정을 다룬 명확한 지침 확립을 권고했다. 그러나 메타는 그 기회를 놓쳤다.
메타의 결정이 폭력이나 시민 폭동 사태 측면에서 미칠 파장에 대한 생각은 어떤가?
민주주의 기준이 낮다는 평가를 받은 국가만이 아니더라도 세계 어느 국가에서나 SNS 플랫폼 무기화의 결과로 폭력, 폭동 등이 발생할 수 있다. SNS 플랫폼을 이용한 위협 수준 강화, SNS 플랫폼 무기화 등을 일삼는 정치계 지도자가 있다면, 메타가 해당 지도자의 SNS 플랫폼 이용 방식을 두고 제한을 가하도록 개입해야 하는 이유이다.
감독위원회가 메타에 요청한 사항은 폭동이나 폭력 관련 사건의 맥락뿐만 아니라 정치적 표현으로 폭력이나 폭력 위협을 사전 억압하거나 대응할 의도로 이용한 정치계 인사의 계정을 명확히 제한하는 것이었다. 그러나 시민 폭동 사태로 볼 수 있는 상황을 두고 의문을 제기할 수 있다. 시민 폭동 사태는 중대한 사건이다. 별도의 폭력 사건이나 현재 진행 중인 폭력 사건일 수도 있다. 메타의 SNS 플랫폼을 이용해 정치 반대 세력을 사전 억압하는 것도 시민 폭동으로 보아야 할까? 전반적으로 시민 폭동 사태로 볼 수 있을 것이다.
2023년, 감독위원회는 이스라엘-하마스 전쟁 발발 당시 최초 긴급 결정을 다루었다. 감독위원회가 다룬 전쟁 관련 게시글 사건은 메타의 플랫폼에서 정책 위반 사유로 부적절하게 제거된 게시글 문제도 있다. 하지만 감독위원회는 사용자 다수가 전쟁 상황을 이해하는 것이 중요하다고 판단했다. 당시 감독위원회의 판단 방식이 민주주의 절차에 의미 있는 효과를 가져올 시간에 의존하거나 그에 따른 판단을 내려야 한다고 예측했는가?
이스라엘-하마스 전쟁 상황을 성공적으로 다루었다고 본다. 또한, 2024년에도 선거 관련 문제를 두고 같은 방식으로 플랫폼을 관리할 것으로 예상한다. 가능성이 있다고만 생각하는 이유는 선거 무결성을 보호하려 할 때와 민주주의 절차를 보호하려 할 때는 사전 대비가 필요하기 때문이다. 예를 들어, 감독위원회가 메타에 선거 무결성 노력 확립을 요청하는 이유와 메타가 선거 무결성을 달성할 것으로 기대하는 이유는 선거 결과에 미치는 영향을 다루기 위해 상황에 따라 다른 조처를 확립해야 하기 때문이다. 물론, 특정한 순간에 해결해야 할 문제도 존재한다.
그러나 메타는 선거에 대비할 때와 선거 운영 센터(Election Operations Center)를 설립하려 할 때 선거 기간 내내 채택할 조처를 시행할 수 있도록 충분한 시간을 들인다. 신속한 결정이 필요할 때는 메타가 올바르게 대비할 것을 기대한다. 또한, 문제가 해결될 때까지 기다리지 않고, 사전 대응 단계에 돌입할 것을 기대한다.
지난 몇 년간 테크 업계 전반에서 대규모 정리해고가 이루어졌다. 2023년, 메타 내 선거 시기 플랫폼 관리를 책임지던 인력 다수가 해고되었다. 특히, 메타의 과거 문제를 고려했을 때 메타가 민주주의 측면에서 중요한 2024년 상황에 대비해야 한다는 점에서 대규모 정리해고 사태가 미칠 영향을 우려하는가?
대규모 정리해고라는 상황 자체는 우려스럽다. 사용자 수가 더 많거나 매출이 가장 높은 국가의 플랫폼 관리를 우선시할 수는 없다. 메타는 지금도 인력이 적절하게 배치되지 않았다는 문제와 일부 국가의 플랫폼 관리 투자 수준이 부족하다는 문제를 안고 있다. 그중 많은 국가가 2024년 중으로 선거를 치를 국가이다. 현재 인류는 전 세계 민주주의 격변의 시대를 살고 있다. 이 부분에서 메타의 책임이 크다. 특히, SNS 플랫폼이 민주주의에 미치는 수준이 심각하다는 기록이 있는 남반구 내 여러 국가에서 메타의 책임이 크다.
메타가 이미 선거 시기에 적용할 수 있는 다양한 위험 평가 및 완화 조처를 설정하거나 설정할 방법을 알고 있다는 사실을 인정한다. 메타는 국가마다 다른 선거 특별 계획을 채택했다. 예를 들어, 선거구 내 근무, 선거 관련 게시글에는 별도의 라벨 추가, 신뢰할 수 있는 정보 접근 유도, 선거 합법성이 의문스러운 유료 광고 금지, 왓츠앱 메시지 전달 제한 등을 그 예시로 언급할 수 있다. 그러나 감독위원회는 커뮤니티 표준 시행으로 메타가 간혹 포괄적인 정치, 디지털 맥락을 고려하지 못한 사실을 확인했다. 종종 표현의 자유를 부적절하게 제한하거나 콘텐츠 홍보를 시행하지 않는 문제, 폭력을 조장하는 문제 등으로 이어졌다. 메타는 적절한 언어적, 문화적 지식을 갖추고 정책을 위반할 수 있는 콘텐츠를 강조하는 툴과 채널 등도 적절하게 파악해야 한다.
** 위 기사는 와이어드US(WIRED.com)에 게재된 것을 와이어드코리아(WIRED.kr)가 번역한 것입니다. (번역 : 고다솔 에디터)
![[사진=Unsplash]](/news/photo/202402/5338_6923_1012.jpg)
뉴스레터 신청