2021년 1월 6일, 폭도 무리가 미국 국회의사당에 난입했을 당시 SNS 플랫폼은 민주주의를 저해하는 역할을 한다는 사실을 인정할 수밖에 없었다. 마크 저커버그는 도널드 트럼프 전 대통령이 계속 페이스북에 접근하도록 할 때 발생하는 위험이 크다는 사실을 인정했다. 트럼프 전 대통령이 자신의 SNS 계정을 통해 폭동을 일으키도록 촉구한 것이 그 계기이다. 트위터는 트럼프 전 대통령의 게시글이 미국 민주주의의 중심에 반해 타인이 폭력적인 행위를 반복하도록 자극할 수 있다는 사실을 인지했다.
그러나 SNS를 악용하는 권위주의적 지도자는 트럼프 전 대통령뿐만 아니다. 물론, 미국이 권위주의적 지도자의 SNS 악용 문제를 겪는 유일한 국가도 아니다. 이와 같은 문제는 필리핀, 카메룬, 리비아, 그리고 언론의 주목을 거의 받지 못하는 10여 곳의 국가에서도 발생한다.
필자가 근무하는 기관인 인도주의 대화 센터(Centre for Humanitarian Dialogue)는 지난 20년간 평화 회담을 중재했다. 인도주의 대화 센터는 반군 세력과 정부의 사이에서 전쟁 중단과 정치적 협상을 성공적으로 이끌어내도록 노력한다. 항상 대가를 얻을 수는 없는 위험한 일이다. 지난 몇 년간 새로운 현상 때문에 이전에도 어려웠던 일이 훨씬 더 어려워졌다. SNS의 가짜 뉴스 및 의도적인 거짓 정보 유포가 이루어지는 첨단 네트워크 탓이다.
국제연합기구(UN)가 평화 회담을 주재하면서 수년간 이어지는 싸움을 끝내려 하는 리비아를 예시로 들어보자. 튀니지 호텔에서 평화 회담을 진행하는 가운데, 리비아 외 지역에서 생성된 여러 가짜 계정이 페이스북과 트위터에서 전쟁의 불씨에 부채질한다. 부정부패 혐의를 지니고 있으면서 각종 거짓 합의를 유포하는 동시에 평화 회담 당사자에 저항하는 폭력을 촉구한다.
콜롬비아에서 SNS는 의도적으로 정부가 FARC 반군과 진행한 평화 회담의 정통성을 저해해, 궁극적으로 대중적 국민투표로 이어지게 될 합의에 도달하지 못하는 수단으로 악용된다.
그 외 여러 국가에서 SNS와 폭력 간 관계가 더 직접적으로 드러난다. 페이스북에서 발생한 거짓 정보가 로힝야족 대학살에 대대적인 영향을 미친 미얀마의 경계해야 할 이야기를 보면 알 수 있다.
[사진=Freepik]
우선, 사실이 행동으로 나타날 때까지 기다려서는 안 된다. 미얀마의 대학살과 미국 국회의사당 폭동 모두 폭력을 다루기 위한 집단의 조처를 할 플랫폼을 얻었다. 그러나 경고 조짐이 없는 것처럼 보이지는 않았다.
SNS에 드러난 신호를 인지하는 것은 전쟁 지역에서 쉽지 않다. 현지 언어 지식과 알고리즘이 제공할 수 없는 맥락을 이해해야 한다. 이러한 능력을 갖춘 사람을 찾는 것은 지금도 어려운 일이지만, 많은 기업이 더 나은 모습을 보여야 한다. SNS 기업이 세계의 나머지 지역을 다루는 것은 여전히 극도로 자원이 부족하다. SNS 기업이 계속 폭력 위험성이 큰 취약한 지역에 서비스를 출시하고자 한다면, 가능한 자사 플랫폼의 위험을 제한하기 위해 투자해야만 한다.
정확히 전쟁 지역은 복잡하기 때문에 SNS 플랫폼이 갈등 이해 및 해결을 위해 이야기를 듣는 일을 하는 이의 이야기를 더 많이 들어야 한다. 대표적으로 UN과 같은 기관 혹은 거짓 정보 연구 전문가 등을 언급할 수 있다. 전문 기관과 전문 연구원 등은 SNS 플랫폼에 거짓 정보가 폭력을 부추기는 방식을 알리고, 의도적인 거짓 정보를 끌어모을 확률이 있는 사건이 발생하기 전에 이를 SNS 기업에 경고할 수 있다. 일례로 중대한 평화 회담 일정이 잡혀 있을 때, SNS 기업은 전문 기관 혹은 전문가에게 이야기해, 자원 확보 및 감시를 위한 조처를 할 수 있다. 중재자나 플랫폼 모두 당장 이와 같은 논의를 하지 않는다.
바로 이 부분이 문제가 된다. 이제 SNS 기업이 선거철에 평소보다 더 엄격한 중재 규정을 두면서 추가 자원에 투자하고는 규정을 강행하며 특별한 조처를 하는 것이 보편적으로 되었다. 그 이유는 분명하다. 선거는 주된 시민의 의무적 과정이면서 온라인에서 발생하는 일이 선거의 무결성을 저해할 수 있기 때문이다. 그러나 이와 같은 일을 평화 회담에도 이야기할 수 있다. 평화 회담은 종종 회담에 참석하는 정부 관계자를 정할 뿐만 아니라 회담이 이루어지는 국가 내 건물의 정확한 위치까지 결정하기 때문이다.
매우 많은 요소가 위험하기 때문에 일부 협상이 방해꾼을 끌어모을 것이라는 사실은 그리 놀랍지 않다. 모든 전쟁에는 더 많은 갈등에 돈을 지출하는 개인이 있으며, 이들 다수는 독립적으로나 해외 지원 세력을 통해 첨단화된 정보 작전 능력을 인수한다.
위와 같은 이유로 SNS에는 문제 인식에서부터 시작할 평화 회담 관련 정책이 필요하다. 지금 당장 페이스북 직원은 주기적으로 모여 앉아서 선거 일정을 살펴보고는 폭력 사태로 이어질 위험성이 있는 선거를 판단한다. 그러고 나서 판단 결과에 따라 기업 인력 및 자원을 할당한다. 그러나 페이스북이 취약한 협상 과정을 시작하는 국가를 살펴보는 과정이 없다. 이 격차를 채워야 한다.
많은 기업은 이미 존재하는 노력을 다루는 데 시간을 낭비할 필요가 없을 것이다. 페이스북과 트위터가 선거철에 적용하기 위해 적용한 정책 다수를 평화 회담 보호에 적용할 수도 있다. 회담 관련 각종 거짓 정보를 현지 언어로 작성된 라벨로 분류하고, UN의 공식 성명과 같은 실제 정보의 링크를 함께 추가할 수 있다. 협상 당사자를 위협하는 의도를 지닌 콘텐츠를 제거하거나 라벨로 분류할 수 있다. 이 모든 과정은 여전히 협상 과정의 정당한 비판을 허용하는 방식으로 이루어질 수 있다.
다시 말해, SNS 기업이 분명히 행동을 취할 필요가 있지만, 사용자도 SNS 기업이 실제로 평화를 얼마나 보호할 것인지 현실적으로 깨달아야 한다. 리비아 내전은 얼마나 악화되는가를 떠나 미국에서 발생하는 일만큼 크게 주목받지 못할 것이다. 또, SNS 기업이 이른바 ‘두더지 잡기 게임’과 같이 거짓 정보 퇴치를 위한 접근 방식으로 얻을 수 있는 성과도 제한적이다. 네트워크와 계정을 파괴한다면, 악의적인 목적으로 활동하는 세력의 수명에 지장을 줄 수는 있다. 그러나 얼마 지나지 않아 또 다른 형태로 돌아온다. 거짓 정보 라벨 분류는 많은 사용자의 생각을 바꾸지 않는다.
SNS 기업에 주어진 과제는 문제를 처음부터 중단시키는 것이다. 중재자는 대립 관계에 있는 양측 당사자가 총과 함께 가짜 페이스북 계정도 손에 들지 못하도록 할 수 있는가? 디지털 전쟁 중단이 가능한가? 쉽지 않다. 그러나 시도할 가치가 있다. SNS 플랫폼에 먼저 타격을 주기 전, 문제를 다루는 것 이외에 더 큰 차이가 없기 때문이다.
그리고, 온라인상에서 오프라인에서와 같은 제약을 가하기 위해 협상에 응한 당사자를 설득하고 압력을 가할 방안을 찾는 것은 중재자에게 달려있다. 다른 협상과 같이 한 쪽 당사자가 다른 당사자보다 훨씬 더 강력한 권한을 지니고 있다면, 협상 타결 방안을 찾는 것이 쉽지 않을 것이다. 그러나 모두가 고통을 겪고 있다면, 온라인 관계 복원이 서서히 떠오를 수 있다.
인류는 테크 업계 대기업 역사의 변환점에 서 있다. 여기서 논쟁을 서구 민주주의 보호라는 좁은 범위에만 집중하는 것을 원하는지, 아니면 더 넓은 관점에서 SNS가 실제 세계에 피해를 주는 원인이 되는 것으로 입증된 전쟁이 발발한 세계까지 포함할 것인지가 의문 사항이 된다. 온라인 세계를 고치는 것은 절대 완료할 수 없는 일이 될 것이다. 그러나 현실 세계에서의 전쟁을 끝내는 것처럼 시도해야 한다. 온라인 혐오 발언이 또 다른 민족 청소를 부추겨 SNS의 문제 관련 대화가 이어질 때까지 기다려서는 안 된다.
** 위 기사는 와이어드UK(WIRED.co.uk)에 게재된 것을 와이어드코리아(WIRED.kr)가 번역한 것입니다. (번역 : 고다솔 에디터)
![[사진=Freepik]](/news/photo/202104/3081_4088_548.jpg)
뉴스레터 신청