2021년 2월, 페이스북이 한 가지 사소한 실험을 발표했다. 페이스북은 미국을 포함한 일부 국가 플랫폼에서 정치 콘텐츠를 줄이겠다고 발표했다. 그와 동시에 페이스북에 실험과 관련된 사항을 질문을 했다. 이에, 페이스북의 제품 관리 총괄인 아스타 굽타(Aastha Gupta)는 공식 블로그 게시글을 통해 “페이스북의 목표는 플랫폼에서 사용자가 정치 콘텐츠를 찾고 상호작용할 수 있는 능력을 보존하면서 뉴스피드 최상단에 등장하는 콘텐츠가 개인의 성향을 존중하도록 하는 것이다”라고 설명했다.
8월 31일 아침(현지 시각), 페이스북은 업데이트 사항을 공개했다. 한 가지 조사 결과가 포함됐으며, 페이스북은 공지사항을 통해 사용자가 피드에서 정치적 게시글을 볼 수 있는 빈도가 감소한 사실을 알게 될 것이라고 언급했다. 이제 페이스북은 더 많은 국가에서 정치 관련 콘텐츠를 줄이고자 하며, 그와 동시에 향후 수개월 이내로 정치 콘텐츠 감소 범위를 더 확대할 것이라는 매력적인 광고를 내걸었다. 그동안 페이스북이 정치적 영향력 관련 논란으로 문제를 일으킨 점에서 사용자의 피드에서 정치적 게시글을 없애는 것은 합리적인 결정이다. 어찌 됐든 페이스북의 정치 콘텐츠 제거 발표는 도널드 트럼프 전 대통령이 미국 국회의사당 폭동 사태를 일으키도록 선동하고 한 달 뒤 최초로 발표된 사항이다. 폭동 사태 당시 선출직 관료를 포함한 일부 인사가 페이스북을 비난했다. 페이스북의 뉴스피드 내 정치 콘텐츠 제거라는 변화는 그동안 콘텐츠 유포를 위해 페이스북에 의존하던 여러 정치 단체와 언론 기관에 파급효과를 일으킬 것으로 보인다.
그러나 페이스북의 발표에서 가장 중요한 부분은 정치적인 측면에 전혀 영향을 미치지 못한다는 사실이다.
페이스북과 인스타그램, 트위터, 틱톡, 유튜브 등을 떠올렸을 때 인공지능(AI) 기반 SNS 피드의 기본적인 전제 조건은 사용자가 원하는 콘텐츠를 별도로 알릴 필요가 없다는 사실이다. SNS 알고리즘이 ‘좋아요’나 댓글, 장시간 정지 등 사용자의 활동을 관찰하면서 사용자의 관심을 끈 게시물의 종류를 알아내고는 관련 게시글을 플랫폼에 계속 제공한다. 그와 동시에 사용자가 좋아하는 게시글을 더 많이 보여준다.
[사진=Unsplash]
한 가지 측면에서 SNS 기업과 그 옹호 세력은 사용자의 관심사를 파악하는 알고리즘 설계를 빌미로 “플랫폼의 특정 게시글이 매우 흥미롭다면, 이는 사용자가 좋아하기 때문이다. 만약, 특정 콘텐츠에 대한 사용자의 관심을 얻는 데 문제가 있다면, 해당 플랫폼이 사용자와의 문제를 겪고 있을 것”이라는 주장을 펼치면서 비판 세력으로부터 사용자 감시 관행을 옹호한다.
그러나 SNS 플랫폼 비판 세력 대다수가 중점적으로 고려하는 사항은 사용자 참여 최적화 문제이다. 참여에만 지나치게 초점을 맞춘 알고리즘 때문에 사용자가 참여도는 매우 높지만, 사회적 가치가 낮은 콘텐츠를 접하도록 할 수 있다. 더 극단적이라는 이유로 참여도가 더 높은 식단 조절 관련 게시글을 제공할 수 있다. 거짓 정보나 해로운 내용을 담은 콘텐츠가 더 널리 유포되도록 유도할 수 있다. SNS 플랫폼이 적용한 시스템이 사용자가 접해야 할 콘텐츠가 아닌 사용자의 참여를 유도할 콘텐츠를 먼저 선택하기 때문이다. 참여도를 우선시한다는 관련성을 지닌 형편 없는 콘텐츠 목록을 통해 마크 저커버그나 잭 도시, 선다 피차이 등 인기 SNS 플랫폼 기업 CEO가 2021년 3월에 열린 의회 청문회에서 직접 운영하는 SNS 플랫폼이 더 많은 참여를 유도하는 콘텐츠를 먼저 제공한다는 사실을 인정한 이유를 찾아볼 수 있다. 저커버그는 페이스북의 진정한 목표가 ‘의미 있는 사회적 상호작용’이라는 점을 거듭 주장하며, “참여도는 페이스북이 가치를 전달하면, 자연스럽게 사용자가 페이스북을 더 많이 사용할 것이라는 유일한 지표”라고 말했다.
그러나 저커버그는 다른 맥락에서 페이스북의 참여도 기반 콘텐츠 제공과 정치 콘텐츠 관련 문제가 단순하지 않다는 사실을 인정했다. 2018년, 저커버그는 공식 블로그에 게재한 게시글을 통해 페이스북이 사용자의 참여도에 지장을 주지 않은 상태에서 페이스북 플랫폼 규정과 관련해 오랫동안 고려한 극단적인 콘텐츠 진압에 나서려는 이유를 설명했다. 그는 해당 게시글에 “페이스북이 정한 허용할 수 있는 콘텐츠 기준을 떠나 콘텐츠가 허용 한계에 가까워진다면, 해당 게시글은 평균 이상의 참여도를 기록할 것이다”라고 작성했다. 하지만, 저커버그가 주장한 관측 사항은 단순히 금지된 콘텐츠 관련 페이스북 정책 시행에만 제한됐을 뿐 페이스북의 순위 알고리즘을 폭넓게 재고하지는 않는다.
이 때문에 정치 콘텐츠 노출 빈도를 제한한다는 페이스북의 발표가 매우 중요하다. 페이스북이 지금까지 사용자의 참여도가 항상 사용자의 가치와 비슷하지 않다는 사실을 가장 명확하게 인정한 사실을 의미하기 때문이다. 또한, 참여도가 가치와 상관이 없다는 사실을 인정한 것은 음란물이나 혐오 발언 등 단순히 플랫폼의 규정을 위반하면서 위협을 제기하는 콘텐츠에만 국한되는 사항이 아니다.
공식 발표와 마찬가지로 페이스북의 새로운 블로그 게시글이 주장하는 바는 매우 모호하지만, 숨겨진 의미를 찾을 수 있다. 굽타 총괄은 블로그에 “페이스북의 일부 참여도 지표는 사용자가 어떤 게시글이 더 가치가 있는지 찾게 될 것을 시사한다. 페이스북은 게시글 참여도라는 피드백을 기반으로 점차 사용자가 댓글을 남길 확률이나 정치 콘텐츠를 공유할 확률 등 일부 지표 강조 정도를 줄이기 위한 실험 범위를 확대할 예정이다”라고 밝혔다. 굽타 총괄의 주장은 “일부 사용자가 게시글에 댓글을 남기거나 게시글을 공유한다고 해서 해당 게시글과 관련된 관심사 기반 콘텐츠를 타임라인에서 더 많이 접하는 것을 원한다는 의미는 아니다”라고 해석할 수 있다. 또, 굽타 총괄은 “그와 동시에 페이스북은 많은 사람이 정치적인 주제를 다룬 콘텐츠, 현재 페이스북이 시행하는 개인의 뉴스피드에 등장할 게시글 유형의 순위 평가 등에 대해 남긴 부정적인 피드백을 공유할 확률 등 새로운 참여도 지표를 더 강조할 것이다”라고 언급했다. 이는 “특정 사용자의 관심사를 알고 싶다면, 직접 물어보아라. 사용자의 행동을 몰래 추적하는 머신러닝 알고리즘이 학습한 바와 다른 결과를 얻게 될 것이다”라고 풀이할 수 있다.
SNS를 사용한 적이 있는 모든 이가 분명하게 인지하는 사실이다. 필자는 페이스북 뉴스피드를 내려보면서 누군가가 올린 백신 반대라는 최근의 비판 내용을 본 적이 있었다. 그때, 필자는 공포를 느끼면서 해당 게시글을 계속 읽을 수밖에 없었다. 페이스북은 이를 자동으로 감지하고 필자가 다음에 페이스북을 실행할 때, 백신 반대 관련 주장을 펼친 이의 다음 게시글을 뉴스피드 최상단에 띄웠다. AI는 사용자가 특정 게시글을 읽고 더 거부감을 느끼면서 페이스북 사용 시 관련 게시글을 처음부터 접하는 것을 원하지 않는다는 사실을 알지 못한다. (필자는 뒤늦게나마 백신 반대와 관련된 게시글을 올린 이의 계정이 뉴스피드에 등장하지 않도록 설정했다.) 트위터도 마찬가지이다. 필자는 매일같이 트위터에 접속하여 타인의 게시글을 보고 크게 분노한 뒤 비참함을 느끼도록 만드는 쓸모없는 콘텐츠에 시간을 허비했다는 사실을 인지한다. 이러한 상황을 음식에 비유할 수 있다. 도리토스가 가득 담긴 그릇을 눈앞에 두고 먹어 치운 뒤 뒤늦게 후회하는 것과 같다. 먼저 먹고 싶은 것을 스스로 물어보고, 더 만족할 만한 음식을 먹어야 한다. 충동적이면서도 중독성을 지닌 행동이 반드시 진정한 우선순위를 반영하는 것은 아니다.
페이스북의 정치 콘텐츠 관련 공식 발표와 함께 떠오르는 실제 의문 사항은 페이스북이 정치 콘텐츠 감소를 시행할 방법이다. 또, 페이스북의 투명성 기록이 없다는 사실을 고려하면, 페이스북의 정치 콘텐츠 감소 방법에 대한 답을 찾을 때까지 기다리는 수밖에 없다. (또, ‘정치적’ 콘텐츠로 분류되는 요소가 무엇인지 매우 기본적인 질문을 할 수 있다.) 이론적으로 여러 SNS 기업이 단순히 정치 콘텐츠를 넘어 모든 콘텐츠를 대상으로 참여도와 사용자가 더 진지하게 가치를 부여하는 것을 구분하기 시작한다면 좋을 것이다. 어쩌면 페이스북의 이번 발표는 참여도와 가치 차이를 위해 SNS 기업이 나아갈 방향 변화를 나타낼 것이다. 다만, 페이스북이 매우 불분명한 연구 결과를 사용자의 행동을 개선하는 대신 단순히 정치적으로 위험한 계정의 수를 줄이는 데 그치는 변명으로 이용하는 기회주의적인 행동을 취할 수도 있다. 또, 페이스북이 참여도와 가치는 별개의 문제이며 이를 실제 플랫폼 관리에 적용해야 한다는 교훈을 더 광범위하게 적용하지 않을 수도 있다. 트위터 소속 연구원인 니콜 보노프(Nicole Bonoff)도 마찬가지로 페이스북의 데이터를 신뢰할 수 없다고 주장한다. 보노프는 “’정치’와 관련된 가정을 내포한 채로 질문한 사용자 설문조사가 부정적인 반응을 얻을 끌어낼 것이다. 사회적 욕구 편향과 정치의 정의 및 SNS의 정치에 대한 고정관념 간의 차이가 결합한 결과이다”라는 트윗을 게재했다.
따라서 페이스북의 정치 콘텐츠 관련 새로운 정책의 효과를 판단하려면 시간을 두고 기다려야 할 것이다. 어찌 됐든 사용자의 발언과 관심사 간 차이가 있기 때문이다. 적어도 페이스북은 이를 인지한 듯하다.
** 위 기사는 와이어드US(WIRED.com)에 게재된 것을 와이어드코리아(WIRED.kr)가 번역한 것입니다. (번역 : 고다솔 에디터)
![[사진=Unsplash]](/news/photo/202109/3376_4464_4038.jpg)
뉴스레터 신청