By ELANA KLEIN, WIRED US

알고리즘이 이겼다. 가장 강력한 소셜 플랫폼과 영상 플랫폼, 쇼핑 플랫폼 모두 자동화 추천 알고리즘에서 사용자를 보호하는 철학으로 수렴했다. 스포티파이의 맞춤 플레이리스트나 틱톡의 포 유(For You) 페이지, 아마존 제품 추천 페이지 등 인터넷의 모든 공간에는 온라인 활동을 소규모 관리하는 데 혈안이다.

그러나 기술의 권력 행사 접근 방식의 잠재적 단점 인식 수준이 높았던 적은 단 한 번도 없다. 최근, 미 의회는 소셜 미디어 알고리즘이 아동의 행복을 위협한다는 문제점을 조사했으며, 신규 장학금 제도와 신간 서적은 알고리즘이 SNS에서 사용자의 피드를 엄선하도록 둘 때의 광범위한 문화적 여파에 새로이 초점을 맞추었다. 아이오와대학교 알고리즘문화연구단체(Algorithms and Culture Research Group) 회원이기도 한 라이언 스톨트(Ryan Stoldt) 드레이크대학교 부교수는 “알고리즘은 다양한 문화적 취향을 구체화하는 방식은 적어도 사항을 보았을 때 우려스럽다”라고 말했다.

테크 업계 대기업의 이해하기 어려운 추천 시스템을 향한 불편함이 커지자 알고리즘에서 피난한 디지털 공간이 급격히 증가하기 시작했다. 기업가 타일러 바인브리지(Tyler Bainbridge)도 최근, 자동화 추천 알고리즘 개입 수준이 적은 대체 플랫폼 개발 초기 시도에 참여했다. 바인브리지는 자신이 2024년 1월 자로 창립한 소셜 플랫폼 PI.FYI를 인간이 콘텐츠 엄선 환경으로 돌아가도록 하는 플랫폼이라고 소개했다.
 
PI.FYI는 베인브리지의 인기 뉴스레터인 퍼펙틀리임퍼펙트(Perfectly Imperfect)에서 탄생하여 인간이 기계가 아닌 다른 인간을 통해서만 콘텐츠 추천을 받는다는 간단한 행동을 한다는 점에 자부심을 지닌 플랫폼이다. 사용자는 소비자제품부터 사랑에 빠진 경험이나 철학 공부 중에는 술집에서 남자와 말하지 않는다는 경험까지 무엇이든 다양한 주제의 게시글을 추천받는다. 또, 지난주에 읽은 책이나 런던 드라이 클리너 후기 등 다양한 질문에 다른 사용자의 다양한 답변을 제공한다.

PI.FYI의 게시글은 게재된 시간 순서대로 등장하지만, 사용자는 친구의 콘텐츠와 PI.FYI 서비스의 실시간 게시물 사이에서 피드에 등장하는 게시물 조건을 설정할 수도 있다. PI.FYI의 홈페이지는 손수 엄선한 알고리즘으로 추천 콘텐츠를 제공한다. 게시물과 프로필 모두 관리자와 엄격한 조건에 따라 선정된 소수 사용자가 선택한다는 의미이다.

베인브리지는 “누리꾼은 오랜 시간 동안 인터넷 어느 페이지든 화면을 내리면서 맞춤 광고가 대거 쏟아지는 일을 경험한 적이 없었다”라고 말했다. PI.FYI의 수익 원천은 월 6달러부터 시작하는 구독 서비스이다. 디자인 자체는 초기 인터넷 느낌을 담았으나 베인브리지는 과도한 향수로 매력을 끌어모으는 디자인은 피하고자 한다고 밝혔다. 그는 “PI.FYI는 마이스페이스를 사용하던 밀레니얼 세대에게 기본으로 설치된 앱과 같은 공간이 아니다”라며, 사용자 기반 대부분 Z세대라고 전했다.
 
현재 비공개 베타 테스트를 진행 중인 소셜 앱 스프레드(Spread)도 알고리즘이 없다고 추측할 수 있는 온라인 공간을 제공하고자 한다. 스프레드 공동 창립자 겸 CEO 스튜어트 로저스(Stuart Rogers)는 “스마트폰에 설치한 앱과 해로운 관계를 형성한 적이 없는 이를 단 한 명도 본 적이 없다. 스프레드는 사용자가 알고리즘이 참여도가 가장 높다고 본 콘텐츠가 아닌 실제 인간의 추천을 바탕으로 추천 콘텐츠를 실제로 줄이는 것을 목표로 한다. 따라서 사용자는 실제 추천 콘텐츠에 참여할 것이다”라고 말했다.

스프레드에서 사용자는 원본 텍스트나 미디어를 생성할 수 없다. 대신, 스프레드에 게재되는 게시글 모두 뉴스, 기사, 노래, 영상 등 다른 서비스의 콘텐츠와 연결된다. 사용자는 다른 사용자를 팔로우하거나 특정 유형의 미디어 추가 노출을 선택하면서 시간 순서대로 피드를 볼 수 있다.

스프레드는 브랜드와 봇 계정을 차단하며, PI.FYI와 마찬가지로 광고를 지원하지 않는다. 대신, 시간에 따른 웹사이트 최적화 작업을 위해 타인의 추천 게시물 클릭, 뉴스레터나 구독 서비스 가입 등 콘텐츠를 본 사용자의 행동과 같이 의미 있는 인간 콘텐츠 지시 사항을 주요 성공 지표로 삼는다. 로저스는 스프레드에서 사용자와 콘텐츠를 공유하는 여러 기업의 콘텐츠를 동등하게 보여줄 수 있는 상황을 바란다. 로저스는 “초기 소셜 플랫폼이 달성하고자 한 목표를 향한 향수가 있다고 생각한다”라고 말했다.
 
순위 알고리즘 없이 소셜 네트워크에 가입하는 일이 무조건 좋은 일일까? 캘리포니아대학교 버클리캠퍼스 인간-호환성 AI 센터(Center for Human-Compatible AI) 수석 과학자 조나단 스트레이(Jonathan Stray)는 순위 알고리즘이 없는 소셜 네트워크가 무조건 좋다는 생각에 의문을 제기했다. 그는 “시간 순서대로 나열한 피드가 무조건 더 나은 것이 아니라는 사실을 입증하는 연구가 여럿 발표되었다”라며, 단순화된 피드가 새로운 편견을 강조하고 스팸 게재가 가능해지도록 한다는 문제를 지적했다.

스트레이는 사회적 피해가 복잡한 알고리즘 기반 콘텐츠 엄선을 택할 때 피할 수 없는 결과가 아니라고 본다. 하지만 테크 업계의 참여도 최대화 관행이 무조건 사회적으로 바람직한 결과로 이어지는 것이 아니라는 로저스의 의견에는 동의했다.

스트레이는 소셜 미디어 알고리즘의 문제 해결책이 사실 더 많은 알고리즘 적용일 가능성을 생각한다. 스트레이는 “근본적인 문제는 불특정 다수에게 소비할 정보를 지나치게 많이 받는다는 사실이다. 따라서 알고리즘은 어느 정도 줄일 필요가 있다”라고 말했다.

2024년 1월, 스트레이는 사회적으로 바람직한 결과를 우선순위로 삼는 피드 순위 알고리즘 개발을 촉진하고자 6만 달러 상당의 상금을 내건 경연 대회인 ‘프로소셜 랭킹 챌린지(Prosocial Ranking Challenge)’를 개최했다. 사회적으로 바람직한 결과는 사용자의 행복과 피드의 유용한 정보 제공 수준을 바탕으로 평가했다. 2023년 6월부터 10월까지 대회에서 수상한 알고리즘 5개가 브라우저 확장 프로그램을 통해 페이스북, X(구 트위터), 레딧에서 테스트되었다.

가능한 대체 플랫폼이 등장할 때까지 참여도를 모색하는 알고리즘에서 벗어나는 일은 보통 시간 순서에 따른 피드 나열 방식을 택한다는 의미이다. 많은 사용자가 PI.FYI, 스프레드 등 틈새를 공략한 소셜 플랫폼을 넘어서 다양한 대안을 모색한다는 사실이 입증되었다.

예를 들어, 단체 메시지는 일반적으로 인위적으로 엄선된 소셜 미디어 피드를 보완할 때 사용한다. 시간 논리에 따라 나열되는 비공개 대화는 알고리즘 세계에서 농담이 오가는 메시지와 밈, 영상 및 기사 링크, SNS 게시글 스크린샷 등 다양한 콘텐츠 공유 및 정보 수집을 위한 친근하면서도 혼란스러움이 덜한 공간을 제공할 것이다.

알고리즘을 선호하지 않는 추세는 미국 내 왓츠앱의 인기 상승세를 설명하는 데 도움이 될 수 있다. 왓츠앱은 오랫동안 세계 각지에서 보편적인 메시지 앱으로 활용되었다. 더랩(The Wrap)은 앱토피아(Apptopia)의 데이터를 인용, 2023년도 왓츠앱의 일일 사용자 수가 9% 증가했다고 보도했다. 비즈니스인사이더(Business Insider)는 오늘날 시장을 장악한 소셜 앱 안에서도 공개 피드에서 다이렉트 메시지로 활동이 전환되는 추세를 볼 수 있다.

단체 대화는 광고가 없는 상태에서 비교적 통제된 소셜 환경을 조성할 수 있으나 편견이 함께 등장할 수도 있다. 스톨트 부교수는 “사회학적 관점에서 인간이 인지 충돌을 유발하지 않는 대상을 자연스럽게 찾아 나선다는 연구 결과가 있다”라고 말했다.

단체 대화는 메시지 모음을 비교적 유기적인 수단으로 제공하는 동시에 폐쇄된 공간에서 의미 없는 메시지를 계속 생성할 수도 있다. 복잡한 알고리즘과 관련성이 있는 여러 함정도 발생할 수 있다. 단체 대화의 콘텐츠가 모든 참여자의 관점에서 개인 맞춤화 수준이 매우 높은 알고리즘 피드에서 생성될 수도 있으나 더 복잡한 환경이 형성될 수도 있다. 알고리즘이 없는 공간으로 이동하더라도 완벽한 정보 피드를 얻는 것과는 거리가 멀 수도 있다.

** 위 기사는 와이어드US(WIRED.com)에 게재된 것을 와이어드코리아(WIRED.kr)가 번역한 것입니다. (번역 : 고다솔 에디터)

<기사원문>
The Latest Online Culture War Is Humans vs. Algorithms