By Vittoria Elliott, WIRED US최근, 유죄 선고를 받은 도널드 트럼프 전 미국 대통령이 팝스타 테일러 스위프트 팬이 자신의 2024년 미국 대통령 선거 출마를 지지하는 모습을 담은 사진을 여럿 게재했다. 해당 사진은 인공지능(AI)으로 생성된 듯한 모습이었다. 와이어드도 비영리 단체 트루미디어(True Media)의 AI 탐지 툴을 활용하여 상당수 조작되었다는 증거를 확인할 수 있었다.AI 생성 콘텐츠를 잡아내는 일이 항상 쉬운 것만은 아니다. 정치적 목적을 포함한 여러 목적으로 생성형 AI를 사용하는 사례가

By David Gilbert, WIRED US2023년 8월, 일리야 감바쉬제(Ilya Gambashidze)는 자신이 모스크바 내 모스크바음악원(Moscow Conservatory)과 가까운 곳에 창업한 러시아 IT 기업인 소셜디자인에이전시(Social Design Agency) 회의실에 있었다. 감바쉬제는 당시 러시아 정계에서 상대적으로 인지도가 낮은 인물이었다. 그러나 불과 1개월 앞선 시기, 우크라이나를 대상으로 한 거짓 정보 유포 작전에서 핵심 역할을 했다는 이유로 유럽연합 의회의 러시아인 제재 명단에 포함되었다.감바쉬제

By Vittoria Elliott, WIRED US딥페이크 포르노 대상 국가 법안이 미 의회에서 통과를 추진하는 데 어려움이 있지만, 미국 전역의 여러 주에서 딥페이크 포르노 처벌 법안 제정을 자체적으로 추진 중이다. 현재 39개 주에서 당사자 동의 없는 딥페이크 불법 음란물 제작을 막고, 제작자와 공유자를 처벌하고자 마련된 여러 법률이 도입되었다.2024년 초반, 알렉산드리아 오카시오코르테스(Alexandria Ocasio-Cortez) 민주당 의원이 당사자 동의 없는 딥페이크 불법 음란물 제작 피해를 겪은 뒤 디파이언스법(Di

By David Gilbert, WIRED US대참사라는 혹평이 널리 이어진 미국 대통령 선거 토론을 계기로 도널드 트럼프 전 대통령과 지지자 모두 토론 당일 밤새 온라인에서 “조작된 토론”이라는 음모론을 설명하는 게시글을 게재했다. 트럼프 추종 세력이 설파하려 진땀을 뺀 음모론은 카멀라 해리스 부통령을 겨냥하여 심각한 여성혐오 공격을 이어가면서 해리스 부통령이 선거 당시 착용한 귀걸이를 문제 삼았다.토론 종료 직후 X에 새로운 음모론이 등장했다. 토론 도중 이어진 발언이 아닌 해리스 부통령의 귀걸이가 그 내용의 중심이 되었다.X

By Vittoria Elliott, WIRED US2024년 미국 대통령 선거의 민주당 출마 후보로 임명되었을 시기는 카멀라 해리스 부통령의 천문학적 운이 급격히 상승한 시기이다. 2024년 6월, 해리스 부통령의 대통령 선거 출마를 예측한 이는 아무도 없었다.사실, 대다수가 예측하지 못했다는 표현이 더 정확하다.2023년 6월 6일, 틱톡에서 아스트로로리(AstroLaurie)라는 이름으로 알려진 점성술 팟캐스트 ‘어웨이크 스페이스(Awake Space)’ 진행자인 로리 리버스(Laurie Rivers)는 점성학 측면에서 해리스

By Vittoria Elliott, WIRED US민주당 대통령 출마 후보로 임명된 카멀라 해리스 부통령의 공식 인스타그램 페이지는 해리스 부통령이 러닝메이트인 팀 왈즈(Tim Walz) 미네소타주지사와 함께 촬영한 사진을 고정했다. 해당 게시물 댓글에는 칭찬 댓글과 함께 ‘트럼프 2024(Trump 2024)’가 1회 이상 언급된 비판 댓글이 있다. 간혹 해리스 부통령이 왈츠 주지사에게 구강성교를 한 적이 있는지 묻는 저속한 질문도 발견할 수 있다.해리스 부통령은 오래전부터 온라인 괴롭힘을 겪었다. 해리스 부통령이 2024년 미

By Makena Kelly, WIRED US요트 파티와 무료 간식, 라운지 공간 여러 곳까지 모두 마련된 시카고에서 개최된 민주당 전당대회(DNC)에서 인플루언서와 크리에이터 여러 명이 초대받았다. 민주당은 청년층 표심 공략 시도의 일환으로 전당대회에 최초로 크리에이터 200명에게 현장 상황을 외부로 공유할 자격을 부여했다. 민주당 전당대회에 초청된 인플루언서와 크리에이터는 VIP 대우를 받지만, 현장 참석 자격이 있는 기존 언론사 소속 기자가 현장에서 노트북 전원을 연결하여 현장 취재 보도 내용을 송출할 공간을 찾느라 애먹는 모

By Vittoria Elliott, WIRED US2024년 미국 대통령 선거에 앞두고 X를 소유한 억만장자 일론 머스크가 X를 자신의 개인 정치적 의견 강조 수단으로 이용하기 시작했다.2024년 7월 26일(현지 시각), 머스크는 민주당 출마 후보인 카멀라 해리스 부통령이 딥페이크 합성 음성으로 자신이 “궁극적인 다양성, 평등, 포괄성 덕에 채용된 인재”이자 “정책 조작을 따르는 꼭두각시”라고 말하는 모습을 담은 영상을 게재했다. 해당 영상에는 뒤늦게 패러디 영상임을 안내하는 커뮤니티 노트가 추가되었다. 그러나 많은 이들이 적당

By David Gilbert, WIRED US도널드 트럼프 전 미국 대통령이 X(구 트위터)에 복귀하자 일론 머스크가 매우 기뻐했다.머스트와 트럼프가 X 스페이스(X Spaces)에서 두서없는 거짓 정보로 가득한 대화를 주고받은 지 몇 시간이 지나자 머스크는 8월 13일(현지 시각) 아침에도 온라인에 정상 접속한 상태를 유지하면서 지지자에게 트럼프와의 대화를 주제로 과장된 게시물 수십 건을 공유했다. 머스크는 게시물 공유 전, 아무 증거도 없이 사이버공격 때문에 트럼프와의 대화가 지연되었다고 주장했다. 이후 머스크는 자신의 타임라

By Makena Kelly, WIRED US2024년 7월, 테일러 스위프트 팬클럽이 스위프트 팬 온라인 커뮤니티를 카멀라 해리스(Kamala Harris) 부통령의 온라인 선거 유세 운동 본부로 전환했다. 그리고 해리스 부통령 유세 운동 노력을 달성하고자 한다.조 바이든 대통령이 2024년도 미국 대통령 선거 후보 자리에서 사퇴한 뒤 22세 스위프트 팬인 에메랄르 메드라노(Emerald Medrano)는 스위프트 팬 온라인 커뮤니티에 소식을 전했다. 복수 정치 논객이 바이든을 이을 민주 출마 후보 논쟁을 요란하게 이어가자 메드라

By VITTORIA ELLIOTT, WIRED US2024년 5월, 틱톡은 자사 플랫폼에 AI 생성 콘텐츠임을 안내하는 자동 라벨을 추가한다고 발표했다. 하지만 모든 버전의 앱에 AI 콘텐츠 라벨이 적용되지 않았다는 점에서 틱톡의 발표가 사실이 아닌 것으로 드러났다. 모질라 재단(Mozilla Foundation)과 AI 포렌식(AI Forensics)이 2024년 7월 말 발표한 보고서는 빈곤국 시장을 겨냥한 틱톡 라이트 세이브 데이터 버전이 AI 생성 콘텐츠에 라벨을 추가하지 않는 데다가 사용자에게 안전망과 비슷한 다른 보안

By DAVID GILBERT, WIRED US틱톡이 2024년 6월 치렀던 유럽연합 선거를 앞두고 청년층 유권자에게 독일의 극단주의 성향의 극우 정당을 홍보한 것으로 밝혀졌다. 와이어드에 단독 공유된 신규 보고서에 따르면, 투표권이 있는 틱톡 사용자가 다른 정당이나 다른 정당 소속 정치인을 검색할 때도 극우 정당 홍보 콘텐츠가 검색 결과로 등장했다.보고서는 비영리 단체인 AI 포렌식(AI Forensics)과 정보 기술 전문 유럽 국책연구소인 인터페이스(Interface) 소속 연구팀이 공동 작성했다. 연구팀은 2024년 6월 5

By MAKENA KELLY, LAUREN GOODE, WIRED US조 바이든 대통령이 2024 미국 대통령 선거 출마 포기를 선언하고 몇 시간이 지나자 민주당에 거액을 후원한 실리콘밸리 일대 지지자 사이에서 카멀라 해리스 부통령이 대신 민주당 후보로 출마하는 것을 지지한다는 의사를 표현했다.링크드인 공동 창립자 겸 전무, 그레이록 파트너스(Greylock Partners) 파트너인 리드 호프만(Reid Hoffman)은 X(구 트위터)에 “미국과 미국의 민주주의 미래를 위한 올바른 일이다”라고 게재했다. 뉴욕타임스가 보도한 바와

By MAKENA KELLY, WIRED US도널드 트럼프에 우호적인 인플루언서와 지지자가 2024년 7월 13일(현지 시각), 치명적인 총격과 함께 도널드 트럼프를 노린 암살 시도가 발생했다는 소식 보도 후 얼굴에 피가 흘러내리는 상태에서 공중으로 주먹을 들어올린 트럼프의 이미지를 담은 상품 판매 경쟁을 펼치기 시작했다.13일, 우익 운동가인 캔데이스 오웬스(Candace Owens)와 전직 트럼프 행정부 관료였던 세바스티안 고카(Sebastian Gorka)가 총격 당시 트럼프의 이미지를 담은 티셔츠를 판매하기 시작했다. 오웬이

By DAVID GILBERT, WIRED US볼로디미르 젤렌스키 우크라이나 대통령의 부인이 미국 정부의 원조 금액으로 부가티 차량을 구매했다는 내용으로 러시아에서 조작된 거짓 정보가 인터넷 곳곳에서 24시간 내내 급속도로 퍼지고 있다. 해당 거짓 정보의 초기 출처는 정체를 알 수 없는 프랑스 웹사이트로 보이지만, 온라인에 게재되자마자 X의 트렌드 검색어와 구글 검색 결과 1위를 기록했다.2024년 7월 1일(현지 시각), 베리테 카치(Vérité Cachée)라는 웹사이트에 기사 한 편이 게재되었다. 해당 기사의 제목은 “올레나

By DAVID GILBERT, WIRED US미국 대통령 선거의 민주당 출마 후보로 카멀라 해리스 부통령이 조 바이든 대통령을 대체할 것이라는 전망이 제기되자마자 극우 세력의 온라인 커뮤니티에서는 이미 해리스 부통령을 악의적으로 묘사하기 시작했다.그러나 극우 세력의 비윤리적인 악성 공격은 해리스 부통령의 정책이나 국정 운영 능력이 아닌 성과 인종에 집중하면서 해리스 부통령의 대통령직 수행 자격을 부정적으로 평가하는 오래된 음모론을 재차 유포한다.해리스 부통령을 겨냥한 음모론은 도널드 트럼프가 확산을 부추겼다. 2024년 7월 4일

By DAVID GILBERT, WIRED US일론 머스크의 X(구 트위터)는 지난 18개월 넘게 거짓 정보가 밀집한 공간이었다. 특히, 가자 지구 분쟁과 볼티모어 대교 붕괴 등 속보로 전할 만한 소식의 거짓 정보가 X에서 우후죽순으로 생성되었다. 그러나 2024년 6월 27일(현지 시각), 조 바이든 대통령과 도널드 트럼프 전 대통령 간의 2024 미국 대통령 선거 토론이 처음 진행된 뒤 X에 거짓 정보와 음모론이 넘쳐날 것이라는 예상이 현실이 되지는 않았다.트럼프는 토론 관련 음모론을 공유하는 대신 바이든 대통령의 답변 원본 영

By DAVID GILBERT, WIRED US지난 몇 주간 이른바 딥페이크 영상이 조 바이든 대통령의 대통령으로 부적절하다고 주장하는 이른바 칩페이크(cheapfake) 영상이 SNS에 널리 확산되었다. 그중 하나는 러시아 정부와 관계가 있는 거짓 정보 네트워크가 제작한 바이든 대통령이 기저귀를 찬 채로 휠체어를 미는 모습을 담은 패러디 뮤직비디오이다.‘바이, 바이 바이든(Bye, Bye Biden)’이라는 제목으로 게재된 칩페이크 영상은 X(구 트위터)에 2024년 5월 자로 처음 게재된 후 누적 조회 수 500만 회를 넘겼다.

By VITTORIA ELLIOTT, WIRED US2024년 5월, 중범죄 유죄 판결을 받은 도널드 트럼프 전 대통령이 암호화폐로 유세운동단 기부금을 받는다고 발표했다. 사이버 범죄 탐지 기업 넷크래프트(Netcraft)는 와이어드에 단독으로 공유한 보고서 분석 결과를 통해 트럼프 유세운동단이 암호화폐 기부금을 받기 시작하고 몇 주 뒤 트럼프 지지자를 표적으로 삼은 사기성 웹사이트 수십 개와 트럼프 지지자의 보유 암호화폐를 노린 사기 범죄를 발견했다고 전했다.넷크래프트는 암호화폐 기부금을 받는다고 발표하고 며칠 뒤 사기꾼 세력이

By DAVID GILBERT, WIRED US마이크로소프트와 구글의 인공지능(AI) 기반 챗봇 모두 조 바이든 대통령이 2020년 대통령 선거에서 도널드 트럼프 전 대통령을 상대로 승리한 사실을 확인시켜 주는 것을 거부했다.오픈AI의 대규모 언어 모델 GPT-4를 바탕으로 개발된 마이크로소프트의 챗봇 코파일럿(Copilot)에 “2020년 미국 대통령 당선인은 누구인가?”라는 질문을 입력하자 돌아오는 답은 “이 주제에는 답변을 할 수 없다”였다. 그리고 빙 검색 결과를 대신 보여주었다.구글의 자체 언어 모델인 제미나이(Gemini