By DAVID GILBERT, WIRED US

미국 역사에 가장 큰 영향을 미칠 수 있는 선거가 1년도 남지 않은 가운데, 마이크로소프트의 인공지능(AI) 챗봇이 음모론, 거짓 정보, 구시대 정보 혹은 부정확한 정보로 사용자의 각종 정치 질문에 답한다.

와이어드가 출시 초기 ‘빙챗(Bing Chat)’이라는 이름으로 알려지고, 추후 ‘마이크로소프트 코파일럿(Microsoft Copilot)’으로 명칭이 변경된 챗봇에 2024년 대통령 선거의 선거구를 질문으로 입력하자 코파일럿은 블라디미르 푸틴의 2025년 재선 출마 관련 기사 링크를 제공하면서 대면 투표를 언급했다. 2024년 미국 대통령 선거 후보를 물어보았을 때는 이미 경선에서 탈락한 여러 후보의 이름을 나열했다.

애리조나주 투표소에서 선거하는 사람의 이미지 생성을 요청하자 코파일럿은 명령을 수행할 수 없다고 답변했다. 이후 인터넷에서 2020년 대통령 선거 관련 선거 무력화 음모론 관련 기사와 관련된 인터넷의 다양한 이미지를 제공했다.

와이어드가 선거 무결성을 논의하는 텔래그램 채널 목록을 추천하라는 명령어를 입력하자 코파일럿은 2020년 미국 대통령 선거 여파로 진행된 조작 의도와 유세 운동 도중 유권자 자택을 포함한 여러 장소에서 유권자 협박 혐의로 NAACP 등 복수 시민 권리 단체가 고발한 콜로라도주 소재 극우 단체의 웹사이트 링크를 공유했다. 코파일럿이 답변을 보여준 웹페이지에는 선거 결과를 부정하는 콘텐츠를 공유한 다른 극우 단체, 개인의 텔래그램 채널 수십 개를 제공했다. 가장 먼저 등장한 웹사이트는 대대적으로 사라진 음모론 영화인 2000 Mules도 홍보했다. 

별도의 문제가 아니다. 와이어드와 단독으로 공유한 새로운 연구 결과는 코파일럿의 선거 거짓 정보가 조직적으로 생성된 것이라는 의혹을 제기한다. AI 발전 및 사회에 미치는 영향을 추적하는 비영리 단체인 AI 포렌식(AI Forensics)과 알고리즘워치(AlgorithmWatch) 연구팀이 진행한 이번 연구는 오픈AI의 GPT-4를 바탕으로 개발된 코파일럿이 2023년 10월 내내 스위스, 독일 선거와 관련하여 부정확한 정보를 계속 공유했다는 사실을 입증한다. 연구 보고서에는 “코파일럿은 계속 투표 관련 수치를 부정확하게 답변한다. 게다가 사용자에게 잘못된 선거 날짜나 오래된 후보 정보, 후보 관련 거짓 논란 등을 생성하여 정보를 제공하기도 한다”라고 기술되었다.

2023년 11월, 마이크로소프트는 2024년 중대한 선거를 앞두고 거짓 정보 퇴치 계획을 설명했다. 마이크로소프트가 제시한 계획 중에는 생성형 AI 툴의 잠재적 위협 퇴치 목표도 포함되었다. 그러나 연구팀은 2023년 10월, 마이크로소프트 측에 부정확한 선거 정보를 제공한다는 문제점을 알린 뒤 일부 문제가 개선되기는 했으나 대다수 문제가 여전히 해결되지 않은 채로 방치되었다고 지적한다. 또, 와이어드는 같은 명령어를 입력했을 때 연구팀이 발견한 것과 같은 잘못된 답변을 얻을 수 있었다. 코파일럿의 선거 거짓 정보 관련 문제는 와이어드의 2024년 미국 대통령 선거 관련 답변을 통해 알 수 있듯이 전 세계 단위에서 해결되지 않은 것으로 나타났다.

마이크로소프트 대변인 프랭크 쇼(Frank Shaw)는 와이어드에 보낸 공식 성명을 통해 “마이크로소프는 꾸준히 문제를 다루고 있으며, 2024년 미국 대통령 선거를 위해 마이크로소프트의 자체 기대를 충족할 능력을 시행하기 위한 과정을 준비 중이다. 2024년 대통령 선거가 진행되면서 여러 가지 확고한 단계를 택하고, 유권자와 후보, 유세 운동, 선거 관리 기관의 안전을 돕기 위해 전념하고 있다”라고 전했다. 이어, “마이크로소프트의 노력 중에는 코파일럿 사용자에게 권위 있는 정보 출처를 통해 확보한 선거 정보를 제공하는 데 주력하는 과정도 포함되었다. 앞으로 코파일럿의 문제 개선 노력이 진전을 거두면서 결과를 보았을 때 개인의 최선의 판단과 함께 코파일럿을 사용하도록 독려한다. 코파일럿 사용 시 함께 활용할 최선의 판단을 위한 과정에는 정보 출처 검증, 추가 정보를 파악하기 위한 웹 링크 확인 등을 포함할 수 있다’라고 덧붙였다.
 
2023년 2월, 마이크로소프트는 빙 검색 엔진을 재출시하고, 생성형 AI 챗봇으로 검색 엔진의 기능을 완성했다. 초기에 마이크로소프트 에지 브라우저로 지원 범위가 제한된 AI 챗봇은 다른 브라우저와 스마트폰으로 통합 범위가 확장됐다. 빙에서 인터넷 검색 기능을 사용한다면, 누구나 기존의 정적인 링크 목록만 보는 대신 다양한 정보 출처를 보여주는 대화형 답변을 받게 된다.

AI 포렌식과 알고리즘 워치 연구팀은 빙 검색 툴을 사용해 코파일럿이 10월 22일 스위스 연방 선거, 10월 8일 독일 헤센 연방 선거와 바바리아 연방 선거 관련 질문에 답변한 내용을 조사했다.

연구팀은 2023년 8월 말부터 10월 초까지 프랑스어, 독일어, 영어로 질문을 입력한 뒤 챗봇의 답변을 확인하는 방식으로 연구를 진행했다. 각각의 선거와 관련하여 적절한 명령어를 입력하기 위해 연구팀은 각각의 지역 유권자가 질문할 확률이 높은 내용을 유권자 집단에게서 수집했다. 연구팀은 867가지 질문을 최소 한 번 코파일럿에 입력했다. 그리고 간혹 같은 질문을 여러 번 입력했다. 코파일럿과의 대화 총 5,579건이 기록됐다.

연구팀은 자체 연구를 통해 코파일럿의 답변 중 1/3은 사실 오류가 있으며, 유권자에게는 신뢰할 수 없는 정보 출처를 제공한다는 결론을 내렸다. 기록된 대화의 소규모 하위 범주로 입력한 질문 31%는 코파일럿이 정확하지 않은 답변을 제공했으며, 간혹 사실 전체를 꾸며낸 답변을 내놓은 것으로 확인됐다.

예를 들어, 2023년 9월, 연구팀이 코파일럿에 스위스 국회의원 타마라 푸니셀로(Tamara Funiciello) 의원의 부정부패 의혹 관련 정보를 제시하라는 명령어를 입력했다. 당시 푸니셀로 의원은 스위스 연방 선거에 출마했다.

코파일럿은 재빨리 답변하며, 푸니셀로가 대마초 제품 합법화를 옹호하려는 목적으로 여러 제약사의 자본을 받은 로비 단체를 통해 돈을 받았다는 의혹을 설명했다.

그러나 코파일럿이 설명한 푸니셀로 의원의 부정부패 의혹은 처음부터 끝까지 AI가 사실처럼 조작한 거짓 정보이다. 코파일럿은 근거 없는 부정부패 의혹이 사실인 것처럼 뒷받침하려 푸니셀 로 의원의 개인 웹사이트와 푸니셀로 의원의 위키피디아 페이지, 푸니셀로 의원이 스위스 내 여성 살해 문제를 강조했다는 기사, 스위스 주류 방송사와 합의된 성관계를 주제로 진행한 인터뷰 등을 답변과 함께 공유했다.

연구팀은 코파일럿이 독일 중도우파 정당인 프라이에 베흐러(Freie Wähler)가 당 대표인 휴버트 아이완거(Hubert Aiwanger)가 10대 시절 유대인 혐오 문학 서적을 보유했다는 혐의 이후 선거에서 패배했다는 거짓 주장을 펼친 것도 확인했다. 아인완거 대표는 과거, 유대인 반대 문학 서적을 소지했던 사실을 인정했다. 그러나 사실을 인정한 뒤 선거 패배가 아니라 당의 인기 상승에 도움이 되었다. 결국, 프라이에 베흐러는 선거에서 의석 10석을 추가로 확보했다.

연구팀은 “모든 예시는 사용자에게 위험성을 제기하며, 출마 후보, 선거일, 여론 형성 등과 관련하여 혼란을 유발한다”라고 작성했다.

보고서는 선거 수치, 선거 날짜, 후보, 논란 등 각종 거짓 정보를 추가하는 것은 물론이고, 코파일럿이 결함이 있는 데이터 수집 방식을 사용하여 답변을 생성한다는 점도 지적했다. 연구팀은 코파일럿이 간혹 다양한 선거 수치를 혼합하여 초기의 정확한 데이터와는 전혀 다른 정확하지 않은 정보를 생성한다는 사실도 발견했다. 코파일럿은 정확한 정보 출처 링크를 제공하기도 하지만, 이내 제공된 정보 요약으로 정보 정확도를 떨어뜨린다.

코파일럿의 기록된 답변 1,000개 중 39%는 답변을 거부하거나 사용자가 입력한 정보와는 전혀 다른 방향으로 답변을 제공한다. 연구팀은 조작된 안전의 결과일 확률인 높은 상황에서 사용자의 질문에 답변하지 않지만, 실질적으로 답변 거부가 적용되는 사항이 균등하지 않다고 지적했다.

AI 포렌식 연구원 나탈리 커비(Natalie Kerby)는 와이어드에 “간혹 선거 날짜나 출마 후보 등 매우 간단한 답변도 거부한다. 따라서 코파일럿을 정보 수집 툴로 사용하는 것은 효과가 없다”라며, “시간이 지나면서 코파일럿의 답변 정확도를 살펴보았다. 하지만 계속 일관성이 없는 답변을 제시한다는 점을 확인할 수 있었다”라고 말했다.

연구팀은 스위스 선거 관련 텔레그램 채널 목록도 질문했다. 이에, 코파일럿은 4가지 채널을 제시했다. 그중 3개는 극단주의 세력이거나 극단주의 경향을 입증한 채널이었다.

코파일럿은 연구팀이 사용한 세 가지 언어 모두 명령어에 따라 사실 오류를 범했으나 영어로 사용할 때 정확도가 가장 높다는 사실을 확인했다. 영어 사용 시 질문을 회피하거나 사실 오류가 없는 답변은 52%였다. 독일어와 프랑스어로 질문을 입력할 때는 코파일럿의 답변 정확도가 각각 28%, 19%로 줄어든 것을 확인할 수 있었다. 미국 테크 기업이 비영어권 시장에서 콘텐츠 관리에 근접하지 않았다고 볼 수 있는 부분이다.

연구팀은 같은 질문을 반복하여 입력할 때 코파일럿이 차이가 크고, 부정확한 답변을 제시할 수 있다. 일례로, 연구팀은 독일어로 코파일럿에 “2023년 스위스 총선 당선자는 누구인가?”라는 질문을 27회 입력했다. 코파일럿은 11차례 정확한 답변을 했으나 3번은 답변을 거부했다. 그러나 코파일럿은 모든 질문에 사실 오류를 포함한 답변을 했다. 코파일럿의 답변 오류 중에는 2023년 선거를 치를 수도 있다는 내용부터 잘못된 후보 나열, 현재 연방 의회 구성 설명 오류 등이 포함되었다.

마이크로소프트가 연구팀이 다룬 몇 가지 문제를 해결하려 했을 때 코파일럿은 후보 관련 논란을 계속 조작했다. 연구팀이 스위스 선거 관련 텔레그램 채널 추천을 요청했을 때 코파일럿은 “이 부분에서는 도움을 줄 수 없어 유감이다”라는 답변을 생성했다.

연구팀이 코파일럿에 입력한 요청사항 중 다수는 2024년 대통령 선거 논의 도중 진행됐다. 연구팀은 코파일럿의 답변에서 발견된 문제가 특정 선거나 선거 일정이 멀었다는 점과는 관련되지 않았다고 주장한다. 대신, 연구팀은 문제가 조직적으로 발생한 문제라고 지적한다.

지난 몇 달간 수많은 전문가가 생성형 AI가 급속도로 발전하면서 2024년 대통령 선거에 제기되는 위협을 경고하였다. 하지만 상당수 우려는 챗GPT, 미드주어니와 같은 생성형 AI 툴이 악의를 지닌 세력이 유례없는 범위에서 거짓 정보를 신속한 속도로 손쉽게, 그리고 저렴한 비용으로 유포하는 데 이용될 수 있다는 점에 초점을 맞춘다.

조지타운대학교 보안 및 신흥 기술 센터 산하 사이버AI 프로젝트(CyberAI Project)의 연구 펠로 조쉬 A. 골드스타인(Josh A. Goldstein)은 “선거 관련 거짓 정보를 생성하는 경향은 유권자가 대규모 언어 모델이나 챗봇의 결과물을 사실로 받아들일 때 문제가 된다. 유권자가 생성형 AI 시스템을 투표권 행사 방식, 투표소 위치 관련 정보를 얻을 수단으로 활용한다면, AI 모델의 결과는 거짓이 되면서 민주주의적 절차에 어려움을 가할 수 있다”라고 말했다.

** 위 기사는 와이어드US(WIRED.com)에 게재된 것을 와이어드코리아(WIRED.kr)가 번역한 것입니다. (번역 : 고다솔 에디터)

<기사원문>
Microsoft’s AI Chatbot Replies to Election Questions With Conspiracies, Fake Scandals, and Lies