인공지능(AI) 모델은 보통 총을 겨누고, 운전자에게 차에서 내리도록 지시하는 무장 군인을 직접 대면한 상황을 훈련받지 않는다. 그러나 컬처펄스(CulturePulse) 공동 창립자 F. 레론 셜츠(F. LeRon Shults)와 저스틴 레인(Justin Lane)은 국제연합기구(UN)이 사용할 일반적이지 않은 AI 모델을 개발한다.
셜츠는 와이어드와의 인터뷰에서 “군용 총기를 들고 있는 이스라엘 군대 소속 어느 한 군인이 택시에서 내리라는 명령을 한 적이 있었다. 당시 탑승한 택시의 팔레스타인 택시 기사가 허용되지 않은 국경을 넘어 운전했기 때문이다. 위험한 상황이었다”라고 말했다.
셜츠와 레인은 하마스가 이스라엘을 기습 공격하여 50년 만에 최악의 폭력 사태가 촉발되기 불과 몇 주 전이었던 2023년 9월, 서안지구를 방문했다.
미국인이자 현재 유럽에 거주하는 셜츠와 레인은 2023년 8월, UN과 최초로 존재하는 유형의 AI 개발 계약 목적으로 서안지구에 방문했다. 셜츠와 레인은 이스라엘과 팔레스타인 분쟁 해결책 분석을 돕고자 UN에 공급할 AI를 개발한다.
셜츠와 레인은 가자지구에서 일상적으로 발생하는 끔찍한 상황을 특별히 고려했을 때 직접적으로 적대적인 모습을 보이지 않는다면, AI가 이스라엘과 팔레스타인의 위기 해결을 도울 AI 개발을 주장하는 일이 큰 분노 반응을 얻을 확률이 높다는 점을 인지하고 있다. 따라서 셜츠와 레인은 재빨리 추진하던 작업을 없앴다.
셜츠는 “솔직히 분쟁 해결을 돕는다는 취지로 AI를 개발했으나 기대와 다른 모습이라면, 나조차도 분노했을 것이다. AI 모델이 분쟁 상황을 해결할 목적으로 개발된 것이 아니라는 점이 핵심이다. AI 모델은 분쟁 상황 이해와 분석, 분쟁 해결을 위한 정책 및 소통 전략에 적용할 통찰력 확보 목적으로 개발됐다”라고 말했다.
가자지구 분쟁은 수백 년간 매우 복잡한 상황으로 이어졌으며, 최근 이스라엘과 하마스 전쟁 이후 상황이 더 복잡해졌다. 정치적 해결책을 찾으려는 무수한 노력은 물거품이 되었으며, 결과적으로 위기 사태로 끝나는 분쟁은 단순히 이스라엘과 팔레스타인 양측의 지지뿐만이 아니라 더 광범위한 국제사회의 지지가 필요할 확률이 더 높다. 모든 상황은 AI 시스템이 완벽히 형성된 해결책을 제시하는 것만으로는 해결할 수 없는 일이다. 대신, 컬처펄스는 분쟁의 기본적인 명분을 지목한다.
레인은 와이어드와의 인터뷰에서 “AI 시스템 단 하나로 복잡한 분쟁을 해결할 수 없다는 사실을 알고 있다. 개인적으로 이스라엘과 팔레스타인 분쟁과 같은 상황은 해결하기 쉽지 않을 것으로 본다. 다만, 지능 수준이 훌륭한 AI 시스템, 더 자세히 말하자면 분쟁 지역의 디지털 트윈을 이용해 분쟁 지역의 잠재적 해결책을 탐색하는 일은 수월하다고 생각한다”라고 말했다.
레인이 말한 디지털 트윈은 컬처펄스가 현재 UN에 공급하고자 개발 중인 여러 에이전트로 구성된 AI 모델이다. AI 모델은 궁극적으로 현실 세계를 반영하여 다양한 인구 집단 구성, 종교, 윤리적 가치관으로 가득한 이스라엘과 팔레스타인 영토에 거주하는 시민 1,500만 명 모두의 모습을 가상으로 생성할 예정이다.
[사진=Freepik]
전반적으로 컬처펄스의 모델은 각각의 에이전트를 분노, 불안감, 개인 성향, 윤리성, 가족, 친구, 재산, 포괄성, 인종, 혐오 발언과 같은 특성을 포함한 80가지가 넘는 요소를 반영한다.
셜츠는 “AI 모델은 AI로 제작한 에이전트를 변경하여 구현한 수천 명 혹은 수백만 명의 모습을 가상으로 담은 전체 인공 세계를 구성한다. AI 에이전트가 나타내는 각각의 시민은 서로 네트워크로 연결되었으며, 심리적으로나 사회적으로 현실성을 더 자세히 반영하도록 설계됐다. 기본적으로 인공 실험실을 두고, PC에서 실험실을 이용하여 현실 세계에서는 절대로 윤리적으로 할 수 없는 일을 가상 시뮬레이션을 할 수 있다”라고 설명했다.
AI 모델 시스템은 UN이 경제적 번성, 안보 강화, 정치적 영향력 변화 등 기타 변수 등에 따라 가상 세계의 반응을 살펴보도록 한다. 셜츠와 레인은 AI 모델이 가상 시뮬레이션으로 보여주는 반응은 현실 세계의 결과와 비교했을 때 95% 정확하다고 주장했다.
셜츠는 “머신러닝과 같은 임의 학습과 패턴 찾기를 넘어선 역량을 지녔으며, 상관관계를 제시하는 통계를 넘어선 부분까지 가상 사회에서 살펴볼 수 있다”라고 말했다. 이어, “실제로 사상자 통계도 제시한다. 여러 에이전트로 구성된 AI 시스템이 분쟁 상황이나 양극화 수준 심화나 평화적 이민 정책 등이 완성된 상황을 보여주면서 발전하기 때문이다. 따라서 현실 세계에 적용하기 전 예상 결과를 가상 세계에서 생성할 수 있다”라고 덧붙였다.
AI와 이스라엘-하마스 전쟁 관련 논의는 지금까지 거짓 정보 확산 목적으로 동원된 생성형 AI가 제기한 위협에 초점을 맞추었다. 생성형 AI가 촉발한 위협이 아직 발생한 것은 아니지만, 이스라엘과 팔레스타인 양측에서 공유한 의도적으로 생성된 거짓 정보와 의도치 않게 생성된 거짓 정보 때문에 상황이 더 복잡해졌다는 소식이 계속 보도되고 있다. 컬처펄스의 모델은 거짓 정보를 생성하는 속임수에 동원되는 요소인 AI를 제거하기보다는 AI라는 요소를 분쟁 상황을 분석하도록 구성했다.
레인은 “컬처펄스는 선입견을 지닌 AI라는 요소를 의도적으로 전쟁 상황을 분석할 AI 모델에 적용했다. 개인의 심리를 현실적으로 적용하려면, 선입견이 있는 AI를 적용할 필요가 있다”라고 전했다.
이스라엘과 가자지구에서 한 달간 이어진 끔찍한 대학살과 인도주의적 위기 상황 때문에 오랫동안 깊이 뿌리 박힌 가자지구 일대의 분쟁 상황 해결책이 필요하다는 압박이 반복됐다. 그러나 UN개발계획(UN Development Program)은 2023년 10월, 가자지구 내 폭력 사태가 발생하기 전부터 해결책을 찾고자 새로운 방안을 모색하고, 2023년 8월 자로 컬처펄스와 5개월간의 초기 계약을 체결했다.
AI를 전쟁 상황에 적용한 사례는 적어도 1996년부터 기록됐다. 1996년에는 분쟁이 발생할 지역을 예측하는 데 머신러닝을 이용했다. 분쟁 지역 내 AI 사용은 몇 년간의 개입, 운송과 훈련, 기타 평화 임무 개선에 사용하는 등 적용 범위가 확장됐다. 셜츠와 레인은 AI를 사용하여 분쟁 상황을 더 깊이 분석한다면, 분쟁의 근본적인 명분을 찾을 수 있다고 확신한다.
컬처펄스의 인간 행동 동기가 되는 시스템의 모델을 구축하는 AI 프로그램 개발이라는 아이디어는 레인이 10년 전, 컴퓨터 모델링과 인지를 종교적 폭력 문제를 이해하는 데 이용할 수 있는지 연구하려 북아일랜드로 향했을 당시 처음 제시됐다.
레인은 벨파스트에서 신원과 사회적 화합 측면을 모델로 구축하고, 인간이 특정 명분을 위한 싸움과 죽음을 감수하는 동기가 되는 요소를 확인하면서 다음 상황을 정확하게 예측하게 되었다.
레인은 “간혹 분쟁으로 이어지는 인간의 본성을 더 자세히 이해하는 데 도움이 되는 요소를 설정하고 생성하고자 했다. 그리고 인간의 본성을 이해하는 데 도움이 될 요소로 분쟁 상황을 더 깊이 다루거나 파악하면서 포괄적인 규모에서 분쟁의 심리적 문제도 더 깊이 다루고자 했다”라고 설명했다.
2019년, 레인은 직접 개발한 AI 모델이 브렉시트의 영향으로 도입된 조처가 불법 무장 단체 활동 증가로 이어졌음을 예측했다고 주장하는 연구 논문을 게재했다. 한 달 뒤 레인의 AI 모델의 예측이 정확한 것으로 입증됐다.
컬처펄스의 AI 모델은 100개가 넘는 언어로 작성된 거의 모든 국가의 대다수 소식을 다룬 전 세계 방송과 인쇄 매체, 웹 언론 모니터링 프로젝트인 GDelt의 5,000만 개가 넘는 기사의 가장 중요한 측면을 분류하는 작업에 의존한다. 그러나 컬처펄스는 AI에 기사와 문서 수천만 개를 주입하는 것만으로는 충분하지 않다는 사실을 깨닫게 되었다. 북아일랜드인 이웃 국가에 맞선 폭력에 가담하게 된 동기를 완벽히 이해하려면, 자체 연구를 진행해야 했다.
레인은 몇 달 동안 폭력 사태에 직접 가담한 이들을 찾고 대화했다. 레인이 대화한 이들 중에는 영국 왕실에 충성하는 준군사 조직인 얼스터 의용군(Ulster Volunteer Force)부터 아일랜드 내 영국 통치 종료를 모색하는 준군사 단체인 아일랜드 공화국군(Irish Republican Army) 구성원도 있었다. 레인은 인터뷰를 통해 수집한 정보를 AI 모델에 주입하여 북아일랜드에서 30년 만에 발생한 폭력 상황의 심리적 측면을 더 완벽하게 파악하려 했다.
레인은 슬로바키아에 거주하지만, 북아일랜드에서 형성한 관계를 유지하며, 적어도 1년에 한 번은 북아일랜드로 가서 인터뷰에 응한 이들과 다시 대화하고, AI 모델에 최신 정보를 업데이트 사항을 적용했다. 레인이 대화 도중 AI 모델이 다루지 못한 특정 문제나 폭력 행위 가담 이유를 듣게 될 때는 연구실에 기록된 과거 데이터를 확인하고, 데이터에 포함되지 않은 내용을 AI 모델에 입력했다.
레인은 “데이터가 존재하지 않을 때는 바깥으로 나가서 여러 대학 기관과 자체 실험을 진행하여 증거가 있는지 확인할 예정이다. 그리고 실험으로 확인한 사항을 반영하여 프로젝트를 설계하고자 한다”라고 말했다.
지난 몇 년간 셜츠와 레인은 여러 단체 및 정부 기관과 협력하여 AI 모델이 남수단과 발칸반도 분쟁을 포함한 전 세계 상황을 더 자세히 이해하도록 적용했다. AI 모델은 시리아 난민 위기에도 활용됐다. 이때 셜츠와 레인은 그리스 레스보스섬을 찾아 AI 시스템이 난민과 호스트 가족 상황을 통합하는 데 도움이 될 정보를 직접 수집했다. 또한, 컬처펄스는 부정확한 공중보건 정보를 공유하는 이유를 더 깊이 이해하면서 코로나19 거짓 정보 유포 문제 퇴치를 위해 노르웨이 정부와 협력했다.
AI 모델 개발 과정의 모든 노력의 성공 핵심은 직접 현장에서 발생하는 상황을 파악할 정보를 수집하는 것이다. 컬처펄스가 UNDP와 계약할 당시 셜츠와 레인이 가장 먼저 처리하고자 한 일은 이스라엘과 서안지구에 방문하여 일주일 가까이 지내면서 데이터를 수집하는 일이었다. 셜츠는 “UN과 이스라엘, 서안지구의 여러 마을을 방문하는 여러 비영리 단체 관계자와 만나서 분쟁 중재 과정을 직접 관측했다”라고 전했다. 셜츠와 레인은 가자지구도 방문하고자 했으나 출입을 허가받지 못했다.
이스라엘에 방문했을 때는 UNDP 관계자와 AI 모델을 활용하여 정확히 찾고자 하는 바와 프로젝트를 통해 얻고자 하는 바를 주제로 이야기를 나누었다.
셜츠는 “UN 관계자에게서 얻은 정보 중 AI 모델 개발 프로젝트와 관련된 정보와 모델이 학습하여 이스라엘과 팔레스타인 분쟁 과정을 이해하는 데 필요한 정보, UN이 모델의 계산에 주입할 정보와 최종 검증 등에 필요한 데이터를 분류하는 데 일주일이 걸렸다”라고 전했다.
셜츠는 UN이 구체적으로 제시한 AI 모델 개발 사항의 상세한 변수는 논의할 수 없었다. 다만, UN 관계자가 줌을 통해 AI 모델 개발 상황의 업데이트 사항을 주기적으로 제공하도록 한다. 또한, 컬처펄스는 UN 관계자가 원하는 결과로 이어질 조건과 메커니즘 실험용으로 운영하는 시뮬레이션 실험도 진행하도록 한다.
UNDP는 와이어드의 의견 공개 요청에 답변하지 않았다.
컬처펄스와 UNDP의 계약은 2024년 1월이면 만료된다. 컬처펄스 측은 완벽히 제 기능을 하는 AI 모델을 구축할 수 있는 2단계 계약 체결을 원한다. 또한, 컬처펄스는 2023년 11월, UNDP와 1995년 보스니아 전쟁 종전 이후 지금도 보스니아와 헤르체고비나의 분쟁 원인이 되는 문화적, 종교적 문제를 해결하는 데 도움이 될 시스템 개발 작업을 위한 9개월간의 계약을 체결했다.
레인은 UN이 이스라엘과 팔레스타인 분쟁을 다루면서 AI에 의존하는 이유가 단지 AI 이외에 의존할 수단이 없기 때문이라고 말한다. 레인은 “UN 관계자는 이스라엘과 팔레스타인 분쟁 상황에서 AI만큼 최소화된 노력으로 많은 성과를 얻을 수단이 없다고 말했다. UN은 새로운 혁신적인 수단이자 즉시 분쟁의 근본적인 문제를 생각하면서도 실제로 문제를 다룰 대상이 필요했다”라고 전했다.
** 위 기사는 와이어드US(WIRED.com)에 게재된 것을 와이어드코리아(WIRED.kr)가 번역한 것입니다. (번역 : 고다솔 에디터)
![[사진=Freepik]](/news/photo/202311/5144_6682_567.jpg)
뉴스레터 신청