본문 바로가기 주메뉴 바로가기 검색 바로가기
챗GPT의 유창한 헛소리 작성, 흥미를 자극한 이유는 ‘어디에나 넘쳐나는 유창한 헛소리’
상태바
챗GPT의 유창한 헛소리 작성, 흥미를 자극한 이유는 ‘어디에나 넘쳐나는 유창한 헛소리’
인공지능 챗봇인 챗GPT는 인간이 작성한 텍스트로 훈련 과정을 거쳤다. 물론, 매우 인상적인 글을 작성했으나 알맹이가 없다.
By AMIT KATWALA, WIRED UK

멕시코만의 깊은 물 속에서 레이첼이라는 젊은 여성이 석유 굴착 장치 측면을 꽉 잡고 있다. 레이첼의 빨간 머리가 바람에 날려 뒤엉켰으며, 해양이 레이첼의 바지를 적신다. 그러나 레이첼은 불법 시추 증거를 발견하겠다는 확고한 일념으로 계속 오른다. 그러나 레이첼이 배에 완전히 올라온 뒤에는 더 불길한 일이 벌어지는 것을 발견했다.

위의 문단은 석유 굴착 장비라는 설정을 더한 공포 영화 ‘석유와 어둠(Oil and Darkness)’의 스니펫이다. 영화의 주요 등장인물은 환경 운동가 레이첼과 죄책감에 시달리는 석유 시추 작업자 잭, 불법 행위를 저지르는 석유 기업 임원이자 휘발성이 매우 높은 새로운 원유에 관한 위험한 연구를 진행하는 라이언이다. 심야 시간에 TV 채널을 돌리거나 장거리 비행 도중 졸면서 한 번쯤 접했을 법한 내용이다. 또, 완전히 지어낸 영화이기도 하다.

사실, ‘석유와 어둠’은 인공지능(AI) 챗봇인 챗GPT(ChatGPT)가 창작하고 작성한 이야기이다. 취미로 AI를 다루는 콘텐츠 마케터인 가이 파슨스(Guy Parsons)가 형식을 제공하고, 제목과 태그라인, 주요 등장인물, 서사를 자세히 구성하도록 요청하면서 석유 시추라는 설정을 다룬 공포 영화라는 주제를 제시했다. 그리고 오픈AI가 새로 배포한 소프트웨어인 챗GPT가 영화 서사를 작성했다. 그 결과는 놀라웠다. 극적인 긴장감과 자세한 등장인물 설명, 불길한 비밀 암시까지 포함하여 내용을 작성했다. 그리고 예상치 못한 행동을 약속하고, 심지어 정치적 논평도 작성할 가능성을 제시했다.

챗GPT의 마법과도 같은 힘의 또 다른 사례이다. 그리고 지난 몇 주간 왓츠앱 채팅과 와이어드 슬랙 그룹 등 여러 소셜 미디어에서 널리 알려진 이야기이기도 하다.

AI 챗봇은 이른바 지도 학습 과정에서 깔끔하게 교정하고 구조를 다듬은 서적과 기사, 웹사이트 등의 글로 훈련을 받았다. 챗GPT는 코드 작성과 작사, 5행 희시, 일본 단시 등을 작성할 수 있다. 챗GPT는 이전에 작성한 글을 기억하고는 사용자의 요청에 따라 신중하게 편집한다. 심지어 대다수 임의의 명령어에 따라 글을 작성하고, 각각의 표현을 깔끔하게 연결한 이야기를 창작하기도 한다. 첫 문단에서 관련이 없는 것처럼 보였던 세부 사항을 뒷부분에서 연결한다. 농담을 작성하고는 재미있는 이유도 설명한다. 잡지 형태의 기사 요약문과 강렬한 인상을 남기는 문구, 이목을 집중시킬 만한 글 모두 설득력이 있는 듯하지만, 거짓 인용구로 작성하기도 한다.

챗GPT가 유독 흥미로우면서도 매력적일 정도로 중독성이 있는 동시에 생계를 위해 글을 작성하는 이들에게는 매우 우려스러운 부분이기도 하다. 그러나 머지않아 챗GPT의 글쓰기 능력의 이면에 질적으로 훌륭한 부분이 없다는 사실을 발견하기 시작할 것이다. 챗GPT는 각종 비유와 상투적인 문구에 대거 의존하며, 사회적으로 가장 심각한 선입견을 반복한다. 챗GPT가 작성한 단어는 표면적으로 매우 인상적이지만, 대부분 본질이 없다. 바로 미국 테크 매체 더 버지가 “챗GPT는 주로 유창한 헛소리를 작성한다”라고 평가한 이유이다.
 
[사진=Freepik]
[사진=Freepik]

하지만 챗GPT의 글이 본질적으로 부족하다는 점을 이해할 수 있다. 챗GPT는 실제 세계의 글로 훈련 과정을 거쳤으며, 현실 세계는 기본적으로 유창한 헛소리로 운영하기 때문이다. 앞서 언급한 ‘석유와 어둠’과 같이 완전히 지어낸 영화 내용이 그럴듯해 보이는 이유는 AI의 뛰어난 글쓰기 능력이 아닌 기본 아이디어 제시 능력이 형편없는 수준인 영화 산업 때문일 수도 있다. 이와 같은 맥락으로 AI에 영화 내용 작성 작업을 요청한다면, 단순히 다수 할리우드 대흥행작 제작 방식과 같은 형식적인 과정을 모방할 것이다. 다른 작품을 살펴보면서 성공한 작품을 본 뒤 배우와 감독, 서사 구조 등 영화 제작의 여러 요소를 적용한다. 그리고 새로운 것처럼 보이지만 실제로 전혀 새롭지 않은 형태가 되도록 모든 요소의 균형을 맞춘다.

출판 업계도 마찬가지이다. 협소한 추세가 업계를 휩쓸고는 몇 년간 장악하면서 똑같아 보이는 책 표지로 완성된 여러 권의 도서가 책장을 가득 채운다. 혹은 『7건의 살인에 관한 간략한 역사(A Brief History of Seven Killings)』, 『에블린 하드캐슬의 살인 사건 7건(The Seven Deaths of Evelyn Hardcastle)』, 『말리 알메이다의 7가지 달(The Seven Moons of Maali Almeida)』, 『살인마 7인의 7가지 삶(The Seven Lives of Seven Killers)』과 같이 똑같은 운율로 작성한 책 제목으로 출판된 서적이 잔뜩 진열된 것을 볼 수 있다.

유창한 헛소리는 창작 업계에서만 볼 수 있는 일이 아니다. 널리 확산된 링크드인 게시글과 삶의 규칙을 다룬 팟캐스트, 투자금 조달 홍보, 학술 논문, 그리고 심지어 필자가 작성한 이 기사까지 유창한 헛소리는 어디에서나 볼 수 있다. 정치계와 기업계에는 어느 한 공간에 나서서 사실을 전혀 말하지 않고도 즉흥적으로 합리적인 듯한 말을 길게 늘어놓고는 최고의 자리에 오른 이들로 넘쳐난다. 명문 사립학교와 대학 모두 학생에게 빠른 정보 흡수와 습득한 정보를 사전에 정해진 형태로 자신감 있게 반복하고는 즉시 잊고 다른 정보를 흡수하는 법을 가르치는 방식으로 교육 구조를 형성했다. 학교에서 가르치는 바를 습득하는 데 성공한 이들이 추후 정치계와 컨설팅 기업, 언론계 등 여러 분야에 진출한다.

챗GPT를 주제로 한 대화는 고문을 유도하면서 남성우월주의를 범하는 모델부터 아동이 숙제를 베끼도록 하는 등 사회에 미칠 수 있는 모든 해로운 영향을 발견했다. AI가 생성한 반응으로 AI기 직접 데이터를 발견한 뒤 미래의 챗봇을 훈련하고는 영화 ‘레디 플레이 원(Ready Player One)’과 같이 특별한 본질이 없는 내용을 언급한 글을 작성할 때의 여파를 우려할 수 있다. 소의 배설물에 점토나 시멘트 등을 섞은 물질을 마구 생성하고는 인간에게 다시 공급해, 무엇이든 새로운 것을 집어삼키는 바이러스가 퍼지는 것과 같은 상황이다.

그러나 솔직하게 말하자면, SNS로 무기화되어 인간이 생성한 구시대의 유창한 헛소리는 이미 매우 재앙과도 같은 결과를 낳았다. 일례로, 영국에서는 유창한 헛소리를 늘어놓은 소규모 집단 때문에 영국을 유럽연합에서 분리하고 위기로 몰아넣었다. (챗GPT야, 영국이 유럽연합을 탈퇴한 이유를 이해하기 어려운 어휘와 셰익스피어 시대를 언급해서 작성해봐.) 사후 진실과 유창함이 모든 것이고, 헛소리는 어디에서도 찾아볼 수 있다. 따라서 챗GPT의 유창한 헛소리가 그럴듯한 글이라고 느끼는 것은 당연하다. 챗GPT의 글이 그럴듯하다고 느낄 수밖에 없었다. 인간을 통해 글을 작성하는 방법을 훈련받았기 때문이다.

결국, 챗GPT의 헛소리는 언어가 사고와 이해의 형편없는 대체 수단임을 다시금 깨닫도록 한다. 유창함과 문장의 설득력 수준을 떠나 항상 해석과 오해의 대상이 된다. 모든 것이 유창한 헛소리로 가득한 세계에서 챗GPT는 불협화음 속 하나의 또 다른 목소리에 불과하다.

맞다. 이 기사의 마지막 내용은 챗GPT가 작성했다.

** 위 기사는 와이어드UK(WIRED.co.uk)에 게재된 것을 와이어드코리아(WIRED.kr)가 번역한 것입니다. (번역 : 고다솔 에디터)

<기사원문>
ChatGPT’s Fluent BS Is Compelling Because Everything Is Fluent BS
이 기사를 공유합니다
RECOMMENDED