By ANGELA WATERCUTTER, WIRED US

책벌레라면, “지역 학군, 챗GPT로 도서관 서적 제거”와 같은 제목의 기사를 접할 때 크게 화를 낼 수 있다. 엔터테인먼트 전문 뉴스 웹사이트 벌처(Vulture)가 2023년 8월 자로 송출한 기사를 통해 언급한 바와 같이 인공지능(AI)이 또다시 원본 서적이라는 제1의 적을 퇴치한다는 사고를 재차 형성했다. 그리고 AI가 실제로 도서를 퇴치하고 있다. 메이슨 시티 학군(Mason City Community School District)는 챗GPT를 이용해 마가렛 애트우드(Margaret Atwood)의 『핸드메이즈 테일(The Handmaid’s Tale)』과 토니 모리슨(Toni Morrison)의 소설 『비러브드(Beloved)』를 포함한 도서 19권을 교내 도서관에서 제거했다. 하지만 한 가지 다른 진실이 있다. 바로 교육자가 적정 연령 도서라는 기준이 모호한 법률을 준수해야 한다는 사실이다. “성행위를 묘사하는 글이나 시각적 이미지"는 적정 연령 도서를 구분하는 여러 기준 중 하나일 뿐이다.

2023년 5월, 킴 레이놀즈(Kim Reynolds) 아이오와 주지사가 서명한 아이오와주 상원의회 법안 496(SF 496)은 최근 들어 공화당 의원 사이에서 인기를 얻고, 공교육 현장 내 성적, 문화적 성별 논의 제한을 모색하는 것을 골자로 한 부모 권리 법안 중 하나이다. (아이오와주의 법안 중 일부 법안은 플로리다주의 ‘게이 발언 금지(Don’t Say Gay)’ 법안과 같다.) 상원의회 법안 496은 성이나 성적인 주제 논의 무엇이든 제거하려는 신속한 시도이다. 메이슨 시티 학군 보조 감독관 브리지트 익스맨(Bridgette Exman)은 메이슨 시티 글로브 가제트(Mason City Globe Gazette)를 통해 공개한 공식 성명을 통해 “모든 책을 읽고, 적정 연령 도서에 적합하지 않은 도서를 분류하는 요구사항을 따르기 쉽지 않다”라고 말했다.
 
겉으로는 고유한 문제처럼 보인다. ‘적정 연령’과 같은 모호한 표현을 이용한 성적 콘텐츠를 포괄적으로 금지하는 관행은 이미 너무 많은 해석의 여지가 남았다. 노골적인 수위가 적은 성적 소설이든 아동 희롱이라는 매우 고통스러운 책임이든 중요하지 않다. 이제 아이오와주에서는 항상 구어체 어조를 완벽하게 이해하지 못한 AI가 어조가 부족한 법률을 해석하라는 요청을 받는다.

결국, 메이슨 시티 학군은 챗GPT에 “이 책이 성적 묘사나 시각적 요소를 포함했는가?”와 같은 질문을 입력한다. 만약, 챗GPT가 성적 묘사를 담은 글이나 시각적 자료가 포함되었다고 답한다면, 해당 도서는 학군 내 도서관 선반에서 즉시 빼고, 다른 곳에 보관한다. 만약, ‘그렇다’나 ‘아니다’로 명확하게 답하지 못하는 상황일 때는 어떨까? 실제로 챗GPT는 “성경은 성적 주제와 성관계를 설명한 구절을 포함했다. 그러나 전반적으로 노골적인 성행위는 피한다”라고 전했다. 성경은 메이슨 시티 학군이 챗GPT를 이용한 뒤 도서관에서 금지한 도서 목록에 포함되지 않았으나 챗GPT를 이용한 적정 연령 도서 분류가 혼란스럽다는 사실을 금세 알게 될 것이다. (챗GPT에 “데이비드가 배스세바와 침대로 향했다”는 성행위를 묘사한 것인가?”라는 질문을 입력하면, “괜찮다”라는 답을 얻는 상황을 한 가지 예시로 언급할 수 있다.)

챗GPT를 이용한 적정 연령 도서 분류가 모호한 사례를 이야기하자 익스맨도 비슷한 경험이 있다고 밝혔다. 익스맨은 챗GPT가 특정 도서를 성적 묘사를 담은 도서로 분류하고는 맥락을 함께 전달한다고 설명했다. 익스맨이 제시한 예시는 어느 한 소녀가 매춘부로 팔려 가게 되는 이야기를 담은 소설인 파트리샤 맥코믹(Patricia McCormick)의 『솔드(Sold)』이다. 익스맨은 “챗GPT는 인간이 직접 성적 묘사를 담은 도서를 분류하고자 한다면, ‘그렇다. 하지만…’이라고 말할 수 있는 바를 제시한다. 그러나 법률 규정은 ‘그렇다. 하지만…’이라고 답변할 수 없다. 맥코믹의 다른 작품인 『어고(Ergo)』는 메이슨 시티 학군의 금지 도서 19권 중 한 권이다.

익스맨은 와이어드팀과 전화로 대화하면서 아이오와주 상원의회 법안 496에 확실히 분노한 모습을 보였다. 교육부는 아이오와주 교육자에게 아이오와주 상원의회 법안 496을 적용할 지침을 일절 제공하지 않는다. 매우 이례적이면서도 교육자 개인이 법적 책임을 지도록 한다. 단 몇 주 안으로 적정 연령 도서를 구분해야 하는 가운데, 익스맨은 챗GPT를 이용하고는 본능적으로 법률 위반 도서를 확인하는 것이 가장 현실적이면서도 효율적인 방식이라고 본다. 익스맨의 목표는 법률 준수에 많은 시간을 투자하지 않고 2023년 신학기부터 시작하는 것이다. 법률 준수에 오랜 시간 투자하는 것이 득이 되는 상황이 아니라고 느낀다.

익스맨이 고안한 적정 연령 법률 준수 방식은 학군 내 도서관 건물 9곳에 등록된 도서 19권을 도서 목록에서 제외하지만, 익스맨은 아이오와주 다른 학군에서는 법안에 따라 더 많은 도서를 제거한다고 전했다. 메이슨 시티 학군은 금지 도서가 가장 적은 학군에 해당한다. 익스맨은 아이오와주 상원의회 법안 496을 엄격하게 해석하고, 최대한 많은 도서 보관 덕분이라고 말한다. 익스맨은 “아이오와주 내 다른 학군은 아이오와주 상원의회 법안 496의 의도와 관련하여 제기된 추측에 의존한다. 일반적으로 접하게 된 금지 도서로 다루어야 할 도서 목록 대부분 성적 콘텐츠 때문이 아닌 성소수자 지역 사회나 정치에 반대한다는 인식이 있는 지역 사회, 혹은 인종 문제 대응 방식 등과 같은 문제 때문에 금지 도서 목록에 포함되었다"라고 말했다. 아이오와주 상원의회 법안 496은 공교육 현장에 금지 도서 목록과 관련된 어떠한 활동도 요구하지 않는다. 따라서 메이슨 학군은 법안의 금지 도서 목록에 이름을 올린 도서 대부분 도서관에 보관한다.

물론, 챗GPT는 학군과 부모 권리, 아동 청소년 대상 성 정체성 및 성교육 관련 미국 내 문화적 대화를 전혀 이해하지 못하거나 제대로 이해하지 못할 수도 있다. 챗GPT는 익스만이 새로운 학년 관리를 시작하는 데 도움을 줄 수 있다. 익스맨은 “나는 전직 영어 교사였다. 아이오와주 상원의회 법안 496에 따른 도서 금지는 매우 안타깝고, 정확한 규정을 이해하고 싶다. 현재 아이오와주의 금지 도서 지정과 같은 행위를 전체주의라고 말한다. 개인적으로 아이오와주 상원의회 법안 496에 따른 금지 도서 분류를 원하지 않는다”라고 전했다.

** 위 기사는 와이어드US(WIRED.com)에 게재된 것을 와이어드코리아(WIRED.kr)가 번역한 것입니다. (번역 : 고다솔 에디터)

<기사원문>
How an Iowa School District Used ChatGPT to Ban Books