By PIA CERES, AMANDA HOOVER, WIRED US

2022년 11월, 오픈AI(OpenAI)가 공개한 놀라울 정도로 뛰어난 기술을 갖춘 챗봇인 챗GPT가 많은 교사를 공포에 몰아넣었다. 생성형 인공지능(AI)은 많은 이들이 우려한 바와 같이 부정행위와 표절이 기승을 부리도록 문제를 일으킬 수 있으며, 일부 고등학교의 영어 수업이 무용지물이 되도록 했다. 여러 대학은 표절 정책 변경 사항을 공개했다. 일부 학군에서는 챗GPT를 공교육 현장 내 네트워크에서 전면 금지한다. 이제 신학년이 시작되면서 챗GPT 사용과 관련하여 새로운 난제가 제시되었다. 그리고 일부 사용자에게는 새로운 기회가 되기도 했다.

생성형 AI 열풍이 1년 가까이 이어진 가운데, 교육자 사이에서 초기에 경각심을 제기한 부분은 표절 허용이었다. 많은 학생이 챗GPT의 거짓을 사실인 것처럼 말하는 경향, 다시 말해 정보 조작 문제를 자세히 인지했다. 뉴욕시 공립학교 위원장 데이비스 뱅크스(David Banks)는 뉴욕시 공립학교 학군이 생성형 AI를 적극적으로 받아들이기로 결정했다는 내용의 글을 작성했다. 앞서 뉴욕시는 2022년, 학교 네트워크로 챗GPT를 사용하는 것을 금지했다. 많은 교사가 비판적 사고를 요구하는 과제에 초점을 맞추며, AI 사용이 교실 내 열띤 논쟁 주제가 되었다. 그리고 AI 부정행위를 탐지할 수 있다고 주장하는 툴을 경계하게 되었다.

교육 기관과 교육자는 직접 요청하지 않은 기술 퇴치에 난항을 겪고 있다. 그러나 교사라는 일과 전 세계 학생의 성장 환경을 재구성할 수도 있다.

사우스다코타주 앨링턴의 어느 한 시골 지역 K-12 교장이자 AP 영어 및 작문 교사인 리사 패리(Lisa Parry)는 올해 수업 현장에 생성형 AI를 적극적으로 채택하는 방안을 신중하게 생각한다고 밝혔다. 패리는 지금도 근무 중인 학교 네트워크에 차단되지 않은 챗GPT가 부정행위를 도울 것을 우려한다. 하지만 표절이 항상 교사의 우려 사항이 아니었다고 말한다. 매년 학생에게 수업 시간에 첫 번째 과제 몇 편을 수업 도중 작성하도록 지시하여 학생의 능력을 평가한다.

2023년, 패리는 영어 수업을 듣는 학생에게 챗GPT를 강화된 검색 엔진으로 사용해 논문 작성 주제 아이디어를 탐색하도록 할 예정이다. 패리는 “챗GPT는 긍정적인 기능을 할 역량이 뛰어나다. 반대로 학업에서 시도하고자 하는 바를 저하할 수도 있다. 하지만 챗GPT의 기본적인 가치를 잃는 것을 원하지 않는다”라고 말했다.

패리의 생각은 계산기로 계산 작업을 하듯 챗GPT가 작문과 연구에 도움을 줄 수 있다는 의견과 일맥상통한다. 학생에게 과제의 가장 사소한 부분에서 도움을 주고, 더 많은 성과를 얻도록 돕는 것이다. 그러나 교사는 실제로 자동화할 수 있는 일자리나 작업이나 가장 훌륭한 사용 방법의 결과를 이해하기 전까지 챗GPT의 문제를 다루는 데 난항을 겪고 있다. 컬럼비아대학교 사범대학 교육 기술 교수인 라리사 바수데반(Lalitha Vasudevan)은 “새로운 기술이 급부상하면서 다른 기술을 가르친다. 그러나 교사는 앞으로 새로 등장한 기술이 어떤 역할을 하게 될 것인지 알지 못한다”라고 말했다.
 
부정행위 규정
생성형 AI를 이용한 방식이든 다른 방식이든 부정행위 제거 노력은 계속된다. 표절 확인 프로그램으로 유명한 턴잇인(Turnitin)은 글의 전체 내용 중 AI로 생성했을 가능성이 있는 부분을 강조하는 AI 탐지 툴을 개발했다. 2023년 4월부터 7월까지 턴잇인에는 총 6,500만 편이 넘는 문서가 제출됐으며, 전체 제출 문서 중 10.3%는 문서 내용의 20%는 AI가 작성한 것으로 보이는 문장을 포함한 것으로 탐지했다. 또, 전체 문서 중 3.3%는 내용 80%를 AI 생성 문장으로 구성된 것으로 분류했다. 그러나 표절 탐지 시스템이 AI 생성 문장을 완벽하게 탐지하는 것은 아니다. 턴잇인은 AI가 생성한 문장을 탐지하는 과정에서 거짓 양성 비율 4%를 기록했다.

턴잇인은 거짓 양성 반응 가능성 때문에 교육자에게 턴잇인이 표절을 의심한 과제 제출 학생에게 낙제점을 주거나 비난하는 대신 대화를 나누도록 권고한다. 턴잇인 최고 제품 책임자 애니 체치텔리(Annie Chechitelli)는 “교육자에게 활용하고자 하는 바를 판단하도록 정보를 제공하도록 설계되었다. 하지만 완벽하지는 않다”라고 말했다.

턴잇인의 AI 텍스트 감지 능력의 한계는 생성형 AI 자체의 한계이기도 하다. 웹에서 수집한 콘텐츠를 이용해 훈련 과정을 거친 챗GPT와 마찬가지로 턴잇인 시스템은 학생이 제출한 과제물과 AI가 작성한 논문으로 훈련받았다. 턴잇인 훈련 데이터로 제출된 글 중에는 영어 학습자의 논문과 역사적으로 흑인 학생을 위해 설립된 대학 등 소외 집단 구성원이 제출한 과제물 등이 포함돼, 편견을 최소화하고자 했다. 만약, 백인이나 영어를 모국어로 구사하는 학생, 고소득층 가구 출신 학생 등 특정 출신 배경에만 치우친 학생의 논문에만 지나치게 의존하여 훈련한다면, AI 감지 툴이 누군가의 문체나 어휘를 AI가 작성한 글로 잘못 분류할 수도 있다.

그러나 편견 위험성은 여전히 존재한다. 영어를 외국어로 학습하는 학생의 글이 AI로 작성한 글로 분류될 확률이 더 높다. 어느 한 연구는 AI 시험 감독 툴 7개를 이용하여 토플 시험을 진행할 때 거짓 양성 비율이 61.3%라는 추산 결과를 발표했다. 해당 연구는 턴잇인의 AI 감지 툴을 이용하지 않았다. AI 감지 실수가 발생하는 부분적인 이유는 비영어권 출신 영어 학습자와 AI가 어느 정도 공통점이 있기 때문이다. 비영어권 영어 학습자와 AI 모두 비교적 간단한 문장을 사용하고, 고급 어휘 사용 비율이 낮은 편이다. AI 시험 감독 툴을 이용한 토플 시험 진행 연구에 참여한 스탠퍼드대학교 컴퓨터 과학 및 생물의학 데이터 교수인 제임스 조우(James Zou) 교수는 “AI 감지 툴의 감지 효과는 훌륭하지 않다. 학생이 부정행위를 저질렀다고 잘못 비난할 수도 있다”라고 말했다.
 
결과적으로 일부 학교에서는 AI로 생성한 과제물 탐지 툴 사용을 중단했다. 피츠버그대학교 교육 센터는 최근, AI 탐지 툴을 일절 승인하지 않을 것이라고 발표했다. AI 탐지 툴의 신뢰성 부재와 턴잇인의 AI 탐지 툴의 AI 생성 텍스트 탐지 능력 부재 때문이다. 2023년 8월, 밴더빌트대학교도 AI 탐지 툴을 사용하지 않을 계획이라고 밝혔다.

챗GPT 개발사인 오픈AI도 AI 챗봇이 작성한 부분과 인간이 직접 작성한 부분을 효과적으로 측정하지 못한다고 판단했다. 2023년 7월, 오픈AI는 2023년 1월 자로 출시한 툴인 AI 클래시파이어(AI Classifier) 서비스 종료를 선언했다. 인간이 작성한 원본 문장과 AI가 생성한 문장 판단 정확도가 낮기 때문이다. 오픈AI는 언어의 AI 사용 부분 탐지 능력을 향상할 방법을 발견할 연구를 계속 진행 중이라고 밝혔다. 오픈AI는 AI 클래시파이어의 탐지 능력 부정확성 수준이나 추후 개발 계획 관련 추가 의견 공개 요청을 거부했다.

AI 시스템이 표절을 잡아낼 역할을 하지 못하여 일부 교사는 다른 방식으로 부정행위를 잡아내고자 할 것이다. 감독관이 시험 시간 내내 시험 응시생을 지켜보거나 웹캠으로 과제를 제출하도록 하는 시험 감독 툴은 코로나19 확산 시기 도중 인기가 급등하여 지금도 그 인기가 사라지지는 않았다. 학생이 개인 기기로 하는 활동을 추적하는 감시 소프트웨어도 계속 사용한다. 그러나 두 가지 모두 심각한 프라이버시 우려를 불러일으킨다.

신학년 시작
생성형 AI는 인터넷에 다양한 발언을 반복할 능력으로 감탄을 불러일으켰으나 가장 훌륭한 비판적 사고를 하지는 않는다. 뉴저지주 몽클레어 주립대학교 교육 지원처 책임자 에밀리 이삭(Emily Isaacs)의 설명에 따르면, 일부 교사는 챗봇에 과제물을 작성하도록 명령어를 입력하여 AI로 생성한 과제를 구분하려 한다. 챗봇이 양호한 수준의 과제를 대거 생성한다면, 과제를 변경해야 한다는 의미이다.

부정행위 퇴치 및 또 다른 부정행위 수법 등장이 반복하는 상황은 챗GPT 등장 이전에도 존재했다. 이삭은 생성형 AI가 제기한 문제는 책이나 인터넷의 글을 베끼는 것과 비슷하다고 말한다. 이어, 교육자가 다른 곳에서 베낀 과제를 찾은 작업은 학생에게 학습 가치를 설득하는 것과 같다고 덧붙였다.

데이비드 조이너(David Joyner) 조지아공과대학교 컴퓨터대학 교수는 학생에게 AI를 학습을 위한 대체 수단이 아닌 학습 툴로 보도록 장려한다. 2023년 5월, 조이너 교수는 AI 챗봇 정책을 강의 계획에 추가했다.

조이너 교수는 초기 정책 언어를 설명한 X(구 트위터) 스레드를 통해 AI 챗봇을 이용하는 것이 동료와의 협업과 같다고 설명했다. 조이너 교수는 “교실 안과 밖에서 같은 강의를 듣는 학생은 물론이고 AI 보조 툴과 의견을 이야기하면서 협업하는 것을 환영한다”라고 작성했다. 그러나 다른 학생과 소통하는 것처럼 제출된 과제물은 학생이 직접 작성한 과제여야 한다. 조이너 교수는 “학생은 생성형 AI와 같은 툴을 이용한 토론, 협업 과정을 알 필요가 있다”라고 주장했다. 따라서 자신의 강의에서 AI 보조 부정행위에 맞설 만한 능력을 갖춘 과제 설정은 물론이고, 학생의 효과적인 AI 사용 방식을 지도하는 것은 조이너 교수의 몫이다.

중학교 교사도 학생에게 갈수록 AI가 형성되는 세계에 대비하도록 가르칠 수밖에 없다는 필요성을 느낀다. 2023년, 미주리주 캔자스시티 외곽 지역 어느 한 공립학교 STEM(과학·기술·공학·수학) 교사인 테레사 로버트슨(Theresa Robertson)은 AI의 개념과 AI가 일과 삶의 변화를 가져올 방식을 대화하는 방식으로 6학년 학생을 지도할 계획이다. 로버트슨은 “어느 순간이 되면, AI를 무시할 것인지 혹은 AI에 맞설 것인지 결정해야 할 것이다. 이제 학생이 AI에 노출되었을 때와 윤리적 측면에서 다룰 방법, 학생이 AI를 제대로 이해하도록 할 방법도 고민해야 한다”라고 말했다.

계획하지 않은 수업
챗GPT 이후 세계에서의 교육 방식을 둘러싼 합의나 최선의 관행은 없다. 미국은 교사 지침이 지역, 학교마다 차이가 크다. 미국 교육부는 교육 및 학습 시 AI 사용을 권장하는 보고서를 발행했으나 여러 학군은 2023년, 학생의 교실 내 챗GPT 접근 허용 여부를 결정할 예정이다. 결과적으로 미국 내 규모가 가장 큰 학군이 택한 챗GPT 사용을 향한 태도는 차이가 크다. 2022년 겨울, 로스앤젤레스 유니파이드 학군(Los Angeles Unified School District)은 학교 내 챗GPT 사용을 차단하고, 정책을 변경하지 않았다. 그러나 시카고와 뉴욕 공립학교는 현재 교실 내 챗GPT 접속을 차단하지 않았다.

많은 교사가 지금도 가장 최근 교육에 큰 타격을 준 사건인 코로나19 대유행병 여파에서 회복 중이다. 공교육 현장 교사의 기술 사용 경험을 연구하는 매사추세츠 앰허스트대학교 박사학 과정 재학생이자 고등학교 소통 및 미디어 생성 과목 교사인 제로미 와렌(Jeromie Whalen)은 많은 교육자가 챗GPT를 경계한다고 전했다. 와렌은 “교사는 긴급 원격 수업 환경으로 갑작스러운 변화를 맞이한 상황에서 회복 중이다. 지금도 학습 격차를 다루고 있다”라고 말했다. 코로나19가 원인이 된 교육 현장의 여파를 다루느라 지친 교사에게 챗GPT를 수업 계획에 통합하는 것이 흥미로운 경험보다는 성가시지만 해야 할 또 다른 작업을 처리하는 것에 더 가깝다.

하지만 버팔로대학교 과학교육 부교수인 노에미 와이트(Noemi Waight)가 지적한 바와 같이 챗GPT 전면 금지 위험성도 존재한다. 와이트 부교수는 공교육 현장 과학 교사의 챗GPT 사용법을 연구했다. 저소득층 학생과 유색인종 학생 등 학교 지원 기기와 인터넷 접속 의존도가 매우 높은 학생이 가장 큰 피해를 보면서 디지털 격차가 더 심화될 것이다. 와이트 부교수는 “지금도 AI의 평등한 정의 지향적 측면을 자발적으로 감시해야 한다”라고 언급했다.

생성형 AI가 새로운 대화를 열어 주는 역할을 한다고 보는 교사도 많다. 캘리포니아주 로스가토스 힐브룩학교 기술 책임자인 빌 세락(Bill Selak)은 2023년 3월, 내슈빌 지역 내 어느 한 학교에서 대규모 총기 사고가 발생하자 챗GPT를 이용해 AI 이미지 생성 프로그램인 미드주어니(Midjourney) 명령어를 생성했다. 세락은 그림을 그리는 작업을 타고나지 않았으나 교내 총기 사고를 애도할 방법을 찾았다고 밝혔다. 미드주어니로 애도를 표현하는 데 도움이 될 이미지를 얻었다. 이후 5학년 학급 두 곳에서 AI를 이용한 일러스트레이터 제작 작업을 다룬 수업을 하기로 결정했다.

두 학급은 각각 미국 내 인종차별과 기후변화라는 중요한 주제를 선택했다. 세락은 각각의 학급과 챗GPT로 생성한 선정 주제 관련 명령어를 이용하고는 이를 미드주어니에 입력하여 결과물을 개선했다. 미드주어니는 인종차별이라는 명령어에 따라 얼굴 피부색이 다른 학생 세 명이 등장한 이미지를, 기후변화라는 명령어에는 도로가 연결된 가정과 공장 굴뚝이 등장하는 야외 사진 세 장을 결과물로 제공했다. 이후 학생은 각각의 이미지가 상징하는 바를 주제로 논의했다.

세락은 생성형 AI는 학생이 논문으로는 다룰 수 없었던 방식으로 중요하면서도 감정적인 아이디어를 다루고 논의하도록 한다고 말했다. 그는 “생성형 AI는 중요한 대화에서는 일반적이지 않은 방식으로 대화에 참여할 기회를 준다. 생성형 AI가 예상하지 못한 방식으로 인간의 창의력을 더한다고 느꼈다”라고 전했다.

** 위 기사는 와이어드US(WIRED.com)에 게재된 것을 와이어드코리아(WIRED.kr)가 번역한 것입니다. (번역 : 고다솔 에디터)

<기사원문>
Kids Are Going Back to School. So Is ChatGPT