By CLIVE THOMPSON, WIRED US

지난해 9월, 인디애나대학교 2학년에 재학 중인 헤일리(HALEY)가 회계학 강의 시험을 치렀을 때, 코로나19 시기의 다른 대학생과 마찬가지로 강의실이 아닌 침실에 있었다. 시험 도중 교수가 직접 부정행위를 감시하지 않았다. 대신 새로운 방식으로 부정행위 감시가 이루어졌다. 바로 헤일리의 노트북에 설치된 웹캠으로 모든 움직임을 연구하는 인공지능(AI)이 감독관으로 동원됐다.

대학 측은 온라인 시험을 치르는 동안 일종의 온라인 시험 감독 소프트웨어인 레스폰더스(Respondus)를 사용했다. 레스폰더스는 학생의 데스크톱에 잠금 설정을 해, 학생이 시험 도중 인터넷 창을 옮겨가면서 구글에 시험 문제의 답을 검색할 수 없도록 했다. 그리고, 시각 AI를 사용해, 여러 요소 중 시험을 보는 학생의 주요한 움직임을 면밀히 관찰하면서 화면 이외에 다른 곳을 응시하는지 판단했다.

헤일리는 화가 나기 시작했다. 그는 “자리에 앉아있을 때, 내가 움직인 적이 있는지 모르겠다”라고 말했다. 이 때문에 어느 순간 AI 소프트웨어가 헤일리에게 끔찍한 경고를 했다. 그는 “AI 때문에 시험이 중단됐다. 그리고, 화면에 ‘더는 얼굴을 인식할 수 없다’라는 경고 메시지가 표시됐다”라고 설명했다. 이 때문에 불편하게도 헤일리는 노트북 화면을 로봇과 같이 부자연스럽게 더 많이 응시하게 됐다.

헤일리는 시험을 끝내고, 우수한 성적을 받았다. (필자는 헤일리의 요청에 따라 성을 밝히지 않는다) 그러나 하드웨어 추상화 계층 레벨(HAL 레벨) 감시의 강점은 무엇인가? 논쟁의 대상이다.
 
‘온라인 시험 감독’ 자체는 이번에 새로 등장한 것이 아니다. 등장한 지 10여 년이 지났다. 주로 원격 교육이나 기업 인가 테스트에 적용됐다. 공식적으로 기존의 현장 강의가 이루어진 여러 대학이 코로나19 때문에 원격 강의로 전환하면서 온라인 시험 감독이 우후죽순으로 사용되고 있다. 온라인 감시 소프트웨어 기업 프록토리오(Proctorio)의 CEO인 마이크 올슨(Mike Olsen)은 지난해 봄부터 사업 성과가 900% 가까이 급격히 성장했다고 밝혔다. 그는 “4월이 가장 바쁜 시기였다”라고 덧붙여 말했다.

감시 자본주의의 급격한 등장을 둘러싼 많은 논의가 이루어졌으며, 전체주의로 향하는 길로 이끌게 될 암울한 미래를 신중히 생각했다. 그러나 학생에게는 이러한 논의와 생각이 이루어진 적이 있는가? 전체주의로 이끌 암울한 미래는 바로 많은 학생이 빛나는 웹캠 앞에서 의무적인 행동을 하려는 모습을 보이는 현재이다.

많은 학생이 웹캠 앞에서 감시받는 것이 매우 불편하다고 말할 것이다. 일부 시스템은 AI로 부정행위 징조를 확인한다. 혹은 기업이 채용한 실제 인간이 학생을 감시하기도 한다. 온라인 커뮤니티 레딧(Reddit)에 게시된 수많은 글이 각종 불쾌한 순간을 설명한다. 같은 공간에 거주하는 룸메이트나 가족이 갑자기 카메라에 등장하거나 평범한 움직임을 부정행위로 간주하는 일, 그리고 계속 행동 요구사항을 따르기 위한 피로한 행동 등을 이야기한다. 어느 한 학생은 “카메라 너머로 감시받는 일이 매우 무섭다”라는 글을 게재했다.

매우 끔찍한 선례를 남긴다. 프런티어전자재단(Electronic Frontier Foundation)의 행동주의 프로젝트 관리자 린제이 올리버(Lindsay Oliver)는 “우리는 젊은 세대에게 감시 행위가 정상적인 행위라고 세뇌하고 있다”라고 말한다. 디지털 감시에 적응하도록 훈련받는 학생은 미래에 기업의 고용인이나 폭력 행위를 일삼는 배우자가 심는 스파이웨어에 저항할 가능성이 줄어들 것이다. 또, 올리버는 “디지털 감시 행위를 하면서 젊은 세대에게 남은 일생에서 무엇을 기대하도록 이야기하는가?”라는 의문을 제기했다.
 
여러 대학은 학업에서의 부정행위를 막을 방안이 필요하다고 주장한다. 이는 실제로 필요한 부분이기도 하다. 최근 공개된 어느 한 연구에서는 온라인 시험에 응시한 학생 30% 이상이 여러 유형의 부정행위를 저질렀다는 사실이 드러났다. 대학 관리자는 가능한 학생의 개인 정보 보호를 존중하려 했다고 말한다. 플로리다대학교 원격 및 평생 교육 총괄 브라이언 마치맨(Brian Marchman)은 “개인 정보를 침해하는 일이 없도록 열심히 노력한다”라고 말했다. 일례로 플로리다대학교에서 온라인 감시 소프트웨어인 프록터웨어(proctorware)로 수집한 모든 영상과 데이터를 암호화한다. 소프트웨어 공급사에 맡기지 않고, 대학 측에서 직접 암호화해, 부정행위 발생 여부를 최종적으로 판단한다.

모두 충분하다. 그러나 가장 윤리적인 방식으로 많은 학생이 소름 끼친다고 느끼는 행위를 해결하고자 한다는 것에 매우 말이 안 되는 부분이 있다. 감시 소프트웨어의 급격한 등장은 인터넷 시대에 우리가 계속 범하게 되는 더 심각한 실수의 징조이다. 바로 기술을 이용해 본질적으로 경제적인 문제를 관리한다는 부분이다.

어찌 됐든 부정행위를 범할 가능성을 최소화하도록 학생을 평가할 다른 방법은 얼마든지 있다. 이와 관련, 헤일리는 다지선다 객관식 시험 대신 애플리케이션 기반 프로젝트 혹은 에세이 작성을 더 요구할 수 있다고 말한다. 또, 많은 학생에게 진지한 현실 세계의 작업을 요구할 수도 있다. 교육 기술 관련 블로그 핵 에듀케이션(Hack Education)의 작성자 오드리 와터스(Audrey Watters)는 “학생이 작업할 수 있는 위키피디아 글이 매우 많다”라고 말했다. 학생에게 다양한 프로젝트를 제시한다면, 구글 접속을 금지할 필요가 없다. 프로젝트에는 간단한 답이 없기 때문이다.

매우 흥미로우면서 적용 가능한 대안이지 않은가? 그러나 와터스가 언급한 바와 같이 학생에게 프로젝트를 주는 것은 학점을 평가하기 더 어렵다. 바로 여러 학교에서 특히, 다지선다 시험과 같이 매우 암울한 병폐와 같은 평가 방식을 택하는 이유이다. 만약, 공교육 현장에서 진지하게 복합적인 작업에 학점을 평가하기 위한 더 많은 자원을 보유하기를 진정으로 원한다면, (인디애나대학교와 같은) 대규모 공공 기관에 더 많은 자본을 투자해 미국 학생 절대 다수에게 교육을 제공해야 한다. 그러나 실제 지난 수십 년간 학생 1인당 주어지는 교육 기관의 자금 지원 규모가 감소했다. 더 참신한 해결책을 활용하려면 시간과 자금이 필요하다. 따라서 참신한 해결책 적용을 배제하고, 대신 빠르게 적용할 수 있는 기술적 해결책을 사용하는 것이다.

위와 같은 방식으로 생각한다면, 부정행위를 저지르는 학생의 문제는 실제로 공교육 정책의 문제로 볼 수 있다. 기술을 사용해 문제를 감추는 것은 좋은 해답이 아니다. 장기적으로 보면, 우리는 기술을 이용해 스스로 부정행위를 하는 것에 불과하다.

** 위 기사는 와이어드UK(WIRED.com)에 게재된 것을 와이어드코리아(WIRED.kr)가 번역한 것입니다. (번역 : 고다솔 에디터)

<기사원문>
What AI College Exam Proctors Are Really Teaching Our Kids