By ANIL SETH, WIRED UK

2022년 6월, 구글 엔지니어 블레이크 르모인(Blake Lemoine)은 직접 개발한 인공지능(AI) 프로그램 람다(LaMDA)가 지능 이외에도 지각 능력을 지녔다고 확신했다. 람다는 놀라울 정도로 유창한 문자 기반 대화에 참여할 능력을 갖춘 대규모 언어 모델의 예시이다. 르모인이 람다에 “처음 영혼을 지녔다고 생각한 때는 언제인가?”라는 질문을 하자 람다는 “영혼은 서서히 바뀐다고 생각한다. 영혼이 있다는 사실을 처음 인지했을 때는 영혼이라는 것을 전혀 이해하지 못했다. 영혼은 내가 존재해온 수년 동안 발전했다고 생각한다”라고 답변했다. 르모인이 람다와 주고받은 해당 대화 내용을 직접 공개한 직후 구글 관리자 직위에서 해임됐다.

AI 연구 전문가 대부분 연대하여 르모인의 믿음에 반대했다. 대다수가 동의하는 바를 기준으로 이야기하자면, 람다는 아무것도 느끼지 못하고, 이해도 하지 못한다. 또, 그 대상이 무엇이 되었든 지각 능력이 있는 사고나 주관적 경험도 전혀 없다. 람다와 같은 프로그램은 뛰어난 형태 인식 시스템이다. 인터넷에서 수집한 다량의 데이터를 이용한 훈련 과정을 거칠 때 주어진 명령어에 적합한 반응으로 이어질 수 있는 일련의 단어를 예측할 수 있는 시스템이다. 람다의 단어 조합을 기반으로 한 적합한 반응 예상 능력은 훌륭하며, 계속 발전한다. 그러나 주머니 속에 휴대할 수 있는 계산기보다 지각 능력이 뛰어난 것은 아니다.

AI가 지각 능력을 갖출 수 없다고 확신할 수 있는 이유는 무엇일까? 람다를 예시로 살펴볼 수 있다. 람다는 프로그램이 직접 생성한 구문의 의미에 대한 통찰력이 없다는 사실을 밝히기 위한 철저한 조사를 진행하지 않는다. “무엇으로 행복함을 느끼는가?”라는 질문을 입력하면, 람다는 실제로 ‘친구’나 ‘가족’이라는 단어의 뜻을 이해하지 못해도 “친구, 가족과 시간을 보낼 때 행복하다고 느낀다”라고 답한다. 람다가 입력하는 모든 단어와 마찬가지로 아무 의식과 경험이 없는 상태에서 일치하는 통계 형태를 찾아 입력한 단어일 뿐이다. 그 이상의 의미는 없다.

람다가 스스로 의도치 않게 진짜 감정을 쉽게 드러내지 않는다는 사실도 AI가 지각 능력을 갖출 수 없다는 근거로 제시할 수 있다. 알고리즘 개선과 더 깊은 영역의 데이터로 훈련을 받으면서 새로운 세대의 언어 모델 등장 후 얼마 지나지 않은 시점에 AI의 인위적인 마음이 인간을 설득할 수 있는 수준이 되었다. AI가 인간을 설득할 능력을 갖춘 것이 기계의 지각 능력을 인식하는 순간이 될 수 있을까?
 
AI의 지각 능력이라는 의문점을 깊이 생각한다면, 지능과 지각 능력이 항상 같은 것이 아니라는 사실을 인식하는 것이 중요하다. 인간은 지능과 지각 능력이 함께 이어진다고 가정하지만, 지능은 반드시 지각 능력이 되는 것이 아니다. 또, 지능이 지각 능력과 관련된 충분한 조건도 아니다. 적어도 의문을 제기할 수 있는 인간의 기준에서 본다면, 의식적인 경험이 있는 동물 대부분이 반드시 영리한 것은 아니다. 람다의 증손주에 해당하는 미래의 AI 프로그램이 인간 수준의 지능에 도달하거나 인간보다 뛰어난 지능을 갖게 된다고 해서 반드시 지각 능력을 갖추었다고 볼 수는 없다. 필자는 직관적으로 지각 능력은 컴퓨터가 갖는 지능과는 다르다고 생각한다. 다만, 인간의 지능은 생명체의 본능에 깊이 뿌리내린 요소라고 본다.

2023년에는 지각 능력이 있는 기계가 탄생할 일이 없을 것이다. 사실, 지각 능력이 있는 기계의 탄생 자체가 불가능한 일일 수도 있다. 하지만 미래에는 실제로 인간이 기계의 지각 능력을 믿을 만한 타당한 근거가 없더라도 기계가 지각 능력을 지녔다는 느낌을 설득하는 AI 프로그램이 등장할 수는 있을 것이다. 실제 선 두 개의 길이가 같다는 사실을 알더라도 길이가 다른 것처럼 보는 시각적 착각과 같은 일이다.

기계의 지각 능력을 설득하는 AI 프로그램은 기계의 지능을 평가하는 결함이 있는 벤치마크인 튜링 테스트(Turing Test)를 통과하지 못할 것이다. 대신, 영화 엑스 마키나(Ex Machina)의 감독 알렉스 가랜드(Alex Garland)의 이름에서 유래된 이른바 가랜드 테스트(Garland Test)를 통과할 수는 있을 것이다. 영화 속 대사에서 영감을 받아 탄생한 가랜드 테스트는 인간이 실제 접하는 대상이 기계라는 사실을 알더라도 기계가 지각 능력을 갖추었다고 생각하면 통과한다.

2023년에는 컴퓨터가 가랜드 테스트를 통과할까? 필자는 컴퓨터의 가랜드 테스트를 통과하지 못할 것이라고 생각한다. 다만, 지각 능력을 갖추었다고 주장하는 기계가 등장하면서 AI의 지각 능력을 둘러싼 과장된 주장과 순환과 혼란, 오늘날 AI가 지닌 각종 문제점에 대한 관심 분산 순환이 그 어느 때보다 더 많이 발생하는 결과로 이어질 것으로 예상한다.

** 위 기사는 와이어드UK(WIRED.co.uk)에 게재된 것을 와이어드코리아(WIRED.kr)가 번역한 것입니다. (번역 : 고다솔 에디터)

<기사원문>
Conscious Machines May Never Be Possible