2019년 <와이어드>는 AI(인공지능)에 대한 장미빛 청사진을 제시하는 것을 잠시 멈췄다. 디지털 문명과 인간의 존재 의미를 찾는 게 더 중요하다고 봤기 때문이다. AI는 인류에게 무엇이고 이로운 기술이 되려면 어느 방향으로 나아가야 할 것인지 먼저 질문하는 것이 필요했다.

<와이어드>는 AI가 공평하고 오류가 없는 완성체라는 일반적 인식과 달리 세대ㆍ인종ㆍ성별간 편견 등 다양한 문제를 노출한다고 지적했다. 이를 극복하려는 도전이 더 중요하게 논의되어야 할 사안이었다. 결론은 신기술이되 인간에게 이로운 알고리즘으로 진화해야 한다는 것이었다. 신기술에 부작용이 발생하면 좀 더 나은 신기술로 이를 극복해야 한다는 얘기다.
 

◆ AI, 인간의 두뇌를 탐하다 

심화된 머신러닝을 뜻하는 '딥러닝(Deep Learning)은 AI를 스마트한 주체로 변화시키는 기계학습법이다. 이 딥러닝이 본격적으로 도입된지 6년이 지난 오늘날, 기계는 주변 세계를 감지하고 인식하면서 사람과 관계 설정에 나서고 있다. 아마존의 음성인식 비서 알렉사(Alexa), 구글의 웨이모(WAYMO) 자율주행차, 우버의 자동위치 파악 기술 등은 이미 실생활 속에서 상용화된 AI기술이다.

더 나은 기술에 도전하는 혁신 기업의 노력은 딥러닝의 깊이를 더하고 있다. 중국기업 바이두(Baidu)는 2천 명 이상의 엔지니어를 투입해 사람 두뇌의 정보 처리 과정을 본 딴 인공신경망 AI기술을 발전시켜 나가고 있다. 딥러닝을 통해 진화를 거듭해온 AI가 사람의 지각능력을 지닌 유연한 두뇌로 진화할 것으로 기대하지만 상황은 녹록지 않다.

인간이 지닌 두뇌 반응은 단순한 패턴 인식이 아니다. 몇 가지 입력 속성을 변경하는 것만으로 속아 넘어가는 AI 인지력만으로는 인간 두뇌로 도달하는 벽을 넘어설 수 없다. 그래서 인간의 지능같은 지각능력 개발은 과제로 남았다. 

마이크로소프트의 공동 창업자인 폴 앨런(Paul Allen)과 에치오니(Etzioni) 연구팀은 AI가 상식적인 추론의 레이어를 가질 수 있도록 연구 중이다. 이 연구의 시작은 '상식이란 무엇인가?'이다. 개인의 행동이나 진술이 내포한 감정을 이해하는 AI 개발은 인간의 두뇌를 닮기 위한 그 노력의 시작이라고 볼 수 있다. 이들은 인간처럼 추론하고 인식하면서도 컴퓨터 속도로 움직이는 인공 지능이 한 차원 높은 과학혁명을 부를 것이라는 확신을 가지고 있다.


◆ AI도 인지 못한 편견과 오류 가능성

<와이어드>는 올 한 해 AI가 가진 편견과 의도하지 않은 오류에 대한 분석과 대안 찾기에 몰두했다. 또 사이버 공격과 해킹에 취약한 네트워크 세상에서 보안 문제 해결이 당면한 과제 중 하나가 될 것으로 진단했다.

현재 AI가 가진 한계는 개발자 조차 예측할 수 없는 결과물을 발생시키고 있다. AI 알고리즘 오류 사례는 애플카드의 남녀간 신용한도 차별, 아마존의 성별 차별적 채용, 구글의 인종차별적 자동구문 완성, 여성보다 남성(특히 백인)을 더 잘 인식하는 IBM과 Microsoft의 안면인식 기술 등에서 찾아볼 수 있다. 이러한 논란이 시사하는 바는 AI 알고리즘 속에 어떤 식으로든 편견이 스며들지 않도록 세심하게 관찰하고 주의를 기울여야 한다는 사실이다. 페이스북 AI담당 부사장 제롬 페센티(Jerome Pesenti)는 "AI의 아름다움은 컴퓨터가 운영하는 시스템이라는 점에 있고, AI가 가진 한계를 인정하고 극복하려는 노력이 중요하다"고 강조했다.

 

인간의 편견을 전파할 수 있고, 설명하기 쉽지 않고, 상식이 없으며, 의미론을 이해하는 것보다 패턴 매칭의 수준에 머문 인공지능 두뇌는 수술을 필요로 하고 있다. 먼저 오염된 데이터를 줄이는 노력이 필요하다.

머신러닝에 사용될 입력 오류를 잡는 수고는 컴퓨터의 성능과 무관하다. 올바른 AI 완성은 데이터를 주입하고 알고리즘을 설계하는 인간의 노력으로부터 시작한다. 이러한 결과물이 담길 인공지능의 미래는 다음세대를 위한 지속가능성과 연관돼 있다. 새로운 기술 도입은 그것의 주체적 사용자로 성장할 차세대 의견을 반영한 것이어야 한다는 주장이 그것이다. 


◆ 미래세대를 위한 신기술의 선결 조건

젊은 연구자들의 노력과 상상력을 토대로 재현된 AI 세계는 다음세대와 만나 또 학습을 이어가게 될 것이다. 그 과정 중 AI가 어떤 모습으로 진화하게될 지 현재로서는 상상조차 할 수 없다.

한 가지 분명한 사실은 AI는 다음 세대가 오랫동안 마주할 현실이라는 점이다. 그렇기 때문에  우르스 가서(Urs Gasser) 하버드대학교 클라인인터넷 소사이어티 센터장 겸 로스쿨 교수는 청소년들이 AI로 얽힌 미래를 형성하는 데 적극적으로 참여해야 한다고 주장한다. 그는 "교육, 건강, 사회 생활, 여가 및 직업을 형성하는 AI로 둘러싸인 첫 번째 세대인 청소년 세대의 고유한 관점이 중요한 만큼 AI연구 파트너로 참여가 무엇보다 중요하다"고 설명했다.

마크 주커버그(Mark Zuckerberg) CEO가 미 의회에서 증언할 당시 노쇠한 국회의원들은 페이스북의 비즈니스 모델을 이해하는 정도가 낮음을 보여줬다. 젊은 파트너의 통찰력이 디지털 세상을 좀 더 쓸 모 있는 것으로 변화시킬 것이라는 기대는 당연한 것으로 여겨진다. 청소년 세대는 4차 산업혁명이라는 혼란과 마주한 세대임과 동시에 새로운 기술에 기여할 귀중한 관점과 경험을 가진 존재이기 때문이다.

우르스 가서 교수는 "디지털 미래를 통제하고 새로운 기술이 불가피하게 초래하는 혼란에 효과적으로 대응하려면, 우리는 그들의 목소리에 귀 기울여야 한다"고 강조했다.

 

◆ AI가 지향하는 세상의 중심은 결국 '사람'

실수투성이 AI를 인간에게 유익한 존재로 바꾸려면, 그 단점의 기술을 장점의 기술로 덮어야 한다. 이 과정은 단순히 연산능력 향상 시도를 넘어 AEI(Artificial Emotional Intelligence, 인공 감성지능) 연구에 이르렀다.   

사람의 생각 방식뿐 아니라 느끼는 방식을 모방하는 AEI 혁신은 ▲자기진단을 통해 내면의 심리를 파악할 수 있도록 조언하고 ▲특정 개인이 무엇을 할 수 있는지, 어떤 교육 방식이 좋을 지 돕고 ▲도움 되는 정보와 뉴스를 엄선하고 ▲개인 성향에 부합하는 예술을 알려주고 ▲적시적소의 상품과 서비스 획득을 돕고 ▲관계 개선을 위한 조력자 역할을 하는 AI 연구에 맞춰져 있다.

AEI는 공감과 창의성, 친절과 포용력을 담고 있다는 측면에서 지금의 AI가 보완해야 할 덕목에 해당한다. AEI 기술 진화는 인간 관계와 그 구성원이 만드는 사회를 더 성숙하게 만든다는 목표를 제시하고 있다. 인공감성 지능을 담은 AI를 주목해야 할 이유다.

올해 4월 유럽연합집행위원회(European Commission)는 인공지능 윤리 가이드라인(Ethics guidelines for trustworthy AI)을 발표했다. 9개월 간의 작업을 통해 위원회는 '신뢰할 수 있는 AI를 위한 시스템 전주기에 걸친 핵심지침'을 제시했다. ▲인적 기관 및 감독(human agency and oversight) ▲기술적 견고성 및 안전성 ▲개인 정보 및 데이터거버넌스 ▲투명성 ▲다양성, 차별 금지 및 공정성 ▲환경 및 사회복지 ▲책임성이 그것이다.

이 모든 것은 '인간의 복리'를 수식하고 있다. 기술이 세상을 변화시키는 가운데 그것은 사람에게 이로운 것이어야 한다. '진보한다는 것은 결국 실수를 저지르는 것을 의미한다'(Making progress means making sometimes devastating mistakes).

Al가 인간과 바둑대결에서 이겼다는 성취감 뒤에 가려진 진실은 지금 이순간에도 Al는 무수한 실수를 연발하고 있다는 점이다. 인류가 진보의 길을 걷고자 원한다면, 좀 더 나은 AI 기술에 도전해야 할 것이다.

[참조기사 및 링크]

Report: The Government and Tech Need to Cooperate on AI

Artificial Intelligence May Not 'Hallucinate' After All

Researchers Call for More Humanity in Artificial Intelligence

AI May Not Kill Your Job—Just Change It

What Happens When Computers Learn to Read Our Emotions?