In Partnership with PwC, WIRED UK

기술을 두 가지 방향으로 보유할 수 없다. 현실에서는 인간의 개입이 이루어지며, 이해와 판단은 기술의 성공과 분명한 실패를 담당한다. 기술의 잠재성 전체를 깨우는 것의 핵심은 올바른 균형 달성이다.

디자인 작업을 할 때, 인간의 관점과 직물을 짜내는 방법 이해가 올바른 조화를 이루지 못한 상태에서 기술 개발과 구축 작업을 진행한다면, 자칫하면 형편없는 사용자 경험과 부적절한 기능을 구축하게 될 수 있다. 물론, 사이버 보안과 회복성도 해칠 위험성이 있다. 기술을 맹신할 때는 책임감이 사라지면서 자칫하면 인간의 능력과 판단력이 서서히 흐려지면서 윤리적 문제가 발생할 수 있다.

다국적 전문 서비스 기업 PwC 기술 위험 국장 크리스 옥스보로우(Chris Oxborough)는 “기술이 전달할 수 있는 부분의 경계 확장이 진전을 위한 필수요소이다. 하지만 통제도 매우 중요하다. 기술은 그 자체를 개발하고, 결과를 관찰할 수 있는 인간이 있을 때만 훌륭한 역할을 한다. 그러나 인간이 불완전하므로 기술에 결함이 존재하기 마련이다”라고 말했다.

실수가 발생할 수밖에 없는 상황에서 조직에서 인간의 불완전함을 대다수 기술 확보의 전략 요소로 두지 않는다면, 필요 이상으로 그 결과가 오래 이어지면서 더 심각한 타격이 이어질 것이다. 더불어 모든 투자 중요성이 재빨리 저하될 것이다.

그 대표적인 사례로 사이버 보안 분야를 언급할 수 있다. 보통 사이버 범죄 세력은 민감한 이들이 허술한 피싱 공격부터 고도의 기술을 적용한 탈취 공격까지 다양한 공격에 속아 넘어가기를 바란다. 예를 들어, 홍콩 은행 관리자가 딥페이크 클라이언트 통화에 속아 2,600만 파운드 이체를 승인한 사례를 살펴볼 수 있다. 이와 같은 스캠 수법은 갈수록 더 고도화돼, 공격 대상이 된 기관의 기술 역량과 인간의 이해도 격차가 넓은 상황에서 더 심각한 문제를 일으킨다.

또 다른 사례로 2021년 5월, 5일간 미국 동부 해안가 연료 공급망 절반이 가동 중단되었던 콜로니얼 파이프라인(Colonial Pipeline) 랜섬웨어 공격을 이야기할 수 있다. 당시 랜섬웨어 공격은 단일한 패스워드를 사용해, 콜로니얼 파이프라인 내부에서 거의 사용하지 않았던 오래된 VPN에 접속하면서 발생했다. VPN이 공격 당시에도 활성화된 사실이 관측되었다.
 
PwC 연구 결과, 기업 61%가 랜섬웨어 공격 사례가 증가할 것으로 예측하는 등 갈수록 많은 기관이 랜섬웨어를 우려하는 것으로 드러났다. 하지만 해당 연구에서 보안 문제와 인간의 실패에 대한 직원 참여도 개선 진전 수준을 확인했을 때, 전체 기관 중 80%는 CEO가 사이버 보안 문제를 하향식으로 관리한다는 점을 발견했다. 또, 77%는 피싱 파일이나 메일을 클릭하는 직원 비율이 감소한 사실도 확인할 수 있었다.

기술이 갈수록 더 강력해진 상황에서 감시와 이해 향상은 즉각 다루어야 할 문제가 되었다. 기술력 향상은 기술 역량과 관련 위험을 확실히 이해해야 한다는 인간의 책임이 더 커진 사실을 의미한다. 즉, 능력이 서서히 저하되는 일을 피한다는 의미이다.

바로 인간의 기술 활용 상황을 둘러싼 문제이기도 하다. 코로나19 봉쇄 조치 시기에 가상 소통 기능을 사용하면서 수개월을 보낸 이들은 간혹 대면 상호작용과 소통이 이전보다 더 어렵다고 느낀다. 또, 운전자가 GPS 기기의 추천 경로를 신뢰하는 순간과 결국 운전자가 자기 본능과 판단을 피하게 되는 상황에 익숙하다는 사실도 부인할 수 없다. 항공 부문에서는 몇 발 더 나아가 자동 조종 기술의 비행 능력과 비행기 조종사의 본능에 미치는 영향과 관련된 우려가 끊임없이 제기된다.

앞서 언급한 모든 사례는 기술이 의사 결정을 여러 단계의 흐름을 보충하면서 간혹 대체하기도 하는 거의 모든 업계의 전체 추세를 시사한다. 이와 같은 역동성은 인간이 잠재적인 위험 발생 가능성을 인지하고 있다면, 위험을 일으킬 필요는 없다.

옥스보로우 국장은 “기술은 인간의 의사 결정 수준을 향상하면서 매우 놀라운 심층 분석 정보를 제시한다. 그러나 기술이 지닌 능력이 인간의 능력과 판단력 저하 이유가 되어서는 안 된다. 기술이 더 강력해질수록 인간이 더 예리하면서 영리해져야 대다수 위험성을 예방하면서 대다수 장점을 최대한 활용할 수 있다”라고 말했다.

인공지능(AI) 애플리케이션 증가와 함께 기술 위험과 보상 통제 필요성이 더 큰 곳은 없다. 제대로 된 지침이 없다면, 가장 우수한 수준으로 발전한 AI도 올바른 결과를 생성하는 데 큰 어려움을 겪을 것이다. 구글 X(Google X) 최고 기업 관리자였던 모 가댓(Mo Gawdat) 작가가 저서 『스캐어리 스마트(Scary Smart)』에 “원하는 바를 알지 못한다면, 기계도 인간이 원하는 바를 알지 못할 것이다”라고 언급하면서 지적한 바이기도 하다.

로라 에반스(Lola Evans) PwC 영국의 기술 총괄은 “기술은 훌륭한 동료가 될 수 있다. 그러나 어떠한 기술이든 설계와 개발 과정에 명확한 비전을 제시하고, 기술 활용과 함께 달성하고자 하는 바와 기술 활용법, 기술 활용 성공 시의 모습 등을 이해해야 한다. 명확한 비전과 기술 활용 이해가 제대로 이루어지지 않는다면, 알고리즘 편견 위험성을 운영하면서 부족한 사용자 경험, 결과에 대한 잘못된 신뢰, 결함이 있는 초기 기술 반복을 바탕으로 새로운 기술을 설계할 때 걷잡을 수 없을 정도로 확산되는 문제와 같은 문제가 발생할 수 있다”라고 말했다.

에반스 총괄은 “기술에 요청한 작업을 신뢰하지 않는다면, 기술이 제공한 결과에 대한 적절하지 않은 평가를 하게 될 것이다”라고 말했다.

많은 기관이 AI를 이력서 검토나 대출, 신용카드 신청 과정에 적용하면서 차별과 기관의 명성 피해로 이어질 수 있는 의도치 않은 어려움이 제기될 위험성이 있다. 영국 금융 규제 당국은 이미 은행 기관에 자동화 대출 신청 과정에서 편견 문제를 일으키지 않도록 보장하라는 경고를 한 바 있다. 많은 기관이 빠른 속도를 위해 인간이 주도하는 접근방식에 따라 반대 사항을 예측하고, 적극적인 문제 해결을 보장해야 한다. 

에반스 총괄은 “균형을 맞추어야 한다. AI는 인간이 여러 작업 처리 과정에 필요한 속도와 규모를 제공하지만, 인간은 책임감을 제외할 수 없다. 인간이 발생할 수 있는 과정을 찾아야 하며, 결과의 정확성과 여파를 인정해야 한다. 또, 다양한 경험과 관점을 제공해야 한다. 그렇지 않다면, 업계 단위에 걸쳐 과거의 편견으로 이어진 단일성을 반복할 위험성이 있다”라고 설명했다.

기관의 기술 확인 능력과 효과적인 대응이 없을 때 발생할 기술과 관련된 문제는 무수히 많다.

옥스보로우 국장은 “효율적인 위험 완화의 문제이지만, 혁신 중단 지점이 핵심이 아니다. 그와 반대로 제한이 존재한다는 사실을 인지하고, 기술 적용 방식과 기술 응용 방법을 이해해야 한다. 이에 따라 기술을 신뢰하면서 혁신과 함께 빠른 속도로 진전을 거두어야 한다”라고 말했다.

** 위 기사는 와이어드UK(WIRED.co.uk)에 게재된 것을 와이어드코리아(WIRED.kr)가 번역한 것입니다. (번역 : 고다솔 에디터)

<기사원문>
Balancing act: Why Tech Will Always Need the Human Touch