By ALBERT FOX CAHN, EVAN SELINGER, WIRED US

이제 코로나19에서 막 회복하기 시작했으며 수백만 명이 여전히 실직 상태인 상황에서 미 의회는 주 보조 계획 비용을 추가하는 실업 수당 혜택 지급 범위 확대를 공식 승인했다. 현재 이어지는 코로나19 위기 사태 동안 경제적 어려움에 시달리는 미국인 지지 강화는 칭찬할 일이지만, 악의적인 의도를 지닌 이들 때문에 실업 사기가 심각한 문제가 되었다. 안타깝게도 감시를 통한 사기 중단 방안을 모색하는 많은 주가 편견을 지닌 시스템을 설치하고 있으나 사기 방지라는 긍정적인 방향으로 작용하기보다는 피해를 주고 있다. 예측할 수 있다시피 실업 사기 방지 시스템이 문제를 일으키고 있다. 시스템의 실수가 발생할 때마다 주로 유색인종과 원주민, 트랜스젠더, 성 정체성이 확실히 확인되지 않은 미국 시민이 부당한 대우를 받는다.

21개 주가 실업 수당 신청자와 실제 수급자가 같은 사람인지 판단하기 위해 컴퓨터 비전을 사용하는 첨단 생체 ID 검증 서비스의 도움을 받는다. 사용자가 안면 인식 기능으로 휴대폰 잠금 해제를 할 때 사용하는 것과 똑같이 소프트웨어가 사용자의 얼굴 특성이 휴대폰에 저장된 인물의 얼굴 정보와 똑같은가 결정하는 1대 1 매칭 과정을 거친다. 그러나 안면 검증이 소비자 기기에 보편적으로 사용되지만, 정부 서비스에 활용되는 사례는 상대적으로 드물다. 정부 서비스에 안면 검증 시스템이 적용되는 사례는 거의 없어야 한다.
 
좀처럼 사라지지 않을 각종 논란 대다수가 안면 인식 기술에 중점을 두기 때문에 안면 검증은 피해를 전혀 일으키지 않는다고 생각할 수도 있다. 경찰은 도주하는 용의자의 모습을 머그샷이나 운전 면허증 사진이 포함된 데이터베이스와 대조할 때, 안면 인식 기술을 사용한다. 이때, 알고리즘이 경찰이 찾은 용의자의 모습과 기존 데이터베이스의 이미지를 매치해 용의자를 찾는다. 안면 인식 기술에 의존한 문제 때문에 결국 경찰은 아무 문제가 없는 흑인 최소 3명을 부당하게 체포했다. 이처럼 경찰이 시민을 부당하게 체포한 사례는 더 발생했을 확률이 높다.

그러나 안면 검증도 편견 문제를 일으킬 수 있다. 캘리포니아주에서 이미 발생한 사례처럼 검증 실수가 발생했을 때, 과거의 불균형한 성별과 인종 인구 정보를 중점으로 두었다. 실업 수당 계획 사기로 혜택을 누리는 것과 관련, 정부의 안면 검증 시스템 의존도 문제는 유색인종과 트랜스젠더, 성 정체성이 확정되지 않은 실업 수당 신청자의 수급이 늦어지거나 심지어 거부당할 위험성을 더 키운다. 이처럼 특정 집단을 대상으로 한 차별이라는 결과는 실업 수당 지급 체계 운영이나 개인의 생계유지를 어렵게 만들 수 있다. 최악의 상황이라면, 편견을 지닌 알고리즘이 취약 계층의 신원을 회의적으로 보기 때문에 법률 집행 기관이 영장을 발급하지 않고 개인의 데이터에 접근하게 된다. 이 때문에 결과적으로 부당한 체포와 기소, 결함을 지닌 알고리즘 테스트를 통과하지 못한 개인에 대한 정부의 부당한 대응 문제가 발생할 수 있다.

안타깝게도 여러 정부 기관이 계속 알고리즘적 부당함이 영구적으로 발생할 조건을 만든다는 사실을 예측할 수 있다. 2013년, 미시간주 정부가 자체적으로 통합 데이터 자동화 시스템을 배포했을 당시 실업 사기 사건을 실제보다 5배 더 많이 분류하고는 총 6,500만 달러 상당의 벌금과 수수료를 청구했다. 당시 밝혀진 바와 같이 소프트웨어는 신뢰할 수 없었다. 해당 시스템은 미시간주 주민 수만 명을 실업 수당 사기 신청자로 잘못 분류했으며, 인간은 자동화된 판결을 제대로 검증하지 않고 승인했다. 결국 파산이나 그보다 더 심각한 문제가 발생했다.

미국 온라인 신원 네트워크 ID.me와 같은 스마트폰 앱 의존성이 증가하면서 디지털 분열 위험성도 커졌다. 저소득층과 노인 다수가 단순히 카메라와 웹 브라우저를 사용할 수 있는 스마트폰이 없다는 이유만으로 기본 정부 서비스에 접근하지 못하도록 차단된다.

생체 분석 확대와 함께 두 번째로 심각한 피해를 주는 위협이 있다. 안면 검증 사용은 갈수록 신체를 정부 ID의 형태로 사용할 것이라는 예측이 일반화되도록 만든다. 정부가 안면 검증 및 인식 기술을 적극적으로 받아들일 때마다 더 끔찍한 문제가 발생하는 순간이 생겨난다.

그러나 한 가지 희소식이 있다면, 실업 수당 사기를 막는 데 생체 인증 기능이 필요하지 않다는 점이다. 여러 가지 다른 대안이 존재한다는 사실을 인지하기 위해 미국에는 보안 수준이 안전한 디지털 ID 시스템이 없다는 중대한 문제를 인정해야 한다. 패치워크 대응은 일부 시스템이 개인의 사회 보장 번호 일부 혹은 전부를 사용할 수 있음을 의미한다. 그러나 여기서 사회 보장 번호가 해커에게 가치 있는 공격 표적으로 전락하는 결과를 낳을 수 있다. 신용카드 거래와 신용 이력을 사용하는 시스템도 있다. 그러나 이는 특히, 미국 710만 가구가 은행 계좌를 보유하지 않았다는 사실을 고려하면, 오류가 발생할 확률이 높으면서도 포괄성이 낮다.

보안 암호화 키가 함께 제공되는 운전 면허증이나 주 신분증 등 안전한 신원 증명서가 필요하다. 안전한 신원 증명서와 함께 사용자는 편견과 소름 끼치는 감시 때문에 문제를 일으키는 자동화 시스템에 등록할 필요 없이 정보 인증을 할 수 있다. 완벽한 해결책은 아니지만, 누군가를 감시해서는 안 된다. 감시를 가능하게 만드는 시스템은 누구나 소유해야 하는 보장 ID와 같이 언제든지 개인의 신원을 결정적으로 입증하도록 만드는 신분증명서를 대규모 감시 수단으로 만들 수 있다. 개인 정보 보호를 위한 증분식 디지털 ID 전략을 채택한다면, 사기로 부당한 혜택을 누리는 사례와 다양한 형태의 신원 탈취 위험성을 줄이는 동시에 프라이버시와 형평성, 시민권을 보호할 수 있다.

** 위 기사는 와이어드US(WIRED.com)에 게재된 것을 와이어드코리아(WIRED.kr)가 번역한 것입니다. (번역 : 고다솔 에디터)

<기사원문>
Facial Verification Won't Fight Fraud