By VARSHA BANSAL, WIRED UK

인도 법률 집행 기관이 대규모 안면 인식 기술을 적용하기 시작했다. 델리 경찰국은 지난 몇 년간 인도 북부 지역에서 이어진 시민 소요 사태에 개입한 이들의 신원을 확인할 방법을 모색하며, 안면 인식 기술 사용을 위한 기술의 정확도 기준을 80% 이상으로 정하는 방안을 고려한다고 밝혔다. 이 같은 사실은 인터넷 자유 재단(Internet Freedom Foundation)이 공개 기록 요청을 통해 델리 경찰국 문건을 입수하면서 알려진 사실이다.

뉴델리에 안면 인식 기술이 적용된 사실은 인도 법률 집행 기관 소속 관료가 안면 인식 기술을 잠재적인 기소 증거로 이용하는 범위가 넓어졌음을 시사한다. 이에, 프라이버시 옹호 단체와 시민 자유 단체 관계자 모두 새로이 경각심을 제기했다. 뉴델리 관료는 경찰이 사용할 안면 인식 기술의 정확도 기준을 80%로 정했다. 비판 세력은 안면 인식 결과가 불러일으킬 수 있는 여파를 고려했을 때, 인식 정확도가 80%인 안면 인식 기술은 사실상 임의로 인식 결과를 제공하므로 정확도 기준이 너무 낮다고 지적한다. 인도에는 포괄적인 데이터보호법이 없다는 사실도 더 큰 우려를 낳는 부분이다.

더 나아가 경찰국의 문건은 안면 인식 기술의 정확도가 80% 미만이더라도 부정 반응이 아닌 ‘거짓 긍정’ 결과로 고려할 수 있다는 내용을 명시했다. 안면 인식 기술이 제시하는 결과를 입증하는 다른 증거가 검증하는 바 때문에 개인이 기소 대상이 될 수 있다는 의미이다.

경찰국 문건 공개 요청을 한 인터넷 자유 재단의 감시 및 기술 정책 상담 부국장 아누쉬카 자인(Anushka Jain)은 “안면 인식 기술이 자체적으로 정확도 한계를 판단한 결과를 제공하지 않더라도 경찰이 임의로 수사를 이어갈 수 있다는 의미이다”라고 말했다. 자인 부국장은 이어서 “안면 인식 기술이 단지 경찰이 수사하고자 하는 인물과 외모가 비슷하다고 판단했다는 이유만으로 개인이 경찰의 수사 및 기소 대상이 될 수 있다”라고 지적했다. 이어서 델리 경찰국이 과거부터 법률 집행 기관의 표적이 된 지역사회 구성원을 계속 괴롭힐 수도 있다고 덧붙였다.

델리 경찰국은 인터넷 자유 재단의 기록 요청에 유죄 판결을 받은 이와 범죄자 사진을 이용해 안면 인식 기술을 실행한다고 주장했다. 또한, 안면 인식 기술의 판단 결과를 증거로 이용할 수 있다고 덧붙여 전하면서도 자세한 내용 설명은 거부했다. 다만, 인물 비교 결과가 일치할 때는 경찰 관료가 추가 증거 조사를 시행한 뒤 법적 행동을 이어간다고 전했다. 델리 경찰국은 와이어드팀이 메일로 보낸 문의에 답변하지 않았다.

안면 인식 기술의 합법성을 연구한 디비즈 조시(Divij Joshi)는 안면 인식 기술을 인정할 정확도 기준이 80%라면, 안면 인식 기술 자체가 사실상 무용지물이라고 말했다. 조시는 안면 인식 기술의 정확도가 특정 벤치마크 데이터세트에 반한 안면 인식 기술 모델 테스트 상태에 크게 의존한다고 말했다.
 
유니버시티 칼리지 런던의 박사 후보생인 조시는 “안면 인식 기술이나 머신러닝 시스템의 정확도는 보통 훈련 데이터로 개발한 모델과 벤치마크 데이터 세트의 데이터 검증 비교 결과를 기준으로 판단한다. 훈련 데이터를 변경하면, 서드파티 데이터세트에 대한 벤치마크 결과는 약간 다른 데이터세트를 제공한다”라고 말했다. 조시는 벤치마크는 일반적으로 안면 인식 정확도 비율을 계산하는 데 활용한다고 언급했다.

안면 인식 모델이 인종 차별을 한다는 증거는 오랫동안 문제가 된 부분이다. 다양한 변수가 안면 인식 시스템의 정확도에 영향을 미칠 수 있으나 경찰 관료가 사용하도록 보급된 기술의 전체 정확도가 80%인 것은 매우 이상하다고 주장할 수 있다. 미국 표준기술연구소(NIST)가 발표한 2021년도 연구는 여행자의 사진을 포함한 데이터베이스에 여행자 얼굴을 단 한 번 스캔하는 안면 인식 시스템의 정확도가 99.5% 이상임을 입증한다. 그러나 다른 여러 연구는 피부색이 어두운 여성의 얼굴 인식 정확도가 최대 34.7% 하락한다는 사실을 발견했다.

델리 경찰국이 안면 인식 기술을 대대적으로 사용하기 시작한 때는 2019년 12월 공식 발표된 정부의 시민권개정법(Citizenship Amendment Act) 반대 시위 도중 발생한 폭력 사태 용의자를 조사한 2020년이다. 해당 사건을 다룬 문건은 델리 경찰국이 시민 소요 사태 세 차례를 조사하는 과정에 안면 인식 기술을 사용했다는 사실을 밝힌다. 시민 소요 사태 조사 중 안면 인식 기술을 사용한 때 중 한 번은 총 750회에 걸쳐 안면 인식 기술을 사용했다. 해당 문건은 안면 인식 기술이 실종자와 신원을 알 수 없는 시신의 신원 파악 시 널리 사용하는 기술이라는 설명을 덧붙였다. 인도 정부 기관이 안면 인식 기술을 사용한 또 다른 주요 사례는 전 세계에서 감시 수준이 가장 심각한 곳 중 한 곳인 인도 남부 텔랑가나주의 안면 인식 기술 사용 활성화 사례이다.

법률 집행 기관의 안면 인식 기술 사용 사례는 세계 여러 지역마다 차이가 크다. 중국은 세계 최대 안면 인식 시스템을 갖춘 것으로 널리 알려졌으나 최근 몇 년간 감시 수준이 매우 심각해졌다. 2020년, 영국 고등법원은 영국 경찰의 안면 인식 기술 사용이 불법이라는 중대한 판결을 내렸다. 하지만 비교적 최근, 런던경찰청(London Metropolitan Police)은 2년 만에 최초로 공개적인 안면 인식 기술 운영을 발표했다. 반면, 유럽연합은 유럽 대륙 전 영역에 걸쳐 안면 인식 기술 적용 범위가 넓어지자 회원국 경찰 기관이 자국 데이터베이스와 연결하도록 인정하는 법안을 발의했다. 미국은 20여 개 주, 지방 정부 등이 경찰의 안면 인식 기술 사용을 금지했으나 일부 주에서는 서서히 안면 인식 기술을 다시 사용하는 추세이다.

** 위 기사는 와이어드UK(WIRED.co.uk)에 게재된 것을 와이어드코리아(WIRED.kr)가 번역한 것입니다. (번역 : 고다솔 에디터)

<기사원문>
The Low Threshold for Face Recognition in New Delhi