우버이츠 배달 기사가 우버의 인종차별주의적 안면 인식 소프트웨어가 사람의 얼굴을 인식하지 못해, 해고되었다고 주장한다. 우버의 ‘사진 비교’ 툴이라는 이름으로 알려진 안면 인식 소프트웨어는 배달 기사와 운전기사가 자신의 사진을 촬영해, 우버의 데이터베이스에 보관된 사진과 비교한다.
우버이츠 배달 기사 14명이 와이어드에 우버의 안면 인식 소프트웨어가 얼굴을 제대로 인식하지 못했다는 증거를 공유했다. 모두 자신이 촬영한 셀프카메라 사진이 우버의 안면 인식 소프트웨어 ‘리얼타임 ID 체크(Real Time ID Check)’ 인증을 통과하지 못하자 활동 중단 위협을 받고, 계정이 비활성화되거나 영구적으로 해고당했다. 셀프카메라 촬영 기능이 작동하지 않아 억울하게 해고된 배송 기사도 있다. 노동조합은 우버의 리얼타임 ID 체크 문제가 영국 전역의 무수히 많은 우버이츠 배달 기사는 물론이고, 개인적으로 고용된 우버 운전기사에게까지 피해를 주었다고 주장한다.
수천 번 배송 업무를 하고, 만족도 100%를 기록한 배달 기사 여럿이 자동화되었다는 우버 플랫폼에서 부당함을 호소할 권리가 없는 상태에서 갑자기 퇴출당했다고 말한다. 많은 배달 기사가 우버에 복귀를 요청하는 메시지를 보냈다. 배달 기사 모두 활동 중단 조치가 ‘영구적인 최종 결정’이며, 우버 측의 판단을 이해하기를 바란다는 답변을 받았다.
윌리엄은 셰필드 지역에서 매일 16시간씩 주 6일 우버이츠 기사로 근무했다. 그러나 2020년 10월, 셀프카메라 확인 과정 이후 윌리엄의 계정이 중단됐다. 그는 “온종일 우버에 메시지를 보내려 했지만, 우버는 매번 똑같은 답변을 복사해서 전달하기만 했다”라고 주장했다.
이어, 그는 “우버이츠 배달 기사 일만 하면서 생계를 유지한다. 우버이츠 배달 기사로 활동하면서 번 돈은 청구서와 임대료, 차량 보험료, 식비, 휴대폰 사용료 등 모든 비용을 지출한다”라고 말했다. 또, 윌리엄은 2020년 10월, 갑작스럽게 우버이츠 활동이 막힌 뒤, 임대료를 내기 위해 1,000파운드를 빌릴 수밖에 없었다고 말한다. 윌리엄은 우버에 문제를 공론화한다고 위협하는 서한을 보낸 독립노동자연합(IWGB)에 접촉한 뒤, 우버는 셀프카메라 인증을 통과하지 못한 배달 기사 활동 중단을 철회했다.
우버는 배달 기사가 실시간 셀프카메라 제출 시, AI와 인간 검증 절차 중 하나를 선택할 수 있다고 주장한다. 그러나 여러 배달 기사의 설명에 따르면, 인간 검증 절차를 택하면, 소프트웨어가 범하는 실수를 중단시킬 수 없다고 말한다. 데이비드는 우버이츠 앱에 로그인할 당시, 면접 준비를 위해 면도를 한 상태였다. 이때, 데이비드가 자신의 사진을 제출하자, 우버이츠 앱은 데이비드의 사진이 타인의 사진이라고 주장하며, 데이비드에게 24시간 이내로 자신 대신 근무한 사람의 정보를 제출하지 않으면 우버이츠 활동이 영구 중단될 수 있다고 경고했다.
데이비드는 “공식적인 방식으로 문제를 해결하고자 했지만, 우버는 대신 활동한 인물의 정보를 제공하는 방법만 설명했다. 우버의 실수임이 분명하다”라고 말했다. 기자가 우버 언론 보도 팀에 데이비드의 계정 영구 금지 조치를 중단할 것을 요청했지만, 많은 배달 기사가 데이비드처럼 운이 좋게 원래대로 우버이츠 활동에 복귀할 수 없었다.
윌리엄과 데이비드는 다른 배달 기사와 마찬가지로 자신과 우버이츠의 계약을 이용해, 다른 사람과 불법 하도급 계약을 체결했다는 비난을 받았다. 우버이츠 배달 기사는 독립 계약자라는 지위에서 자신의 업무에 대해 하도급 계약을 체결할 수 있다. 그러나 이력이 확인되지 않았거나 합법적인 근무를 할 수 없는 이와 계약을 하게 될 수 있다는 우려가 제기되었다. 2020년 4월, 하도급 계약 관련 문제를 멈추기 위해 우버는 배달 기사가 앱을 실행할 때, 인증 절차를 추가했다. 배달 기사와 운전기사가 셀프 카메라를 촬영해, 자신이 직접 로그인했음을 인증해야 한다.
[사진=Freepik]
우버는 배달 기사가 자신의 사진을 제출했을 때, 마이크로소프트의 안면 매칭 소프트웨어를 이용해 배달 기사의 신원을 확인한다. 그러나 안면 매칭 소프트웨어는 피부색이 어두운 인물의 얼굴을 정확히 인식하지 못한 이력이 있다. 2018년, 우버가 사용하던 마이크로소프트의 안면 매칭 소프트웨어와 비슷한 소프트웨어의 흑인 여성 안면 인식 정확도가 다른 인물보다 20.8% 더 낮은 것으로 드러났다. 또, 우버이츠 배달 기사 중, 절대다수인 유색인종 남성과 같이 피부색이 어두운 남성의 얼굴 인식 정확도 오차가 6%인 것으로 발생했다. 반면, 백인 남성의 얼굴 인식 오차는 0%였다.
안면 인식 시스템 189종을 분석한 어느 한 연구에서 모든 시스템이 유색인종 인물의 인식 능력이 떨어지며, 간혹 10~100가지 요소를 정확히 구분하지 못하는 것으로 확인됐다. 또, 연구실에서 이루어지는 안면 인식 시스템 구축 작업이 항상 실제 세계를 바탕으로 이루어지지 않는다는 사실도 드러났다. 우버 기사가 촬영한 셀프카메라는 화질이 낮은 오래된 휴대폰에서 촬영한 것이며, 종종 조명 상태가 좋지 않을 수 있다. 모두 안면 인식 시스템 훈련을 위해 제작된 전문 스튜디오 이미지와 매우 다른 조건이다.
안면 인식 소프트웨어를 전문적으로 연구하는 에섹스대학교 사회학자인 피터 퍼시(Peter Fussey) 교수는 “모든 인종의 얼굴을 똑같이 정확하게 인식하는 안면 인식 소프트웨어는 없다. 모든 인종의 안면 인식 정확도가 똑같은 기술은 존재하지 않는다. 안면 인식 기술을 이미 불평등한 환경에 적용한다면, 불평등한 상황을 악화하면서 인종적 불평등 문제를 심화시키기만 한다”라고 지적했다.
우버 대변인은 우버가 ‘잠재적인 사기’를 방지하기 위해 검증 확인 작업이 필요했다고 강조했다. 이어, 근로자를 플랫폼에서 퇴출하는 과정은 항상 수동적인 인간의 검토를 통해 판단하며, 우버 플랫폼에서 퇴출당한 이는 누구나 우버에 직접 연락해 항의할 수 있다고 밝혔다. 그러나 우버 대변인은 검증 시스템의 정확도를 면밀히 분석하기 위한 감사 활동을 한 적이 있는가 묻는 말에는 답변하지 않았다. 또, 마이크로소프트도 자사의 안면 인식 소프트웨어의 인식 실패율 관련 질문에 답변하지 않았다.
IWGB 회장 알렉스 마셸(Alex Marshall)은 “배달 기사나 운전기사가 근무할 때, 가장 우려하는 부분이 안면 인식 소프트웨어의 인증 오류 문제이다. 또, 갈수록 더 많은 유색인종 근로자가 피해를 본다는 사실을 분명히 확인했다. 간접적인 인종차별 행위임이 틀림없다”라고 말했다. 이어, 그는 많은 운전기사가 우버에서 일일 권리를 잃게 된 후, 임대료나 청구서를 지불할 수 없어 푸드뱅크나 쉼터에 의존하게 된다고 말한다. 마셸은 어느 한 운전기사가 어쩔 수 없이 무덤 인근에 텐트를 치고 생활할 수밖에 없는 사연도 있었다고 말했다.
IWGB는 긱 경제 배달 기사를 해고 문제에서 보호할 법적 틀이 없어, 법원에서 사건을 다루기 힘들다고 주장한다. 그러나 각각의 사건마다 해고 철회를 위해 싸우고, 의회에서 우버와 같은 앱 기반 운전기사 및 배달 기사의 해고 문제 해결을 위한 얼리 데이 모션(Early Day Motion)이 이루어지도록 추진했다.
우버는 이미 안면 인식 기술 사용 문제로 피소됐다. 2019년, 미국의 어느 한 흑인 운전기사가 우버를 상대로 소송을 제기하며, 셀프카메라 인식 소프트웨어가 자신의 매우 어두운 얼굴을 인식하지 못해, 강제로 사진을 밝게 조정한 뒤 해고됐다고 주장했다.
와이어드가 이야기한 우버이츠 기사 모두 직접 하도급 계약을 한 적이 없으며, 또 하도급 계약을 체결한 다른 기사를 알지 못한다고 밝혔다. 그리고, 우버이츠 기사로 일하면서 버는 소득이 적기 때문에 하도급 계약을 하는 것이 실질적으로 말이 안 된다고 주장한다. 마셸 회장은 “우버에 해고된 IWGB 회원 대부분 주당 60시간 근무해도 입에 풀칠하기 어려운 수준이었다. 그런데, 배달 기사가 자신의 계정을 다른 사람에게 빌려줄 여력이 있었을까?”라고 말했다.
불법 하도급 계약이 우버와 같은 앱 기반 근로자의 문제가 된 것은 규제 때문이다. 런던에서 우버의 개인 고용 택시 허가 운영을 재개하기 위한 계획의 일환으로 런던 교통 공사(TfL)는 우버에 불법 하도급 계약을 단속해, 무허가 운전기사로부터 고객을 보호하라는 압력을 가했다.
우버의 안면 인식 신원 확인 시스템은 우버 근로자뿐만 아니라 자매사인 우버이츠의 근로자에게도 똑같이 적용된다. TfL 대변인은 2018년 말부터 2019년 초까지 런던의 권한이 없는 우버 기사 43명이 총 1만 4,000회 차량을 운행한 사실과 함께 치안 판사도 TfL이 우려하는 우버의 사기 문제를 지지한 사실을 강조했다. 비판적인 견해를 지닌 이들은 권한이 없는 우버 기사 43명은 당시 런던에서 활동하는 우버 기사 4만 5,000명 중 극소수에 불과하다고 지적했다.
한편, 안면 인식 시스템을 이용한 근로자 신원 확인 시스템의 적용 영역을 확장하는 기업은 우버뿐만이 아니다. 2020년 12월, 경쟁사인 볼트(Bolt)는 1억 5,000만 유로의 자금을 육성해, AI를 구축하고 우버와 비슷한 운전자의 안면 신원 확인 기능을 도입했다.
![[사진=Freepik]](/news/photo/202103/2967_3958_441.jpg)
뉴스레터 신청