샤히드(가명)는 코로나19 발병 후 주 6일간 우버 기사로 일하기 위해 차를 끌고 버밍엄 일대 거리를 운전했다. 샤히드는 지난 5년간 우버 앱 내에서 자신의 프로필을 쌓아갔다. 고객 평점 4.96점을 받아 골드 드라이버 지위를 얻었다. 최대한 많은 탑승 요청을 받은 덕분이다. 그러나 8월 초 어느 아침, 샤히드는 일을 위해 우버 계정에 접속할 수 없었다.
탑승객을 받을 기사와 기사가 받을 요금 등을 관리하는 우버 알고리즘은 '지속적인 부적절한 사용 패턴'을 감지했으며, 이 때문에 우버는 샤히드를 시스템에서 차단했다. 샤히드는 우버에 항의할 수 없었다고 주장한다.
또한, 우버가 샤히드에게 문제를 자세히 설명하기를 거부했다고 전했다. 우버 측에서 샤히드에게 보낸 메시지에 적힌 내용은 다음과 같았다. "자세한 부분을 설명할 수 없습니다. 그러나 탑승객을 동시에 받거나 운전 면허증을 동시에 사용하는 행위, 복수 계정 생성, 고객을 받을 의도가 없었음에도 탑승을 수락하는 행위, 부적절한 과다 요금 청구, 우버 드라이버 앱 및 상세 이동 내용 조작에 영향을 미칠 의도로 소프트웨어를 설치하고 사용한 행위 등이 부적절한 행위에 해당합니다."
“위의 사항 때문에 우버는 귀하와의 협력 관계를 끝내기로 결정했습니다. 귀하는 더 이상 우버 앱으로 서비스를 제공할 수 없습니다.”
우버의 이용 약관 상 샤히드는 사기 행위를 저지른 기사라고 볼 수 있다. 샤히드는 어떠한 부정 행위도 저지르지 않았다며 부인한다. 그러나 샤히드가 우버의 결정에 항의할 수 있는 방법은 없다. 샤히드는 순식간에 소득의 70%를 잃었다. 이후 또 다른 차량 공유 플랫폼인 올라(Ola)에만 의존하며 간신히 생활비를 벌고 있다.
[사진=Unsplash]
다른 기사도 샤히드와 같은 일을 겪었다. 2019년 7월, 샤히드가 우버에서 차단되기 1년 전, 알리(가명)는 런던에서 일을 시작하기 위해 휴대폰을 켰다. 그런데, 갑자기 우버 앱에 접속이 불가능한 문제를 겪었다. 당시 우버는 이용 약관을 위반했다는 이유로 알리의 계정을 차단했다. 우버가 보낸 메시지에는 다음과 같이 적혀있었다. "귀하의 최근 고객 리뷰를 보고 여러 차례 사기 행위와 관련된 부정 운행 사례가 발생했음을 확인했습니다."
"귀하의 계정은 사용 부적절한 계정으로 조치됐고, 이에 따라 계정이 비활성화됐습니다. 안타깝지만 귀하의 계정은 영구적으로 비활성화됩니다."
네 자녀를 둔 알리는 우버의 실수라고 주장하며 샤히드처럼 부정행위를 하지 않았다고 부인했다. 알리는 우버 기사로 풀타임 근무를 했으며, 우버 시스템에서 차단 당하기 한달 전 2만 9,000파운드(약 4,252만 6,200원)를 차량에 투자했다고 말했다. 알리는 우버에게 자신의 고객 평점이 높아 대형 차량을 운행할 수 있다는 안내를 받았다고 말한다. 알리는 우버에서 차단당한 후, 자신이 사용할 수 없는 차량 투자 금액을 상환해야 하는 처지에 꼼짝없이 놓였다고 말한다. 알리는 "저는 지난 1년 반 동안 우버에 50~60번 메일을 보냈어요. 저는 경제적으로 어려운 상황에 놓여있어요. 우버에 계속 요청했지만, 지금까지 아무 답변도 못 받았어요"라고 말한다.
샤히드와 알리는 이번 주, 알고리즘을 통해 자동 해고한 문제로 우버 집단 소송에 가담한 우버 기사 네 명이 속한 집단의 일원이다. 소송에 가담한 영국인 세 명과 포르투갈인 한 명으로 구성된 네 명의 기사들은 우버가 자신들을 해고한 사실을 입증할 증거를 공유한 적이 없다. 우버는 경찰에 사기 행위를 했다는 이유로 네 명의 기사들을 신고하지 않았다.
우버의 데이터가 보관된 네덜란드에서 담당하게 된 법적 보상 청구 내용은 법원에 우버 기사들을 해고한 알고리즘의 결정을 번복해야 한다고 주장한다. 또한, 우버가 원고들과 관련해 수집한 정보를 공유해야 한다는 점과 기사들을 해고하는 데 이용한 정보를 공유하도록 명령을 내려야 한다고 주장한다. 소장에는 이번 소송을 제기한 우버 기사 네 명의 이름이 적혀있지 않다. 와이어드에 자신들의 이야기를 한 기사들은 이름을 익명 처리한다는 조건으로 우버와 있었던 일을 설명했다.
이번 소송은 GDPR 제 22조 적용 문제 때문에 처음 제기된 소송이다. 2018년, 유럽연합이 도입한 GDPR은 사용자 데이터를 보호하며, 유럽 시민들이 알고리즘이 독자적 및 독단적으로 사용자와 관련된 결정을 내렸다고 판단할 경우 정보를 요청할 수 있다는 내용을 담은 법률이다.
이번 우버 집단 소송에서 원고가 승소한다면 이와 비슷한 각종 법적 문제가 제기될 수 있다. 우버에 해고된 기사 네 명을 대신해 소송을 제기한 앱 운전기사 및 배송 기사 노동조합(ADCU)은 2018년부터 운전기사 1,000여 명이 사기 행위 혐의를 범했다는 잘못된 판단을 받고, 항의할 권리조차 없이 즉시 계정 중단 조치를 당했다고 주장한다.
ACDU 기사 대표인 제임스 파러(James Farrar)는 우버가 인간의 '의미 있는' 개입 행위를 입증할 수 있는 방법이 없다고 말한다. 우버는 사용자 문의 응답에 자동으로 답변을 보냈기 때문이다.
파러의 주장은 우버를 상대로 제기한 소송의 핵심이다. 정보위원회(Information Commissioner)는 인간의 결정을 지지하고 강화하기 위한 목적으로만 사용되는 인공지능 시스템이 이러한 사용 조건의 주체가 될 수 없다고 설명한다. 그러나 이러한 결정은 GDPR 제 22조 적용 범위에 해당한다. 인간이 결정을 내리는 과정을 자동화했기 때문이다. 또, 인공지능 시스템을 운영하려면 인간의 행동이 필요하기 때문이다.
정보위원회와 유럽데이터보호이사회(European Data Protection Board) 모두 인간 검토자가 시스템의 권고사항을 적극적으로 검토해야 하며, '일상적으로' 자동화된 권고사항을 개인에게 적용해서는 안 된다고 밝혔다. 게다가 인간의 활동은 형식적인 활동이 아닌 적극적인 활동이어야 한다고 강조했다. 지침 내용에 따르면, 권고사항에 반하는 권한 및 완료를 포함한 결정에 인간이 실질적인 영향력을 행사해야 한다.
그러나 이러한 불만사항은 우버의 알고리즘에 적용된 새로운 정보를 고려하지 않았다. 파러는 우버가 2019년, 런던 교통 공사(TfL)와 함께 면허 발급 문제 해결을 위해 실시간 ID 검증 기술을 도입한 이후 자동화된 운전기사 해고 사례가 증가했다고 주장한다. 파러는 TfL이 운전기사 해고 과정에 개입됐다고 설명한다. TfL이 우버에 실시간 검증을 실시하도록 추진해, 결과적으로 우버에 결함이 있는 기술을 성급히 사용하고 기존의 문제를 악화시키도록 만들었기 때문이다. TfL은 이에 대한 답변을 거부했다.
실시간 ID 기술은 주기적으로 신원 검증을 위해 운전 기사들에게 자신의 사진을 촬영하도록 요청한다. 운전 기사가 촬영한 셀카로 계정 소유주의 프로필 사진과 동일한지 확인한다. 이후 운전면허증과 비교해 신원을 확인한다. 운전 기사가 신원 검증 과정을 통과하지 못하면, 해당 기사의 계정은 일시적으로 사용 중지돼 추가 검증 절차를 기다려야 한다. 그리고는 무기한으로 계정 사용이 중단된다.
TfL은 이러한 신원 검증 절차에 만족하지 못해, 우버의 런던 운영 권한을 빼앗았다. 우버 기사 43명이 가짜 우버 계정을 이용해 1만 4,000회 이상 차량 공유 서비스를 제공했다는 이유 때문이다. 가짜 우버 계정으로 활동한 기사 41명은 TfL에서 우버 기사 활동 취소 처분을 받았다. 이후 우버는 TfL을 상대로 항소를 제기해, 18개월간의 운영 권한을 얻었다. 9월 28일, 재판부는 우버와 TfL의 합의 과정이 개선됐다고 발표했다. 법원은 우버가 자사 플랫폼의 고객 안전 조치를 개선시킨 점에 만족감을 드러냈다.
그러나 우버와 TfL 간의 합의 과정이 오랫동안 우버 알고리즘의 불투명성에 대한 불만을 표출해온 우버 기사에게 그 범위가 확장될 필요가 없다. 알고리즘이 우버 기사로 일을 할 수 있는 이들과 우버 기사의 수당, 부적절한 행위 및 늦은 도착 문제와 같은 문제를 고려해 우버 기사 평점 결정 등을 지지한다.
2020년 1월, 우버는 영국 우버 기사들을 위한 로열티 제도를 도입해, 운행 1회당 누적된 포인트를 이용해 무상 교육과 도로 지원, 체육관 멤버십, 차량 유지비 할인 등 혜택을 제공했다. 운전기사는 다음과 같이 레벨에 따라 운행을 할 수 있었다. 기본 단계인 블루 레벨, 골드 레벨(런던 500점 이상, 그 외 지역 600점 이상), 플래티넘 레벨(런던 900점 이상, 그 외 지역 1,200점 이상), 그리고 다이아몬드 레벨(런던 1,300점, 그 외 지역 1,800점 이상)로 구성됐다. 우버 기사들은 알고리즘이 승객 탑승 결정에 사용되는 시스템에서 어떤 식으로 정보를 사용하는지 모른다고 말한다.
기사들이 우버의 로열티 제도 참여를 원하지 않을 때에는 어떤 일이 발생하는지도 확실하지 않다. ADCU는 우버의 커뮤니티 가이드라인을 지적했다. 사기 행위를 한 운전 기사에게 제공되는 탑승 요청 감소 정도와 의도적으로 더 높은 가격을 기다리기 위해 전략적으로 로그아웃하는 행위 등을 정의한 가이드라인이다. ADCU는 실적 관련 해고를 사기와 관련된 해고로 은폐하는 방식으로 기사들의 권리에 대한 의무를 저해한다는 이유로 우버를 비난한다.
코로나19 시대에 우버 앱에서 차단된 기사들은 손실된 소득을 충당하는 데 어려움을 겪는다. 우버를 상대로 한 집단 소송에 가담한 세번째 우버 기사인 라비(가명)는 "우버에서 계정 차단 조치를 당했을 때, 저는 볼트(Bolt)와 올라, 프리나우(FreeNow) 소속 기사로도 일하고 있었어요. 코로나19 때문에 매우 끔찍했죠. 새벽 5시부터 오후 2시까지 일을 해도 벌어들이는 수입이 27파운드(약 3만 9,600원) 밖에 되지 않아요. 코로나19 이전에는 훨씬 더 많이 벌었죠. 하루에 150파운드(약 22만 원)~200파운드(약 29만 3,300원) 정도 벌었어요"라고 말한다.
우버 계정을 차단당한 런던의 우버 기사들은 14일 이내로 TfL에 우버 기사 활동 권한을 유지해야 하는 정당한 이유를 설명해야 한다. 그러나 우버 기사들은 어떤 이유로 차단이 됐는지, 그리고 어떤 식으로 억울함을 입증해야 하는지 모른다. 이번 주 제기된 GDPR 소송에 가담한 우버 기사 두 명은 이번 여름, 우버에서 차단당하고 각각 1년과 2년이 지난 뒤 TfL에서 연락을 받았다고 밝혔다.
파러는 "규제 감시 정도가 약한 것이 문제죠. 기사에게 몇 년 전 겪은 차단 조치에 대해 물어보는 것은 현명하지 못한 법률 집행 절차입니다. TfL은 기사들의 근로 조건을 무시하면서 실제로 규정 준수 문제도 악화시키고 있어요"라고 주장한다.
![[사진=Unsplash]](/news/photo/202011/2468_3484_2655.jpeg)
뉴스레터 신청