By KHARI JOHNSON, WIRED US

2021년, 마리 루이스(Mary Louis)는 매사추세츠주 몰든 지역의 그라나다 하이랜드(Granada Highlands)의 어느 한 아파트 임차 신청 양식을 제출했다. 루이스는 완벽한 시설을 갖춘 화장실 2개와 수영장을 갖추었다는 전제 조건에 따라 임대 신청 양식을 제출한 곳에 만족했다. 그러나 임대 기업 측이 루이스의 아파트 임차 신청을 거부했다. 부동산 임대 관리 플랫폼 세이프렌트(SafeRent)가 개발한 세입자 점수 평가 알고리즘이 책정한 루이스의 점수 때문이다.

루이스는 어떠한 의도적인 영향 없이 지난 16년간 정해진 기간에 맞추어 엄격하게 임대료를 철저하게 관리했다는 참조 문서를 제출했다. 대신 루이스는 범죄율이 높은 지역의 월세가 200달러 더 비싼 다른 아파트를 구했다. 하지만 2022년 5월, 루이스와 다른 사용자 몇 명이 제기한 집단 소송은 세이프렌트가 흑인과 히스패닉 세입자 차별을 강화하는 신용 보고 정보 일부분을 기준으로 세이프렌트 점수를 책정하는 행위가 공정주택법(Fair Housing Act) 위반이라고 주장한다. 획기적인 법안인 공정주택법은 인종이나 장애, 종교, 출신 국가를 기준으로 한 차별을 금지하는 법률로, 1968년 마틴 루터 킹 주니어의 암살 후 단 일주일 만에 미 의회를 통과한 법률로도 알려졌다.

루이스의 집단 소송 사건은 여전히 계류 중이다. 그러나 미국 법무부는 2023년 1월, 법원에 제출된 법률 문서를 이용해 임대인과 임차인 검토 알고리즘 제조사에 경고했다. 세이프렌트는 알고리즘의 임대인 검토가 공정주택법 적용 대상이 아니라고 주장했다. 그 근거로 알고리즘이 평가하는 점수는 임대인에게 조언을 건네면서 별도의 판결을 내리지 않기 때문이다. 주택 및 도시재개발부와 함께 합동으로 제출한 법무부의 문서는 알고리즘의 점수 평가 행동과 관련 사건 법률이 모호하지 않다는 근거로 세이프렌트 측의 주장을 기각했다.

법무부 시민권부 국장 크리스틴 클락(Kristen Clarke)은 공식 성명을 통해 “알고리즘과 데이터를 사용해 임차인을 평가하는 임대인과 임차인 검토 기업이 유색인종의 공정한 주택 접근 기회를 불평등하게 거부할 때 법적 책임에서 자유로울 수 없다”라고 발표했다.

기업과 정부의 여러 영역과 마찬가지로 주거 업계에서도 인간을 평가하여 점수를 부여하는 알고리즘 채택이 갈수록 보편화되는 추세이다. 그러나 세이프렌트 마케팅 자료가 제시하는 바와 같이 효율성 개선이나 더 나은 임차인 식별 능력을 주장하더라도 임차인 검토 알고리즘은 수십 년 동안 시민권 법률이 존재했지만, 역사적으로 끊임없이 존재했던 차별에 일조한다. 2021년 전미경제연구소(US National Bureau of Economic Research)가 발표한 연구 논문은 임대인 8,000여 명에게 적용된 다른 집단과 관련된 이름을 이용한 봇을 활용했을 때 특히 흑인을 중심으로 유색인종 임차인 차별이 심각하다는 사실을 발견했다.

법무부 시민권 전문 변호사 출신인 볼티모어대학교 법학 교수 미셸 길만(Michele Gilman)은 “알고리즘의 차별 문제를 심각하게 받아들인다는 점에 걱정을 한시름 놓는다. 알고리즘이 본질적으로 중립성이나 객관성을 갖추지 않았으며, 인간 의사 결정자가 알고리즘과 같은 수준으로 검토를 진행할 필요가 있다는 점을 이해했기 때문이다”라며, “법무부가 임차인 검토 알고리즘의 차별 문제에 개입한 사실 자체가 큰 행보라고 본다”라고 설명했다.
 
2020년, 비영리단체 마크업(The Markup)과 프로퍼블리카(Propublica)가 진행한 조사 결과, 임차인 검토 알고리즘이 종종 신원 확인 실수와 같은 장벽을 직면하는 것으로 나타났다. 특히 동명이인이 많은 이름을 사용하는 유색인종의 차별 문제가 심각한 것으로 드러났다. 2022년 텍사스에 본거지를 둔 기업인 리얼페이지(RealPage)가 진행한 프로퍼블리카의 알고리즘 평가는 알고리즘의 인종 차별이 임대료 인상으로 이어질 수 있음을 시사한다.

공정주택법 위반 문제로 세이프렌트를 제소한 두 번째 사건은 2022년 11월 자로 코네티컷 연방법원에서 결론을 내렸으며, 판사의 판결을 기다리는 상태이다. 해당 사건은 카르멘 아로요(Carmen Arroyo) 외 여러 명의 원고가 세이프렌트를 제소한 사건이다. 아로요는 CrimSAFE 알고리즘이 뒤늦게 임차 자격 부적합을 결정하며, 결과적으로 말을 하거나 걷지 못하는 장애인인 아들의 임차 거절이 되면서 수수료를 탈취한 것으로 보인다고 주장했다. 해당 사건은 시스템이 장애와 출신 국가, 인종을 기준으로 특정 임차인을 차별했다는 의혹을 제기했다.

세이프렌트 측 담당 변호사 앤드류 수컵(Andrew Soukup)은 법무부와 주택 및 도시재개발부가 제출한 문서에 대응해 세이프렌트는 부동산 관리인과 임차인에게 예측 자료를 공급해 좋은 결정을 내리는 것을 목표로 하지만, 알고리즘 자체가 주택 관련 사항을 직접 결정하는 것은 아니라고 주장했다. 수컵 변호사는 공식 성명을 통해 “세이프렌트는 누군가의 주택 임차 신청 승인을 결정하지 않는다. 주택 임차 신청 승인은 부동산 관리인과 임대인이 결정하는 사항이다”라고 말했다.

법무부가 세이프렌트 사건에 개입한 일은 미국 정부가 최근 들어 인간의 삶에서 중요한 결정을 내리는 알고리즘에 대한 시민권 법률을 강화하려는 노력 중 일부분에 해당한다. 또, 법무부는 세이프렌트 사건 관련 문서를 발행한 날 공정주택법 위반 의혹을 받은 메타의 광고 판매와 관련하여 중재 합의 조건을 발표했다. 메타는 페이스북 광고의 차별 문제를 줄일 시스템을 개발했으며, 2026년까지 연방 정부의 감독을 받을 것이다.

클락 국장은 공식 성명을 통해 “연방 정부가 메타 감독에 나서는 일은 다른 테크 기업에도 알고리즘 차별 문제를 해결하지 못한다면, 똑같은 법적 책임을 져야 한다는 사실을 강력하게 시사한다. 2022년, 클락 국장은 평등고용기회위원회(Equal Employment Opportunity Commission)에서 채용 알고리즘을 사용하는 기업에 미국 장애인법(Americans With Disabilities Act) 위반 행위를 피할 방법을 명시한 지침을 발행했다.

세이프렌트를 상대로 제기한 두 가지 사건 모두 법무부가 연방 차별금지법을 강화해 알고리즘 시대에 인간의 권리를 강화하는 것에 확고한 모습을 보인다는 점을 시사한다. 길만 교수는 “광고가 임차인 검토와는 다르다는 점이 분명하다. 그러나 다른 여러 업계에 더는 투명성 부재 뒤에 차별 문제를 숨길 수 없으며, 더 엄격한 책임을 져야 할 것이다”라고 언급했다. 길만 교수는 25년 동안 저소득층 의뢰인의 사건을 담당했으며, 지난 몇 년간 알고리즘이 의뢰인의 주택 임차 거부 문제의 기본적인 요소가 된 것으로 보이는 일을 접한 사례가 증가했다. 그러나 인간에게 피해를 주는 알고리즘으로부터 인간을 보호하는 데 현행 차별금지법이 적절한지 혹은 신규 법률 제정이 필요하지는 해결되지 않은 문제이다.

2023년 1월, 법무부가 주택 부문에 보낸 신호는 바이든 행정부의 AI의 인권 침해 문제 연설로 다룬 다른 문제 공식 발표와 같은 맥락이다. 2022년 12월, 백악관은 AI 권리장전(AI Bill of Rights)을 제안했다. AI 권리장전은 주택, 보건 복지, 금융, 정부 수당 등 삶에 중요한 영향을 미치는 영역에서 알고리즘으로부터 시민을 보호할 의도로 작성된 원칙이다. 한편, 트럼프 행정부는 공정주택법을 적용해 임차인 검토 알고리즘을 사용하는 임대인 기소가 더 어려워지도록 했다.

** 위 기사는 와이어드US(WIRED.com)에 게재된 것을 와이어드코리아(WIRED.kr)가 번역한 것입니다. (번역 : 고다솔 에디터)

<기사원문>
Algorithms Allegedly Penalized Black Renters. The US Government Is Watching