본문 바로가기 주메뉴 바로가기 검색 바로가기
테크 스타트업, 부적절한 방법으로 취득한 안면데이터 기반 알고리즘 지원 중단
상태바
테크 스타트업, 부적절한 방법으로 취득한 안면데이터 기반 알고리즘 지원 중단
연방거래위원회가 새로운 해결책을 제시해, 단순히 문제가 된 사진 데이터 소스를 삭제하는 것에서 더 나아간 조치를 취했다.
By TOM SIMONITE, WIRED US

2020년, 샌프란시스코의 안면 인식 기술 스타트업 에버앨범(Everalbum)이 공군에 AI 기반 접근 제어를 위한 200만 달러(22억 220만 원) 규모의 계약을 체결했다. 1월 11일(현지 시각), 또 다른 미국 정부 기관이 에버앨범에 제약을 가했다.

연방거래위원회(FTC)는 에버앨범이 안면 인식 기술을 적용해 사용자의 동의 없이 이미지를 사진 앱에 업로드하고, 이를 보관한 뒤 사용자에게 삭제할 수 있다고 알린 것과 관련, 중재안에 동의했다고 발표했다. 에버앨범은 사진 수백만 장을 이용해 각종 정부 기관과 다른 고객사에 파라비전(Paravisio)이라는 브랜드로 제공할 기술을 개발했다.

파라비전이라는 이름으로 알려진 에버앨범은 부적절하게 수집한 데이터를 삭제하는 데 동의했다. 그러나 부적절하게 수집한 사진으로 개발한 알고리즘을 모두 제거한다는 새로운 해결책에도 동의했다.

이번 합의는 파라비전의 명성에 먹구름을 드리웠지만, 수석 제품 관리자 조이 프리티킨(Joey Pritikin)은 여전히 공군과의 계약을 비롯해 다른 고객과의 계약 의무를 이행하고 있다. 2020년 8월, 에버앨범은 소비자 앱 서비스를 중단했다. FTC에 불만이 접수될 가능성을 인지했기 때문이다. 그리고 한 달 후, 해당 앱의 데이터를 사용하지 않고 개발한 안면 인식 기술 서비스를 출시했다. 프리티킨은 이러한 변화는 부분적으로 안면 인식 기술 때문에 대중적 정서가 갈수록 커져 FTC가 개입하기 전에 보인 변화라고 주장했다.

FTC 위원회 구성원인 민주당의 로힛 초프라(Rohit Chopra) 의원은 1월 11일 자로 FTC가 파라비전의 기술을 철저히 검토한 것을 극찬하며, FTC가 안면 인식 기술 개발 과정의 속임수로 얻은 결실인 각종 알고리즘을 강제로 제거한 것이 옳은 행동이라고 말했다.

또, 초프라는 2019년 합의 문제도 언급했다. 당시 구글은 부모의 동의 없이 아동 데이터를 불법 수집해, 1억 7,000만 달러(1,868억 6,400만 원)를 내는 데 합의했다. 그는 “위원회 구성원들은 앞서 데이터 보호 법률을 어기는 개인 혹은 기관이 부적절하게 수집한 데이터의 가치에서 파생된 알고리즘과 기술을 보관할 수 있도록 둔다”라고 말했다.
 
[사진=Pixabay]
[사진=Pixabay]

워싱턴대학교 법학 교수 라이언 칼로(Ryan Calo)는 파라비전이 부적절하게 수집한 이미지로 훈련한 안면 인식 알고리즘을 삭제해야 한다는 요구는 FTC가 급부상하는 머신러닝이 데이터 세트와 얼마나 엄격하게 얽혀 있는지, 그리고 소프트웨어 제품에 위험이 될 가능성이 있다는 점을 인지한다는 사실을 나타낸다고 말한다.

많은 테크 기업이 한때는 온전히 대중에게 비용을 지불해 적절한 명령의 올바른 키를 획득해 소프트웨어를 제작했다. 그러나 안면 인식 모델이나 영상 필터링 소프트웨어 등 많은 제품에서 가장 중요한 요소는 머신러닝 알고리즘에 제공할 신중하게 엄선한 샘플 데이터 모음이다. 칼로 교수는 “머신러닝 모델과 데이터를 삭제해야 한다는 생각은 부적절한 데이터 수집과 같은 모든 요소가 밀접한 관련이 있음을 인정하는 것이다”라고 말했다. 안면 인식 시스템은 특별 검토가 필요하다. 제작 과정에 철저히 개인 이미지가 필요하기 때문이다. 이에, 칼로 교수는 “안면 인식 시스템은 근원이 불분명하다. 모두 사람이 제작한 것이다”라고 언급했다.

전직 FTC 소비자 보호국 총괄 겸 조지타운 법학 교수인 데이비드 블라덱(David Vladeck)은 에버앨범 합의는 데이터 삭제 요구라는 기존의 합의와 일치한다고 말한다. 2013년, 소프트웨어 기업 디자이너웨어(DesignerWare)와 할부 판매 유통 업체 7곳이 노트북에 설치된 스파이웨어를 이용해, 사용자의 동의 없이 수집한 위치 추적 데이터를 삭제하는 데 동의했다.

1월 11일, 여전히 공화당 의원이 다수인 FTC 위원회 구성원 5명 전원 익명 합의로 파라비전에는 그보다 더 넓은 범위의 삭제 요구를 하기로 받아들였다. 조 바이든 당선인이 이번 달에 취임한 뒤에는 FTC 위원회 구성원 다수가 민주당 소속 의원이 될 것이다. 그리고, 테크 기업을 대상으로 더 많은 규제를 시행하기를 강력히 원한다. FTC는 민주당이 장악한 의회에서 더 많은 지원과 자원을 얻을 수 있다.

칼로 교수는 FTC가 더 많은 테크 자원과 동등한 조건으로 테크 업계를 검토하는 데 도움을 줄 전문 인력을 얻기를 바란다. 더 많은 테크 노하우를 사용한다면, 기업이 실제로 부당하게 수집한 데이터뿐만 아니라 이를 통해 얻은 이익과 기술도 함께 삭제한 것이 맞는지 확인할 새로운 방법을 고안할 수 있을 것이다. 이는 다양한 데이터 소스를 기반으로 구축한 복잡한 머신러닝 모델이 포함된 시스템에서는 어려울 수 있다.

블라덱은 아직은 FTC의 핵심 권력과 전체 구성원 수를 늘리는 것이 더 중요하다고 말한다. 민주당이 미국 상원의원 마리아 캔트웰(Maria Cantwell)을 포함한 여러 의원이 발의한 첫 번째 연방 미국 프라이버시 법을 통과시킨다면, 향후 FTC는 상당한 법적 권력을 새로 얻을 것으로 기대된다. 블라덱은 FTC 구성원이 함께한다면, 해당 법안 발의가 낙관적일 것으로 전망한다. FTC는 주로 신원 도용 등 프라이버시 관련 업무 담당자 수십 명만 두고 있었다. 아일랜드 등 미국보다 훨씬 작은 국가에서는 관련 부처의 담당 인력이 수백 명임을 고려하면, 미국 FTC의 인력이 매우 적다. 블라덱은 “FTC의 규모는 40년 전보다 2/3 수준으로 줄어들었다”라고 지적했다.

** 위 기사는 와이어드US(WIRED.com)에 게재된 것을 와이어드코리아(WIRED.kr)가 번역한 것입니다. (번역 : 고다솔 에디터)

<기사원문>
A Startup Will Nix Algorithms Built on Ill-Gotten Facial Data
이 기사를 공유합니다
RECOMMENDED