본문 바로가기 주메뉴 바로가기 검색 바로가기
페이스북, 사진 속 인물 태그 기능에 안면 인식 기술 사용 중단
상태바
페이스북, 사진 속 인물 태그 기능에 안면 인식 기술 사용 중단
페이스북은 10억 명이 넘는 인물 사진의 데이터를 삭제할 예정이다.
By KHARI JOHNSON, WIRED US

11월 2일(현지 시각), 페이스북이 사진과 영상 속 인물을 식별하는 안면 인식 기술 사용을 중단하고, 안면 인식 기술과 함께 생성된 10억여 명의 데이터를 삭제하겠다고 발표했다.

해당 소식은 가장 규모가 큰 것으로 알려진 안면 인식 시스템 중 하나가 작동을 종료한다는 사실을 의미한다. 스마트폰 안면 인식 잠금 해제와 공항 애플리케이션의 안면 인식 시스템 이외에 페이스북의 인물 자동 태그는 많은 사람이 마주한 가장 보편적인 안면 인식 기술 형태일 것이다. 제롬 페센티(Jerome Pesenti) 페이스북 인공지능(AI) 부사장은 블로그 게시글을 통해 안면 인식 기술 사용 중단 결정은 “사회적 우려가 갈수록 커지는 상황에서 안면 인식 기술의 긍정적인 사용 사례를 더 중시해야 할 필요성”을 반영한다고 주장했다.

페이스북은 안면 인식 시스템을 사용해 사진과 영상, 과거의 순간 속 인물을 자동 감지했다. 그러나 자동 태그 기능은 프라이버시 옹호 세력의 비판을 받았으며, 여러 정부 규제기관은 관련 문제로 수억 달러 상당의 과징금을 부과받았다. 페이스북 대변인은 와이어드에 10년간 안면 인식 시스템의 도움으로 인물을 태그한 사진 수십억 장의 라벨을 유지할 것이라고 밝혔다. 안면 인식 기술을 이용해 사진과 영상으로 수집한 개인의 사회적 활동 영역을 시사하는 단서도 그대로 존재할 듯하다.

안면 인식 기술은 미국 주요 도시 10여 곳이 사용을 금지하게 되는 결과로 이어진 프라이버시와 인권 우려 사항을 포함해야 한다. 법률 집행 기관의 안면 인식 기술 애플리케이션 때문에 미국 내 무고한 시민 체포가 여러 차례 이어졌다. 또, 중국에서는 국가가 이슬람교를 믿는 소수 집단을 통제할 감시 기술이 생성됐다.

안면 인식 시스템 사용 중단 결정은 관리 허점을 드러낸 수천 건의 내부 문건 유출 후 이루어진 수 주간의 집중 감시 이후 발표됐다. 또, 안면 인식 시스템 사용 중단 발표 일주일 전 ‘메타(Meta)’라는 새로운 이름과 함께 브랜드 이미지 쇄신을 선언했다.

사진 태그 목적 안면 인식 기술 사용 중단 사실은 페이스북이 안면 인식 기술 자체를 완전히 사용 중단한다는 뜻이 아니다. 페이스북은 사용자의 잠금 설정된 계정 접근 권한 확보나 거래 완료를 위한 신원 검증 등과 같은 목적으로 안면 인식 기술을 계속 사용할 계획이다. 페이스북이 10억 명이 넘는 사용자 데이터를 삭제하더라도 안면 인식 데이터를 훈련한 AI 모델인 딥페이스(DeepFace)를 그대로 보관한다. 현재 페이스북 사용자 세 명 중 한 명꼴로 사진 속 인물 태그를 추천하는 딥페이스 기반 서비스를 사용한다.
 
[사진=Pixabay]
[사진=Pixabay]

페이스북은 사진 자동 태그 기능 제거와 함께 시각 장애인이나 시각 기능이 온전하지 못한 이들을 위해 적은 비율의 사진의 인물을 식별할 안면 인식 기술 사용도 중단한다.

페이스북은 가장 최근 안면 인식 기술 사용을 중단한 테크 업계 대기업이다. IBM은 2020년, 고객에게 안면 인식 기술 제공을 중단했다. 아마존과 마이크로소프트는 조지 플로이드(George Floyd) 살인 사건을 계기로 안면 인식 서비스 판매를 중단했다.
 
“페이스북의 이번 행보가 정치계에서 안면 인식 기술 관련 진지한 논의를 진행하도록 한다면, 전환점이나 중요한 순간이 될 것이다.”
뎁 라지, AI 연구원

유명 AI 연구원인 조이 부오람위니(Joy Buolamwini)뎁 라지(Deb Raji), 팀닛 게브루(Timnit Gebru)가 최초로 피부색이 어두운 여성 대상 안면 인식 시스템 정확도가 더 낮다는 사실을 처음 문서로 작성했다. 유색인종 여성의 안면 인식 정확도가 더 낮다는 주장은 마찬가지로 아시아인과 젊은 세대 등 특정 인구 집단의 안면 인식 정확도가 낮다는 문제에 집중한 미국 표준기술연구소(NIST)의 분석 결과와 함께 확인됐다.

뉴욕대학교 산하 연구소인 AI나우(AI Now), 구글, 디지털 옹호 기관인 알고리즘 정의 연합(Algorithmic Justice League) 등에서 정책 및 윤리 문제를 연구한 경력이 있는 라지는 딥페이스가 컴퓨터 비전의 역사에 주목할 만한 역할을 한 점에서 페이스북의 안면 인식 기술 사용 중단이 중요하다고 일컬었다. 2014년, 4,000명의 이미지 400만 장과 함께 생성된 딥러닝 모델인 딥페이스는 지금까지 등장한 인물 사진을 담은 최대 규모 데이터세트이다. 딥페이스는 인간과 같은 수준의 안면 인식 능력을 달성하려 한 최초의 AI 모델이며, 안면 인식 기술 상용화 추세를 촉진함과 동시에 인식 능력 개선을 위해 안면 데이터를 축적했다.

라지는 기업이 안면 인식 기술이 위험하다는 사실을 암시하면서도 보호를 위해 자율적인 기업 행동에 의존해서는 안 된다고 경고하는 것이 항상 긍정적인 일이라고 주장했다. 페이스북의 안면 인식 기술 사용 중단이 더 큰 변화를 가져올 것인지는 국회의원의 노력에 달려있다.

라지는 “페이스북의 이번 행보가 정치계에서 안면 인식 기술 관련 진지한 논의를 진행해 실제 미 의회를 통해 어느 정도 더 나은 방향으로 법안을 개정하고, 안면 인식 시스템 사용 중단을 의존하는 동시에 적극적으로 받아들이도록 한다면, 전환점이나 중요한 순간이 될 것이다”라고 말했다.

때때로 안면 인식 기술이 시민 자유를 위협하며, 법률 집행 기관의 기술 사용 표준 부재와 관련된 초당적 거짓 발언이 이루어진다. 그러나 미 의회는 실제로 안면 인식 기술 사용 규제 법안 통과나 기업 혹은 정부 기관의 안면 인식 기술 사용 표준 지정을 일절 진행하지 않았다.

디지털 권리 옹호 비영리 단체인 파이트 포 더 퓨처(Fight for the Future)는 와이어드에 공유한 공식 성명을 통해 페이스북은 안면 인식 기술이 위험하다는 사실과 안면 인식 기술 사용 금지 요구 재개 사실을 인지했다고 주장했다.

파이트 포 더 퓨처는 “알고리즘 자체가 개선됐으나 안면 인식 기술은 갈수록 더 위험해지기만 한다. 안면 인식 기술은 독재 정권의 종교적 소수 집단과 반정부 인사를 공격 표적으로 삼고 단속하도록 만들 것이다. 게다가 대중이 안전성 향상이 없는 감옥과 같은 곳으로 향하도록 자동화할 것이다. 스토킹과 학대, 신원 탈취에 악용할 새로운 수단을 생성할 수도 있을 것이다”라고 설명했다.

억압 자동화 목적 알고리즘 사용 종료를 모색하는 젊은 세대의 집단인 인코드 저스티스(Encode Justice) 창립자인 스네하 레바누르(Sneha Revanur)는 공식 성명을 통해 페이스북의 안면 인식 시스템 사용 중단 소식은 프라이버시와 인종 정의 옹호 세력, 젊은 세대로 구성된 안면 인식 기술 사용 반대 단체가 힘겹게 얻은 승리라고 말한다. 레바누르는 안면 인식 시스템 사용 중단은 SNS 기업 때문에 발생한 혐오 발언과 거짓 정보, 감시 문제를 해결하는 데 필요한 여러 개혁 중 하나라고 주장했다.

루크 스타크(Luke Stark)는 웨스턴온타리오대학교 부교수이자 오랫동안 안면 인식 기술 비판론자로 활동한 인물이다. 스타크 교수는 안면 인식 기술과 컴퓨터 비전 유사 과학이 생체 데이터 보안과 차별 반대법, 시민 자유 등에 영향을 미쳤을 가능성을 주장했다. 2019년에는 안면 인식 기술이 AI의 플루토늄과 같은 존재라고 주장했다.

스타크 교수는 페이스북의 이번 행보가 기업 철학의 핵심적인 변화가 아닌 홍보 전략이자 긍정적인 요소로 주목받으려는 의도를 지닌 행동이라는 견해를 밝혔다. 다만, 스타크 교수는 안면 인식 시스템 사용 중단 자체는 페이스북이 유해 기술과의 관련성을 더는 원하지 않는다는 사실을 보여주기도 한다고 덧붙였다.

또, 페이스북이 최근 가상현실, 메타버스에 중점을 두기로 결정한 것과도 안면 인식 시스템 사용 중단 행보를 관련지어 볼 수 있다. 스타크 교수는 개인 맞춤형 아바타를 제공하려면, 여러 생리학 데이터 수집이 필요하다는 점에서 새로운 프라이버시 우려가 뒤따를 것이라고 지적한다. 이어, 안면 인식 데이터베이스 폐지의 영향에도 의문을 제기했다. 45세 미만 사용자 중, 페이스북에 사진을 게재한 이를 단 한 명도 보지 못했기 때문이다.

페이스북은 안면 인식 시스템 사용 결정을 “기술 역사상 안면 인식 기술 사용의 가장 큰 변화 중 한 가지 사례”라는 특징을 부여했다. 그러나 스타크 교수는 실제 영향은 매우 적을 것이라고 예측한다. 페이스북이 안면 인식 시스템을 완전히 폐기하지 않고, 다른 계열사 서비스에 그대로 사용할 계획이기 때문이다.

마지막으로 스타크 교수는 “페이스북의 이번 결정은 안면 인식 기술을 우려하는 이들이 관련 문제에 계속 압박을 가한다면 전환점이 되리라 생각한다”라고 전했다.

** 위 기사는 와이어드US(WIRED.com)에 게재된 것을 와이어드코리아(WIRED.kr)가 번역한 것입니다. (번역 : 고다솔 에디터)

<기사원문>
Facebook Drops Facial Recognition to Tag People in Photos
이 기사를 공유합니다
RECOMMENDED