By LILY HAY NEWMAN, WIRED US

2022년 12월, 애플은 아동 성 착취 게시물 감지 목적으로 프라이버시 보호용 아이클라우드 사진 스캔 툴 설계 노력을 중단한다고 발표했다. 2021년 8월 처음 발표된 아이클라우드 사진 스캔 프로젝트는 시작부터 논란에 휩싸였다. 애플은 사진 스캔 프로젝트 초기 발표 한 달 만에 프로젝트를 중단했다. 스캔 툴이 모든 아이클라우드 사용자의 프라이버시 침해와 보안 저하에 악용될 수밖에 없다는 디지털 권리 단체와 연구원의 우려 대응 방안이다. 2023년 8월, 아동 안전 단체 히트 이니셔티브(Heat Initiative)가 애플에 아이클라우드의 아동 성 착취 사진 감지, 보고 및 삭제 과정과 사용자가 애플에 아동 성 착취 게시물을 보고할 툴을 추가로 제공할 것을 요구하는 캠페인을 조직 중이라고 전했다.

9월 1일(현지 시각), 애플은 이례적으로 히트 이니셔티브의 캠페인에 응답했다. 애플은 답변과 함께 아이클라우드 아동 성 착취 게시물 스캔 툴 개발 계획 중단 이유와 ‘커뮤니케이션 세이프티(Communication Safety)’ 기능이라고 아울러 칭하는 사용자를 위한 기기 탑재 툴과 자원에 초점을 맞추고 있다는 점을 상세히 설명했다. 와이어드에도 전달된 애플의 답변은 커뮤니케이션 안전으로 전환한 합당한 이유 이외에도 데이터 관찰 목적의 암호화 등 사용자 보호 기능 우회 메커니즘 개발이라는 전반적인 관점도 제시한다. 커뮤니케이션 세이프티에 주력하는 태도는 영국과 같은 국가가 테크 기업을 대상으로 법률 집행 요구 사항 준수를 위한 사용자 데이터 접근 권한을 요구하는 데 초점을 맞춘 법안을 통과시킨 상황을 중시하는 가운데 암호화폐 논의가 더 넓은 범위에서 이루어지는 상황과 관련 있다.

애플 사용자 프라이버시 및 아동 안전 책임자 에릭 노이엔쉬반더(Erik Neuenschwander)는 히트 이니셔티브에 보낸 답변을 통해 “아동 성 착취 게시물은 증오할 만한 대상이다. 애플은 아동이 성 착취물 제작 및 공유 대상이 되도록 하는 강요와 영향력 행사가 반복되는 사슬을 끊어낼 것을 다짐한다”라고 전했다. 또한, 복수 프라이버시 및 보안 연구원, 디지털 권리 단체, 아동 안전 옹호 운동가 등과 협력한 뒤 프라이버시 보존을 특별히 강조하더라도 아동 성 착취 게시물 스캔 메커니즘 개발을 추진할 수 없다는 결론을 내렸다고 덧붙였다.
 
노이엔쉬반더는 “사용자가 개인적으로 저장한 아이클라우드 데이터를 스캔하는 일은 데이터 탈취 세력이 발견하여 악용할 수 있는 새로운 위협 벡터를 생성할 수 있다. 게다가 의도치 않은 결과를 걷잡을 수 없을 정도로 주입할 수도 있다. 특정 유형의 콘텐츠 스캔은 대규모 감시 기회를 열어주면서 모든 콘텐츠 유형을 대상으로 한 암호화 메시지 시스템 검색이라는 욕망을 형성할 수 있다”라고 설명했다.

히트 이니셔티브는 최신 기술을 이용한 온라인 아동 착취, 성매매 등을 퇴치하는 비영리단체 쏜(Thorn)의 외부 문제 부사장 출신인 사라 가드너(Sarah Gardner)가 이끈다. 2021년, 쏜은 애플의 아이클라우드 아동 성 착취 게시물 스캔 기능 개발 계획을 호평했다. 2023년 8월 30일(현지 시각), 가드너는 팀 쿡에게 보낸 메일을 통해 히트 이니셔티브는 애플의 아동 성 착취 게시물 스캔 툴 개발 중단에 실망했다고 전했다. 애플은 팀 쿡이 받은 메일도 와이어드와 공유했다.

가드너는 와이어드에 보낸 공식 성명을 통해 “애플은 세계 최고 수준의 엔지니어를 대거 보유하면서 가장 성공한 기업 중 한 곳이다. 아동 성 착취 사진, 영상 등을 감지할 수 있는 안전과 프라이버시 보호 환경을 조성해야 할 책임이 있다. 사용자가 아이클라우드에서 아동의 강간 피해와 같은 끔찍한 모습을 담은 콘텐츠 공유와 저장이 가능하다면, 히트 이니셔티브는 더 나은 행동을 요구할 것이다”라고 전했다.

가드너는 쿡에게 보낸 메일을 통해 애플의 사진 스캔 툴은 “애플이 세계 최고 수준의 사용자 프라이버시 보호 기업이라는 입지를 형성하는 것은 물론이고, 아이클라우드에 저장된 아동 성 착취 사진과 영상 수백만 개를 제거할 수 있다. 아동 성 착취는 그 누구도 말하고 싶어 하지 않는 어려운 문제라는 점에서 침묵한 뒤 넘어가게 된다. 히트 이니셔티브는 이와 같은 일이 반복되지 않도록 확실히 하고자 한다”라고 주장했다.

애플은 결과적으로 훌륭한 의도로 설계한 툴도 실질적으로 제대로 안전 보호 기능을 구현하지 못한다는 점을 인정했다. 그리고 애플의 기기 메시지, 페이스타임, 에어드롭, 포토 등 기기에 저장된 나체 사진 감지 기능이 더 안전한 대안이 될 수 있다고 말한다. 애플은 외부 개발자도 자체 개발 앱에 통합하도록 커뮤니케이션 세이프티 기능의 API를 제공하기 시작했다. 애플은 커뮤니케이션 플랫폼 디스코드가 커뮤니케이션 세이프티 기능을 통합하기 시작했으며, 더 넓은 영역에서 보았을 때는 많은 개발자가 커뮤니케이션 세이프티 기능 채택에 열정적인 모습을 보였다고 밝혔다.

노이엔쉬반더가 히트 이니셔티브에 보낸 답변에는 “애플은 수년 전 아이클라우드 포토의 아동 성 착취 게시물 감지 기능을 위한 하이브리드 클라이언트-서버 접근 방식을 추진하지 않기로 결정했다. 당시 하이브리드 클라이언트-서버 접근 방식을 구축하면, 실질적으로 사용자 보안과 프라이버시 위험이 발생할 수밖에 없다고 판단했다”라고 작성했다.

애플은 사용자를 위한 아동 성 착취 게시물 보고 메커니즘 생성을 요청한 히트 이니셔티브의 요청과 관련, 애플이 직접 보고 처리 중간 개입자가 되는 것보다 지역 자원, 지역 내 법률 집행 기관과 피해에 취약하거나 피해를 본 사용자를 직접 연결하는 방식으로 지원하는 방안에 초점을 맞추고 있다고 밝혔다. 애플은 아동 성 착취 피해 예방 및 피해자 지원이라는 중간 서비스 제공이 SNS와 같은 상호작용 플랫폼의 합리적인 역할이라고 본다.

아동을 성 착취 위험성에서 보호하는 일은 시급한 일이다. 이와 관련된 우려는 포괄적인 암호화 논의와 접점이 있으며, 애플의 데이터 스캔 기술 구축 거부 해결책은 앞으로 계속 시험 대상이 될 것이다.

** 위 기사는 와이어드US(WIRED.com)에 게재된 것을 와이어드코리아(WIRED.kr)가 번역한 것입니다. (번역 : 고다솔 에디터)

<기사원문>
Apple’s Decision to Kill Its CSAM Photo-Scanning Tool Sparks Fresh Controversy