By KATE KNIBBS, WIRED US

생성형 인공지능(AI)이라는 분야의 새로운 기회를 노리려 많은 기업이 서둘러 관련 분야에 진출한 가운데 머신러닝 툴 훈련 시 사용한 데이터를 둘러싼 우려가 커졌다. 현재 아티스트와 작가 단체는 AI 기업이 저작권이 있는 작품 사용 방식에 맞서 싸우면서 훈련 모델이 인터넷에서 데이터를 수집하는 방식과 예술작품을 아티스트 동의 없이 훈련 데이터에 통합하는 관행에 맞서 소송을 제기하고, 공개적으로 비판하기도 한다.

일부 기업은 아티스트와 작가의 데이터 수집 방식에 맞선 반발에 대응하여 사용자가 직접 추후 생성될 모델에 자신의 작품이 이용되는 일이 없도록 데이터 수집 비활성화 기능을 적용했다. 일례로, 오픈AI는 AI 기반 이미지 생성 프로그램 DALL-E의 최신 버전에 작품 데이터 수집 비활성화 기능을 도입했다. 2023년 8월, 메타는 사용자에게 외부 기관이 메타의 생성형 AI 모델을 훈련할 때 개인 데이터 삭제 요청을 지원하기 시작했다. 그러나 다수 아티스트와 기자가 메타의 데이터 삭제 요청이라는 새로운 과정을 메타의 매우 제한된 범위 내 데이터 수집 비활성화 프로그램이라고 해석했다. 미국 방송사 CNBC는 메타의 개인 데이터 삭제 요청 양식을 ‘데이터 수집 비활성화 툴’이라고 분명하게 언급했다.

메타의 데이터 삭제 요청이 데이터 수집 비활성화 방식이라는 해석은 잘못되었다. 실제로 메타의 생성형 AI 훈련 데이터 수집을 막을 기능적인 방법은 없다.

메타의 데이터 삭제 요청 기능을 사용하려 한 아티스트 여러 명이 실제로 데이터 삭제 요청 과정이 어렵고, 매우 큰 분노를 유발한다는 사실을 알게 되었다. 일러스트레이터 미그논 자쿠가(Mignon Zakuga)는 “메타의 데이터 삭제 요청 기능은 끔찍하다”라고 말했다. 와이어드의 취재에 응한 아티스트 10명 이상이 데이터 삭제 요청 이후 받은 메타의 메시지 내용이 똑같다는 사실을 확인시켜 주었다. 메타는 데이터 삭제를 요청한 아티스트에게 요청자가 메타의 생성형 AI의 답변에 개인 정보가 드러난 사실을 입증할 증거를 제출할 때까지 삭제 과정을 처리할 수 없다고 전했다.

메타의 양식에 따라 두 차례 데이터 삭제 요청을 한 루마니아 디지털 아티스트 겸 사진작가 미하엘라 보이쿠(Mihaela Voicu)는 데이터 삭제 요청 과정이 악질적인 장난과 같았다고 말했다. 보이쿠도 데이터 삭제 과정을 진행할 수 없다는 메시지를 받았다. 보이쿠는 “메타는 실제로 데이터 삭제를 원하는 아티스트를 지원할 생각이 없다”라고 확언했다.
 
콜로라도의 개념 화가 베타니 버그(Bethany Berg)는 여러 차례 데이터 삭제를 요청했으나 삭제 요청을 처리할 수 없다는 답변을 받았다. 버그는 “메타가 데이터 삭제를 할 수 없다는 답변을 받자 데이터 삭제 요청을 지원한다는 메타의 발표가 실제로 무언가 노력하는 척하는 모습을 보여주려는 가짜 언론홍보라고 느꼈다”라며, 메타를 비판했다.

많은 아티스트가 메타의 데이터 삭제 요청 거부 문제를 지적하자 메타는 자사 모델이 개인 작품으로 훈련받았거나 개인 데이터가 AI의 결과물로 제시된 사실을 입증한 이들의 데이터를 삭제한다는 주장을 거듭 반복했다. 메타는 자사 AI 모델 훈련 시 사용한 데이터를 구체적으로 밝히지 않았다. 따라서 메타와 같은 데이터 삭제 설정 조건은 개인 정보 삭제를 원하는 사용자가 먼저 개인 정보나 개인 작품을 포함한 확실한 답변을 생성하는 명령어를 찾아내야 한다.

개인 정보 삭제를 요구한 아티스트가 메타가 요청하는 증거를 제출해도 실제로 데이터 삭제가 제대로 진행되지 않는 것으로 드러났다. 개인 데이터 삭제 과정의 분노가 쌓이는 추세를 언급하자 메타는 데이터 삭제 요청 양식은 데이터 수집 비활성화 툴이 아니라고 답변하며, 자사 플랫폼 내에서 발견한 정보는 삭제할 의도가 없다는 점을 강조했다. 메타 대변인 토마스 리차드(Thomas Richards)는 와이어드에 보낸 메일을 통해 “데이터 삭제 양식의 기능과 메타가 제공하는 관리 사항을 두고 많은 사용자가 혼동하는 것으로 보인다. 현재 메타는 사용자가 AI 모델 훈련 시 사용하는 메타의 상품과 서비스에서 개인 정보 수집을 비활성화할 수 있는 기능을 제공하지 않는다”라고 전했다.

그렇다면, 이미지 수백만 장을 포함한 데이터세트와 같이 인터넷 전체 공간에서 접한 정보는 어떻게 다루는가? 이에, 리차드 대변인은 “데이터 삭제 요청 양식의 다양한 맥락 반영을 위해 사용자는 삭제 신청자 거주지 등과 같은 조건에 따라 데이터 주권을 행사하고 메타의 AI 모델로 훈련에 사용되는 특정 외부 기관 정보를 반대할 수 있다. 데이터 삭제 양식을 제출했다고 해서 외부 기관 정보가 메타의 AI 훈련 모델에서 자동으로 삭제되는 것이 아니다. 국가, 지역마다 법률 요구사항이 다르다는 점에서 현지 법률에 따라 데이터 삭제 요청을 검토한다”라고 답변했다. 이어, 유럽연합의 개인정보보호 규정(GDPR)을 데이터 주권을 행사할 수 있는 법률의 한 가지 예시로 언급했다.

다시 말해, 데이터 삭제 요청 양식은 일부 사용자가 삭제 요청을 할 수 있는 능력을 제공한다. 삭제 요구가 아닌 요청 권한을 부여하지만, 메타가 아닌 외부 기관에 저장된 개인 정보 일부는 메타의 AI 훈련 모델에서 삭제되지 않는다. 따라서 메타의 데이터 삭제 요청 양식을 데이터 수집 기능 비활성화 툴이라고 칭하는 것은 옳지 않다.

와이어드는 사용자의 거주지 위치를 떠나 데이터 삭제 요청 양식을 이용해 개인 정보를 원하는 대로 삭제한 이를 찾지 못했다. (실제로 데이터 삭제 요청 양식을 제출했으나 추후 메타의 훈련 모델에 개인 데이터가 사용되는 것을 막지 못한 이들이 훨씬 더 많았다.) 메타는 그동안 데이터 삭제 요청 조건을 충족한 사용자 수를 공개하지 않았다. 리차드 대변인은 메타가 추후 데이터 수집 비활성화 기능을 도입할 계획이 없다고 귀띔해 주었다.

메타의 데이터 삭제 요청 양식이 AI 기업의 사용자 데이터 사용 관행 통제 권한을 부여하는 데 도움이 될 것인지는 확실히 알 수 없다. 반대로 AI 기업의 모델 훈련용 데이터 내 개인 정보 삭제 요청 방식이 부적절하다는 새로운 예시를 제공한다.

** 위 기사는 와이어드US(WIRED.com)에 게재된 것을 와이어드코리아(WIRED.kr)가 번역한 것입니다. (번역 : 고다솔 에디터)

<기사원문>
Artists Allege Meta’s AI Data Deletion Request Process Is a ‘Fake PR Stunt’