By KHARI JOHNSON, WIRED US

전자개인정보센터(Electronic Privacy Information Center, EPIC) 부국장 캐트리오나 피츠제럴드(Caitriona Fitzgerald)는 10대 청소년이 성장과 발전, 실험적 경험을 할 가치가 있다고 말한다. 피츠제럴드 부국장은 청소년은 개인의 의사에 반한 미성년자 시기의 감시나 정보 제공 사실을 대학 입학 혹은 취업 후 법적 동의 면책을 시험하거나 포기할 수 있어야 한다”라고 주장했다. 또, 연방통신위원회(FTC)에는 청소년의 디지털 프라이버시 보장 규정을 촉구했다.

국제인권감시기구(HRW) 보고서 저자인 한혜정 연구원은 데이터 중개 기관에 개인 정보를 판매하는 교육 기업이 아동을 대상으로 개인 데이터로 강화하는 광고를 제공하는 행위를 금지하고자 한다는 사실을 다루었다. 한 연구원은 “상업적 이익과 감시는 아동의 최고 이익이나 기본 권리에 절대로 편승해서는 안 된다. 아동은 상품이 아닌 귀중한 존재이기 때문이다”라고 주장했다.

한 연구원과 피츠제럴드 부국장은 FTC가 개인 데이터 수집, 데이터로 역량을 강화한 인공지능(AI) 규제를 위한 규정 채택 여부를 논의하고자 마련한 첫 번째 공개 포럼에서 연설한 참석자 80인에 해당한다.

FTC는 상업적 감시와 AI 규제 방식을 둘러싼 대중의 질문에 답을 제시하도록 도울 방안을 모색한다. 이와 관련해 제기된 질문 중에는 인종이나 성별, 장애를 포함한 기존 조치를 넘어선 차별의 정의를 10대나 외딴 시골 지역 사회, 노숙인, 영어가 모국어가 아닌 이들로 확장해야 하는지 논의하는 부분도 포함되었다.

FTC는 특정 관행 금지 혹은 제한, 기업의 소비자 데이터 보관 기간 제한 여부도 고려한다. 혹은 정확성과 신뢰 가능성, 오류 비율 검증과 같은 과거 국회의원이 추가한 조치 채택 여부도 함께 고려한다.

웹에서의 사용자 활동 추적은 온라인 경제의 기반이다. 그 역사는 1990년대 쿠키를 도입한 당시로 거슬러 올라간다. 정체가 불분명한 기업이 생성한 데이터 중개업은 사용자의 온라인 활동과 관련된 개인적인 상세한 정보를 수집할 수 있다. 게다가 안면 스캔과 같은 생체 정보 수집은 물론이고, 월경 주기나 기도 횟수 등 개인 정보 예측도 가능하다.

쿠키는 온라인 광고와 페이스북, 구글 등 주요 기업의 사업 모델의 중요한 기반이 된다. 그러나 오늘날 데이터 중개 업계가 상품과 서비스 광고 이상의 역할을 할 수 있다는 사실이 널리 알려졌다. 온라인 추적 행위는 사기, 기만행위로 사용자를 속여 특정 제품을 구매하거나 개인 정보를 공개하도록 할 수 있다. 심지어 법률 집행 기관이나 외국 정부 기관에 위치 데이터를 공유하도록 유도하기도 한다.

새로운 규정을 제안한 FTC 문서가 제시한 바와 같이 데이터 수집 기반 사업 모델은 차별의 새로운 형태와 메커니즘을 생성한다.

2022년 8월, FTC는 규제안 작성에 관한 사전공고(Advanced Notice of Proposed Rulemaking, ANPR)을 채택해, 불공정하거나 속임수가 동원된 형태의 데이터 수집이나 AI 사용 문제를 해결할 새로운 규정 초안을 고려하는 방안을 두고 진행한 투표에서 3대 2로 찬성 측이 우세한 표를 받았다. 다만, 초안 고려 시 제한하거나 채택할 사항은 확실하지 않다.

FTC는 일부 데이터 중개 기업을 고발한다. 낙태 진료소와 가정 폭력 피해자 쉼터 등과 같은 위치 데이터를 판매하는 기업인 코차바(Kochava)가 FTC가 가장 최근 고발한 대상이 되었다. 하지만 처벌은 사건마다 별도로 판단한다. 새로운 규정으로 조직적인 문제를 다루고, 기업에 민감한 데이터를 수집할 시 벌금형이나 고발 대상이 될 수 있음을 경고한다.

규정 마련 절차는 2021년, AI 문제를 전적으로 담당할 인력 채용 이후 FTC의 AI 규제를 향한 첫 번째 중대한 도약이 된다. 새로운 규정 마련 시도에는 불공정하거나 속임수를 악용한 사업 관행이 만연하면서 불공정함의 정의 측면에서 법적 한계에 도달해야 한다. FTC는 10월 21일까지 상업적 감시와 AI ANPR 관련 공개 의견을 받는다. FTC가 새로운 규정의 필요성을 판단하려면, 제안된 규정 마련 내용을 공개한 뒤 최종 규정으로 확정하기 전까지 공개 의견을 받아야 한다.
 
리나 칸(Lina Khan) FTC 위원장은 새로운 규정이 첫 번째 위반 단체나 개인의 벌금형 부과에 도움이 될 것이라고 말했다. 또, 감시 자본주의의 중간 개입자의 미국 내 권력 불균형 심화 문제를 지적했다. 프라이버시 법률 분야 권위자인 닐 리차드(Neil Richards)가 말한 바와 같이 인류 역사상 가장 심각한 감시 환경을 다룰 수 있을 것이다.

FTC는 새로운 규정의 필요성을 판단하며, 이미 소비자 보호와 불공정하거나 기만적 사업 관행을 감시할 권한을 충분히 지녔다.

2022년 초, 펜실베이니아대학교 법률 리뷰(University of Pennsylvania Law Review)에 게재된 논문은 FTC가 이미 연방 차별 금지법으로 불공정한 기만적 행위 제한을 위한 행동에 나설 힘이 있다는 점을 지적했다. 예를 들어, 기존 차별법은 채용 기업이나 대출 기관 등 최종 결정 기관을 대상으로 한다. 반면, FTC는 소프트웨어 판매 기업이 차별을 보조하거나 유도하는 행위에도 대응할 수 있다.

논문의 공동 저자인 앤드류 셀브스트(Andrew Selbst) 캘리포니아대학교 법과대학 로스엔젤레스 캠퍼스 부교수는 AI 시대의 법적 책임을 둘러싼 의문 사항과 알고리즘의 영향을 평가할 방법도 고려했다. 셀브스트는 ANPR이 다루는 범위는 전례 없는 수준이라고 언급했다. 그러나 공격 전 문제의 규모를 이해하기 위한 조사를 원한다면, ANPR이 이상적이라고 평가했다.

ANPR을 둘러싼 의문점이 많지만, 외부 기관에 데이터를 판매하는 관행을 끝낼 규정의 필요성은 대중은 물론이고 프라이버시 옹호 세력과 업계 전문가의 지지를 받았다.

FTC에 수많은 의견이 전달돼, 포괄적인 데이터 보호를 촉구하는 공개 포럼에서 다양한 의견을 공유했다. 최근, 백악관이 발행한 일련의 기술 책임성 원칙도 데이터를 보유한 테크 기업의 데이터 프라이버시 보호책임을 촉구했다.

카렌 콤블루(Karen Kornbluh)는 독일 마셜펀드(German Marshall Fund)에서 디지털 혁신 및 민주주의 계획(Digital Innovation and Democracy Initiative)을 이끈다. 콤블루는 FTC가 ANPR을 채택해, 갓 성인이 된 청년이 알고리즘을 초기화하거나 추천 내용이나 예측 결과를 제시하는 개인 데이터를 제거를 허용하는 규정을 채택하기를 바란다. 예를 들어, 섭식 장애를 앓고 있는 젊은 여성이 체중 감량 관련 영상에 노출되지 않도록 하는 방안을 언급할 수 있다. 콤블루는 현역 미군의 개인 데이터 보호가 적국의 국가 안보 허점 악용을 예방하는 데 중요하다고 확신하기도 한다.

FTC 위원회 구성원 5인 모두 의회에서 양당의 지지를 받은 포괄적인 데이터 프라이버시 법안이 소속 정당의 관심사를 떠나 법률로 제정되기를 원한다. 그러나 법안 관련 합의는 끝난 것으로 보인다.

ANPR을 반대한 필립스(Phillips) FTC 위원은 법률 제정 시도가 프라이버시 법안을 계획대로 마련하지 못하는 변명이 될 수 있다고 설명했다. 마찬가지로 ANPR을 반대한 윌슨(Wilson) 위원도 필립스 위원과 비슷한 우려를 언급하며, ANPR이 사법 검토를 올바르게 하지 못할 것이라고 설명했다.

9월 8일(현지 시각), 레베카 슬라우터(Rebecca Slaughter) 위원은 의회의 법률 통과 이전까지 FTC가 각종 불법 행위 조사와 해결을 위한 권력을 행사할 수 있는 모든 조처를 해야 한다고 주장했다. 또, 새로운 법률을 고려하려는 노력의 시작을 법률 제정 권한을 제대로 행사하지 못한 시대의 시작과 끝으로 볼 수 있다고 덧붙였다. 슬라우터 위원은 3년 전, 사건별 접근방식에 따른 결론이 불공정 관행 억제에 충분하지 않다고 판단한 뒤 법률 제정 과정을 처음 촉구하기 시작했다. 슬라우터 위원은 FTC가 의회의 야망을 제한하지 않을 것이며, 의회에서 포괄적인 프라이버시 법안이 통과되지 못할 때와 FTC가 대응에 나서지 못할 때는 최악의 결과가 이어질 것이라는 견해를 피력했다.

** 위 기사는 와이어드US(WIRED.com)에 게재된 것을 와이어드코리아(WIRED.kr)가 번역한 것입니다. (번역 : 고다솔 에디터)

<기사원문>
The FTC Is Closing In on Runaway AI