By CHRIS STOKEL-WALKER, WIRED UK

정치계에서 일주일은 긴 시간이다. 특히, 경찰이 샌프란시스코 길거리에서 로봇에 인간을 죽일 수도 있는 작전 임무 수행 권한을 부여해도 괜찮을지 결정해야 한다면, 일주일이라는 시간은 더더욱 긴 시간이라고 말할 수밖에 없다.

2022년 11월 말, 샌프란시스코 감독위원회는 샌프란시스코 경찰에 원격 작동 로봇을 이용해 범죄 용의자를 사살할 권리를 부여했다. 단, 살상 로봇이 일반 시민이나 경찰을 위험한 상황으로 몰아넣어서는 안 된다. 이른바 ‘살상 로봇 계획’이라는 로봇의 범죄 용의자 살해 자격 부여를 합리화하는 논리는 2017년, 라스베이거스에서 사망자 60명과 부상자 860여 명이 발생한 만달레이 베이 총기 난사 사고와 같은 잔혹한 일이 샌프란시스코에서 되풀이되지 않도록 막는 것이다.

그러나 일주일이 넘게 지난 시점에 샌프란시스코주의 살상 로봇 투입을 승인한 국회의원이 초기 결정을 번복했다. 그리고 위원회에 추가 검토 계획을 보냈다.

로봇의 살상 결정이 번복된 부분적인 이유는 광범위한 대중적 반발과 초기 살상 로봇 승인이라는 결과로 이어진 로비 활동이 더해진 덕분이다. 인간을 삶과 죽음과 관련된 중대한 문제에서 없앨 수 있다는 우려도 널리 확산됐다. 12월 5일(현지 시각), 샌프란시스코 시청 바깥에서 시위가 열렸다. 그와 동시에 범죄 용의자 살상 로봇을 초기에 승인한 감독위원회 관계자 중 적어도 한 명이 초기 결정을 후회하게 되었다.

샌프란시스코주 포스 지역구 감독위원인 고든 마(Gordon Mar)는 “깊이 우려했던 문제에도 불구하고 추가 안전 보호 조치를 적용하는 데 찬성했다. 그러나 지금은 후회한다. 살상 로봇 투입 승인 여부 투표와 경찰의 강력한 책임감을 약속하지 않고 다른 도시에서도 살상 로봇 투입을 논의할 선례를 남긴 사실을 떠올리면, 날이 갈수록 불편하다. 살상 로봇 투입으로 주 정부의 폭력을 고립된 곳에서 원격으로 인간의 개입이 적은 상태에서 발생하는 결과로 이어질 것이라고 생각하지 않는다”라고 말했다.

영국 셰필드대학교 로봇 공학 교수인 조너선 앳킨(Jonathan Aitken)은 샌프란시스코 감독위원회가 제기한 의문점은 근본적으로 삶의 가치와 관련된 것이라고 말한다. 앳킨 교수는 “치명적인 로봇을 적용하는 문제는 항상 경찰과 군사 작전 측면에서 모두 깊이 고려한 사안이다”라고 언급했다. 인간의 목숨을 빼앗을 수도 있는 행동 추진 여부를 결정하는 일에는 깊이 고려한 방식으로 결정하기 위해 중요한 맥락에 따른 정보가 필요하다. 원격 작전에서는 놓칠 수 있는 맥락을 파악하는 것은 필수이다. 앳킨 교수는 “아주 사소한 상세 정보와 구성요소도 매우 중요하다. 그러나 공간이 분리되면, 상황을 정확히 파악할 맥락과 상세 정보, 구성요소가 사라진다”라며, “작전 개시 세력이 상세한 상황을 고려하지 않았기 때문이 아니다. 그러나 작전 지시자에게 제공하는 데이터에 중요한 정보를 포함하지 않았기 때문일 수도 있다. 결과적으로 실수로 이어질 수 있는 부분이다”라고 말했다. 치명적인 권력이 동원된 작전에서는 말 그대로 생사가 달라질 수도 있다.
 
과거, 순찰 자동화를 연구한 적이 있는 뉴욕대학교 뉴스쿨 부교수인 피터 아사로(Peter Asaro)는 “무기 장착 로봇을 군사, 경찰 작전에 동원하는 것이 끔찍한 의견임을 입증할 이유가 많다”라고 주장했다. 아사로 교수는 무기 장착 로봇 동원을 결정하는 부분적인 원인으로 경찰의 군대화 추세 확산을 지목했다. 아사로 교수는 “인질 대치 상황과 같이 극단적인 상황에서는 유용한 잠재적인 무기 로봇 동원이라는 새로운 생각을 떠올릴 수도 있다. 그러나 끔찍한 임무를 수행하게 된다. 대중적으로는 피해를 일으킬 수 있다. 특히, 유색인종과 빈곤층 밀집 지역사회에서는 그 피해가 클 것이다”라고 경고했다.

아사로 부교수는 로봇에 장착한 총을 폭탄으로 교체하는 방안도 반대하며, 시민이 모인 곳에 폭탄을 사용하는 일을 합리화할 수 없다고 강조했다. (현재 미국 일부 지역 경찰국은 폭탄을 장착한 로봇을 사용한다. 댈러스 경찰국에서는 2016년, 폭탄 장착 로봇이 용의자를 죽이는 데 동원된 사례가 있다. 많은 전문가가 이를 ‘유례없는 순간’이라고 칭했다.)

아사로 부교수가 경고한 바와 같이 살상 로봇 도입은 경찰이 다른 방식으로 지역사회와 상호작용할 능력을 해치기도 한다. 아사로 부교수는 “살상 로봇 동원이 유용하다고 입증할 만한 적용 사례가 충분하지 않다”라고 주장했다. 반면, 인질 및 도난 물품 반환 협상을 위한 전화 연결과 같이 로봇이 중요한 다른 영역에서는 전화를 장착한 로봇이 실제로 총을 운반한다면, 협상 시도 시 용의자의 의심만 커질 것이다.

그러나 실용성 이외에 더 근본적인 문제를 찾아볼 수 있다. 원격 제어 로봇을 포함해 종류를 떠나 로봇 자체는 인간의 목숨을 빼앗을 수 있어서는 안 된다. 앳킨 교수는 로봇이 생사 결정과 관련된 작전을 수행하는 것 자체가 결함이 있다고 지적한다. 앳킨 교수는 “실제 임무 수행에 나서는 이들과 의사 결정을 하는 이들 간 결정 사항에 합의하지 못한다는 점이 분명하다. 인간이 내린 결정을 행동을 옮기는 것뿐이지만, 로봇의 행동은 상황을 완벽하게 파악한 인간의 명령을 따를 수도 있으며, 혹은 반대로 상황을 파악하지 못한 인간의 명령을 따르게 될 수도 있다”라고 분석했다.

범죄 용의자 사살이라는 위험한 상황에서의 살상 로봇 투입을 둘러싼 결정을 번복한 샌프란시스코 감독위원회는 최근, 살상 로봇 투입 결정 중단 방안을 모색하던 운동가 단체의 환영을 받았다. 전자 프런티어 재단(Electronic Frontier Foundation) 정책 애널리스트 매튜 과리글리아(Matthew Guariglia)는 “베이 에어리어 지역 주민과 프레스턴 감독위원장과 왈튼 감독위원장의 지도력, 샌프란시스코의 원격 살상 로봇 투입에 반대한 샌프란시스코 감독위원회에 감사 인사를 전한다”라고 말했다.

그러나 샌프란시스코의 살상 로봇 투입 여부는 일시적으로 중단한 것일 뿐이다. 샌프란시스코 감독위원회는 추후 살상 로봇 투입 여부를 재고하고, 최근의 상황과 비슷하게 강력한 반응이 이어질 것이 유력하다. 과리글리아는 “위원회가 살상 로봇 투입 문제를 다시 논의한다면, 지역사회는 위험한 기술 사용 중단을 촉구하려 연대할 것이다”라고 말했다.

** 위 기사는 와이어드UK(WIRED.co.uk)에 게재된 것을 와이어드코리아(WIRED.kr)가 번역한 것입니다. (번역 : 고다솔 에디터)

<기사원문>
San Francisco Has Reversed Its Killer Robot Plan