By TODD FEATHERS, WIRED US

미국 환경보호청은 직원의 챗GPT 접근을 막았다. 반면, 기니 주재 미국 국무부 관료는 챗GPT로 연설문 초안과 SNS 게시글을 작성했다.

미국 메인주는 사이버 보안 문제를 우려하여 2023년 내내 주 정부 관료의 생성형 인공지능(AI) 사용을 금지했다. 인근 지역인 버몬트주 AI 책임자인 조시아 레이치(Josiah Raiche)는 버지니아주 정부 관료가 생성형 AI를 이용해 새로운 프로그래밍 언어와 내부 코드 작성법을 학습했다.

캘리포니아주 산호세는 총 23페이지 분량의 생성형 AI 지침을 작성하고, 정부 청사 관료에게 챗GPT나 바드, 미드주어니 등 AI 툴을 사용할 때마다 양식을 작성하도록 요청했다. 차를 끌고 북쪽 방향으로 30분 이내로 이동하면 도착할 수 있는 알라메다 카운티 지방 정부는 직원을 대상으로 설득력이 있지만 정확하지 않은 글을 마구 생성하는 성향과 같이 생성형 AI의 위험성을 가르칠 시간을 마련했다. 그러나 생성형 AI의 위험성 교육은 지금까지 공식 정책이 없었다.

알라메다 카운티 차석 정보 책임자 시빌 건리(Sybil Gurney)는 “이제 알라메다 카운티는 사용자가 할 수 없는 일이 아니라 할 수 있는 일을 더 깊이 다룰 것이다”라고 말했다. 알라메다 카운티 직원은 챗GPT로 다양한 업무를 처리할 것이며, 세일스포스의 아인슈타인 GPT(Einstein GPT)를 이용한다.

모든 단계에서 각 지역 정부는 생성형 AI를 최대한 활용할 방안을 모색한다. 주 정부와 도시 관료 모두 와이어드와의 인터뷰를 통해 생성형 AI가 일상 서류 작업 간소화와 시민의 밀집한 정부 재료 접근 및 이해 능력 개선 등을 통해 가장 성가신 관료주의 작업을 향상할 수 있다고 믿는다고 전했다.
 
2023년 4월 자로 생성형 AI 지침을 사전 공개한 시애틀시 임시 최고 기술 책임자 짐 로터(Jim Loter)는 “누구나 책임감을 중요하게 생각하지만, 말 그대로 정부 차원의 AI 사용 측면에서는 다른 수준으로 문제가 증가한다”라며, “정부의 생성형 AI 관련 결정은 인간의 삶에 매우 강력한 방식으로 영향을 미칠 수 있다. 시애틀시는 AI 사용 행동과 관련, 시민이 모두 동등한 책임을 지고, AI 사용 결정 정보를 제공할 방안을 공개해야 한다”라고 말했다.

정부 관료가 AI를 사용하면서 직면하는 위험성은 2023년 8월, 아이오와주 메이슨 시티의     어느 한 부관리자가 학군 내 도서관에 등록된 도서 중 성적 내용을 포함하여 제거해야 할 도서 목록을 판단할 초기 단계에 챗GPT를 사용한 사례로 미국 전역에서 주목받게 되었다. 성적으로 부적절한 내용을 담은 도서 제공 금지는 비교적 최근 시행된 주 법률의 요구 사항이다.

정부 관료의 감시 정도는 앞으로 계속 이어질 것이다. 산호세시와 시애틀시, 워싱턴주 모두 관료를 대상으로 생성형 AI 툴에 명령어로 입력하는 정보 모두 공개 기록법에 따라 공개 대상이 될 것이라고 경고했다.

명령어로 입력한 정보는 생성형 AI 툴 훈련 시 사용하는 기업 데이터베이스에 자동으로 전달되고, 같은 데이터세트로 훈련된 모델을 이용하는 다른 사용자에게 다시 전달할 수 있다. 스탠퍼드 인간 중심 인공지능 연구소(Stanford Institute for Human-Centered Artificial Intelligence)는 2022년 11월, 대규모 언어 모델의 정확도가 높을수록 훈련 데이터세트의 콘텐츠 전체를 다시 가져올 확률이 높다고 판단한 대규모 연구 결과를 공개했다.

보건 복지, 형사 정의 기관에는 유독 큰 문제가 되는 부분이다.

로터는 시애틀시 관료가 생성형 AI를 시애틀시 경찰책임국의 장문의 보고서 내용 요약에 사용하는 방안을 고려했다고 밝혔다. 모두 대중적이면서도 민감한 정보를 포함할 수 있다.

애리조나주 마리코파 카운티 대법원 직원은 내부 규정 작성과 문서 양식 생성 시 생성형 AI를 이용한다. 지금까지 공개 소통 목적으로 생성형 AI를 사용한 적은 없다. 하지만 마리코파 카운티 대법원 최고 혁신 및 AI 책임자 애론 주디(Aaron Judy)는 생성형 AI로 법률 전문가가 아닌 이들을 위해 법률 문서 가독성을 높일 수 있다고 본다. 이론상 직원은 법원 사건의 공개 정보를 생성형 AI 툴에 입력해 법원 정책을 위반하지 않고 언론 보도 자료를 생성할 수 있다. 다만, 주디는 “법원 관료는 생성형 AI 사용을 걱정할 수도 있다”라고 말했다.

주디는 “시민이 입력한 정보를 이용해 민간 기관의 매출을 끌어모을 모델을 훈련하여 더 큰돈을 벌 수 있다. 이를 마냥 나쁜 일이라고 말할 의도는 없다. 그러나 최종 단계에서 어떠한 불편함도 없이 생성형 AI를 사용하여 문서를 작성했다고 말할 수 있어야 한다”라고 덧붙였다.

산호세 생성형 AI 지침은 생성형 AI로 대중적 소비를 위한 문서 생성 작업을 강력히 금지하지 않는다. 다만, 생성형 AI가 거짓 정보를 도입할 수 있으며, 산호세시에서는 소통하고자 하는 바를 정확히 밝히고자 하므로 생성형 AI 사용 행위를 위험성이 높은 일로 분류한다. 예를 들어, 대규모 언어 모델에 언론 보도 자료 작성을 요청할 때 산호세 시민을 표현을 단어로 ‘시민’이라는 단어를 사용할 수 있다. 그러나 산호세시는 대중과의 소통에서 산호세 시민을 지칭할 때 ‘거주자’라는 표현만 사용한다. 미국 시민 모두 산호세 지역에 거주하는 것이 아니기 때문이다.

젠시티(Zencity)를 비롯한 시민 기술 기업은 정부 언론 보도 자료 작성용 생성형 AI 툴을 자사 제품군으로 추가했다. 마이크로소프트, 구글, 딜로이트, 액센츄어 등 테크 업계 대기업과 주요 컨설팅 기업은 다양한 생성형 AI 제품을 연방 정부 단위에서 홍보한다.

정부의 초기 생성형 AI 정책은 여러 도시와 주 정부에서 마련한 정책이다. 와이어드의 취재에 응한 일부 지역 단위 생성형 AI 정책 작성자는 다른 기관을 통해 배우고, 생성형 AI 표준을 개선하고자 한다고 밝혔다. 민주주의 및 기술 센터(Center for Democracy and Technology) 회장 겸 CEO 알렉산드라 리브 지벤스(Alexandra Reeve Givens)는 명확한 지도력과 구체적이고 상세한 내용을 담은 연방 정부 차원의 지침을 제시하는 사례의 완성도가 높다고 전했다.

연방 예산관리국(Office of Management and Budget)은 2023년 여름 중으로 연방 정부의 AI 사용 지침 초안을 발행할 예정이다.

도시, 주 정부 기관이 발행한 생성형 AI 정책은 관료가 앞으로 몇 달 혹은 그보다 더 오랜 기간을 연장하여 평가해야 할 임시 조처이다. 모두 시 혹은 주 정부 관료를 대상으로 민감한 비공개 정보를 명령어에 입력하는 것을 금지하고, 어느 정도 인간의 사실 검증과 AI 생성 작업 검토를 요구한다. 그러나 주목할 만한 차이점도 있다.

예를 들어, 산호세 지역과 시애틀, 보스턴, 워싱턴주는 관료를 대상으로 작업 도중 생성형 AI를 사용한 사실을 밝힐 것을 요구한다. 반면, 캔자스주는 관료의 생성형 AI 사용 사실 공개를 요구하지 않는다.

산호세 프라이버시 책임자 알버트 게하미(Albert Gehami)는 산호세를 포함한 일부 도시의 생성형 AI 규정이 앞으로 수개월에 걸쳐 크게 개선될 것으로 내다본다. 공무원 업무 도중 AI 사용 사례가 더 분명해지고, 생성형 AI 사용 방식이 이미 보편화된 여러 기술 사용 방식과 다르다는 사실을 발견하게 될 것이기 때문이다.

게하미는 “구글을 사용할 때는 무언가를 입력하면, 다양한 관점이 사라진다. 공무원은 20년간 기본적으로 책임감 있는 기술 사용법을 학습하면서 기술 사용 능력을 시험하기만 했다. 20년 동안 생성형 AI 사용법을 찾을 수도 있을 것이다. 그러나 생성형 AI 사용법을 찾으려 20년간 조금씩 사용하는 것을 원하지는 않는다”라고 전했다.

** 위 기사는 와이어드US(WIRED.com)에 게재된 것을 와이어드코리아(WIRED.kr)가 번역한 것입니다. (번역 : 고다솔 에디터)

<기사원문>
AI Chatbots Are Invading Your Local Government—and Making Everyone Nervous