By CHRIS STOKEL-WALKER, WIRED UK

런던 법무법인 앨런&오버리(Allen & Overy) 시장혁신부사장인 데이비드 웨이켈링(David Wakeling)은 2022년 9월, 처음으로 법률 분야를 집중적으로 다루는 생성형 인공지능(AI)인 하비(Harvey)를 접했다. 웨이켈링 사장은 하비 시스템 개발사인 오픈AI에 접근하여 소규모 실험을 진행했다. 앨런&오버리 소속 변호사 몇 명은 하비를 이용해 법률과 법률 문건 초안과 관련하여 간단한 질문의 답을 찾고, 의뢰인에게 답장한다.

웨이컬링 사장은 하비 시범 사용은 소규모로 시작했으나 채택 범위가 확장됐다고 밝혔다. 앨런&오버리 사무실 43곳의 직원 3,500명이 결국 하비를 사용해 총 4만여 가지 질문을 한다. 앨런&오버리는 법무법인 전체 사무실에서 하비를 사용하는 방안을 두고 협력을 시작했다. 그러나 웨이컬링은 협력의 금전적 규모와 관련된 사안은 구체적으로 밝히지 않았다. 하비는 앨런&오버리 소속 변호사 4명 중 1명꼴로 매일 AI 플랫폼을 사용하며, 한 달 동안 전체 변호사 80%가 사용한다고 주장했다. 다른 법무법인도 하비를 채택했다.

AI와 법률 산업 피해 가능성은 이전에도 여러 차례 예측됐다. 그러나 최근 챗GPT(ChatGPT)를 필두로 생성형 AI 툴이 상승세를 기록하자 업계 내부에서는 업계에서는 그 어느 때보다 더 AI 사용을 확신한다.

웨이컬링 사장은 “변호사의 AI 활용은 패러다임 변화의 시작이라고 본다. AI가 법조계에서 사용하기 매우 적합하다고 생각한다”라고 말했다.

생형형 AI는 문화적, 상업적 요소를 갖추고, 검색의 미래라는 홍보와 함께 확산됐다. 그러나 저작권을 둘러싼 법적 분쟁과 학교와 대학가의 혼란을 초래했다.

대규모 데이터세틀르 이용해 자연스러워 보이는 이미지나 글을 생성할 방법을 학습한 생성형 AI 기술은 표준 문서와 판례 의존도가 매우 높은 법조계에 훌륭한 활용 사례를 가져올 수도 있다.

뉴캐슬대학교 법률, 혁신 및 사회학 교수 릴리안 에드워드(Lilian Edwards)는 “계약서나 부동산 양도 문서, 허가증 발급 등 법률 신청 문서 작성은 실제로 챗GPT와 같은 AI 기반 텍스트 생성 툴을 적용해도 문제가 발생할 확률이 상대적으로 낮다. 법률 문서 생성 자동화는 지난 수십 년 동안 규칙을 기반으로 한 기술을 채택한 시기에도 성장하였다. 법무법인이 고도의 표준화된 양식과 판례 모음집에 대거 접근하여 문서 구조를 생성하고는 무료 텍스트보다 훨씬 더 예측 가능성이 높은 결과를 생성할 수 있기 때문이다”라고 설명했다.

그러나 현재 생성형 AI가 생성하는 결과물의 문제는 이미 드러나기 시작했다. 가장 주목할 만한 문제는 거짓을 사실인 것처럼 보이는 결과를 제공하는 것이다. 검색 엔진에서 충분히 드러난 문제이지만, 법조계에서는 성공과 실패의 차이가 심각하여 막대한 비용 부담으로 이어질 수 있다.

하비 창립자이자 CEO인 가브리엘 페레이라(Gabriel Pereyra)는 이메일을 통해 하비 AI 툴이 거짓을 사실인 것처럼 작성하는 일이 없는 곳에 여러 시스템을 두었다고 밝혔다. 페레이라는 “하비 시스템은 기존 시스템보다 거짓 정보를 사실인 것처럼 작성할 위험성을 대거 줄인 대규모 법률 데이터세트에서 다루는 법적 활용 사례를 적합하게 변경했다”라고 말했다.
 
그런데도 웨이켈링 사장은 하비가 잘못된 정보를 작성했다고 지적한다. 앨런&오버리가 하비 사용 시 위험 관리 프로그램을 신중하게 다루는 이유이다.

웨이컬링 사장은 “앨런&오버리는 최고 수준의 전문 서비스를 제공받는다. 그러나 법적 조언의 정확도를 저하하는 거짓 정보를 사실인 것처럼 작성할 수는 없다”라고 말했다. 앨런&오버리의 하비 포털에 접속하면, 하비 사용 관련 규정 목록을 보게 된다. 웨이컬링 사장은 가장 중요하게 생각하는 요소와 관련, “시스템이 생성하는 결과 모두 검증해야 한다. 모든 것을 검토해야 한다”라고 강조했다.

웨이컬링 사장은 하비의 텍스트 변환 능력에 특히 감탄했다. 주요 법률 정보 제공 능력이 뛰어나지만, 간혹 특별법을 다루는 데는 취약한 모습을 보이면서 잘못된 정보를 사실인 것처럼 생성할 수 있다. 웨이컬링 사장은 “하비의 한계점을 알고 있다. 앨런&오버리 내 하비 사용자는 거짓 정보를 사실인 것처럼 작성할 위험성을 철저하게 안내받았다. 앨런&오버리 내부에서는 대규모 훈련 프로그램으로 장문의 법률 문서를 다루었다”라고 전했다.

와이어드의 취재에 응한 다른 변호사는 법률 문서 작성 시 AI 활용을 두고 조심스레 낙관적인 전망을 이야기했다.

법무법인 TLT 소속 고객 혁신 파트너 시안 애쉬튼(Sian Ashton)은 “AI를 이용한 법률 문서 작성은 매우 흥미로운 일이며, 법조계에서 발생하는 환상적인 혁신의 일부분을 보여준다는 점이 분명하다. 다만, 법률 문서 작성 AI 툴은 초기 단계의 도구이다. 개인적으로 AI 툴이 이미 기업이나 구독 서비스로 접할 수 있는 판례 문서 제공 이상의 역할을 할 수 있는지도 의문이다”라는 견해를 전했다.

프랑스 파리에서 근무하는 데이터 보호 전문 변호사 다니엘 세레듀익(Daniel Sereduick)은 AI를 초기 수준의 작업에만 계속 활용할 수도 있다고 본다. 세레듀익 변호사는 “법률 문서 초안 작성 작업은 AI가 법률을 자세히 이해해야 하는 노동 집약적인 작업이다. 계약서와 정책 문서 등 각종 법률 문서는 규칙을 준수해야 하는 경향이 있다. 따라서 AI의 정보 수집 및 합성 능력이 많은 작업 부담을 완화할 수 있을 것이다”라고 말했다.

하지만 앨런&오버리에서 발견한 바와 같이 AI 플랫폼의 결과물은 항상 신중한 검토가 필요하다. 세레듀익 변호사는 “법률 적용의 일부분에는 의뢰인의 특별한 상황 이해가 포함됐다. 따라서 AI가 생성하는 법률 문서가 의뢰인의 상황에 최적화되기 어렵다”라고 지적했다.

이어, 법률 AI 툴의 결과물은 신중한 검토가 필요하지만, AI 툴에 입력하는 내용도 다루기 어려울 수도 있다. 세레듀익 변호사는 “AI에 제출하는 데이터는 데이터 모델과 훈련 데이터의 일부분이 될 수 있다. 따라서 의뢰인의 기밀 유지 의무나 개인 데이터 보호, 프라이버시 권리 위반 위험성이 매우 높다”라고 말했다.

AI 사용 시 유럽연합의 개인정보보호 법률(GDPR) 위반 문제가 제기될 수 있는 유럽에서는 생성형 AI 사용이 유독 큰 문제가 될 수 있다. GDPR은 기업의 개인 데이터 수집 및 처리양을 다스린다.

데이터 보호 전문가 로버트 베이트만(Robert Bateman)은 “대규모 데이터 수집을 기반으로 구축된 소프트웨어를 합법적으로 사용할 수 있는가? 공개적인 논의 대상이라고 본다”라고 말했다.

법무법인은 GDPR에 따라 하비와 같은 생성형 AI 툴로 다루고자 의뢰인의 개인 데이터 주입과 AI 툴을 운영하는 외부 기관이 다루는 데이터를 다루는 계약에 확고한 법률 기반이 필요할 것이다.

웨이컬링 사장은 앨런&오버리가 하비로 문서를 생성할 때 개인 정보를 사용하지 않으며, 하비가 다루는 데이터 모두 다른 용도로 사용되는 문제를 두고 철저한 보호가 적용된 것을 확신하기 전까지 개인 데이터를 사용할 계획이 없다고 밝혔다. 요구사항 충족 여부 결정은 앨런&오버리의 정보 보안부에서 다룰 사건이다. 웨이컬링 사장은 “의뢰인 데이터를 매우 신중하게 다룬다. 현재 개인 데이터와 의뢰인 데이터 시스템을 사건 연구나 초안 작성, 사전 계획 준비 등과 같은 용도로 사용하지 않는다”라고 말했다.

국제법도 이미 개인 데이터를 포함한 생성형 AI 툴 주입 문제를 강화하기 시작했다. 유럽 전역에서는 유럽연합의 AI법(AI Act)이 AI 사용 관행을 더 엄격하게 규제한다. 2023년 2월 초, 이탈리아 데이터 보호 기관은 생성형 AI 챗봇 레블리카(Replika)의 사용자 개인 데이터 사용을 방지하기 위해 개입했다.

그러나 웨이컬링 사장은 앨런&오버리가 AI를 최대한 활용하면서 의뢰인 데이터 안전과 보안 관리를 유지하고, 업무 방식을 개선할 수 있다고 확신한다. 웨이컬링 사장은 “AI 툴은 실제 생산성과 효율성 측면에서 차이가 있는 문서를 작성할 수 있다”라고 말했다. 사소하지만, 변호사의 귀중한 업무 시간을 잡아먹은 업무도 AI로 처리할 수 있다. 웨이컬링 사장은 “AI 툴을 사용할 수 있는 변호사 3,500명을 더하면, 그 수는 매우 많다. 완전한 혁신이 아니더라도 인상적인 일이다”라고 말했다.

** 위 기사는 와이어드UK(WIRED.co.uk)에 게재된 것을 와이어드코리아(WIRED.kr)가 번역한 것입니다. (번역 : 고다솔 에디터)

<기사원문>
Generative AI Is Coming for the Lawyers