본문 바로가기 주메뉴 바로가기 검색 바로가기
구글 AI 오버뷰, 항상 문제될 것...인공지능 실행 방식 시사
상태바
구글 AI 오버뷰, 항상 문제될 것...인공지능 실행 방식 시사
구글은 AI 검색 기능의 오류가 널리 알려지자 서둘러 결함을 수정했다. 생성형 AI의 근본적인 한계점은 앞으로도 간혹 AI 오버뷰 기능에서 오류가 발견될 것임을 의미하기도 한다.
By WILL KNIGHT, WIRED US

구글은 자사 알고리즘이 사용자에게 “바위를 먹어라”, “피자에 접착제를 붙여라” 등과 같은 조언을 한 사실이 온라인 공간에서 널리 알려진 뒤 자사의 과감한 생성형 인공지능(AI) 기능을 변경할 필요가 있다는 사실을 인정했다. 구글 알고리즘의 문제점은 구글이 적극적으로 추진하는 생성형 AI 상용화 추진의 위험성과 생성형 AI의 신뢰 문제와 근본적인 한계를 부각하는 사례이다.

구글 AI 오버뷰(AI Overviews) 기능은 오픈AI의 챗GPT와 같은 대규모 언어 모델인 제미나이(Gemini)를 바탕으로 온라인에서 찾은 정보를 요약하는 방식으로 검색 질문에 적합한 답을 생성한다. 현재의 AI 호황은 대규모 언어 모델이 놀라울 정도로 능숙한 텍스트 생성 능력을 선보이면서 형성되었다. 그러나 텍스트 생성 소프트웨어는 텍스트 생성 능력을 이용하여 사실이라고 믿을 수 있을 법한 거짓이나 오류를 담을 수도 있다. 대규모 언어 모델 기술을 이용한 온라인 정보 요약 기능은 검색 결과 이해도 향상을 약속한다. 하지만 AI가 답변을 구성하고자 찾은 온라인 정보 출처가 축소될 때나 사용자가 AI로 얻은 정보를 이용하여 중요한 사항을 판단할 때는 문제가 될 수 있다.

연구원 자격으로 언어 능력 부문에서 AI에 기여한 인물이자 2021년 말 AI 중심 검색 엔진인 유닷컴(You.com)을 개발한 AI 전문가인 리차드 소처(Richard Socher)는 “현재 대규모 언어 모델로 꽤 빠른 속도로 신속하면서도 멋진 프로토타입을 얻을 수 있다. 하지만 실제로 구글 알고리즘과 같은 문제가 발생하지 않도록 하려면, 수많은 작업이 필요하다”라고 말했다.

소처는 장시간에 걸쳐 대규모 언어 모델을 강화하려면, 상당한 노력이 필요하다고 전했다. 대규모 언어 모델의 기본 기술은 실제 세계를 이해하지 못하며, 웹은 신뢰할 수 없는 정보가 넘쳐나는 공간이기 때문이다. 소처는 “간혹 사용자에게 실제로 답을 주지 않거나 다양한 관점을 보여주는 것이 더 낫다”라고 언급했다.

리즈 레이드(Liz Reid) 구글 검색부사장은 2024년 5월 30일(현지 시각), 블로그 게시글을 통해 AI 오버뷰 출시에 앞서 포괄적인 테스트를 진행 중이라고 밝혔다. 그러나 구글 알고리즘이 풍자적인 어조로 작성된 기사와 장난처럼 어느 한 누리꾼이 남긴 레딧 댓글에서 정보를 수집한 것으로 추정되는 “바위를 먹어라”, “피자에 접착제를 붙여라”라는 조언을 건넨 사례에서는 추가 변경 사항의 필요성을 알려주었다. 구글은 알고리즘의 무의미한 질문 탐지 수준 개선과 시스템의 사용자 생성 콘텐츠 의존도 저하를 변경 사항에 포함했다고 밝혔다.
 
[사진=Unsplash]
[사진=Unsplash]

소처는 유닷컴이 수많은 속임수를 개발하여 검색 기능 사용 시 대규모 언어 모델이 잘못된 행동을 하지 않는 상태를 유지하므로 평소 구글 AI 오버뷰의 사례와 같은 오류를 피한다고 주장했다.

소처는 “수많은 자원을 투입하여 정확도를 높이므로 유닷컴의 알고리즘이 제공하는 검색 결과의 정확도가 더 높다”라고 말했다. 유닷컴이 알고리즘에 활용하는 여러 요소 중 대규모 언어 모델이 부정확한 정보를 피하는 데 도움이 되도록 하는 맞춤 개발 웹 인덱스도 있다. 또한, 여러 가지 대규모 언어 모델을 선택하여 특정 질문에 적합한 답을 제공하기도 하며, 정보 출처의 내용이 모순될 때는 정보 출처 인용 메커니즘을 활용하기도 한다. 지금도 AI 검색을 사용하여 올바른 정보를 얻는 일은 까다로운 일이다. 와이어드는 유닷컴이 다른 AI 시스템이 실수를 범했던 질문에 정확한 답을 제공하지 못한 사실을 발견했다. 이때 유닷컴은 “현재 사용할 수 있는 정보를 기준으로 보면, 알파벳 K로 시작하는 아프리카 국가는 없다”라고 답변했다. 이전 테스트에서 유닷컴의 AI는 훌륭한 답변을 제공했다.

구글이 가장 널리 사용되면서도 수익성이 높은 생성형 AI 업그레이드에 적용한 업그레이드 사항은 2022년 11월, 오픈AI의 AI 챗봇인 챗GPT 출시가 계기가 된 테크 업계 전반의 재구성 과정에 해당한다. 챗GPT가 출시되고 몇 달이 지나자 오픈AI의 핵심 협력사인 마이크로소프트는 오픈AI 기술을 활용하여 이미 운영 중인 검색 엔진인 빙을 업그레이드했다. 업그레이드된 빙은 AI가 생성한 오류와 이상한 행동 때문에 난항을 겪었다. 그러나 사티아 나델라 마이크로소프트 CEO는 AI를 중심으로 한 빙 업그레이드가 구글에 맞서기 위한 설계 변화라며, “전 세계 사용자에게 마이크로소프트가 사용자의 수요를 완벽하게 충족한다는 사실을 알리고자 한다”라고 말했다.
 
“사실상 올바른 정보를 항상 얻는 일이 불가능하다고 생각한다. AI의 본질이기 때문이다.”
릴리 레이, SEO 컨설턴트

일부 전문가는 구글이 AI 업그레이드를 서둘렀다고 평가한다. 검색 업계 추적 전문 언론 기관인 서치엔진랜드(Search Engine Land) 뉴스 에디터 배리 슈와츠(Barry Schwartz)는 “마이크로소프트, 구글 등 복수 테크 기업이 금융, 의학 등 다양한 분야의 질문 처리가 가능한 AI 검색 기능을 선보인 사실에 놀랐다. 테크 기업이 AI 검색 기능을 제공할 때는 더 신중한 태도를 보여야 한다고 생각한다”라고 말했다. 슈와츠는 일부 사용자는 의도적으로 AI 오버뷰의 실수를 유도할 수도 있다는 점을 구글이 더 깊이 예측했어야 한다고 덧붙였다. 그는 “구글은 AI 검색 기능과 잠재적인 오류 부문에서 더 영리한 태도를 보여야 한다”라고 말했다. 특히, 구글이 가장 중요한 제품을 기본 조건으로 채택하여 결과를 보여준다는 점을 언급했다.

검색 엔진 최적화(SEO) 컨설턴트 릴리 레이(Lily Ray)는 1년 동안 구글이 ‘검색 생성 경험(Search Generative Experience)’이라고 칭한 AI 오버뷰 프로토타입 베타 테스트에 참여했다. 레이는 이전의 베타 테스트 버전이 초기 질문에서 벗어나고는 했던 점을 고려하면, 최근 구글 AI 오버뷰의 논란이 된 오류가 발생한 것이 전혀 놀랍지 않다고 전했다. 레이는 “사실상 올바른 정보를 항상 얻는 일이 불가능하다고 생각한다. AI의 본질이기 때문이다”라고 말했다.

AI 오버뷰의 사례처럼 노골적인 오류를 범하더라도 AI 검색 기능은 다른 방식으로도 문제를 일으킬 수도 있다. 레이는 AI 오버뷰의 알아차리기 가장 어려운 문제점을 다룬 보고서를 문서로 작성했다. 레이가 문서를 통해 지적한 문제점에는 다른 지역이나 비활성화된 사이트 등 정보 신뢰도가 낮은 출처에서 수집한 정보 요약도 포함되었다. 레이는 신뢰도가 낮은 정보 출처를 이용하면, 제품 추천 정보를 찾는 상황에서 유용하지 않은 정보를 제공할 수도 있다고 언급했다. 구글 검색 알고리즘 콘텐츠 최적화 작업을 담당하는 이들은 지금도 현재 알고리즘의 문제점을 파악하려 한다. 레이는 “지금 당장 업계 내부에서는 알고리즘의 혼란 수준이 널리 알려졌다”라고 전했다.

복수 업계 전문가와 소비자가 구글 검색 엔진의 행동 방식에 더 익숙해지더라도 AI 알고리즘의 실수가 중단되는 일은 기대하지 않는 편이 낫다. 여러 AI 기반 검색 서비스를 손쉽게 비교할 수 있는 툴 개발 작업을 진행 중인 검색 컨설턴트 겸 연구원인 대니얼 그리핀(Daniel Griffin)은 구글이 2014년, 웹사이트 내 텍스트를 인용하여 사용자 질문에 적합한 답변을 제공한 ‘피처드 스니펫(Featured Snippets)’을 출시했을 당시에도 비슷한 문제가 발생한 사실에 주목했다.

그리핀은 구글이 AI 오버뷰의 가장 두드러지는 일부 문제점을 제거할 것으로 예상한다. 하지만 대규모 언어 모델의 사실 이해 실패, 정보를 조작하려는 경향 등 문제점을 해결한 이는 아무도 없다는 사실을 기억하는 것이 중요하다고 덧붙였다. 그는 “AI만의 문제가 아니다. 웹, 그리고 세계의 문제이다. 반드시 정확한 진실이어야만 하는 것은 아니다”라고 말했다.

** 위 기사는 와이어드US(WIRED.com)에 게재된 것을 와이어드코리아(WIRED.kr)가 번역한 것입니다. (번역 : 고다솔 에디터)

<기사원문>
Google's AI Overviews Will Always Be Broken. That's How AI Works
이 기사를 공유합니다
RECOMMENDED