By WILL KNIGHT, WIRED US

인공지능(AI)의 추가 발전 비용은 챗GPT가 거짓을 사실인 것처럼 제시하는 이른바 ‘환각’만큼 매우 놀라운 수준을 기록하기 시작했다. 대규모 AI 훈련 시 필요한 GPU라는 이름으로 알려진 그래픽 칩 수요의 영향으로 중요한 구성요소 가격이 최고치로 급등하는 결과를 견인했다. 오픈AI는 현재 챗GPT의 능력을 지원하는 근간이 되는 알고리즘 훈련 시 1억 달러가 넘는 비용을 부담한다고 밝혔다. AI 분야에서의 경쟁은 데이터센터의 에너지 소모량도 우려스러울 정도로 과도하게 많다는 의미이기도 하다.

AI 발전이라는 기회를 잡으려 서두르는 추세는 소수 스타트업이 새로운 연산 처리 부품을 개발하여 판매하고자 하는 과감한 계획을 고안하는 결과로 이어졌다. 지금까지 엔비디아 GPU가 AI 개발 부문에서 가장 큰 인기를 누리는 하드웨어이지만, 앞으로 GPU에 맞서 AI 개발 열풍의 기회를 활용하고자 하는 소수 기업은 컴퓨터 칩 설계 방식 재구성이라는 과감한 계획을 세울 때라고 주장한다.

구글 브레인과 알파벳의 야심 찬 연구 기관인 X 출신 테크 분야 베테랑 여러 명이 창립한 스타트업 노멀 컴퓨팅(Normal Computing)이 첫 번째 원칙부터 컴퓨팅을 재구성할 첫 번째 단계가 될 간단한 프로토타입을 개발했다.

기존 실리콘 칩은 정보를 나타내는 0과 1로 구성된 이진법 비트로 다루는 방식으로 연산을 처리한다. 노멀 컴퓨팅의 SPU(stochastic processing unit)는 전기 진동자의 열역학 특성을 활용해 회로 내부에서 발생하는 임의의 변동으로 계산 작업을 처리한다. 이 과정으로 연산 작업에 유용한 임의의 샘플을 생성하거나 선형대수학 계산을 풀 수 있다. 과학과 공학, 머신러닝 분야에서는 보편적인 일이다.
 
노멀 컴퓨팅 CEO 파리스 스바히(Faris Sbahi)는 SPU가 효율성이 뛰어나면서도 통계 계산 처리 시 작합하다고 설명했다. SPU가 언젠가 불확실성을 다루는 AI 알고리즘 개발 과정에 유용할 것이며, 대규모 언어 모델이 불확실한 질문을 처리할 때는 정확하지 않은 정보를 사실인 것처럼 꾸미는 경향을 다루는 데도 도움이 될 수도 있을 것이다.

스바히는 최근, 생성형 AI가 거둔 성공이 인상적이라고 말하면서도 현재의 생성형 AI는 최종 형태와는 거리가 멀다고 주장했다. 그는 “소프트웨어 아키텍처와 하드웨어 측면에서 더 나은 모습을 보일 수 있다는 점이 분명하다”라고 말했다. 스바히는 노멀 컴퓨팅의 다른 공동 창립자와 함께 알파벳에서 양자컴퓨터, AI 개발 작업을 한 경험이 있다. 노멀 컴퓨팅 공동 창립자 모두 머신러닝 분야에서 양자컴퓨터 활용 과정의 진전 부재를 보고 AI에 필요한 연산 처리 능력을 제공하기 위해 물리학을 다른 방식으로 활용할 방법을 생각하게 되었다.

알파벳 양자컴퓨터 연구팀에서 근무하던 이들 중에는 엑스트로픽(Extropic)이라는 기업을 공동 창립한 이들도 있다. 엑스트로픽은 AI 분야에 열역학 컴퓨팅을 활용한다는 더 야심 찬 계획을 비밀리에 진행 중인 것으로 알려진 기업이다. 엑스트로픽 창립자 겸 CEO 기욤 베르동(Guillaume Verdon)은 “엑스트로픽은 아날로그 열역학 칩에 신경 컴퓨팅을 꼼꼼하게 통합하는 작업에 온 힘을 다하고 있다. 양자컴퓨팅 소프트웨어, 하드웨어를 통해 얻은 지식을 활용하여 풀스택 열역학 패러다임에 적용한다”라고 말했다. (베르동은 최근, X(구 트위터)의 인기 밈 계정인 베프 제조스(Beff Jezos) 운영자라고 밝혀졌다. 해당 계정은 기술 자본 단일성 진전을 향한 아이디어를 홍보하는 효과적인 가속주의 운동과 관련이 있다.)

베르동이 제시한 아이디어는 컴퓨팅에 필요한 바를 포괄적으로 재구성하는 작업이 테크 업계가 칩의 구성요소 밀도가 계속 축소될 것이라는 오랜 기간 이어진 예측인 무어의 법칙 유지의 어려움에 도달한 상황에서 발전하는 데 도움이 될 수 있을 것이다. 새로운 컴퓨팅 방식 연구를 진행 중인 코넬대학교 교수 피터 맥마혼(Peter McMahon)은 “무어의 법칙 적용 속도가 둔화되지 않더라도 큰 문제를 직면하게 될 것이다. 오픈AI를 포함한 다수 AI 개발사가 지금까지 공개한 AI 모델 규모가 칩의 역량보다 더 빠른 속도로 발전하고 있기 때문이다”라고 주장했다. 즉, AI 과장 광고 열풍을 현재와 같은 추세로 유지하기 위해 컴퓨팅을 새로운 방식으로 활용할 필요가 있다는 의미이다.

노멀 컴퓨팅, 엑소트로픽을 포함해 컴퓨터 칩의 근본적 요소를 재구성하고자 하는 기업이 투자자를 찾는 추세는 GPU가 비교적 가까운 시점에 어느 정도 경쟁을 직면할 가능성을 제시한다. 영국에 본사를 둔 스타트업인 베이어 컴퓨팅(Vaire Computing)은 기본적으로 기존 컴퓨터 칩과 다른 방식으로 작업을 처리하면서 칩 실행 과정의 정보를 파괴하지 않고 계산 작업을 처리하는 실리콘 칩을 개발한다. 베이어 컴퓨팅이 채택한 가역 컴퓨팅(reversible computing)은 수십 년 전 고안된 개념으로, 컴퓨팅의 효율성을 강화한다는 약속을 했으나 절대로 실현되지 못한 개념이다. 베이어 컴퓨팅 공동 창립자 겸 CEO 로돌포 로시니(Rodolfo Rosini)는 그 어느 때보다 크기가 줄어든 구성요소를 실리콘 칩에 새겨야 한다는 물리적 한계가 GPU 등 여러 기존의 컴퓨터 칩이 구시대적인 칩이라는 의미라고 주장했다. 로시니는 “칩 제조 과정에서 한 가지 크기 규모가 남았다. 구성요소의 크기를 축소할 수 있으나 시스템에서 열을 신속하게 제거하는 것이 가장 어려운 점이다”라고 말했다.

대규모로 성장한 테크 업계가 지난 50년 이상 발전시킨 기술을 포기하기 쉽지 않을 것이다. 그러나 차세대 하드웨어 플랫폼을 제공하는 기업에는 오랫동안 고수한 기술 대신 새로운 기술을 채택하면서 얻는 대가가 클 것이다. 베이어 컴퓨팅 투자사인 7퍼센트 벤처스(7percent Ventures) 관계자인 앤드류 스콧(Andrew Scott)은 “기존 기술을 포기하고 새로운 기술을 채택할 때마다 제트 엔진, 트랜지스터 마이크로 칩, 양자 컴퓨터 등 인류 전체에 혁신적인 기술이 함께 등장한다”라고 말했다. 엑스트로픽과 노멀 컴퓨팅이 구상한 컴퓨팅 재구성 계획을 확신하는 여러 투자사도 업계 경쟁 측면에서 스콧과 비슷한 바를 희망한다.

컴퓨터 하드웨어 내 전기 사용에서 다른 방법으로 전환하는 등 더 이례적인 아이디어도 주목받는 추세이다. 맥마혼이 이끄는 연구팀은 빛을 이용해 정보를 처리하여 에너지를 절감할 방법을 연구 중이다. 맥마혼이 콜로라도주 아스펜에서 개최되도록 도움을 준 컨퍼런스 현장에서 어느 한 네덜란드 연구팀은 음파를 활용해 연산 처리 역량을 지원하는 기계식 달팽이관 이식 아이디어를 발표했다.

AI 챗봇을 간과하기 쉽다. 하지만 챗GPT가 촉진한 생성형 AI 개발 열풍은 AI 소프트웨어를 넘어선 영역의 혁명도 독려하도록 추진할 수 있다.

** 위 기사는 와이어드US(WIRED.com)에 게재된 것을 와이어드코리아(WIRED.kr)가 번역한 것입니다. (번역 : 고다솔 에디터)

<기사원문>
ChatGPT's Hunger for Energy Could Trigger a GPU Revolution