전 세계 인공지능(AI) 반도체 시장을 주도하고 있는 엔비디아가 차세대 컴퓨팅 아키텍처를 공개하며 다시 한번 기술적 격차를 벌리고 나섰다. 엔비디아는 17일(현지시간) 미국 새너제이에서 개최된 '엔비디아 GTC 2026'에서 차세대 AI 인프라 플랫폼인 '베라 루빈(Vera Rubin)'을 전격 발표했다. 이번 발표의 핵심은 단순한 성능 향상을 넘어, AI가 스스로 판단하고 실행하는 '에이전틱 AI(Agentic AI)' 시대를 뒷받침할 통합형 인프라를 구축했다는 점에 있다.

7종의 혁신 칩 통합, '거대한 AI 슈퍼컴퓨터'로의 진화

베라 루빈 플랫폼은 단순히 개별 부품의 집합이 아닌, 하나의 거대한 슈퍼컴퓨터처럼 작동하도록 설계된 통합 인프라다. 엔비디아는 이번 플랫폼을 위해 총 7종의 신규 칩 양산을 시작했다고 밝혔다. 플랫폼의 중심에는 새로운 중앙처리장치인 '베라(Vera) CPU'와 그래픽처리장치인 '루빈(Rubin) GPU'가 자리 잡고 있다.

여기에 데이터 전송의 병목 현상을 해결하기 위한 NV링크(NVLink) 6 스위치, 초고속 네트워킹을 지원하는 커넥트X-9 슈퍼NIC(ConnectX-9 SuperNIC), 데이터 처리 효율을 극대화하는 블루필드-4 DPU(BlueField-4 DPU)가 결합된다. 또한, 광대역 이더넷 연결을 위한 스펙트럼-6(Spectrum-6) 이더넷 스위치와 저지연 추론에 특화된 그록3 언어처리장치(Groq3 LPU)까지 더해져 AI 모델의 사전 훈련부터 사후 테스트, 실시간 추론까지 전 과정을 완벽하게 지원한다.

젠슨 황 엔비디아 창립자 겸 CEO는 "베라 루빈은 세대를 뛰어넘는 기술적 도약"이라며 "7개의 혁신적인 칩과 5개의 랙이 결합된 이 거대한 시스템은 AI의 모든 단계를 지원하는 인프라의 새로운 기준이 될 것"이라고 강조했다. 특히 그는 현재를 "에이전틱 AI로의 전환점이 도래한 시점"으로 규정하며, 차세대 인프라 구축의 필연성을 역설했다.

베라 CPU와 루빈 GPU, 에이전틱 AI의 두뇌가 되다

이번 발표에서 가장 주목받은 하드웨어 중 하나는 에이전틱 AI와 강화학습(Reinforcement Learning) 처리에 특화된 '베라 CPU'다. 에이전틱 AI는 사용자의 지시를 단순히 수행하는 수준을 넘어, 복잡한 목표를 달성하기 위해 스스로 계획을 세우고 실행하는 차세대 AI 모델이다. 이를 위해서는 기존보다 훨씬 높은 처리량과 즉각적인 응답성이 요구된다.

엔비디아에 따르면 베라 CPU는 기존 랙 스케일 CPU와 비교했을 때 에너지 효율은 2배 이상 높으면서도 성능은 50%나 더 빠르다. 이는 대규모 AI 서비스와 수만 명의 에이전트가 동시에 구동되는 환경에서 핵심적인 경쟁력을 제공할 것으로 보인다. 루빈 GPU와의 유기적인 결합을 통해 데이터 연산과 관리의 효율성을 동시에 극대화했다는 평가다.

압도적 경제성: 토큰당 비용 10분의 1로 절감

엔비디아가 공개한 대표 시스템인 '베라 루빈 NVL72'는 실제 비즈니스 현장에서의 경제적 파급력을 증명했다. 72개의 루빈 GPU와 36개의 베라 CPU를 NV링크 6로 연결한 이 랙 구조는 전작인 블랙웰(Blackwell) 플랫폼과 비교해 놀라운 수치를 보여준다.

엔비디아의 시뮬레이션 결과, NVL72 시스템은 블랙웰 대비 4분의 1 수준의 GPU만으로도 대규모 전문가 혼합(MoE, Mixture of Experts) 모델의 학습이 가능하다. 특히 기업들이 가장 민감하게 반응하는 지표인 '토큰당 비용'은 10분의 1 수준으로 낮아졌으며, 전력 소비 대비 추론 처리량(와트당 성능)은 최대 10배까지 향상됐다. 이는 대규모 언어 모델(LLM)을 운영하는 기업들에게 운영 비용 절감과 서비스 확장이라는 두 마리 토끼를 동시에 잡을 수 있는 기회를 제공한다.

서버를 넘어 'AI 팩토리'로, 데이터센터의 패러다임 전환

베라 루빈 플랫폼은 개별 서버 중심이었던 데이터센터의 구조를 'AI 팩토리'라는 새로운 개념으로 진화시키고 있다. 엔비디아는 NVL72 외에도 다양한 용도별 랙 시스템을 함께 공개했다. 256개의 베라 CPU를 탑재해 연산력을 극대화한 'CPU 랙', 극도로 낮은 지연 시간이 필요한 추론 작업을 위한 '그록3 LPX 랙', AI 에이전트의 방대한 메모리 처리를 담당하는 '블루필드-4 STX 스토리지 랙', 그리고 대규모 네트워크를 연결하는 '스펙트럼-6 SPX 이더넷 네트워크 랙' 등이 그 주인공이다.

이러한 시스템들은 개별적으로 작동하는 것이 아니라, 여러 개의 랙이 묶인 POD 기반의 구조를 형성한다. 이는 마치 공장에서 제품을 생산하듯 AI가 데이터를 학습하고 지능을 생산해내는 거대한 제조 시설과 같은 형태다. 엔비디아는 이를 통해 대규모 모델 학습과 실시간 추론이 동시에 일어나는 차세대 컴퓨팅 환경을 선점하겠다는 전략이다.

글로벌 빅테크의 합류와 에이전틱 AI의 확산

베라 루빈 기반의 제품군은 올해 하반기부터 본격적으로 시장에 공급될 예정이다. 이미 아마존웹서비스(AWS), 구글 클라우드, 마이크로소프트(MS) 애저, 오라클 클라우드 인프라스트럭처 등 글로벌 4대 클라우드 서비스 공급자(CSP)들이 도입을 확정 지었다. 주요 서버 제조사들 또한 베라 루빈 기반의 시스템 출시를 예고하고 있어 하반기 전 세계 데이터센터 시장의 지각변동이 예상된다.

글로벌 AI 선두 기업인 오픈AI의 샘 울트먼 CEO는 이번 발표에 대해 "엔비디아의 인프라는 우리가 AI의 지평을 지속적으로 넓힐 수 있게 하는 핵심 기반"이라며 환영의 뜻을 밝혔다. 그는 이어 "베라 루빈 플랫폼을 통해 더 강력한 모델과 에이전트를 대규모로 구동함으로써, 수억 명의 사용자에게 더욱 빠르고 안정적인 AI 시스템을 제공할 수 있을 것"이라고 덧붙였다.

결국 엔비디아의 베라 루빈 공개는 단순한 신제품 발표 이상의 의미를 지닌다. 하드웨어와 소프트웨어가 완벽히 통합된 인프라를 통해 '에이전틱 AI'라는 새로운 컴퓨팅 시대를 열고, 이를 통해 기업들이 실제 비즈니스 가치를 창출할 수 있는 환경을 구축했다는 점에서 산업계의 이목이 쏠리고 있다. 엔비디아가 제시한 'AI 팩토리' 전략이 향후 글로벌 비즈니스 지형을 어떻게 바꿔놓을지 주목된다.