Vera Delivers the Best of Both Worlds: Highest Throughput and Fastest Agents

🖼️ 인포그래픽

🖼️ 4컷 인포그래픽

💡 한 줄 요약

NVIDIA는 Vera CPU가 전력이 제한된 AI 데이터센터에서 빠른 에이전트 실행과 높은 와트당 처리 용량을 동시에 제공한다고 주장하며, x86 비교 결과와 초기 도입사의 시험 사례를 제시했다.

📌 핵심 요약

• AI 에이전트는 정보 검색, 데이터베이스 조회, 코드 작성·테스트와 행동 실행 과정에서 GPU 추론과 CPU 실행을 오간다. AI 인프라 제공자는 전력 제약 안에서 개별 에이전트의 대기 시간을 늘리지 않으면서 더 많은 에이전트를 지원해야 한다.
• NVIDIA의 100메가와트 데이터센터 비교에서 Vera는 가장 빠른 x86 CPU 대비 업계 최고 수준의 에이전트 속도와 와트당 1.6배의 에이전트 수를 제공했다. 가장 에너지 효율적인 x86 CPU와 비교하면 에이전트 속도가 2배이며 에너지 효율도 선도적이라고 NVIDIA는 밝혔다.
• 실제 운영을 모사한 초기 도입사 시험에서 Perplexity는 기존 CPU 대비 에이전트 코딩 작업을 1.5배 빠르게 수행했고 향후 운영 시스템에 Vera를 배치할 계획이다. DeepInfra는 자사 운영 에이전트 워크로드의 오케스트레이션에서 최상위 x86 프로세서 대비 최대 2.2배의 속도를 기록해 시험한 네 가지 아키텍처 중 가장 빨랐다.
• ClickHouse는 Vera 전용 최적화 없이 표준 바이너리로 176개 코어에 걸쳐 거의 선형으로 확장했고 ClickBench 하드웨어 순위에서 1위를 기록했다. DuckLabs는 Intel Xeon 6 기준 대비 TPC-H SF1000 성능 중앙값이 약 1.5배였다.
• Daytona는 Vera로 에이전트 샌드박스 1,000개를 10.8초 만에 가동했으며, x86에서는 88.4초가 걸렸다. 동시 샌드박스 2,000개에서 초당 12.7개 작업을 완료했다. Modal은 유사한 x86 하드웨어 대비 코어당 샌드박스 처리량이 최대 2배였고, 부하가 커질수록 이점이 확대됐다.

🧩 주요 포인트

1. GPU 추론과 CPU 실행의 반복 → 에이전트 인프라에서는 CPU 실행 속도와 전력 제약 내 동시 처리 용량을 함께 고려해야 한다.
2. 가장 빠른 x86 CPU와 가장 에너지 효율적인 x86 CPU에 대한 별도 비교 → NVIDIA는 Vera 하나로 속도와 처리 밀도를 확보해 서로 다른 x86 부품을 조합할 필요를 줄일 수 있다고 주장한다.
3. 코딩·오케스트레이션·데이터베이스·샌드박스에서 제시된 성과 → Vera의 적용 범위를 뒷받침하지만, 워크로드와 비교 기준이 달라 각 배수는 해당 시험 맥락에서 해석해야 한다.

🧠 상세 정리

1. 에이전트 확산이 높이는 CPU의 중요성

AI 에이전트는 답변 생성에 그치지 않고 정보를 검색하고 데이터베이스를 조회하며, 코드를 작성·테스트하고 행동을 실행한다. 원문은 이러한 단계마다 CPU가 필요하며, 하나의 작업 안에서도 GPU 추론과 CPU 실행을 오간다고 설명한다. 기업이 더 많은 에이전트를 활용하면 AI 팩토리는 각 단계를 빠르게 실행하는 동시에 다수의 에이전트를 지원해야 한다. 여기에 가용 전력의 한계가 있으므로, 인프라 제공자의 과제는 개별 에이전트의 대기 시간을 늘리지 않으면서 와트당 수행하는 작업량을 높이는 것이다.

2. 속도와 처리 용량을 하나의 CPU로 제공한다는 주장

NVIDIA는 Vera가 빠른 에이전트 성능과 높은 와트당 처리 용량을 하나의 CPU에서 제공한다고 주장한다. 이는 다양한 에이전트 워크로드를 지원할 때 실행 속도와 수용 용량을 함께 확보할 수 있다는 설명이다. 원문은 이를 위해 빠른 x86 부품과 처리 밀도가 높은 x86 부품을 조합하는 방식과 Vera를 대비한다. 전력이 제한된 AI 팩토리에서는 개별 작업의 속도뿐 아니라 같은 전력으로 얼마나 많은 에이전트를 지원할 수 있는지가 중요하다는 논리이며, NVIDIA는 두 요구를 동시에 충족하는 점을 Vera의 핵심 가치로 제시한다.

3. 100메가와트 비교에서 제시한 두 가지 성능 지표

NVIDIA는 100메가와트 데이터센터 비교에서 단일 Vera CPU가 가장 빠른 x86 CPU와 가장 에너지 효율적인 x86 CPU보다 우수한 결과를 보였다고 밝혔다. 가장 빠른 x86 CPU를 기준으로는 업계 최고 수준의 에이전트 속도를 제공하면서 와트당 지원하는 에이전트 수가 1.6배라고 설명한다. 가장 에너지 효율적인 x86 CPU를 기준으로는 에이전트 속도가 2배이며 에너지 효율도 선도적이라고 주장한다. 두 수치는 비교 대상과 지표가 다르므로, 1.6배는 와트당 에이전트 수에, 2배는 에이전트 속도에 해당한다.

4. 코딩·오케스트레이션·데이터베이스 시험 결과

초기 도입사의 실제 운영을 모사한 시험에서 Perplexity는 기존 CPU보다 에이전트 코딩 작업을 1.5배 빠르게 수행했으며, 향후 운영 시스템에 Vera를 배치할 계획이다. DeepInfra는 자사 운영 에이전트 워크로드의 오케스트레이션에서 최상위 x86 프로세서 대비 최대 2.2배의 속도를 기록했고, 시험한 네 가지 아키텍처 중 가장 빨랐다. ClickHouse는 Vera 전용 최적화 없이 표준 바이너리로 176개 코어에 걸쳐 거의 선형으로 확장하며 ClickBench 하드웨어 순위에서 1위를 차지했다. DuckLabs는 Intel Xeon 6 기준 대비 TPC-H SF1000 성능 중앙값이 약 1.5배였다고 보고했다.

5. 샌드박스 가동 시간과 높은 부하에서의 처리량

Daytona는 Vera를 사용해 에이전트 샌드박스 1,000개를 10.8초 만에 가동했으며, 원문이 제시한 x86의 소요 시간은 88.4초였다. 또한 동시 샌드박스 2,000개에서 초당 12.7개의 작업을 완료했다. Modal은 유사한 x86 하드웨어와 비교해 코어당 샌드박스 처리량이 최대 2배였으며, 부하가 높아질수록 성능 이점이 커졌다고 밝혔다. 이 사례들은 샌드박스를 준비하는 시간과 작업 처리량이라는 서로 다른 측면의 성과를 보여주며, 원문은 이를 앞선 코딩·데이터베이스 사례와 함께 Vera의 활용 근거로 제시한다.

🧾 핵심 주장 / 시사점

• 원문의 논리는 CPU 단독 성능을 넘어, 전력 제약 아래에서 에이전트의 실행 속도와 지원 규모를 함께 평가해야 한다는 데 있다.
• 와트당 에이전트 수 1.6배와 에이전트 속도 2배는 서로 다른 x86 기준에 대한 결과이므로 하나의 동일한 비교 결과처럼 합쳐 해석해서는 안 된다.
• 초기 도입사 사례는 여러 워크로드에서의 가능성을 보여주지만, 최대 성능 배수·중앙값·확장성·가동 시간은 각각 다른 지표이며 Perplexity의 운영 배치는 향후 계획이다.

✅ 액션 아이템

• Vera의 적용 검토에서 전력 제약, 에이전트 실행 속도, 와트당 처리 용량을 함께 평가.
• 와트당 에이전트 수 1.6배와 에이전트 속도 2배를 각각의 x86 비교 기준에 맞춰 구분해 해석.
• Perplexity의 향후 운영 배치 계획과 DeepInfra·ClickHouse·Daytona·Modal의 시험 결과를 워크로드별 적용 판단에 반영.

❓ 열린 질문

• 100메가와트 데이터센터 비교에서 사용한 가장 빠른 x86 CPU와 가장 에너지 효율적인 x86 CPU의 구체적인 모델과 시험 조건은 무엇인가?
• Perplexity가 Vera를 향후 운영 시스템에 배치한 뒤에도 에이전트 코딩 작업의 1.5배 속도 향상이 유지되는가?
• Modal의 코어당 샌드박스 처리량이 최대 2배에 도달한 부하 조건은 무엇이며, 부하 증가에 따른 이점은 어느 범위까지 이어지는가?