🖼️ 인포그래픽

🖼️ 4컷 인포그래픽

💡 한 줄 요약

프랑스 AI 스타트업 ZML이 여러 종류의 AI 칩에서 오픈소스 대형언어모델 추론을 더 빠르고 유연하게 실행하도록 돕는 무료 제품 ZML/LLMD를 출시했다.

📌 핵심 요약

• ZML은 Nvidia, AMD, Google TPU, Apple Metal, Intel Arc 등 다양한 칩에서 여러 오픈소스 LLM을 실행할 수 있게 하는 추론 성능 소프트웨어 ZML/LLMD를 공개했다.
• 창업자 스티브 모랭은 AI가 업무와 일상에 깊이 들어오면서 프롬프트 처리인 추론 최적화가 모델 학습 못지않게 중요해졌지만, 현재는 소프트웨어와 아키텍처 장벽 때문에 벤더 종속이 발생한다고 설명했다.
• ZML은 기업과 클라우드가 여러 칩을 섞어 쓰면서 비용과 에너지 소비를 줄이고, 각 칩의 성능을 최대한 끌어내도록 돕는 것을 목표로 한다.
• 이 회사는 Nvidia에 비관적이지 않으며 좋은 관계를 유지하고 있지만, 동시에 유럽의 여러 신생 AI 칩 기업들과도 기존에 없던 방식의 협력을 추진하고 있다.
• ZML/LLMD는 오픈소스는 아니지만 무료로 출시되며, ZML은 먼저 사용 양상을 파악한 뒤 성장에 방해가 되지 않는 방식으로 수익화를 검토하겠다는 입장이다.

🧩 주요 포인트

1. ZML은 Nvidia, AMD, Google TPU, Apple Metal, Intel Arc 등 다양한 칩에서 여러 오픈소스 LLM을 실행할 수 있게 하는 추론 성능 소프트웨어 ZML/LLMD를 공개했다.
2. 창업자 스티브 모랭은 AI가 업무와 일상에 깊이 들어오면서 프롬프트 처리인 추론 최적화가 모델 학습 못지않게 중요해졌지만, 현재는 소프트웨어와 아키텍처 장벽 때문에 벤더 종속이 발생한다고 설명했다.
3. ZML은 기업과 클라우드가 여러 칩을 섞어 쓰면서 비용과 에너지 소비를 줄이고, 각 칩의 성능을 최대한 끌어내도록 돕는 것을 목표로 한다.
4. 이 회사는 Nvidia에 비관적이지 않으며 좋은 관계를 유지하고 있지만, 동시에 유럽의 여러 신생 AI 칩 기업들과도 기존에 없던 방식의 협력을 추진하고 있다.
5. ZML/LLMD는 오픈소스는 아니지만 무료로 출시되며, ZML은 먼저 사용 양상을 파악한 뒤 성장에 방해가 되지 않는 방식으로 수익화를 검토하겠다는 입장이다.

🧠 상세 정리

1. Nvidia 지배 속에 등장한 선택지 확대

기사의 출발점은 Nvidia의 시장 지배가 아직 끝난 것은 아니지만, AI 칩과 추론 인프라 영역에서 새로운 도전자와 선택지가 생기고 있다는 진단이다. ZML은 프랑스 기반의 AI 스타트업으로, 튜링상 수상자인 얀 르쿤의 지지를 받은 회사로 소개된다. 이번에 공개한 제품은 특정 칩 생태계에 묶이지 않고 여러 하드웨어에서 오픈소스 대형언어모델을 실행하도록 돕는 추론 성능 소프트웨어다. 즉 핵심은 단순한 모델 실행 도구가 아니라, AI 추론을 특정 공급자 중심 구조에서 더 넓은 하드웨어 선택 구조로 옮기려는 시도에 있다.

2. ZML/LLMD가 겨냥하는 추론 병목

새로 출시된 ZML/LLMD는 LLM 추론 서버로, Nvidia 칩뿐 아니라 AMD, Google TPU, Apple Metal, Intel Arc 등 다양한 칩에서 여러 오픈소스 LLM을 구동할 수 있도록 설계됐다. 창업자 스티브 모랭은 기존 AI 인프라가 소프트웨어와 아키텍처 장벽 때문에 사일로화되어 있고, 그 결과 실제 사용자는 특정 벤더에 종속되기 쉽다고 말했다. ZML의 목표는 이러한 사일로를 깨고, 각 칩을 AI 사용 사례에 맞게 가능한 최대 속도로 활용하게 하는 것이다. 기사에서 추론은 프롬프트를 처리하는 과정으로 설명되며, AI가 일과 생활에 통합될수록 그 중요성이 커지고 있다.

3. 비용과 에너지 압박에 대한 시장적 의미

ZML/LLMD의 약속은 기술적으로는 여러 종류의 칩에서 높은 성능을 내는 것이지만, 시장적으로는 AI 관련 비용 부담이 커지는 상황에서 의미가 더 커진다. ZML은 기업과 클라우드 사업자가 하나의 칩에만 의존하지 않고, 더 저렴하거나 에너지 소비가 낮은 칩을 조합해 사용할 수 있기를 기대한다. 모랭은 사람들이 자신만의 시스템을 만들 수 있는 힘을 되찾고, 실제 효율 향상을 통해 AI가 더 널리 보급될 수 있어야 한다고 설명했다. 따라서 이 제품은 성능 향상 도구이면서 동시에 인프라 비용과 운영 유연성 문제를 건드리는 제품으로 제시된다.

4. 신생 AI 칩 기업들과의 연결

기사에서는 ZML의 소프트웨어가 새로운 AI 칩 제조사들에게도 도움이 될 수 있다고 설명한다. 모랭은 Axelera, Fractile, Kalray, OLIX, Q.ANT, SiPearl, SpiNNcloud, VSORA 같은 기업들을 언급하며, 이들 중 상당수가 유럽에 기반을 두고 있다는 점도 짚었다. 다만 그에게 더 중요한 것은 지역적 정체성보다, ZML이 이들과 함께 세계 어디에서도 아직 해보지 않은 일을 할 수 있느냐는 점이다. 이는 ZML이 단순히 기존 칩 위에서 추론을 최적화하는 데 그치지 않고, 새로운 하드웨어 생태계와 함께 성능 경계를 확장하려 한다는 흐름을 보여준다.

5. 경쟁 구도와 ZML의 더 넓은 야심

추론 분야는 기사에서 추론 골드러시로 불릴 만큼 투자가 집중되는 영역으로 소개된다. ZML은 Baseten, vLLM 프로젝트 창업자들이 만든 Inferact, SGLang 뒤의 상업 회사 RadixArk 등과 경쟁하게 된다. vLLM과 SGLang은 LLMD와 일부 경쟁하지만, 모랭은 ZML의 목표가 더 넓다고 말한다. 그는 회사가 이미 실리콘 공동 설계 단계에 이르렀다고 설명하며, 이는 ZML이 소프트웨어 최적화만이 아니라 칩 설계와 실행 환경의 경계까지 관여하려는 방향을 드러낸다. 파리 기반의 20명 규모 팀이 빠르게 움직일 수 있다는 점도 회사의 강점으로 제시된다.

6. 무료 출시, 자금력, 그리고 파리 기반의 의미

ZML/LLMD는 ZML이 2024년에 공개하고 3월에 업데이트한 추론 중심 ML 프레임워크와 달리 오픈소스가 아니다. 대신 무료 제품으로 출시되며, ZML은 먼저 실제 사용 방식을 관찰하고 어디에서 수익화가 가장 효과적인지 판단하려 한다. 모랭은 초반부터 지나치게 탐욕적으로 접근해 성장을 방해하고 싶지 않다고 말했다. 회사는 젠리 엔지니어링 부사장 출신인 모랭의 이력을 바탕으로 2,000만 달러를 조달했고, 20VC, Kima Ventures, Kindred Capital, LocalGlobe 등과 여러 창업자 투자자들이 참여했다. 기사 말미에서 모랭은 ZML을 파리 외의 다른 곳에서는 할 수 없었다고 말하며, 유럽 AI 스타트업이 본거지에서 성장할 수 있다는 메시지를 강조한다.

🧾 핵심 주장 / 시사점

• 이 기사의 핵심은 Nvidia를 대체한다는 단정이 아니라, 추론 수요 증가 속에서 칩 선택권과 소프트웨어 이식성이 점점 중요한 경쟁 축이 되고 있다는 점이다.
• ZML/LLMD가 무료로 출시된 이유는 즉각적인 수익화보다 사용 데이터를 통해 제품의 실제 가치와 과금 지점을 찾으려는 전략에 가깝다.
• ZML은 기존 추론 서버 프로젝트와 경쟁하면서도, 신생 칩 기업 및 실리콘 공동 설계까지 언급함으로써 단순한 서버 소프트웨어 회사보다 더 넓은 인프라 회사로 자리 잡으려 한다.

✅ 액션 아이템

• ZML/LLMD가 지원하는 칩군(Nvidia·AMD·Google TPU·Apple Metal·Intel Arc)과 오픈소스 LLM 조합을 정리해, 채택 대상 성능 비교 범위를 확정한다.
• 추론 최적화 중요성 주장에 맞춰 현재 소프트웨어·아키텍처 병목을 분해하고 벤더 종속 경로를 추적한다.
• 기업·클라우드 다중 칩 운영이 비용·에너지 절감에 실제로 기여하는지 추적 지표를 정의하고 측정한다.

❓ 열린 질문

• 무료 출시가 성장 저해 없이 수익화로 전환되기까지 필요한 사용량 구간은 어느 수준인가?
• 다중 칩 혼합 운영에서 성능 향상과 비용 절감이 동시에 달성되는 기준은 무엇이며 어느 지표로 판단할 것인가?
• Nvidia와의 협업을 유지하면서 유럽 신생칩 파트너십을 확장할 때 충돌 조정 기준은 어디까지 필요한가?