Introducing Three New Serverless Inference Providers: Hyperbolic, Nebius AI Studio, and Novita ๐ฅ
Quick Summary
Hugging Face Hub๊ฐ Hyperbolic, Nebius AI Studio, Novita๋ฅผ ์ ์๋ฒ๋ฆฌ์ค ์ถ๋ก ์ ๊ณต์๋ก ์ถ๊ฐํด ๋ชจ๋ธ ํ์ด์ง์ JSยทPython SDK์์ ์ฌ๋ฌ ๋ชจ๋ธ์ ๋ ์ฝ๊ฒ ์ ํํด ์ฌ์ฉํ ์ ์๊ฒ ํ๋ค.
๐ผ๏ธ ์ธํฌ๊ทธ๋ํฝ
๐ผ๏ธ 4์ปท ์ธํฌ๊ทธ๋ํฝ
๐ก ํ ์ค ์์ฝ
Hugging Face Hub๊ฐ Hyperbolic, Nebius AI Studio, Novita๋ฅผ ์ ์๋ฒ๋ฆฌ์ค ์ถ๋ก ์ ๊ณต์๋ก ์ถ๊ฐํด ๋ชจ๋ธ ํ์ด์ง์ JSยทPython SDK์์ ์ฌ๋ฌ ๋ชจ๋ธ์ ๋ ์ฝ๊ฒ ์ ํํด ์ฌ์ฉํ ์ ์๊ฒ ํ๋ค.
๐ ํต์ฌ ์์ฝ
- Hugging Face๋ 2025๋ 2์ 18์ผ Hub์ ์๋ฒ๋ฆฌ์ค Inference Providers ์ํ๊ณ์ Hyperbolic, Nebius AI Studio, Novita๋ฅผ ์๋ก ์ถ๊ฐํ๋ค๊ณ ๋ฐํํ๋ค.
- ์ ์ ๊ณต์๋ค์ ๊ธฐ์กด Together AI, Sambanova, Replicate, fal, Fireworks.ai์ ์ด์ด Hub ๋ชจ๋ธ ํ์ด์ง์์ ์ง์ ์ฌ์ฉํ ์ ์๋ ์ 3์ ์ถ๋ก ์ ํ์ง๋ฅผ ๋ํ๋ค.
- ์ฌ์ฉ์๋ ๊ณ์ ์ค์ ์์ ์ ๊ณต์๋ณ API ํค๋ฅผ ๋ฑ๋กํ๊ฑฐ๋ Hugging Face๋ฅผ ํตํ ๋ผ์ฐํ ๋ฐฉ์์ ์ ํํ ์ ์์ผ๋ฉฐ, ๋ชจ๋ธ ํ์ด์ง ์์ ฏ๊ณผ ์ฝ๋ ์ค๋ํซ์ ์ ์ฉ๋ ์ ๊ณต์ ์ฐ์ ์์๋ ์ ํ ์ ์๋ค.
- Python์ huggingface_hub์ JS์ @huggingface/inference SDK์ ํตํฉ๋์ด DeepSeek-R1 ์ฑํ ์์ฑ, FLUX.1 ๊ณ์ด ํ ์คํธ-์ด๋ฏธ์ง ์์ฑ ๊ฐ์ ์ฌ์ฉ ์์๋ฅผ ์ ๊ณตํ๋ค.
- ๊ณผ๊ธ์ ์ ๊ณต์ ํค๋ก ์ง์ ํธ์ถํ๋ฉด ํด๋น ์ ๊ณต์ ๊ณ์ ์ ์ฒญ๊ตฌ๋๊ณ , Hugging Face ๋ผ์ฐํ ์ ์ฐ๋ฉด ํ์ค ์ ๊ณต์ API ์๊ธ์ด Hugging Face ๊ณ์ ์ ์ถ๊ฐ ๋งํฌ์ ์์ด ์ฒญ๊ตฌ๋๋ค.
๐งฉ ์ฃผ์ ํฌ์ธํธ
- Hugging Face๋ 2025๋ 2์ 18์ผ Hub์ ์๋ฒ๋ฆฌ์ค Inference Providers ์ํ๊ณ์ Hyperbolic, Nebius AI Studio, Novita๋ฅผ ์๋ก ์ถ๊ฐํ๋ค๊ณ ๋ฐํํ๋ค.
- ์ ์ ๊ณต์๋ค์ ๊ธฐ์กด Together AI, Sambanova, Replicate, fal, Fireworks.ai์ ์ด์ด Hub ๋ชจ๋ธ ํ์ด์ง์์ ์ง์ ์ฌ์ฉํ ์ ์๋ ์ 3์ ์ถ๋ก ์ ํ์ง๋ฅผ ๋ํ๋ค.
- ์ฌ์ฉ์๋ ๊ณ์ ์ค์ ์์ ์ ๊ณต์๋ณ API ํค๋ฅผ ๋ฑ๋กํ๊ฑฐ๋ Hugging Face๋ฅผ ํตํ ๋ผ์ฐํ ๋ฐฉ์์ ์ ํํ ์ ์์ผ๋ฉฐ, ๋ชจ๋ธ ํ์ด์ง ์์ ฏ๊ณผ ์ฝ๋ ์ค๋ํซ์ ์ ์ฉ๋ ์ ๊ณต์ ์ฐ์ ์์๋ ์ ํ ์ ์๋ค.
- Python์ huggingface_hub์ JS์ @huggingface/inference SDK์ ํตํฉ๋์ด DeepSeek-R1 ์ฑํ ์์ฑ, FLUX.1 ๊ณ์ด ํ ์คํธ-์ด๋ฏธ์ง ์์ฑ ๊ฐ์ ์ฌ์ฉ ์์๋ฅผ ์ ๊ณตํ๋ค.
- ๊ณผ๊ธ์ ์ ๊ณต์ ํค๋ก ์ง์ ํธ์ถํ๋ฉด ํด๋น ์ ๊ณต์ ๊ณ์ ์ ์ฒญ๊ตฌ๋๊ณ , Hugging Face ๋ผ์ฐํ ์ ์ฐ๋ฉด ํ์ค ์ ๊ณต์ API ์๊ธ์ด Hugging Face ๊ณ์ ์ ์ถ๊ฐ ๋งํฌ์ ์์ด ์ฒญ๊ตฌ๋๋ค.
๐ง ์์ธ ์ ๋ฆฌ
1. ์ธ ๊ฐ์ ์ ์๋ฒ๋ฆฌ์ค ์ถ๋ก ์ ๊ณต์ ์ถ๊ฐ
์ด ๊ธ์ Hugging Face Hub์ Hyperbolic, Nebius AI Studio, Novita๋ผ๋ ์ธ ๊ฐ์ ์๋ฒ๋ฆฌ์ค Inference Provider๊ฐ ์๋ก ์ถ๊ฐ๋์๋ค๋ ๋ฐํ๋ก ์์ํ๋ค. ์ด๋ค์ Hub์ ๋ชจ๋ธ ํ์ด์ง์์ ๋ฐ๋ก ์ฌ์ฉํ ์ ์๋ ์ถ๋ก ์ ๊ณต์ ์ํ๊ณ๋ฅผ ํ์ฅํ๋ ์ญํ ์ ํ๋ค. ๊ธ์ ์ ํํธ๋๋ค์ด ๊ธฐ์กด Together AI, Sambanova, Replicate, fal, Fireworks.ai์ ํจ๊ป ์ ๊ณต์ ๋ชฉ๋ก์ ํฉ๋ฅํ๋ค๊ณ ์ค๋ช ํ๋ค. ํต์ฌ์ ์ฌ์ฉ์๊ฐ Hub ์์์ ๋ ๋ค์ํ ๋ชจ๋ธ๊ณผ ์ ๊ณต์๋ฅผ ์ ํํด ์ถ๋ก ์ ์คํํ ์ ์๊ฒ ๋์๋ค๋ ์ ์ด๋ค.
2. ์ง์ ๋ชจ๋ธ๊ณผ Hub ๋ชจ๋ธ ํ์ด์ง์ ํ์ฅ
์ ์ ๊ณต์ ์ถ๊ฐ๋ก DeepSeek-R1, Flux.1์ ํฌํจํ ์ฌ๋ฌ ๋ชจ๋ธ์ ์ฌ์ฉํ ์ ์๊ฒ ๋์๋ค๊ณ ๊ธ์ ๋ฐํ๋ค. ์๋ฌธ์ Nebius AI Studio, Novita, Hyperbolic์ด ์ง์ํ๋ ๋ชจ๋ธ ๋ชฉ๋ก์ ๋ณ๋๋ก ํ์ธํ ์ ์๋ค๊ณ ์๋ดํ๋ฉฐ, ์ด๋ค์ด ๋ชจ๋ธ ์ ํ ํญ์ ๋ํ๋ ๋ฐ ๊ธฐ์ฌํ๋ค๊ณ ๊ฐ์กฐํ๋ค. ๋ชจ๋ธ ํ์ด์ง๋ ํ์ฌ ๋ชจ๋ธ๊ณผ ํธํ๋๋ ์ 3์ ์ถ๋ก ์ ๊ณต์๋ฅผ ๋ณด์ฌ์ฃผ๋ฉฐ, ์ฌ์ฉ์๊ฐ ์ค์ ํ ์ ํธ ์์์ ๋ฐ๋ผ ํ์๋๋ค. ๋ฐ๋ผ์ ๋ฐํ์ ์ด์ ์ ๋จ์ํ ํํธ๋ ์ถ๊ฐ๊ฐ ์๋๋ผ, Hub ๋ชจ๋ธ ํ์ด์ง๋ฅผ ์ถ๋ก ์คํ์ ์ง์ ์ ์ผ๋ก ๊ฐํํ๋ ๋ฐ ์๋ค.
3. ๊ณ์ ์ค์ ์์์ API ํค์ ์ ๊ณต์ ์ฐ์ ์์
์น์ฌ์ดํธ UI์์๋ ์ฌ์ฉ์ ๊ณ์ ์ค์ ์ ํตํด ์ ๊ณต์๋ณ API ํค๋ฅผ ๋ฑ๋กํ ์ ์๋ค. ์ฌ์ฉ์๊ฐ ํน์ ์ ๊ณต์์ ๊ฐ์ ํด API ํค๋ฅผ ๊ฐ์ง๊ณ ์๋ค๋ฉด ๊ทธ ํค๋ฅผ ์ฌ์ฉํด ์ง์ ํธ์ถํ ์ ์๊ณ , ๋ณ๋ ํค๋ฅผ ์ค์ ํ์ง ์์ผ๋ฉด ์์ฒญ์ด Hugging Face๋ฅผ ํตํด ๋ผ์ฐํ ๋๋ค. ๋ํ ์ฌ์ฉ์๋ ์ ๊ณต์ ์ฐ์ ์์๋ฅผ ์ ํ ์ ์์ผ๋ฉฐ, ์ด ์์๋ ๋ชจ๋ธ ํ์ด์ง์ ์์ ฏ๊ณผ ์ฝ๋ ์ค๋ํซ์ ๋ฐ์๋๋ค. ๊ธ์ ์ด๋ฅผ ํตํด ๋์ผํ ๋ชจ๋ธ์ด๋ผ๋ ์ฌ์ฉ์๊ฐ ์ ํธํ๋ ์ ๊ณต์๋ฅผ ์ค์ฌ์ผ๋ก ๋ ์ผ๊ด๋ ์ฌ์ฉ ๊ฒฝํ์ ๊ตฌ์ฑํ ์ ์๋ค๊ณ ์ค๋ช ํ๋ค.
4. ์ง์ ํธ์ถ๊ณผ Hugging Face ๋ผ์ฐํ ์ ๋ ๊ฐ์ง ๋ฐฉ์
์๋ฌธ์ Inference API ํธ์ถ ๋ฐฉ์์ด ํฌ๊ฒ ๋ ๊ฐ์ง๋ผ๊ณ ๊ตฌ๋ถํ๋ค. ์ฒซ์งธ๋ ์ฌ์ฉ์๊ฐ ํด๋น ์ถ๋ก ์ ๊ณต์์ API ํค๋ฅผ ์ฌ์ฉํด ์ง์ ์ ๊ณต์์๊ฒ ํธ์ถํ๋ ๋ฐฉ์์ด๋ฉฐ, ์ด ๊ฒฝ์ฐ ์์ฒญ์ ์ ๊ณต์ ์ชฝ์ผ๋ก ๋ฐ๋ก ์ ๋ฌ๋๋ค. ๋์งธ๋ Hugging Face Hub ์ธ์ฆ์ ์ฌ์ฉํด ๋ผ์ฐํ ํ๋ ๋ฐฉ์์ผ๋ก, ์ฌ์ฉ์๋ ์ ๊ณต์ ํ ํฐ ์์ด๋ ์์ฒญ์ ๋ณด๋ผ ์ ์๋ค. ์ด ๊ฒฝ์ฐ ๋น์ฉ์ ์ ๊ณต์ ๊ณ์ ์ด ์๋๋ผ Hugging Face ๊ณ์ ์ ์ ์ฉ๋๋ค. ์ด ๊ตฌ์กฐ๋ ๋ณ๋ ์ ๊ณต์ ๊ณ์ ์ ์ด๋ฏธ ๊ฐ์ง ์ฌ์ฉ์์ Hub ์ค์ฌ์ผ๋ก ๊ฐ๋จํ ์ฌ์ฉํ๋ ค๋ ์ฌ์ฉ์๋ฅผ ๋ชจ๋ ๊ณ ๋ คํ ์ค๊ณ๋ค.
5. Python๊ณผ JS SDK ์ฌ์ฉ ์์
๊ธ์ ํด๋ผ์ด์ธํธ SDK ํตํฉ์ ๊ฐ์กฐํ๋ฉฐ Python๊ณผ JavaScript ์์๋ฅผ ์ ์ํ๋ค. Python์์๋ huggingface_hub์ InferenceClient๋ฅผ ์ฌ์ฉํด provider ๊ฐ์ hyperbolic์ผ๋ก ์ง์ ํ๊ณ DeepSeek-R1 ๋ชจ๋ธ์ ์ฑํ ์์ฑ ์์ฒญ์ ๋ณด๋ด๋ ์์๊ฐ ๋์จ๋ค. ๋ Nebius AI Studio๋ฅผ provider๋ก ์ค์ ํด FLUX.1 ๊ณ์ด ๋ชจ๋ธ๋ก ํ ์คํธ ํ๋กฌํํธ์์ ์ด๋ฏธ์ง๋ฅผ ์์ฑํ๋ ์์๋ ์ ๊ณต๋๋ค. ์ ๊ณต์๋ฅผ ๋ฐ๊พธ๋ ค๋ฉด provider ์ด๋ฆ๋ง nebius์์ hyperbolic์ฒ๋ผ ๋ณ๊ฒฝํ๋ฉด ๋๊ณ , ๋๋จธ์ง ์ฝ๋๋ ๊ทธ๋๋ก ์ ์งํ ์ ์๋ค๋ ์ ๋ ์ค๋ช ํ๋ค.
6. ๊ณผ๊ธ, ํฌ๋ ๋ง, ํผ๋๋ฐฑ ์๋ด
๊ณผ๊ธ ๋ฐฉ์์ ํธ์ถ ๊ฒฝ๋ก์ ๋ฐ๋ผ ๋ฌ๋ผ์ง๋ค. ์ ๊ณต์ API ํค๋ฅผ ์ฌ์ฉํด ์ง์ ์์ฒญํ๋ฉด Nebius AI Studio ํค ์ฌ์ฉ ์ Nebius AI Studio ๊ณ์ ์ ์ฒญ๊ตฌ๋๋ ๊ฒ์ฒ๋ผ ํด๋น ์ ๊ณต์๊ฐ ๊ณผ๊ธํ๋ค. Hugging Face๋ฅผ ํตํด ๋ผ์ฐํ ๋ ์์ฒญ์ ํ์ค ์ ๊ณต์ API ์๊ธ๋ง Hugging Face ๊ณ์ ์ ์ฒญ๊ตฌ๋๋ฉฐ, Hugging Face๋ ์ถ๊ฐ ๋งํฌ์ ์ ๋ถ์ด์ง ์๋๋ค๊ณ ๋ฐํ๋ค. ๋ํ PRO ์ฌ์ฉ์๋ ๋งค๋ฌ 2๋ฌ๋ฌ ์๋น์ Inference ํฌ๋ ๋ง์ ๋ฐ์ ์ฌ๋ฌ ์ ๊ณต์์์ ์ฌ์ฉํ ์ ์๊ณ , ๋ก๊ทธ์ธํ ๋ฌด๋ฃ ์ฌ์ฉ์์๊ฒ๋ ์์ ๋ฌด๋ฃ ์ถ๋ก ํ ๋น๋์ด ์ ๊ณต๋๋ค๊ณ ์๋ดํ๋ค. ๊ธ ๋ง์ง๋ง์์๋ Hub discussion ๋งํฌ๋ฅผ ํตํด ํผ๋๋ฐฑ์ ์์ฒญํ๋ค.
๐งพ ํต์ฌ ์ฃผ์ฅ / ์์ฌ์
- Hugging Face Hub๋ ๋ชจ๋ธ ์ ์ฅ์๋ฅผ ๋์ด, ๋ชจ๋ธ ํ์ด์ง์์ ์ ๊ณต์ ์ ํยท์ฝ๋ ์ค๋ํซยท์ถ๋ก ์คํ๊น์ง ์ฐ๊ฒฐํ๋ ์ฌ์ฉ ํ๋ฆ์ ๊ฐํํ๊ณ ์๋ค.
- ์ ๊ณต์ API ํค ์ง์ ์ฌ์ฉ๊ณผ Hugging Face ๋ผ์ฐํ ์ ํจ๊ป ์ง์ํด, ๊ธฐ์กด ์ ๊ณต์ ๊ณ์ ์ ๊ฐ์ง ์ฌ์ฉ์์ ๊ฐ๋จํ Hub ๊ธฐ๋ฐ ๊ฒฐ์ ๋ฅผ ์ํ๋ ์ฌ์ฉ์๋ฅผ ๋ชจ๋ ์์ฉํ๋ค.
- SDK์์ provider ๊ฐ๋ง ๋ฐ๊พธ์ด ๋ค๋ฅธ ์ ๊ณต์๋ก ์ด๋ํ ์ ์๊ฒ ํ ์ ์ ๊ฐ์ ๋ชจ๋ธ ์ฌ์ฉ ์ฝ๋๋ฅผ ์ ์งํ๋ฉด์ ์ถ๋ก ๋ฐฑ์๋ ์ ํ์ ์ ์ฐํ๊ฒ ๋ง๋๋ ํต์ฌ ์ค๊ณ๋ค.
โ ์ก์ ์์ดํ
- ์๋ก์ด ์ ๊ณต์(Hyperbolic, Nebius AI Studio, Novita)๋ฅผ Hub ๋ชจ๋ธ ํ์ด์ง์์ ์ฆ์ ์ ์ฉ ๊ฐ๋ฅํ์ง ํ์ธํ๊ณ ํ ์คํธ ๋ฒ์๋ฅผ ์ ์ํ๋ค.
- ๊ณ์ ์ค์ ์ API ํค ์ง์ ๋ฑ๋ก ๋ฐฉ์๊ณผ HF ๋ผ์ฐํ ๋ฐฉ์์ ๊ณผ๊ธ ํฌ์ธํธ(์ ๊ณต์ ์ฒญ๊ตฌ vs HF ์ฒญ๊ตฌ)๋ณ๋ก ๋น๊ตํด ๊ธฐ๋ณธ ํธ์ถ ์ ๋ต์ ์ ํ๋ค.
- ๋ชจ๋ธ ํ์ด์ง ์์ ฏยท์ฝ๋ ์ค๋ํซ์ ์ ๊ณต์ ์ฐ์ ์์๋ฅผ ์ ์ฉํด DeepSeek-R1 ์ฑํ ์์ฑ๊ณผ FLUX.1 ํ ์คํธ-์ด๋ฏธ์ง ์์ฑ ์์๊ฐ ๊ฐ ์ ๊ณต์์์ ๋์ํ๋์ง ์ ๊ฒํ๋ค.
โ ์ด๋ฆฐ ์ง๋ฌธ
- ์ง์ ํค ํธ์ถ๊ณผ HF ๋ผ์ฐํ ์ฌ์ฉ ์ ๋น์ฉ ๋ถ๋ด์ ์ด๋ค ์ฌ์ฉ ํจํด์์ ์ด๋ค ๋ฐฉ์์ด ์ ๋ฆฌํ๊ฐ?
- ์๋ก ์ถ๊ฐ๋ 3๊ฐ ์ ๊ณต์์ ๊ธฐ์กด ์ ๊ณต์๋ฅผ ํจ๊ป ์ธ ๋ ์์ ฏยท์ค๋ํซ์์ ์ฐ์ ์์๋ ์ด๋ค ๊ธฐ์ค์ผ๋ก ์ค์ ํด์ผ ํ๋?
- DeepSeek-R1 ์ฑํ ์์ฑ๊ณผ FLUX.1 ํ ์คํธ-์ด๋ฏธ์ง ์์ฑ์์ Python๊ณผ JS SDK์ ๋์ ์ฐจ์ด๋ ์ด๋ค ์งํ๋ก ํ๋จํ ๊ฒ์ธ๊ฐ?