Scaleway on Hugging Face Inference Providers ๐ฅ
Quick Summary
Scaleway๊ฐ Hugging Face ์ถ๋ก ์ ๊ณต์๋ก ์ถ๊ฐ๋๋ฉด์ ์ฌ์ฉ์๋ ํ๋ธ์ ํ์ด์ฌยท์๋ฐ์คํฌ๋ฆฝํธ SDK์์ ๋ค์ํ ๊ณต๊ฐ ๊ฐ์ค์น ๋ชจ๋ธ์ Scaleway์ ์๋ฒ๋ฆฌ์ค ์ถ๋ก ํ๊ฒฝ์ผ๋ก ์ด์ฉํ ์ ์๊ฒ ๋์์ต๋๋ค.
๐ผ๏ธ ์ธํฌ๊ทธ๋ํฝ
๐ผ๏ธ 4์ปท ์ธํฌ๊ทธ๋ํฝ
๐ก ํ ์ค ์์ฝ
Scaleway๊ฐ Hugging Face ์ถ๋ก ์ ๊ณต์๋ก ์ถ๊ฐ๋๋ฉด์ ์ฌ์ฉ์๋ ํ๋ธ์ ํ์ด์ฌยท์๋ฐ์คํฌ๋ฆฝํธ SDK์์ ๋ค์ํ ๊ณต๊ฐ ๊ฐ์ค์น ๋ชจ๋ธ์ Scaleway์ ์๋ฒ๋ฆฌ์ค ์ถ๋ก ํ๊ฒฝ์ผ๋ก ์ด์ฉํ ์ ์๊ฒ ๋์์ต๋๋ค.
๐ ํต์ฌ ์์ฝ
- Hugging Face Hub์์ Scaleway๋ฅผ ์ถ๋ก ์ ๊ณต์๋ก ์ ํํด gpt-oss, Qwen3, DeepSeek R1, Gemma 3 ๋ฑ ์ง์ ๋ชจ๋ธ์ ์ฌ์ฉํ ์ ์์ต๋๋ค.
- Scaleway Generative APIs๋ ํ ํฐ 100๋ง ๊ฐ๋น 0.20์ ๋ก๋ถํฐ ์์ํ๋ ์ข ๋์ ์์ ๊ด๋ฆฌํ ์๋ฒ๋ฆฌ์ค ์๋น์ค์ ๋๋ค.
- ์๋น์ค๋ ํ๋์ค ํ๋ฆฌ์ ์ ๋ฝ ๋ฐ์ดํฐ์ผํฐ์์ ์ด์๋๋ฉฐ ๊ตฌ์กฐํ๋ ์ถ๋ ฅ, ํจ์ ํธ์ถ, ํ ์คํธยท์ด๋ฏธ์ง ๋ฉํฐ๋ชจ๋ฌ ์ฒ๋ฆฌ๋ฅผ ์ง์ํฉ๋๋ค.
- ์ฌ์ฉ์๋ ์์ฒด Scaleway API ํค๋ก ์ง์ ์์ฒญํ๊ฑฐ๋ Hugging Face ํ ํฐ์ ์ฌ์ฉํด Hugging Face ๊ฒฝ์ ์์ฒญ์ ๋ณด๋ผ ์ ์์ต๋๋ค.
- ํ์ด์ฌ์ huggingface_hub์ ์๋ฐ์คํฌ๋ฆฝํธ์ @huggingface/inference์์ Scaleway๋ฅผ ์ ๊ณต์๋ก ์ง์ ํ ์ ์์ผ๋ฉฐ, ๊ฒฐ์ ๋ฐฉ์์ ์ธ์ฆ ๋ฐ ์์ฒญ ๊ฒฝ๋ก์ ๋ฐ๋ผ ๋ฌ๋ผ์ง๋๋ค.
๐งฉ ์ฃผ์ ํฌ์ธํธ
- Hugging Face Hub์์ Scaleway๋ฅผ ์ถ๋ก ์ ๊ณต์๋ก ์ ํํด gpt-oss, Qwen3, DeepSeek R1, Gemma 3 ๋ฑ ์ง์ ๋ชจ๋ธ์ ์ฌ์ฉํ ์ ์์ต๋๋ค.
- Scaleway Generative APIs๋ ํ ํฐ 100๋ง ๊ฐ๋น 0.20์ ๋ก๋ถํฐ ์์ํ๋ ์ข ๋์ ์์ ๊ด๋ฆฌํ ์๋ฒ๋ฆฌ์ค ์๋น์ค์ ๋๋ค.
- ์๋น์ค๋ ํ๋์ค ํ๋ฆฌ์ ์ ๋ฝ ๋ฐ์ดํฐ์ผํฐ์์ ์ด์๋๋ฉฐ ๊ตฌ์กฐํ๋ ์ถ๋ ฅ, ํจ์ ํธ์ถ, ํ ์คํธยท์ด๋ฏธ์ง ๋ฉํฐ๋ชจ๋ฌ ์ฒ๋ฆฌ๋ฅผ ์ง์ํฉ๋๋ค.
- ์ฌ์ฉ์๋ ์์ฒด Scaleway API ํค๋ก ์ง์ ์์ฒญํ๊ฑฐ๋ Hugging Face ํ ํฐ์ ์ฌ์ฉํด Hugging Face ๊ฒฝ์ ์์ฒญ์ ๋ณด๋ผ ์ ์์ต๋๋ค.
- ํ์ด์ฌ์ huggingface_hub์ ์๋ฐ์คํฌ๋ฆฝํธ์ @huggingface/inference์์ Scaleway๋ฅผ ์ ๊ณต์๋ก ์ง์ ํ ์ ์์ผ๋ฉฐ, ๊ฒฐ์ ๋ฐฉ์์ ์ธ์ฆ ๋ฐ ์์ฒญ ๊ฒฝ๋ก์ ๋ฐ๋ผ ๋ฌ๋ผ์ง๋๋ค.
๐ง ์์ธ ์ ๋ฆฌ
1. Hugging Face ์ถ๋ก ์ ๊ณต์ ์ํ๊ณ์ ํฉ๋ฅํ Scaleway
Scaleway๊ฐ Hugging Face Hub์์ ๊ณต์ ์ง์๋๋ ์ถ๋ก ์ ๊ณต์๋ก ์ถ๊ฐ๋์์ต๋๋ค. ์ด์ ๋ฐ๋ผ ์ฌ์ฉ์๋ ๋ชจ๋ธ ํ์ด์ง์์ Scaleway์ ํธํ๋๋ ๋ชจ๋ธ์ ํ์ธํ๊ณ , ์ ํธํ๋ ์ ๊ณต์๋ก ์ง์ ํด ์๋ฒ๋ฆฌ์ค ์ถ๋ก ์ ์คํํ ์ ์์ต๋๋ค. ์ง์ ๋์์๋ gpt-oss, Qwen3, DeepSeek R1, Gemma 3๊ณผ ๊ฐ์ ๊ณต๊ฐ ๊ฐ์ค์น ๋ชจ๋ธ์ด ํฌํจ๋๋ฉฐ, Scaleway ์กฐ์ง ํ์ด์ง์ ์ ๊ณต์๋ณ ์ธ๊ธฐ ๋ชจ๋ธ ๋ชฉ๋ก์์๋ ๊ด๋ จ ๋ชจ๋ธ์ ํ์ํ ์ ์์ต๋๋ค. ์ด ์ฐ๋์ ์น์ฌ์ดํธ์๋ง ํ์ ๋์ง ์๊ณ Hugging Face์ ํ์ด์ฌ ๋ฐ ์๋ฐ์คํฌ๋ฆฝํธ ํด๋ผ์ด์ธํธ SDK์๋ ์ ์ฉ๋์ด, ๊ธฐ์กด ๊ฐ๋ฐ ํ๋ฆ ์์์ ์ ๊ณต์๋ฅผ ์ ํํ ์ ์๋๋ก ๊ตฌ์ฑ๋์์ต๋๋ค.
2. Scaleway Generative APIs์ ์๋น์ค ๊ตฌ์ฑ
Scaleway Generative APIs๋ ์ฃผ์ ์ฐ๊ตฌ ์กฐ์ง์ ์ฒจ๋จ ์ธ๊ณต์ง๋ฅ ๋ชจ๋ธ์ ๋จ์ํ API ํธ์ถ๋ก ์ด์ฉํ ์ ์๊ฒ ํ๋ ์์ ๊ด๋ฆฌํ ์๋ฒ๋ฆฌ์ค ์๋น์ค์ ๋๋ค. ์๊ธ์ ํ ํฐ 100๋ง ๊ฐ๋น 0.20์ ๋ก๋ถํฐ ์์ํ๋ ์ข ๋์ ๋ฐฉ์์ด๋ฉฐ, ํ ์คํธ ์์ฑ ๋ชจ๋ธ๋ฟ ์๋๋ผ ์๋ฒ ๋ฉ ๋ชจ๋ธ๋ ์ง์ํฉ๋๋ค. ๊ตฌ์กฐํ๋ ์ถ๋ ฅ๊ณผ ํจ์ ํธ์ถ์ ์ ๊ณตํ๊ณ , ํ ์คํธ ๋ฐ ์ด๋ฏธ์ง ์ฒ๋ฆฌ๋ฅผ ์ํ ๋ฉํฐ๋ชจ๋ฌ ๊ธฐ๋ฅ๋ ๊ฐ์ถ๊ณ ์์ต๋๋ค. ์์ฐ ํ๊ฒฝ์์์ ์ฌ์ฉ์ ๊ณ ๋ คํ ์ถ๋ก ์ธํ๋ผ๋ ์ต์ด ํ ํฐ ์๋ต ์๊ฐ์ 200๋ฐ๋ฆฌ์ด ๋ฏธ๋ง์ผ๋ก ์ ๊ณตํ๋ฉฐ, ์๋ฌธ์ ์ด๋ฅผ ๋ํํ ์ ํ๋ฆฌ์ผ์ด์ ๊ณผ ์์ด์ ํธํ ์์ ํ๋ฆ์ ์ ํฉํ ํน์ฑ์ผ๋ก ์ค๋ช ํฉ๋๋ค.
3. ์ ๋ฝ ๋ฐ์ดํฐ์ผํฐ์ ๋ฐ์ดํฐ ์ฃผ๊ถ
Scaleway์ ์ถ๋ก ์๋น์ค๋ ํ๋์ค ํ๋ฆฌ์ ์๋ ์ ๋ฝ ๋ฐ์ดํฐ์ผํฐ์ ๋ณด์ ์ธํ๋ผ์์ ์ด์๋ฉ๋๋ค. ์๋ฌธ์ ์ด๋ฌํ ๋ฐฐ์น๊ฐ ์ ๋ฝ ์ฌ์ฉ์์ ๋ฐ์ดํฐ ์ฃผ๊ถ์ ๋ณด์ฅํ๊ณ ๋ฎ์ ์ง์ฐ ์๊ฐ์ ์ ๊ณตํ๋ ๋ฐ ์ด์ ์ ๋๋ค๊ณ ์ค๋ช ํฉ๋๋ค. ๋ชจ๋ธ ์ ๊ทผ, ์๋ฒ ์ด์, ํ์ฅ ๊ด๋ฆฌ๊ฐ ์์ ๊ด๋ฆฌํ ์๋น์ค ์์์ ์ฒ๋ฆฌ๋๋ฏ๋ก ์ฌ์ฉ์๋ API๋ฅผ ํตํด ํ์ํ ๋ชจ๋ธ ๊ธฐ๋ฅ์ ํธ์ถํ ์ ์์ต๋๋ค. ์ง์ ๋ชจ๋ธ๊ณผ ๊ตฌ์ฒด์ ์ธ ํ๋ซํผยท์ธํ๋ผ ์ ๋ณด๋ Scaleway Generative APIs ํ์ด์ง ๋ฐ Hugging Face์ ์ ์ฉ ๋ฌธ์์ ์ง์ ๋ชจ๋ธ ๋ชฉ๋ก์์ ํ์ธํ๋๋ก ์๋ด๋์ด ์์ต๋๋ค.
4. ์น์ฌ์ดํธ์์์ ํค ์ค์ ๊ณผ ์ ๊ณต์ ์ฐ์ ์์
Hugging Face ๊ณ์ ์ค์ ์์๋ ์ฌ์ฉ์๊ฐ ๊ฐ์ ํ ์ถ๋ก ์ ๊ณต์์ API ํค๋ฅผ ์ง์ ๋ฑ๋กํ ์ ์์ต๋๋ค. ์์ฒด ํค๋ฅผ ์ค์ ํ์ง ์์ผ๋ฉด ์์ฒญ์ Hugging Face๋ฅผ ํตํด ์ ๋ฌ๋๋ฉฐ, ์ฌ์ฉ์๋ ์ฌ๋ฌ ์ ๊ณต์์ ์ฐ์ ์์๋ฅผ ์ ํด ๋ชจ๋ธ ํ์ด์ง์ ์์ ฏ๊ณผ ์ฝ๋ ์์์ ๋ฐ์ํ ์ ์์ต๋๋ค. ๋ชจ๋ธ ํ์ด์ง์๋ ํ์ฌ ๋ชจ๋ธ๊ณผ ํธํ๋๋ ์ ์ผ์ ์ถ๋ก ์ ๊ณต์๋ค์ด ํ์๋๊ณ , ์ด ๋ชฉ๋ก์ ์ฌ์ฉ์๊ฐ ์ง์ ํ ์ ํธ๋์ ๋ฐ๋ผ ์ ๋ ฌ๋ฉ๋๋ค. ๋ฐ๋ผ์ ์น ์ธํฐํ์ด์ค์์๋ ๋ชจ๋ธ์ ์ ๊ณต ๊ฐ๋ฅ ์ฌ๋ถ๋ฅผ ํ์ธํ๋ ๊ฒ๊ณผ ํจ๊ป, ์ด๋ค ์ ๊ณต์์ ์ธ์ฆ ๊ฒฝ๋ก๋ฅผ ์ฌ์ฉํ ์ง๋ ๊ณ์ ์ค์ ์ ํตํด ๊ด๋ฆฌํ ์ ์์ต๋๋ค.
5. ์ง์ ํธ์ถ๊ณผ Hugging Face ๊ฒฝ์ ํธ์ถ
์ถ๋ก ์ ๊ณต์ ํธ์ถ์ ์์ฒด ์ ๊ณต์ ํค๋ฅผ ์ฌ์ฉํ๋ ์ง์ ํธ์ถ๊ณผ Hugging Face๊ฐ ์์ฒญ์ ์ ๋ฌํ๋ ๊ฒฝ์ ํธ์ถ์ ๋ ๋ฐฉ์์ผ๋ก ๋๋ฉ๋๋ค. ์ง์ ํธ์ถ์์๋ Scaleway API ํค์ ๊ฐ์ด ํด๋น ์ ๊ณต์๊ฐ ๋ฐ๊ธํ ํค๋ฅผ ์ฌ์ฉํ๋ฉฐ, ์์ฒญ์ด ์ ๊ณต์์๊ฒ ๋ฐ๋ก ์ ๋ฌ๋๊ณ ๋น์ฉ๋ ํด๋น ์ ๊ณต์ ๊ณ์ ์ ์ฒญ๊ตฌ๋ฉ๋๋ค. ๊ฒฝ์ ํธ์ถ์์๋ ๋ณ๋์ Scaleway ํ ํฐ ์์ด Hugging Face ํ ํฐ์ผ๋ก ์ธ์ฆํ ์ ์๊ณ , ๋น์ฉ์ ์ ๊ณต์ ๊ณ์ ์ด ์๋๋ผ Hugging Face ๊ณ์ ์ ์ ์ฉ๋ฉ๋๋ค. ๋ ๋ฐฉ์ ๋ชจ๋ ๊ฐ์ ๋ชจ๋ธ ์ ๊ทผ ํ๋ฆ์์ ์ ํํ ์ ์์ง๋ง, ์ค์ ์ธ์ฆ ์ฃผ์ฒด์ ์ฒญ๊ตฌ ๊ณ์ ์ ์ฌ์ฉํ ํค์ ์์ฒญ ๊ฒฝ๋ก์ ๋ฐ๋ผ ๋ช ํํ๊ฒ ๊ตฌ๋ถ๋ฉ๋๋ค.
6. SDK ์ฌ์ฉ๋ฒ๊ณผ ๊ฒฐ์ ยทํฌ๋ ๋ง ์ ์ฑ
ํ์ด์ฌ์์๋ huggingface_hub 0.34.6 ์ด์ ๋ฒ์ ์ InferenceClient๋ฅผ ๋ง๋ค ๋ ์ ๊ณต์๋ฅผ scaleway๋ก ์ง์ ํ๊ณ , Hugging Face ํ ํฐ์ด๋ ์์ฒด Scaleway API ํค๋ฅผ ์ฌ์ฉํ ์ ์์ต๋๋ค. ์๋ฐ์คํฌ๋ฆฝํธ์์๋ @huggingface/inference์ InferenceClient๋ก ์ฑํ ์์ฑ ์์ฒญ์ ๋ณด๋ด๋ฉด์ ๋ชจ๋ธ๊ณผ ๋ฉ์์ง, ์ ๊ณต์ ๊ฐ์ ์ค์ ํ๋ฉฐ, ์๋ฌธ์ ๋ SDK ๋ชจ๋ openai/gpt-oss-120b ํธ์ถ ์์๋ฅผ ์ ์ํฉ๋๋ค. Hugging Face ๊ฒฝ์ ์์ฒญ์๋ ์ ๊ณต์์ ํ์ค API ์๊ธ๋ง ์ ์ฉ๋๊ณ Hugging Face์ ์ถ๊ฐ ํ ์ฆ์ ์์ผ๋ฉฐ, ๋น์ฉ์ ์ ๊ณต์ ์๊ธ์ ๊ทธ๋๋ก ์ ๋ฌํ๋ ๋ฐฉ์์ ๋๋ค. Hugging Face PRO ์ด์ฉ์๋ ๋งค์ ์ ๊ณต์ ์ ๋ฐ์์ ์ฌ์ฉํ ์ ์๋ 2๋ฌ๋ฌ ์๋น์ ์ถ๋ก ํฌ๋ ๋ง์ ๋ฐ๊ณ , ๋ก๊ทธ์ธํ ๋ฌด๋ฃ ์ด์ฉ์์๊ฒ๋ ์๊ท๋ชจ ๋ฌด๋ฃ ์ถ๋ก ํ ๋น๋์ด ์ ๊ณต๋ฉ๋๋ค. ๊ธ์ ๋ง์ง๋ง์์๋ ์ ์ฉ ํ ๋ก ํ์ด์ง๋ฅผ ํตํด Scaleway ์ฐ๋์ ๊ดํ ์๊ฒฌ๊ณผ ํผ๋๋ฐฑ์ ๊ณต์ ํด ๋ฌ๋ผ๊ณ ์์ฒญํฉ๋๋ค.
๐งพ ํต์ฌ ์ฃผ์ฅ / ์์ฌ์
- ์ด๋ฒ ์ฐ๋์ ํต์ฌ์ Hugging Face์ ๋ชจ๋ธ ํ์ ํ๋ฉด๊ณผ ํด๋ผ์ด์ธํธ SDK์์ Scaleway๋ฅผ ๋์ผํ ์ถ๋ก ์ ๊ณต์ ์ ํ์ง๋ก ์ฌ์ฉํ ์ ์๊ฒ ๋ ์ ์ ๋๋ค.
- ์์ฒด Scaleway ํค๋ฅผ ์ฌ์ฉํ๋ ๋ฐฉ์๊ณผ Hugging Face ๊ฒฝ์ ๋ฐฉ์์ ๋ถ๋ฆฌํจ์ผ๋ก์จ ์ธ์ฆ ๊ฒฝ๋ก๋ฟ ์๋๋ผ ์ค์ ๋น์ฉ์ด ์ฒญ๊ตฌ๋๋ ๊ณ์ ๋ ๊ตฌ๋ถ๋ฉ๋๋ค.
- ํ๋ฆฌ ๊ธฐ๋ฐ ์ธํ๋ผ, 200๋ฐ๋ฆฌ์ด ๋ฏธ๋ง์ ์ต์ด ํ ํฐ ์๋ต ์๊ฐ, ํจ์ ํธ์ถ๊ณผ ๋ฉํฐ๋ชจ๋ฌ ์ง์์ ์๋ฌธ์ด Scaleway์ ์์ฐ ํ๊ฒฝ์ฉ ์ถ๋ก ํน์ฑ์ผ๋ก ๊ฐ์กฐํ ์์์ ๋๋ค.
โ ์ก์ ์์ดํ
- Hugging Face Hub, python huggingface_hub, JavaScript @huggingface/inference์์ Scaleway ์ ๊ณต์๋ฅผ ๋์ผ ์กฐ๊ฑด์ผ๋ก ๋ฑ๋กํด gpt-oss, Qwen3, DeepSeek R1, Gemma 3 ์ฌ์ฉ ๊ฐ๋ฅ ๋ชจ๋ธ์ ์ ๋ฆฌํ๋ค.
- ํ ํฐ 100๋ง ๊ฐ๋น 0.20์ ๋ก๋ถํฐ์ ๊ณผ๊ธ์ ์ ์ ํด ํ ์คํธยท์ด๋ฏธ์ง ๋ฉํฐ๋ชจ๋ฌ, ๊ตฌ์กฐํ ์ถ๋ ฅ, ํจ์ ํธ์ถ ์กฐํฉ๋ณ ์์๋น๋ฅผ ์ฐ์ ํด ๋น๊ต ๊ธฐ์ค์ ์ ํ๋ค.
- Scaleway API ํค ์ง์ ํธ์ถ๊ณผ Hugging Face ํ ํฐ ๊ฒฝ์ ํธ์ถ์ ๋ถ๋ฆฌ ํ ์คํธํด ์ธ์ฆ ๊ฒฝ๋ก๋ณ ๊ฒฐ์ ๋ฐฉ์ ์ฐจ์ด๋ฅผ ๋น์ฉ ์ ์ฑ ์ ๋ง์ถฐ ์ ์ํ๋ค.
โ ์ด๋ฆฐ ์ง๋ฌธ
- ์ง์ ํธ์ถ๊ณผ HF ๊ฒฝ์ ํธ์ถ์์ ๋ฐ์ํ๋ ๊ฒฐ์ ์ฐจ์ด๋ ์ฌ์ฉ๋ ์ฆ๊ฐ ๊ตฌ๊ฐ์ ๋ฐ๋ผ ์ด๋ ์ง์ ์์ ์ญ์ ๋๋๊ฐ?
- ํ๋ฆฌ ์ ๋ฝ ๋ฐ์ดํฐ์ผํฐ์์ ๊ตฌ์กฐํ ์ถ๋ ฅยทํจ์ ํธ์ถยทํ ์คํธยท์ด๋ฏธ์ง ๋ฉํฐ๋ชจ๋ฌ์ ๋์์ ์ด์ฉํ ๋ ์ง์ฐ์ด๋ ์ค๋ฅ ํจํด์ ์ด๋ป๊ฒ ํ๋จํ ๊ฒ์ธ๊ฐ?
- gpt-oss, Qwen3, DeepSeek R1, Gemma 3 ์ค ์ด๋ค ๋ชจ๋ธ ์กฐํฉ์ด ์๊ตฌ ์์ ์์ ๊ธฐ๋ฅยท๋น์ฉ ๊ท ํ ๋ฉด์์ ์ฐ์ ์์๊ฐ ๋ ์ ์๋๊ฐ?