Docs faviconDOCS우성짱의 문서
Tag1건Article 1

#nvfp4-quantization

이 태그와 연결된 문서를 한곳에서 모아보고, 함께 자주 등장하는 연관 태그까지 이어서 탐색할 수 있습니다.

연관 태그

#deployment-benchmark-gap공동문서 1 · 연관도 100%#hybrid-attention공동문서 1 · 연관도 71%#nvidia-b300공동문서 1 · 연관도 71%#deployment-guide공동문서 1 · 연관도 45%#llm-inference공동문서 1 · 연관도 45%#amazon-sagemaker-hyperpod공동문서 1 · 연관도 38%#mixture-of-experts공동문서 1 · 연관도 33%#llm공동문서 1 · 연관도 3%

문서 목록

총 1건 중 1-1건

Deploying Qwen3.8-2.4T-A95B on Amazon SageMaker HyperPod with vLLM
Article2026년 9월 9일

Deploying Qwen3.8-2.4T-A95B on Amazon SageMaker HyperPod with vLLM

Qwen3.8 2.4T A95B를 Amazon SageMaker HyperPod의 8개 B300 GPU 노드에서 NVFP4와 vLLM으로 구동하는 구성과 운영 요건을 설명하며, 단일 노드 실측 성능과 배포 절차의 후반부는 제공된 본문에서 확인되지 않는다.

aws.amazon.com
#nvidia-b300#amazon-sagemaker-hyperpod#deployment-benchmark-gap#llm