Docs faviconDOCS우성짱의 문서
Tag1건Article 1

#nvidia-mig

이 태그와 연결된 문서를 한곳에서 모아보고, 함께 자주 등장하는 연관 태그까지 이어서 탐색할 수 있습니다.

연관 태그

#gpu-partitioning공동문서 1 · 연관도 100%#hardware-tenant-isolation공동문서 1 · 연관도 100%#higher-model-density공동문서 1 · 연관도 100%#inference-components공동문서 1 · 연관도 100%#predictable-inference-latency공동문서 1 · 연관도 100%#amazon-sagemaker-inference공동문서 1 · 연관도 71%#nvidia-a100공동문서 1 · 연관도 58%#model-serving공동문서 1 · 연관도 45%#technical-walkthrough공동문서 1 · 연관도 21%

문서 목록

총 1건 중 1-1건

SageMaker Inference now supports Multi-Instance GPU to maximize GPU utilization for model endpoints
Article2026년 11월 6일

SageMaker Inference now supports Multi-Instance GPU to maximize GPU utilization for model endpoints

Amazon SageMaker Inference가 NVIDIA Multi Instance GPU(MIG)를 지원해, inference components 기반 엔드포인트에서 GPU를 하드웨어로 격리된 파티션으로 나누고 모델에 필요한 용량을 배정할 수 있게 됐다.

aws.amazon.com
#nvidia-a100#nvidia-mig#amazon-sagemaker-inference#hardware-tenant-isolation