Docs faviconDOCS우성짱의 문서
Tag1건Article 1

#envoy-gateway

이 태그와 연결된 문서를 한곳에서 모아보고, 함께 자주 등장하는 연관 태그까지 이어서 탐색할 수 있습니다.

연관 태그

#kubernetes-model-serving공동문서 1 · 연관도 100%#llm-inference-routing공동문서 1 · 연관도 100%#lora-adapter-affinity공동문서 1 · 연관도 100%#workload-dependent-gains공동문서 1 · 연관도 100%#amazon-eks공동문서 1 · 연관도 41%#implementation-guide공동문서 1 · 연관도 14%#product-announcement공동문서 1 · 연관도 12%#llm공동문서 1 · 연관도 3%

문서 목록

총 1건 중 1-1건

Introducing Amazon SageMaker HyperPod Inference Gateway
Article2026년 9월 18일

Introducing Amazon SageMaker HyperPod Inference Gateway

Amazon SageMaker HyperPod Inference Gateway는 실시간 GPU 상태에 따라 추론 요청을 배분하는 Kubernetes 네이티브 라우팅 시스템으로, 애플리케이션 코드 변경 없이 지연과 GPU 자원 낭비를 줄이며 현재 클러스터 단위 Tier 1을 제공한다.

aws.amazon.com
#amazon-eks#envoy-gateway#workload-dependent-gains#llm