Docs faviconDOCS우성짱의 문서
Tag11건Article 11

#amazon-sagemaker-hyperpod

이 태그와 연결된 문서를 한곳에서 모아보고, 함께 자주 등장하는 연관 태그까지 이어서 탐색할 수 있습니다.

연관 태그

#amazon-eks공동문서 3 · 연관도 30%#accelerator-capacity-allocation공동문서 1 · 연관도 30%#agent-driven-operations공동문서 1 · 연관도 30%#agentic-coding-rl공동문서 1 · 연관도 30%#ai-compute-governance공동문서 1 · 연관도 30%#amazon-nova-forge공동문서 1 · 연관도 30%#arc-agi-1공동문서 1 · 연관도 30%#aws-engineering-blog공동문서 1 · 연관도 30%#bdh-cq공동문서 1 · 연관도 30%#benchmark-cost-efficiency공동문서 1 · 연관도 30%

문서 목록

총 11건 중 1-11건

Share GPU clusters across teams with isolation and fairness using Amazon SageMaker HyperPod
Article2026년 10월 8일

Share GPU clusters across teams with isolation and fairness using Amazon SageMaker HyperPod

Amazon SageMaker HyperPod의 EKS 기반 참조 아키텍처는 여러 팀이 하나의 GPU 클러스터를 공유하면서 중앙 인증, 팀별 작업 공간, 네임스페이스 권한 제한, 공정한 자원 배분과 비용 귀속을 함께 설계하는 방법을 제시한다.

aws.amazon.com
#amazon-eks#amazon-sagemaker-hyperpod#hyperpod-task-governance#fair-gpu-allocation
Best practices for Amazon SageMaker HyperPod administration and governance
Article2026년 10월 6일

Best practices for Amazon SageMaker HyperPod administration and governance

Amazon SageMaker HyperPod 공유 환경에서는 SageMaker Unified Studio를 프로젝트 협업 창구로 활용하되, 조직·프로젝트·클러스터·워크로드의 네 통제 계층을 구분하고 중앙 용량 계정에서 인프라와 용량을 관리하는 거버넌스가 권장된다.

aws.amazon.com
#slurm#amazon-eks#amazon-sagemaker-hyperpod#sagemaker-unified-studio
Manage Amazon SageMaker HyperPod Spaces directly from SageMaker Studio
Article2026년 10월 6일

Manage Amazon SageMaker HyperPod Spaces directly from SageMaker Studio

Amazon SageMaker Studio에서 HyperPod EKS 클러스터의 Spaces를 직접 생성·관리하고 JupyterLab, Code Editor 또는 로컬 VS Code로 개발할 수 있게 됐으며, 관리자의 접근 설정과 선택적 사전 워밍으로 개발 환경 접근성과 시작 시간을 개선할 수 있다.

aws.amazon.com
#karpenter#amazon-sagemaker-hyperpod#amazon-sagemaker-studio#ssh-over-ssm
Multi-Region training with Amazon SageMaker HyperPod and Qumulo
Article2026년 9월 25일

Multi-Region training with Amazon SageMaker HyperPod and Qumulo

Amazon SageMaker HyperPod와 Qumulo를 결합한 검증에서, 다른 AWS 리전의 데이터를 읽는 학습 클러스터가 NeuralCache의 초기 예열 후 데이터와 같은 리전에 있는 클러스터 수준의 처리량에 도달했다.

aws.amazon.com
#neuralcache#amazon-sagemaker-hyperpod#cloud-native-qumulo#cold-start-overhead
Reduce inference cold starts on Amazon SageMaker HyperPod with model caching
Article2026년 9월 10일

Reduce inference cold starts on Amazon SageMaker HyperPod with model caching

Amazon SageMaker HyperPod의 모델 캐싱은 가중치와 컨테이너 이미지를 노드에 미리 적재해, 캐시가 준비된 노드에서 대형 모델의 추론 시작 대기를 수십 분에서 통상 수초로 줄이는 기능이다.

aws.amazon.com
#inferenceendpointconfig#amazon-s3#local-nvme#amazon-sagemaker-hyperpod
Deploying Qwen3.8-2.4T-A95B on Amazon SageMaker HyperPod with vLLM
Article2026년 9월 9일

Deploying Qwen3.8-2.4T-A95B on Amazon SageMaker HyperPod with vLLM

Qwen3.8 2.4T A95B를 Amazon SageMaker HyperPod의 8개 B300 GPU 노드에서 NVFP4와 vLLM으로 구동하는 구성과 운영 요건을 설명하며, 단일 노드 실측 성능과 배포 절차의 후반부는 제공된 본문에서 확인되지 않는다.

aws.amazon.com
#nvidia-b300#amazon-sagemaker-hyperpod#deployment-benchmark-gap#llm
Pathway’s brain-inspired architecture development on Amazon SageMaker HyperPod
Article2026년 9월 8일

Pathway’s brain-inspired architecture development on Amazon SageMaker HyperPod

Pathway는 중간 추론 텍스트 없이 잠재 공간에서 반복 추론하는 BDH 기반 BDH CQ를 Amazon SageMaker HyperPod에서 개발했으며, ARC AGI 1에서 과제당 US $0.0007의 비용으로 29.5% pass@2를 달성했다고 보고했다.

aws.amazon.com
#pathway#bdh-cq#amazon-sagemaker-hyperpod#arc-agi-1
Build a Physical AI model factory with NVIDIA Cosmos 3 on SageMaker HyperPod
Article2026년 9월 4일

Build a Physical AI model factory with NVIDIA Cosmos 3 on SageMaker HyperPod

NVIDIA Cosmos 3와 Amazon SageMaker HyperPod를 결합해 합성 데이터 생성, 후속 학습, 평가를 하나의 공유 GPU 풀에서 반복하는 피지컬 AI 모델 팩토리를 구성한다.

aws.amazon.com
#amazon-sagemaker-hyperpod#nvidia-cosmos-3#gpu-goodput#shared-gpu-pool
Run agent-driven Amazon SageMaker HyperPod operations with InstantStart
Article2026년 9월 4일

Run agent-driven Amazon SageMaker HyperPod operations with InstantStart

HyperPod InstantStart는 공통 제어 평면과 단계별 재시도·검증 절차를 통해 Amazon SageMaker HyperPod 운영을 웹과 AI 에이전트에서 일관되게 수행하는 오픈 소스 도구다.

aws.amazon.com
#amazon-eks#hyperpod-instantstart#amazon-sagemaker-hyperpod#shared-control-plane
Custom reward functions for multi-turn reinforcement learning with Amazon Nova Forge
Article2026년 8월 14일

Custom reward functions for multi-turn reinforcement learning with Amazon Nova Forge

다중 턴 강화학습에서는 보상 함수가 모델이 실제로 학습할 행동을 결정하므로, 그룹 내 변별력과 안전한 실행·관측성을 갖춘 복합 보상 설계가 핵심이다.

aws.amazon.com
#amazon-nova-forge#amazon-sagemaker-hyperpod#sandboxed-reward-observability#llm
Tiered KV cache for large LLMs on Amazon SageMaker HyperPod with Curvine
Article2026년 8월 12일

Tiered KV cache for large LLMs on Amazon SageMaker HyperPod with Curvine

Amazon SageMaker HyperPod에 Curvine 기반 공유 NVMe L2 캐시와 지능형 라우팅을 결합해 vLLM의 KV 캐시를 GPU·CPU·노드 간 스토리지로 확장하고, 테스트에서 교차 Pod 캐시 적중률 최대 100%와 TTFT 최대 2.7배 개선을 달성한 아키텍처와 구축 절차를 설명한다.

aws.amazon.com
#curvine#lmcache#amazon-sagemaker-hyperpod#distributed-kv-caching