Docs faviconDOCS우성짱의 문서
Tag1건YouTube 1

#state-sharding

이 태그와 연결된 문서를 한곳에서 모아보고, 함께 자주 등장하는 연관 태그까지 이어서 탐색할 수 있습니다.

연관 태그

#distribution-preservation공동문서 1 · 연관도 100%#flashattention공동문서 1 · 연관도 100%#io-aware-attention공동문서 1 · 연관도 100%#llm-systems공동문서 1 · 연관도 100%#pagedattention공동문서 1 · 연관도 100%#cache-efficiency공동문서 1 · 연관도 71%#distributed-training공동문서 1 · 연관도 71%#gpu-memory공동문서 1 · 연관도 58%#speculative-decoding공동문서 1 · 연관도 38%#llm-inference공동문서 1 · 연관도 21%

문서 목록

총 1건 중 1-1건

Stanford CME295 Transformers & LLMs
YouTube2026년 11월 5일

Stanford CME295 Transformers & LLMs

LLM 시스템의 핵심은 모델과 학습·추론 상태를 GPU 메모리에 수용하고, 메모리 이동과 장치 간 통신 및 순차 생성의 병목을 줄이는 것이다.

Stanford Online
#llm-systems#gpu-memory#distributed-training#llm-inference