Docs faviconDOCS우성짱의 문서
Tag1건YouTube 1

#27b-model

이 태그와 연결된 문서를 한곳에서 모아보고, 함께 자주 등장하는 연관 태그까지 이어서 탐색할 수 있습니다.

연관 태그

#gpu-offloading공동문서 1 · 연관도 100%#quantization공동문서 1 · 연관도 100%#vram-fit공동문서 1 · 연관도 100%#mini-pc공동문서 1 · 연관도 71%#benchmark공동문서 1 · 연관도 45%#llama-cpp공동문서 1 · 연관도 45%#speculative-decoding공동문서 1 · 연관도 45%#llm-inference공동문서 1 · 연관도 41%#memory-bandwidth공동문서 1 · 연관도 41%#local-ai공동문서 1 · 연관도 32%

문서 목록

총 1건 중 1-1건

I Ran A 27B Model On A Hand-Sized PC…Didn''t Expect This
YouTube2026년 9월 13일

I Ran A 27B Model On A Hand-Sized PC…Didn''t Expect This

손바닥 크기 PC에서도 27B 모델은 실행됐고, 외장 GPU 도크와 VRAM에 맞는 양자화·추측 디코딩을 조합하자 생성 속도가 초당 44토큰까지 올라갔다.

Alex Ziskind
#local-ai#llm-inference#vram-fit#memory-bandwidth