Docs faviconDOCS우성짱의 문서
Tag2건YouTube 2

#smaller-models

이 태그와 연결된 문서를 한곳에서 모아보고, 함께 자주 등장하는 연관 태그까지 이어서 탐색할 수 있습니다.

연관 태그

#model-quantization공동문서 2 · 연관도 82%#grouped-rounding공동문서 1 · 연관도 71%#gumbel-softmax공동문서 1 · 연관도 71%#low-bit-quality공동문서 1 · 연관도 71%#mixed-precision공동문서 1 · 연관도 71%#quality-retention공동문서 1 · 연관도 71%#soft-decision공동문서 1 · 연관도 71%#temperature-annealing공동문서 1 · 연관도 71%#nvfp4공동문서 1 · 연관도 50%#local-ai공동문서 2 · 연관도 25%

문서 목록

총 2건 중 1-2건

GSQ Explained: Smaller Quants, Same Great Performance
YouTube2026년 9월 30일

GSQ Explained: Smaller Quants, Same Great Performance

GSQ는 학습 기반 양자화로 모델 파일을 더 작게 만들면서 이번 짧은 테스트에서 대체로 비슷한 품질과 생성 속도를 보였지만, 일부 평가 수치는 확인이 필요하다.

Tonbi''s AI Garage
#local-ai#model-quantization#language-models#low-bit-quality
EXL3 Explained: Smaller Local Models, Less Quality Loss
YouTube2026년 9월 15일

EXL3 Explained: Smaller Local Models, Less Quality Loss

EXL3는 로컬 모델을 더 작게 만들면서 품질 손실을 줄이는 양자화 방식으로, 영상의 DGX Spark 실험에서는 기본 NVFP4보다 파일이 약 30% 작고 단일 사용자 대화도 빨랐다.

Tonbi''s AI Garage
#local-ai#model-quantization#smaller-models#quality-retention