Docs faviconDOCS우성짱의 문서
Tag3건YouTube 3

#hardware-benchmark

이 태그와 연결된 문서를 한곳에서 모아보고, 함께 자주 등장하는 연관 태그까지 이어서 탐색할 수 있습니다.

연관 태그

#amd-strix-halo공동문서 1 · 연관도 58%#apu-clustering공동문서 1 · 연관도 58%#cluster-comparison공동문서 1 · 연관도 58%#decode-bandwidth공동문서 1 · 연관도 58%#glm-4-7공동문서 1 · 연관도 58%#heterogeneous-gpu-compute공동문서 1 · 연관도 58%#inference-test공동문서 1 · 연관도 58%#memory-capacity-first공동문서 1 · 연관도 58%#mixed-gpu-inference공동문서 1 · 연관도 58%#multi-node-ai공동문서 1 · 연관도 58%

문서 목록

총 3건 중 1-3건

M5 Ultra vs 2 DGX Sparks…The Number You''re Not Looking At
YouTube2026년 10월 1일

M5 Ultra vs 2 DGX Sparks…The Number You''re Not Looking At

M5 Ultra와 DGX Spark 두 대를 비교할 때 놓치기 쉬운 숫자는 첫 토큰까지의 대기시간이며, 입력 길이·출력 길이·동시 사용자 수에 따라 유리한 구성이 달라진다.

Alex Ziskind
#local-inference#llm-serving#prefill-latency#decode-bandwidth
I Plugged RTX Pro 6000 Into a Strix Halo... Didn''t Expect This
YouTube2026년 8월 26일

I Plugged RTX Pro 6000 Into a Strix Halo... Didn''t Expect This

RTX Pro 6000을 Strix Halo 미니 PC에 연결한 결과, Vulkan과 모델 레이어 분할로 AMD·Nvidia 메모리를 함께 사용해 단일 GPU에 담기지 않는 122B 모델까지 실용적인 속도로 구동할 수 있었다.

Alex Ziskind
#local-llm-inference#heterogeneous-gpu-compute#mixed-gpu-inference#memory-capacity-first
AMD Says 2 Ryzen AI Halos Can Run a 400B Model... I Tested It
YouTube2026년 7월 26일

AMD Says 2 Ryzen AI Halos Can Run a 400B Model... I Tested It

두 대의 Ryzen AI Halo는 10GbE 기반 모델 분할로 400B급 AI 모델을 실제 구동할 수 있지만, 실용성은 메모리 용량보다 추론 방식과 동시 요청 처리 성능에 좌우된다.

Alex Ziskind
#local-ai-inference#multi-node-ai#apu-clustering#ryzen-ai-halo