qwen3-5-4b 태그 문서 1개 | 우성짱의 문서

우성짱의 문서

Tag1건Article 1

#qwen3-5-4b

이 태그와 연결된 문서를 한곳에서 모아보고, 함께 자주 등장하는 연관 태그까지 이어서 탐색할 수 있습니다.

연관 태그

#choice-probability-output공동문서 1 · 연관도 100%#decision-model-serving공동문서 1 · 연관도 100%#external-policy-enforcement공동문서 1 · 연관도 100%#inference-benchmark공동문서 1 · 연관도 100%#quantized-llm-inference공동문서 1 · 연관도 100%#semif공동문서 1 · 연관도 100%#probability-calibration공동문서 1 · 연관도 50%#deployment-guide공동문서 1 · 연관도 35%#llama-cpp공동문서 1 · 연관도 32%#amazon-sagemaker-ai공동문서 1 · 연관도 22%

문서 목록

총 1건 중 1-1건

Deploy decision models with llama.cpp on Amazon SageMaker AI

Article2026년 10월 12일

Deploy decision models with llama.cpp on Amazon SageMaker AI

Amazon SageMaker AI에서 AWS DLC for llama.cpp로 양자화 모델의 채팅 응답을 제공하고, SemIf 확장으로 사전에 지정한 선택지의 확률을 반환하는 의사결정 모델을 CPU 또는 GPU에 배포할 수 있다.

#semif #llama-cpp #amazon-sagemaker-ai #qwen3-5-4b