Docs faviconDOCS우성짱의 문서
Tag1건Article 1

#region-scoped-cache

이 태그와 연결된 문서를 한곳에서 모아보고, 함께 자주 등장하는 연관 태그까지 이어서 탐색할 수 있습니다.

연관 태그

#cache-write-premium공동문서 1 · 연관도 100%#prefix-state-reuse공동문서 1 · 연관도 100%#ttl-dependent-savings공동문서 1 · 연관도 100%#converse-api공동문서 1 · 연관도 71%#llm-inference-cost공동문서 1 · 연관도 45%#cross-region-inference공동문서 1 · 연관도 25%#prompt-caching공동문서 1 · 연관도 23%#implementation-guide공동문서 1 · 연관도 11%#amazon-bedrock공동문서 1 · 연관도 10%#llm공동문서 1 · 연관도 3%

문서 목록

총 1건 중 1-1건

Optimizing cost and latency with Amazon Bedrock prompt caching
Article2026년 9월 15일

Optimizing cost and latency with Amazon Bedrock prompt caching

Amazon Bedrock 프롬프트 캐싱은 반복되는 입력 문맥을 재사용해 캐시 적중 시 해당 입력 토큰 비용을 최대 90% 줄이고 첫 토큰 도착 시간(TTFT)을 단축할 수 있지만, 실제 효과는 최소 토큰 수, TTL, 재사용 빈도와 리전 라우팅에 달려 있다.

@DCABib
#amazon-bedrock#converse-api#cache-write-premium#prefix-state-reuse