Docs faviconDOCS우성짱의 문서
Author1건Article 1

@DCABib

이 작성자와 연결된 문서를 한곳에서 모아보고, 관련 태그를 따라 같은 맥락의 문서를 이어서 탐색할 수 있습니다.

자주 함께 등장한 태그

#amazon-bedrock#converse-api#cache-write-premium#prefix-state-reuse#region-scoped-cache#ttl-dependent-savings#llm#prompt-caching#cross-region-inference#llm-inference-cost#implementation-guide

문서 목록

총 1건 중 1-1건

Optimizing cost and latency with Amazon Bedrock prompt caching
Article2026년 9월 15일

Optimizing cost and latency with Amazon Bedrock prompt caching

Amazon Bedrock 프롬프트 캐싱은 반복되는 입력 문맥을 재사용해 캐시 적중 시 해당 입력 토큰 비용을 최대 90% 줄이고 첫 토큰 도착 시간(TTFT)을 단축할 수 있지만, 실제 효과는 최소 토큰 수, TTL, 재사용 빈도와 리전 라우팅에 달려 있다.

@DCABib
#amazon-bedrock#converse-api#cache-write-premium#prefix-state-reuse