Docs faviconDOCS우성짱의 문서
Tag15건Article 15

#technical-guide

이 태그와 연결된 문서를 한곳에서 모아보고, 함께 자주 등장하는 연관 태그까지 이어서 탐색할 수 있습니다.

연관 태그

#alpagasus공동문서 2 · 연관도 37%#agent-latency공동문서 1 · 연관도 26%#airflow-dag-orchestration공동문서 1 · 연관도 26%#airflow-modal-integration공동문서 1 · 연관도 26%#amazon-sagemaker-inference공동문서 1 · 연관도 26%#apache-airflow공동문서 1 · 연관도 26%#aws-ai-ml공동문서 1 · 연관도 26%#botpress공동문서 1 · 연관도 26%#bottleneck-first-optimization공동문서 1 · 연관도 26%#cold-start-reduction공동문서 1 · 연관도 26%

문서 목록

총 15건 중 1-15건

New agent skill: Amazon SageMaker optimized generative AI inference for your coding agent
Article2026년 10월 5일

New agent skill: Amazon SageMaker optimized generative AI inference for your coding agent

AWS의 aws ai ml 스킬은 MCP 호환 코딩 에이전트에 Amazon SageMaker AI 추론 최적화 기능을 더해, 실측 벤치마크와 배포 구성 추천을 실행 가능한 코드로 제공한다.

aws.amazon.com
#amazon-sagemaker-ai#aws-ai-ml#hardware-aware-comparison#measurement-driven-deployment
Selecting a vector store for Amazon Bedrock Knowledge Bases
Article2026년 9월 17일

Selecting a vector store for Amazon Bedrock Knowledge Bases

Amazon Bedrock Knowledge Bases의 고객 관리형 벡터 저장소는 검색 요구와 비용에 따라 선택해야 하며, 원문은 상품 검색에 적합한 Amazon OpenSearch Serverless의 최적화 방식과 벤치마크 설계를 설명하지만 측정 결과는 제공된 본문에 포함되지 않는다.

aws.amazon.com
#amazon-aurora-postgresql#amazon-opensearch-serverless#amazon-s3-vectors#vector-databases
The generative AI customization spectrum: From prompt engineering to custom models on AWS
Article2026년 9월 14일

The generative AI customization spectrum: From prompt engineering to custom models on AWS

AWS는 생성형 AI 맞춤화를 기존 모델 사용부터 자체 모델 학습까지 8단계로 나누고, 정확도·지연 시간·도메인 요구를 충족하지 못할 때만 더 복잡한 단계로 이동할 것을 제안한다.

aws.amazon.com
#amazon-bedrock#model-distillation-efficiency#prompt-caching-efficiency#prompt-engineering
Reduce inference cold starts on Amazon SageMaker HyperPod with model caching
Article2026년 9월 10일

Reduce inference cold starts on Amazon SageMaker HyperPod with model caching

Amazon SageMaker HyperPod의 모델 캐싱은 가중치와 컨테이너 이미지를 노드에 미리 적재해, 캐시가 준비된 노드에서 대형 모델의 추론 시작 대기를 수십 분에서 통상 수초로 줄이는 기능이다.

aws.amazon.com
#inferenceendpointconfig#amazon-s3#local-nvme#amazon-sagemaker-hyperpod
Reduce LLM latency with prefix-aware routing on Amazon SageMaker Inference
Article2026년 9월 10일

Reduce LLM latency with prefix-aware routing on Amazon SageMaker Inference

Amazon SageMaker Inference의 PREFIX AWARE는 공통 프롬프트 접두사가 있는 요청을 같은 인스턴스로 보내 KV 캐시 재사용을 높이며, Llama 3.1 70B 벤치마크에서 P50 첫 토큰 지연 시간(TTFT)을 최대 77% 줄이고 처리량을 최대 16% 높였다.

aws.amazon.com
#amazon-sagemaker-inference#llm#llm-inference#prefix-caching
Introducing OpenAI models on Amazon Bedrock for in-country inferencing in India
Article2026년 8월 27일

Introducing OpenAI models on Amazon Bedrock for in-country inferencing in India

Amazon Bedrock은 인도 내 데이터 처리를 유지하는 지역 간 추론으로 OpenAI GPT 5.6 Terra와 Luna를 제공하며, 다양한 API와 프롬프트 캐싱을 지원한다.

aws.amazon.com
#india#amazon-bedrock#profile-defined-routing#retention-policy-exceptions
AI Agent Latency 101: How do I speed up my AI agent?
Article2026년 8월 26일

AI Agent Latency 101: How do I speed up my AI agent?

AI 에이전트의 지연 개선은 병목 진단을 출발점으로 사용자 경험 개선, LLM 호출 축소·가속·병렬화를 적용하고 성능·비용·기능 사이의 균형을 맞추는 작업이다.

langchain.com
#langgraph#langsmith#gemini-flash#llm
Preparing data for supervised fine-tuning Part 1: Formatting and quality
Article2026년 8월 26일

Preparing data for supervised fine-tuning Part 1: Formatting and quality

지도 미세 조정(SFT)의 성과는 데이터의 정확성·다양성·일관성과 실제 추론 환경에 맞춘 대화 형식 및 추론 예시의 품질에 달려 있다.

aws.amazon.com
#alpagasus#amazon-web-services#quality-over-quantity#conversational-jsonl
Preparing data for supervised fine-tuning Part 2: Advanced data strategies
Article2026년 8월 26일

Preparing data for supervised fine-tuning Part 2: Advanced data strategies

지도 미세조정(SFT)은 학습 곡선으로 데이터 필요량을 진단하고, 부분집합 선별·검증된 증강·데이터 혼합을 통해 전문화와 일반 능력 보존을 조율해야 한다.

aws.amazon.com
#alpagasus#amazon-nova#deepseek-r1#verified-synthetic-data
Debugging Deep Agents with LangSmith
Article2026년 8월 25일

Debugging Deep Agents with LangSmith

LangSmith는 긴 실행과 다중 대화로 복잡해진 딥 에이전트의 디버깅을 실행 추적, Polly의 분석·프롬프트 수정, LangSmith Fetch CLI의 데이터 조회로 지원한다.

langchain.com
#langsmith#polly#claude-code#langsmith-fetch-cli
How to Evaluate Voice Agents with LangSmith
Article2026년 8월 4일

How to Evaluate Voice Agents with LangSmith

음성 에이전트는 지시 이행, 실제 결과, 통화 경험을 분리해 평가하고, 각 신호에 맞는 코드·언어 모델·음성·비즈니스 시스템 평가와 사람 검토를 결합해야 한다.

langchain.com
#langchain#langsmith#human-calibrated-evaluators#llm
How do you convert PDF files to JSON? (2026)
Article2026년 7월 7일

How do you convert PDF files to JSON? (2026)

PDF를 기계가 활용할 수 있는 JSON으로 바꾸는 이유와 OCR·구조 보존의 난점을 설명하고, 동일한 플라톤 『크리톤』 PDF를 기준으로 다섯 도구의 용도를 제시한 뒤 제공된 본문 범위에서 네 라이브러리의 출력 특성을 비교한다.

Jacob Nulty
#docling#pdf2json#pymupdf#pdf-parse
How to Build a Custom Agent Harness
Article2026년 6월 4일

How to Build a Custom Agent Harness

유용한 에이전트를 만들려면 모델 자체보다도 작업에 맞는 맥락, 도구, 상태, 정책을 적시에 제공하는 맞춤형 하네스가 중요하며, LangChain의 create agent는 이를 미들웨어로 세밀하게 구성하는 최소 기반을 제공한다.

LangChain
#langchain#middleware#agent-harness#create-agent
Web Search and Deep Research for AI Agents: What It Is and How to Integrate It into Your Agentic Stack
Article2026년 4월 3일

Web Search and Deep Research for AI Agents: What It Is and How to Integrate It into Your Agentic Stack

AI 에이전트의 웹 검색은 소수의 최신 출처로 빠른 질문에 답하게 하고, 딥 리서치는 수백 개 웹페이지를 반복적으로 탐색·검증·종합해 복잡한 의사결정에 필요한 근거를 만드는 데이터 계층이다.

Bex Tuychiev
#botpress#credal#firecrawl#retell-ai
Run GPU jobs from Airflow with Modal
Article2024년 6월 20일

Run GPU jobs from Airflow with Modal

이 글은 Airflow 워크플로에서 Modal을 이용해 GPU 기반 AI/ML 작업을 더 간단히 실행하는 두 가지 방법, 즉 배포된 Modal Function 호출과 Modal Sandbox 기반 커스텀 Operator 구성을 설명한다.

Modal
#modal#apache-airflow#modal-function#modal-sandbox