Docs favicon

#model-scaling #service-design #llm #semiconductors

Introducing container caching in Amazon SageMaker AI for faster model scaling

Amazon SageMaker AI는 추론 엔드포인트의 신규 인스턴스 확장 시 컨테이너 이미지를 미리 캐시해 이미지 다운로드 병목을 제거하고, 생성형 AI 모델의 스케일아웃 지연을 최대 약 2배 단축한다고 발표했습니다.

aws.amazon.com

#openclaw #search-advertising #zero-click-search #llm

Introducing Firecrawl Keyless: Search, scrape, and interact without an API key

Firecrawl은 API 키 없이 웹 검색, 스크래핑, 페이지 상호작용을 시작할 수 있는 Keyless 기능을 공개하고, 개발자에게 매월 1,000 무료 크레딧을 자동 제공한다고 발표했다.

Eric Ciarla

Introducing Open SWE: An Open-Source Asynchronous Coding Agent

Open SWE는 GitHub와 직접 연동되어 장시간 비동기로 코드베이스 조사, 계획 수립, 구현, 테스트, 자체 리뷰, PR 생성을 수행하는 오픈소스 클라우드 기반 코딩 에이전트입니다.

#anthropic #ai-architecture #agent-routing #context-compression

LangSmith: Redesigned product homepage and Resource Tags for better organization

LangSmith는 LLM 애플리케이션 개발 흐름을 관찰성, 평가, 프롬프트 엔지니어링으로 재정리한 새 홈페이지와 워크스페이스 리소스 관리를 위한 Resource Tags 개선을 공개했다.

#agent-routing #context-compression #prompt-library #llm

Monte Carlo: Building Data + AI Observability Agents with LangGraph and LangSmith

Monte Carlo는 LangGraph와 LangSmith를 활용해 기업 데이터 품질 사고를 병렬로 조사하고 근본 원인 분석을 빠르게 수행하는 데이터·AI 관측성 에이전트를 구축했다.

#service-design #ai-architecture #agent-routing #prompt-library

#openai #privacy-design #agent-deployment #llm

Predicting model behavior before release by simulating deployment

OpenAI는 실제 배포 대화와 유사한 맥락을 후보 모델로 재생성하는 ‘Deployment Simulation’을 통해 출시 전 원치 않는 모델 행동의 발생률과 새로운 위험을 더 현실적으로 예측하려 한다.

openai.com

Quickly Start Evaluating LLMs With OpenEvals

LangChain 팀은 LLM 애플리케이션과 에이전트를 프로덕션 수준으로 평가하기 쉽게 하기 위해 openevals와 agentevals를 공개하고, 데이터·평가지표·평가 유형별 출발점을 제시한다.

#ai-architecture #context-compression #prompt-library #llm

Reusable Evaluators and Evaluator Templates in LangSmith

LangSmith Evaluation은 30개 이상의 평가자 템플릿과 재사용 가능한 평가자 관리를 추가해, 에이전트 평가를 온라인 모니터링과 오프라인 실험 전반에서 더 일관되게 운영하도록 한다.

#multimodal #llm #semiconductors #vision-language-models

#agent-routing #context-compression #prompt-library #llm

Safeguard your agentic AI applications with the Amazon Bedrock Guardrails InvokeGuardrailChecks API

Amazon Bedrock Guardrails의 InvokeGuardrailChecks API는 에이전트형 AI 애플리케이션의 각 단계에서 필요한 안전 점검만 선택적으로 실행하고, 점수 기반 결과를 애플리케이션 로직으로 처리하게 해 주는 감지 전용 API다.

aws.amazon.com

Sharing LangSmith Benchmarks

LangChain 팀은 LangSmith에서 평가 데이터셋·결과·실행 트레이스를 공유하고, LangChain 문서 Q&A 벤치마크와 langchain benchmarks 패키지로 LLM 애플리케이션 아키텍처를 재현·비교할 수 있게 했다고 설명한다.

#anthropic #ai-architecture #agent-memory #context-compression

Testing Fine Tuned Open Source Models in LangSmith

이 글은 LangSmith를 사용해 파인튜닝한 오픈소스 Llama2 모델들을 구조화된 SQL 출력 과제로 평가하고, 모델 크기·학습 데이터·응답 시간·GPT 3.5와의 경쟁력을 비교한 사례를 설명한다.

#ai-architecture #llm #semiconductors #applications

How LangChain Made Coding Agent Spend Predictable

LangChain은 코딩 에이전트 사용량이 전사로 확산되며 예측하기 어려워진 LLM 비용을 LangSmith LLM Gateway로 실시간 가시화하고, 사용자·팀·키 단위 예산과 추적 가능한 제한 워크플로로 관리 가능하게 만들었다.

#agent-routing #llm #semiconductors #applications

Agent Observability: How to Monitor and Evaluate LLM Agents in Production

이 글은 LLM 에이전트가 기존 소프트웨어처럼 예측·감시되기 어렵기 때문에, 프로덕션 대화 트레이스 자체를 관찰하고 인간 평가와 LLM 평가를 결합해 지속적으로 품질을 개선해야 한다고 설명한다.

#privacy-design #agent-routing #api-llm-llm #llm

Learning AI Didn’t Make Me a Faster Designer. It’s Turning Me Into a Different One.

저자는 AI가 디자이너를 단순히 더 빠른 제작자로 만드는 것이 아니라, 작업이 만들어지는 시스템을 설계하고 운영하는 더 전략적인 역할로 이동시키고 있다고 말한다.

#privacy-design #agent-routing #semiconductors #applications

Aligning LLM-as-a-Judge with Human Preferences

LangSmith는 사람이 수정한 LLM as a Judge 평가 결과를 few shot 예시로 축적해, 별도의 반복적인 프롬프트 엔지니어링 없이 평가기를 인간 선호에 점진적으로 맞추는 self improving evaluator를 소개한다.

#agent-memory #context-compression #prompt-library #retrieval-index

Announcing LangSmith is now a transactable offering in the Azure Marketplace

LangChain은 기업이 LangSmith를 Azure Marketplace에서 Azure Kubernetes Application 형태로 구매하고 배포할 수 있게 됐다고 발표했다.

#service-design #agent-deployment #context-compression #prompt-library

#agent-deployment #llm #semiconductors #applications

Balance AI innovation and risk with ‘minimum viable governance’

MIT CISR 연구진은 생성형 AI 확산에서 혁신을 막지 않으면서 위험을 관리하려면 ‘최소 실행 가능 거버넌스’가 필요하다고 제안한다.

mitsloan.mit.edu

The U-bit Model: Human and AI Coexistence

이 글은 인간의 비알고리즘적 통찰과 유한성이 AI에게 의미, 역사성, 죽음의 감각을 제공한다는 ‘U bit 모델’을 통해 인간과 AI의 공존을 설명한다.

#privacy-design #ai-architecture #llm #semiconductors

Build and deploy a RAG app with Pinecone Serverless

이 글은 Pinecone Serverless, LangServe, LangSmith를 조합해 프로토타입 수준의 RAG 데모를 운영 가능한 웹 서비스로 배포하는 흐름과 그 배경이 되는 생산 환경의 문제를 설명한다.

#service-design #ai-architecture #agent-deployment #agent-memory

Building a 100x Cheaper Trace Judge with Fireworks

LangChain Labs는 Fireworks와 함께 Qwen 3.5 35B를 미세조정해 사용자가 에이전트 응답에서 오류를 느꼈는지 판별하는 Trace Judge를 만들었고, 프런티어 모델 수준의 정확도를 유지하면서 최대 100배 저렴한 추론 비용을 보였다고 설명한다.

#llm #semiconductors #applications #agent-deployment

The Cost of Curiosity

이 글은 과도한 질문과 보고를 사회적으로 처벌하는 문화가 관찰, 기록, 과학적 보고, 제도적 기억을 약화시키며, 과학의 출발점은 실험실보다 먼저 ‘볼 수 있도록 허락하는 문화’에 있다고 주장한다.

#privacy-design #semiconductors #applications #compute

Your CS Degree Just Got Harder to Sell. Here’s What the Data Actually Says (And What to Do About It)

인도 CS/IT 전공자의 신입 개발자 시장은 AI와 대형 IT 기업의 채용 축소로 더 어려워졌지만, 문제는 ‘코딩의 종말’이 아니라 반복적 주니어 업무와 일반형 이력서가 더 이상 충분한 신호가 되지 않는 구조 변화다.

#privacy-design #service-design #ai-architecture #semiconductors

Evaluating Deep Agents: Our Learnings

LangChain 팀은 네 가지 딥 에이전트 애플리케이션을 출시하며, 딥 에이전트 평가는 일반 LLM 평가보다 테스트별 성공 기준, 실행 범위 선택, 재현 가능한 환경 구성이 훨씬 중요하다는 점을 정리했다.

#ai-architecture #agent-memory #context-compression #retrieval-index

Every Sales Call Contains Market Research. Most Companies Throw It Away.

이 글은 기업이 이미 매일 진행하는 영업 통화 속에 고객 니즈, 구매 장벽, 경쟁사 신호, 시장 변화가 담겨 있지만 이를 체계적으로 분석하지 않아 중요한 시장 인사이트를 놓치고 있다고 주장한다.