총 3636건 중 2257-2280건
생성 예정
네이선 램버트와 핀바 팀버스가 후훈련 레시피의 흐름을 인스트럭트지피티식 단일 파이프라인에서 2026년형 다중 교사 온폴리시 증류 중심 구조까지 검토하며, 올모 계열 경험과 최신 프런티어 모델 레시피의 차이를 짚는다.
NVIDIA XR AI는 AR 안경과 XR 기기에서 현실 세계를 인식하고 기업 지식과 도구를 활용해 실시간으로 행동을 돕는 멀티모달 AI 에이전트 개발 프레임워크를 공개 베타로 제공한다.
딥 에이전트 평가는 많은 테스트를 쌓는 것이 아니라, 프로덕션에서 중요한 행동을 직접 측정하는 표적 평가를 설계하고 반복적으로 개선하는 과정이다.
NVIDIA와 HPE는 에이전틱 AI가 개념검증을 넘어 운영 단계로 이동하는 흐름에 맞춰 Vera CPU, Agent Toolkit, Confidential Computing, 네트워킹·소프트웨어 통합을 HPE AI Factory 전반으로 확장했다.
AI 에이전트를 신뢰성 있게 개선하려면 조직 안에 문서화된 지식뿐 아니라 직원들의 암묵지와 판단을 개발·평가·운영 전 과정의 자동화된 개선 루프에 반영해야 한다.
Epoch AI는 Microsoft, Amazon, Alphabet, Meta, Oracle의 현금성 자본지출이 영업현금흐름보다 훨씬 빠르게 늘어, 합산 기준으로 2026년 3분기경 영업현금흐름을 넘어설 추세라고 분석한다.
Amazon SageMaker AI는 추론 엔드포인트의 신규 인스턴스 확장 시 컨테이너 이미지를 미리 캐시해 이미지 다운로드 병목을 제거하고, 생성형 AI 모델의 스케일아웃 지연을 최대 약 2배 단축한다고 발표했습니다.
Firecrawl은 API 키 없이 웹 검색, 스크래핑, 페이지 상호작용을 시작할 수 있는 Keyless 기능을 공개하고, 개발자에게 매월 1,000 무료 크레딧을 자동 제공한다고 발표했다.
Open SWE는 GitHub와 직접 연동되어 장시간 비동기로 코드베이스 조사, 계획 수립, 구현, 테스트, 자체 리뷰, PR 생성을 수행하는 오픈소스 클라우드 기반 코딩 에이전트입니다.
LangSmith는 LLM 애플리케이션 개발 흐름을 관찰성, 평가, 프롬프트 엔지니어링으로 재정리한 새 홈페이지와 워크스페이스 리소스 관리를 위한 Resource Tags 개선을 공개했다.
Monte Carlo는 LangGraph와 LangSmith를 활용해 기업 데이터 품질 사고를 병렬로 조사하고 근본 원인 분석을 빠르게 수행하는 데이터·AI 관측성 에이전트를 구축했다.
P EAGLE은 EAGLE식 추측 디코딩의 순차적 드래프트 병목을 병렬 드래프팅으로 제거해 SageMaker JumpStart에서 지원 모델의 추론 처리량을 높이는 방법입니다.
OpenAI는 실제 배포 대화와 유사한 맥락을 후보 모델로 재생성하는 ‘Deployment Simulation’을 통해 출시 전 원치 않는 모델 행동의 발생률과 새로운 위험을 더 현실적으로 예측하려 한다.
LangChain 팀은 LLM 애플리케이션과 에이전트를 프로덕션 수준으로 평가하기 쉽게 하기 위해 openevals와 agentevals를 공개하고, 데이터·평가지표·평가 유형별 출발점을 제시한다.
LangSmith Evaluation은 30개 이상의 평가자 템플릿과 재사용 가능한 평가자 관리를 추가해, 에이전트 평가를 온라인 모니터링과 오프라인 실험 전반에서 더 일관되게 운영하도록 한다.
Amazon Bedrock Guardrails의 InvokeGuardrailChecks API는 에이전트형 AI 애플리케이션의 각 단계에서 필요한 안전 점검만 선택적으로 실행하고, 점수 기반 결과를 애플리케이션 로직으로 처리하게 해 주는 감지 전용 API다.
LangChain 팀은 LangSmith에서 평가 데이터셋·결과·실행 트레이스를 공유하고, LangChain 문서 Q&A 벤치마크와 langchain benchmarks 패키지로 LLM 애플리케이션 아키텍처를 재현·비교할 수 있게 했다고 설명한다.
이 글은 LangSmith를 사용해 파인튜닝한 오픈소스 Llama2 모델들을 구조화된 SQL 출력 과제로 평가하고, 모델 크기·학습 데이터·응답 시간·GPT 3.5와의 경쟁력을 비교한 사례를 설명한다.
데이터센터를 더 빨리 가동하기 위한 해법으로 새 발전소 건설만이 아니라, 전력 수요가 치솟는 순간 데이터센터의 소비전력을 낮추는 ‘전력 유연성’이 주목받고 있다.
LangChain은 코딩 에이전트 사용량이 전사로 확산되며 예측하기 어려워진 LLM 비용을 LangSmith LLM Gateway로 실시간 가시화하고, 사용자·팀·키 단위 예산과 추적 가능한 제한 워크플로로 관리 가능하게 만들었다.
이 글은 LLM 에이전트가 기존 소프트웨어처럼 예측·감시되기 어렵기 때문에, 프로덕션 대화 트레이스 자체를 관찰하고 인간 평가와 LLM 평가를 결합해 지속적으로 품질을 개선해야 한다고 설명한다.
저자는 AI가 디자이너를 단순히 더 빠른 제작자로 만드는 것이 아니라, 작업이 만들어지는 시스템을 설계하고 운영하는 더 전략적인 역할로 이동시키고 있다고 말한다.
LangSmith는 사람이 수정한 LLM as a Judge 평가 결과를 few shot 예시로 축적해, 별도의 반복적인 프롬프트 엔지니어링 없이 평가기를 인간 선호에 점진적으로 맞추는 self improving evaluator를 소개한다.
