context-compression 태그 문서 404개

#agent-memory #context-compression #retrieval-index #llm

Beyond LoRA: Can you beat the most popular fine-tuning technique?

LoRA는 강력하고 대중적인 선택이지만, 동일 조건의 다차원 벤치마크에서는 과제와 우선순위에 따라 다른 PEFT 기법이 더 높은 성능이나 더 낮은 메모리 사용량을 제공할 수 있다.

huggingface.co

Introducing LangSmith’s No Code Agent Builder

LangSmith Agent Builder는 개발자가 아닌 비즈니스 사용자도 대화형 안내, 메모리, 도구 연결, 트리거 설정을 통해 코드 없이 에이전트를 만들 수 있도록 설계된 비공개 프리뷰 기능이다.

#agent-memory #agent-routing #context-compression #prompt-library

#agent-routing #workflow-automation #llm #semiconductors

Is it agentic enough? Benchmarking open models on your own tooling

이 글은 transformers를 사례로, 오픈 모델 기반 코딩 에이전트가 도구를 얼마나 쉽게 발견하고 사용하며 정답에 도달하는지 과정을 중심으로 측정하는 벤치마크 방법을 제시한다.

huggingface.co

#service-design #ai-architecture #agent-memory #context-compression

Monitor and debug generative AI inference with SageMaker detailed metrics and Insights dashboard on CloudWatch

SageMaker AI의 상세 추론 지표와 CloudWatch의 SageMaker Insights 대시보드는 대규모 생성형 AI 추론 엔드포인트의 지연, 용량, 안정성 문제를 더 빠르게 모니터링하고 진단하도록 돕는다.

aws.amazon.com

Article2026년 6월 17일

Video Quick Take: Implementing Zero Trust in an AI-Driven Threat Landscape - SPONSOR CONTENT FROM THREATLOCKER

HBR의 Julie Devoll은 ThreatLocker의 Ryan Bowman과 함께 AI로 공격 속도가 빨라진 환경에서 제로 트러스트를 실제 조직 운영에 적용하는 방법을 논의했다.

@harvardbiz

#ai-architecture #semiconductors #applications #compute

Article2026년 6월 17일

Pro-worker AI, explained

MIT Sloan 글은 AI를 사람을 대체하는 자동화 도구가 아니라 인간의 판단·전문성·새로운 과업 수행 능력을 키우는 방향으로 설계해야 한다고 설명한다.

mitsloan.mit.edu

#service-design #semiconductors #applications #compute

Why Fleet Has General Purpose Chat and Specialized Agents

Fleet은 일회성·탐색형 업무에는 General Purpose Chat을, 반복적으로 맡겨야 하는 업무에는 지속 설정과 메모리를 갖춘 Specialized Agents를 쓰도록 두 에이전트 유형을 구분한다.

#agent-memory #agent-routing #context-compression #retrieval-index

Agent Engineering: A New Discipline

에이전트 엔지니어링은 예측 불가능한 LLM 에이전트를 실제 운영 환경에서 신뢰할 수 있게 만들기 위해 구축, 테스트, 배포, 관찰, 개선을 반복하는 새로운 실무 discipline이다.

#ai-architecture #agent-routing #context-compression #prompt-library

#privacy-design #agent-routing #context-compression #prompt-library

5 Things To Consider When Working Ai

MIT Sloan은 AI가 직장에 실제로 자리 잡은 지금, 조직이 AI를 더 잘 활용하려면 설계 적합성, 조언의 객관성, 업무 흐름 재편, 비판적 점검, 노동 영향까지 함께 고려해야 한다고 정리한다.

mitsloan.mit.edu

Context Management for Deep Agents

Deep Agents SDK는 장기 작업에서 모델의 제한된 컨텍스트 창을 넘지 않도록 파일시스템 오프로딩과 요약을 결합해 필요한 정보를 보존하면서 작업 기억을 압축한다.

#ai-architecture #llm #semiconductors #applications

#anthropic #service-design #semiconductors #applications

Fox Buys Roku, The Problem With Fox’s Smart Strategy, Streaming That Works – Stratechery by Ben Thompson

제공된 본문에서 확인되는 핵심은 시장이 Fox의 Roku 인수를 부정적으로 보지만, 글은 이를 권리 보유자에게서 가치를 뽑아내는 방식에서 임차인으로서 협상력을 확보하는 방식으로 전환하는 전략으로 설명한다는 점입니다.

stratechery.com

Introducing Open SWE: An Open-Source Asynchronous Coding Agent

Open SWE는 GitHub와 직접 연동되어 장시간 비동기로 코드베이스 조사, 계획 수립, 구현, 테스트, 자체 리뷰, PR 생성을 수행하는 오픈소스 클라우드 기반 코딩 에이전트입니다.

#anthropic #ai-architecture #agent-routing #context-compression

LangSmith: Redesigned product homepage and Resource Tags for better organization

LangSmith는 LLM 애플리케이션 개발 흐름을 관찰성, 평가, 프롬프트 엔지니어링으로 재정리한 새 홈페이지와 워크스페이스 리소스 관리를 위한 Resource Tags 개선을 공개했다.

#agent-routing #context-compression #prompt-library #llm

Quickly Start Evaluating LLMs With OpenEvals

LangChain 팀은 LLM 애플리케이션과 에이전트를 프로덕션 수준으로 평가하기 쉽게 하기 위해 openevals와 agentevals를 공개하고, 데이터·평가지표·평가 유형별 출발점을 제시한다.

#ai-architecture #context-compression #prompt-library #llm

Reusable Evaluators and Evaluator Templates in LangSmith

LangSmith Evaluation은 30개 이상의 평가자 템플릿과 재사용 가능한 평가자 관리를 추가해, 에이전트 평가를 온라인 모니터링과 오프라인 실험 전반에서 더 일관되게 운영하도록 한다.

#multimodal #llm #semiconductors #vision-language-models

#agent-routing #context-compression #prompt-library #llm

Safeguard your agentic AI applications with the Amazon Bedrock Guardrails InvokeGuardrailChecks API

Amazon Bedrock Guardrails의 InvokeGuardrailChecks API는 에이전트형 AI 애플리케이션의 각 단계에서 필요한 안전 점검만 선택적으로 실행하고, 점수 기반 결과를 애플리케이션 로직으로 처리하게 해 주는 감지 전용 API다.

aws.amazon.com

Sharing LangSmith Benchmarks

LangChain 팀은 LangSmith에서 평가 데이터셋·결과·실행 트레이스를 공유하고, LangChain 문서 Q&A 벤치마크와 langchain benchmarks 패키지로 LLM 애플리케이션 아키텍처를 재현·비교할 수 있게 했다고 설명한다.

#anthropic #ai-architecture #agent-memory #context-compression

Testing Fine Tuned Open Source Models in LangSmith

이 글은 LangSmith를 사용해 파인튜닝한 오픈소스 Llama2 모델들을 구조화된 SQL 출력 과제로 평가하고, 모델 크기·학습 데이터·응답 시간·GPT 3.5와의 경쟁력을 비교한 사례를 설명한다.