context-compression 태그 문서 413개

#agent-memory #agent-routing #context-compression #retrieval-index

OpenWiki Brains: Proactive Memory for AI Agents

OpenWiki Brains는 이메일·문서·저장소·소셜 웹 등 여러 정보원에서 관심 맥락을 능동적으로 수집하고, 이를 자동 갱신되는 로컬 위키로 만들어 AI 에이전트의 지속적인 기억으로 제공하는 오픈소스 프레임워크다.

langchain.com

#llm #semiconductors #applications #agent-deployment

A New Experiential Gallery Just Might Change Your Mind About AI Art

리픽 아나돌의 데이터랜드는 동의받아 구축한 자연 데이터, 투명한 모델 설명, 생체 반응형 감각 경험을 결합해 인공지능 예술이 단순 생성물이 아니라 인간을 다시 발견하는 예술적 도구가 될 수 있음을 보여준다.

Miles Klee

#service-design #ai-architecture #agent-memory #context-compression

Disaggregated prefill and decode for LLM inference on SageMaker HyperPod

긴 프롬프트의 사전 채우기와 토큰 생성을 별도 GPU 풀로 분리하고 KV 캐시를 EFA 기반 RDMA로 전달해, 대규모 LLM 스트리밍 추론의 첫 토큰 시간과 토큰 간 지연을 독립적으로 최적화하는 방법을 설명한다.

aws.amazon.com

#nvidia #service-design #ai-architecture #capex-cycle

Fine-tune NVIDIA Nemotron 3 models with Amazon SageMaker AI serverless model customization

Amazon SageMaker AI의 서버리스 모델 맞춤화를 이용하면 인프라를 직접 관리하지 않고도 NVIDIA Nemotron 3 Nano와 Super를 SFT, RLVR, RLAIF 방식으로 기업 데이터와 업무에 특화할 수 있다.

aws.amazon.com

#ai-architecture #agent-memory #capex-cycle #context-compression

Profiling in PyTorch (Part 3): Attention is all you profile

파이토치 프로파일러로 어텐션 구현을 비교한 결과, 제자리 마스킹은 불필요한 메모리 복사를 제거했지만 SDPA 수학 백엔드는 텐서 코어 미사용과 매 호출 마스크 생성으로 인해 단순 구현보다 3.7배 느렸다.

huggingface.co

#resort-experience #ai-architecture #llm #semiconductors

Robot Dogs, Teslas, and Rescue Helicopters: The UN AI Summit Was a Lot

유엔의 AI 포 굿 정상회의는 인류 문제 해결이라는 이상을 내세웠지만, 빅테크 의존과 컴퓨팅 격차, 인권의 기술적 집행, 느린 국제 합의라는 현실 속에서 AI의 발전 속도를 따라잡을 수 있는지 되물었다.

Chris Stokel-Walker

#anthropic #nvidia #agent-memory #ai-infrastructure

SK Hynix raises $26.5B in the biggest foreign IPO in US history, is urged to build new US fabs

SK하이닉스는 AI용 고대역폭 메모리 수요를 바탕으로 미국 증시에서 외국 기업 사상 최대인 265억 달러를 조달했으며, 미국 정부는 한국에 집중된 메모리 반도체 생산시설의 미국 이전·확대를 요구하고 있다.

Kate Park

#anthropic #privacy-design #agent-memory #context-compression

A new way to reflect on how you use Claude

Anthropic은 Claude 사용 기록을 시각화하고 목표와의 정렬 여부, AI 활용 역량, 휴식 습관을 점검할 수 있는 ‘리플렉션’ 기능을 베타로 공개했다.

anthropic.com

#anthropic #agent-memory #agent-routing #context-compression

Anthropic’s new Claude feature is quietly selling you on AI

앤트로픽의 ‘Claude Reflect’는 이용 습관을 보여주고 휴식을 권하는 분석 기능인 동시에, Claude가 일상 업무에 얼마나 깊이 자리 잡았는지 체감하게 해 이용자 유지와 서비스 의존도를 높이는 장치다.

Sarah Perez

#anthropic #nvidia #token-efficiency #agent-memory

Can AI answer the $3 trillion question?

AI 인프라에 투입된 막대한 자본을 정당화하려면 업계가 3조 달러를 벌어야 하지만, 저가 모델 확산과 토큰 가격 하락이 투자금 회수와 거시경제의 위험 요인으로 떠오르고 있다.

Tim Fernholz

#anthropic #llm #semiconductors #applications

Elon Musk praises Mythos/Fable, promises not to 'cut off' Anthropic

일론 머스크는 앤트로픽의 미토스·페이블 모델을 업계 최고라고 치켜세우며 경쟁사라도 스페이스엑스의 컴퓨팅 인프라에서 부당하게 배제하지 않겠다고 약속했지만, 양사의 대규모 계약에는 상업적 이익과 기술적 긴장도 함께 얽혀 있다.

Julie Bort

#openai #privacy-design #context-compression #prompt-library

GPT-5.6 is now the preferred model in Microsoft 365 Copilot

OpenAI의 최신 플래그십 모델 GPT 5.6이 Microsoft 365 Copilot의 기본 선호 모델로 도입되어 문서 작성, 데이터 분석, 프레젠테이션 제작과 부서 간 협업을 지원한다.

openai.com

#ai-safety #semiconductors #applications #compute

The 1X Neo Robot Has Freaky Fast Fingers

1X의 가정용 휴머노이드 로봇 네오는 인간 손에 가까운 자유도와 초고속 손가락을 갖췄지만, 원격 조작자를 집 안으로 연결하는 구조 때문에 성능 검증과 사생활 보호라는 과제를 동시에 안고 있다.

Boone Ashworth

#service-design #ai-architecture #context-compression #prompt-library

Tuning the harness, not the model: a Nemotron 3 Ultra playbook

모델 가중치와 생성 설정을 그대로 유지한 채 프롬프트·도구 설명·미들웨어를 평가 기반으로 조율해, Nemotron 3 Ultra의 에이전트 성능을 낮은 비용으로 최전선 모델에 근접시킨 실전 사례다.

langchain.com

#service-design #agent-memory #agent-routing #context-compression

Posts by Ian Macartney

이 페이지는 Convex 개발자 경험을 담당하는 Ian Macartney의 글 목록으로, 인증·권한, 내구성 있는 워크플로, 협업 편집, 운영 성숙도, 확장성, AI 애플리케이션, 검증·세션·마이그레이션 같은 Convex 기반 풀스택 개발 주제를 폭넓게 정리한다.

stack.convex.dev

#agent-memory #ai-safety #context-compression #retrieval-index

Trends in Artificial Intelligence

Epoch AI의 대시보드는 AI 발전이 추론 비용 하락, 훈련 컴퓨트 확대, 소프트웨어 효율 개선, AI 칩·데이터센터 확장, 투자 증가가 함께 맞물리며 빠르게 진행되고 있음을 보여준다.

epoch.ai

#llm #semiconductors #applications #agent-memory

Epoch Capabilities Index

Epoch Capabilities Index는 여러 AI 벤치마크 점수를 하나의 일반 능력 척도로 결합해 모델 간 비교를 돕는 Epoch AI의 지표입니다.

epoch.ai