llm 태그 문서 1528개 | 우성짱의 문서

#anthropic #capex-cycle #llm #semiconductors

Anthropic's Claude is winning over paid consumers, a market owned by ChatGPT

앤스로픽의 클로드는 여전히 챗지피티보다 훨씬 작지만, 결제 데이터와 교육 수요 지표에서 유료 소비자층이 빠르게 확대되고 있는 것으로 나타났다.

Julie Bort

#privacy-design #service-design #travel-hospitality #llm

British Police Built a Sprawling Crime-Prediction Machine. Some Results Couldn’t Be Trusted

WIRED 조사에 따르면 영국 브리스틀 지역 경찰과 시의회는 민감한 공공 데이터를 결합해 대규모 예측 치안·위험 점수 시스템을 만들었지만, 일부 모델은 신뢰성·투명성 문제로 폐기되거나 비판을 받았다.

wired.com

Building agentic AI applications with a modern data mesh strategy on AWS

이 글은 RAG의 단일 검색 지점 통제를 넘어, 에이전트형 AI가 스키마 탐색·SQL 생성·쿼리 실행·응답 합성까지 수행하는 전 과정에 세밀한 권한 통제를 적용하기 위한 AWS 기반 서버리스 데이터 메시 아키텍처를 설명한다.

#service-design #ai-architecture #agent-memory #context-compression

#ai-architecture #capex-cycle #llm #applications

Databricks’ former AI chief thinks he can cut AI’s power bill by 1,000x

Databricks 전 AI 책임자 Naveen Rao가 이끄는 Unconventional AI는 오실레이터 기반 컴퓨팅으로 AI 추론 전력 사용을 최대 1,000분의 1로 줄이겠다는 목표를 제시했다.

Russell Brandom

#anthropic #capex-cycle #inflation-risk #llm

General Intuition's $2.3B bet that video games can train AI agents for the real world

General Intuition은 게임 플레이 데이터와 입력 행동 기록을 기반으로 현실 세계에서 작동할 수 있는 범용 AI 에이전트를 훈련시키겠다는 목표로 23억 달러 가치 평가를 받았다.

Rebecca Bellan

How LangSmith and LangChain OSS Help You Meet EU AI Act Requirements

이 글은 EU AI Act의 고위험 AI 시스템 요구사항을 운영 인프라 관점에서 해석하고, LangSmith와 LangChain OSS가 추적, 평가, 인간 감독, 데이터 거주성 측면에서 이를 어떻게 지원하는지 설명한다.

#ai-architecture #agent-deployment #agent-routing #prompt-library

#agent-routing #workflow-automation #travel-hospitality #llm

How we built saga rollbacks for Cloudflare Workflows

Cloudflare Workflows는 다단계 작업 실패 시 각 단계 안에 선언한 보상 로직을 역순으로 실행하는 saga rollback을 도입해, 내구성 있는 워크플로에서 부분 완료 상태를 더 명확하게 되돌릴 수 있게 했다.

@wishee0

How Klarna's AI assistant redefined customer support at scale for 85 million active users

Klarna는 LangGraph와 LangSmith 기반 AI Assistant로 결제·환불·에스컬레이션 업무를 대규모로 처리하며 고객지원 속도와 자동화 수준을 크게 높였다.

#service-design #ai-architecture #context-compression #prompt-library

Optimize model training on Amazon SageMaker AI with NVIDIA Blackwell

이 글은 Amazon SageMaker AI의 P6 B200 인스턴스와 NVIDIA Blackwell GPU를 활용해 대규모 모델 학습에서 배치 크기, 시퀀스 길이, 샤딩, 정밀도 형식, 활성화 체크포인팅을 어떻게 조정해야 하는지 설명한다.

#nvidia #service-design #ai-architecture #agent-memory

#resort-experience #privacy-design #service-design #agent-memory

Optimizing cloud economics with linear elastic caching

선형 탄력 캐싱은 캐시 메모리 비용과 캐시 미스 비용을 함께 최적화하기 위해 페이지 보존 시간을 스키 대여 문제로 모델링하고, 가벼운 학습 기반 TTL 예측으로 고정 크기 캐시보다 낮은 총소유비용을 달성하려는 접근이다.

research.google

#capex-cycle #llm #semiconductors #applications

Patronus AI lands $50M to build ‘digital worlds’ that stress-test AI agents

Patronus AI는 AI 에이전트가 실제 업무를 맡기 전에 복잡한 상황에서 제대로 작동하는지 검증하는 ‘디지털 세계’ 시뮬레이션을 만들며 5,000만 달러 규모의 시리즈 B 투자를 유치했다.

Marina Temkin

#agent-deployment #agent-routing #llm #semiconductors

Repositioning retail for the AI era

Macy’s는 소매업에서 인공지능을 겉으로 드러나는 기능보다 검색, 재고, 운영, 개발 의사결정에 내재화하는 ‘AI first’ 전략으로 재편하고 있다.

technologyreview.com

Build self-service AWS Health analytics to find actionable health insights with AI agents powered by Amazon Bedrock

이 글은 여러 AWS 계정에 흩어진 AWS Health 이벤트를 Chaplin이라는 오픈소스 MCP 기반 AI 에이전트 시스템으로 수집·분류·분석해 운영팀이 자연어로 즉시 실행 가능한 인사이트를 얻는 방법을 설명합니다.

#anthropic #service-design #ai-architecture #agent-memory

The Art of Loop Engineering

이 글은 에이전트를 잘 작동시키려면 단일 모델 성능보다 작업 실행, 검증, 이벤트 구동, 지속 개선을 겹겹이 설계하는 ‘루프 엔지니어링’이 핵심이라고 설명한다.

#ai-architecture #agent-memory #agent-routing #llm-traces

How we built SmithDB’s inverted index for full-text search

SmithDB는 수집 시점에 역색인을 함께 만들고, 객체 스토리지 친화적인 레이아웃·병합·쿼리 경로를 통해 대규모 실행 로그의 JSON 필드와 전문 검색을 빠르게 처리한다.

#service-design #agent-memory #retrieval-index #search-advertising

We built SmithDB, the data layer for agent observability

LangSmith는 장기 실행·중첩·멀티모달 에이전트 트레이스를 기존 관측성 저장소로 처리하기 어렵다고 보고, 이를 위해 Rust 기반의 객체 스토리지 지원 분산 데이터 계층인 SmithDB를 구축해 핵심 LangSmith 워크로드에 적용했다.

#service-design #ai-architecture #agent-memory #context-compression

How to Build Memory into AI Agents

AI 에이전트의 메모리는 과거 실행에서 얻은 교훈을 장기 컨텍스트로 저장하고 다음 실행에 다시 읽혀 행동을 개선하게 만드는 순환 구조입니다.

#agent-memory #agent-routing #context-compression #retrieval-index

#anthropic #agent-routing #search-advertising #zero-click-search

A24 Knows You’re Mad About the Google AI Collab

A24가 흥행작 「Backrooms」 이후 Google DeepMind와 7,500만 달러 규모 연구 파트너십을 맺자, 팬과 비평가들은 A24의 독립영화 브랜드가 생성형 AI의 문화적 정당화에 쓰이는 것 아니냐고 반발하고 있다.

John Semley

#nvidia #ai-architecture #multimodal #agent-memory

Accelerating Transformers Fine-Tuning with NVIDIA NeMo AutoModel

NVIDIA NeMo AutoModel은 HuggingFace Transformers v5 위에 Expert Parallelism, DeepEP, TransformerEngine 커널을 얹어 MoE 모델 파인튜닝 처리량을 3.4~3.7배 높이고 GPU 메모리를 29~32% 줄이는 것을 목표로 한다.

huggingface.co

#anthropic #privacy-design #service-design #llm

Agility Robotics plans to go public via SPAC in a $2.5B deal

Agility Robotics는 Churchill Capital Corp XI와의 SPAC 합병을 통해 약 25억 달러 가치로 상장을 추진하며, 조달 자금으로 휴머노이드 로봇 Digit v5 생산과 고객 확대를 계획하고 있습니다.

Kirsten Korosec

AI-powered BI with Snowflake and Amazon Quick

이 글은 Snowflake semantic view를 공통 의미 계층으로 삼아 Cortex Analyst와 Amazon Quick Sight 대시보드가 동일한 비즈니스 정의를 사용하도록 연결하는 실습 절차를 설명합니다.

#service-design #ai-architecture #agent-memory #agent-routing

Amanda Silberling, Lucas Ropek

AI researchers continue to leave Google for its rivals

구글의 Gemini·DeepMind 핵심 AI 연구자들이 Anthropic과 OpenAI로 연이어 이동하면서, 상장을 준비하는 경쟁사들의 지분 보상이 AI 인재 영입 경쟁을 더 키울 수 있다는 내용이다.

#anthropic #privacy-design #service-design #search-advertising

Build a healthcare appointment agent with Amazon Nova 2 Sonic

이 글은 Amazon Nova 2 Sonic과 Amazon Bedrock AgentCore, Strands Agents SDK를 사용해 병원 예약 확인·취소·변경·사전 문진·상담원 연결을 처리하는 음성 기반 헬스케어 예약 에이전트를 구축하는 방법을 설명한다.

#service-design #ai-architecture #agent-deployment #agent-routing