총 3611건 중 169-192건
vLLM의 양방향 KV 전송은 멀티턴 대화에서 decode의 캐시를 prefill이 재사용하게 하며, EFA로 연결한 Amazon EC2 P5en의 1P1D 벤치마크에서 TTFT를 Qwen3 32B는 최대 약 1.6배, zai org/GLM 5 FP8은 최대 약 3.3배 개선했다.
개인 AI 에이전트의 확산은 소비자의 편의와 협상력을 높일 수 있지만, 인터넷이 에이전트 중심으로 재편되면 사람의 이용 경험이 악화될 수 있으며 그 향방은 접근·협상·보안 규칙에 달려 있다.
Stanford HAI의 의료 AI 평가에서 최신 에이전트는 임상·행정 업무를 처음부터 끝까지 완수하는 비율이 절반에 못 미쳤으며, 실제 유용성을 판단하려면 지식시험을 넘어 다단계 업무의 실행과 반복 신뢰성을 검증해야 한다.
Microsoft는 AI 에이전트를 예측 불가능한 내부자 위협으로 보고, 모델 공급자와 분리된 감시·통제를 강조하며 Guardian Agents 등 기업용 보안 기능을 공개했다.
Anthropic과 Nscale이 기존 450억 달러 컴퓨팅 계약 발표 한 달여 만에 같은 규모의 추가 계약을 논의 중인 것으로 알려졌으며, 협상은 아직 확정되지 않았다.
EBU와 NVIDIA는 유럽 공영 미디어의 데이터·인프라·모델·보안 통제권을 유지하는 주권 프레임워크를 확장하고, Adobe는 NVIDIA GPU로 Frame.io 영상 검색을 가속해 UFA의 제작 작업을 지원한다.
Nvidia가 기업용 Nemotron 3.5 Super VL과 로컬 PC용 Bolt 오픈 웨이트 모델을 공개하며 자체 인프라와 기기에서 실행하는 AI 에이전트 시장 확대에 나섰다.
TwelveLabs의 Pegasus 1.5가 Amazon Bedrock에 출시되어 최대 2시간의 영상에서 사용자 정의 조건에 맞는 모든 구간을 찾아 타임스탬프가 포함된 구조화 메타데이터로 반환한다.
AI로 스마트 TV의 광고·추적·불필요한 앱을 제거하는 시도가 확산되고 있지만, 인터페이스 개선 사례와 함께 기기 먹통 등 실패 사례도 보고되고 있다.
vLLM의 push 기반 KV 전송은 prefill과 전송 준비를 겹치고 decode의 설정 부담을 줄여, Qwen3 32B·1P1D·Amazon EC2 P5en·EFA 벤치마크에서 pull 대비 TTFT를 최대 약 3배 개선하고 TPOT를 최대 30% 개선했다.
Replika 창업자 Eugenia Kuyda가 12년 전 제시한 개인 AI 비서 구상을, 앱 자동 생성과 여러 대화 스레드·공동 사용 기능을 결합한 Wabi로 구현했다.
Amazon Bedrock은 모델이 제공되는 bedrock runtime과 bedrock mantle 엔드포인트에서 모든 Anthropic Claude 모델의 구조화된 출력과 엄격한 도구 사용을 지원하며, 생성 단계에서 JSON 스키마 준수를 강제한다.
AWS는 PyTorch 앱을 Trainium으로 쉽게 옮기는 TorchNeuron과 PyTorch의 하드웨어 종속성을 줄이는 기여를 통해 Nvidia의 소프트웨어 우위에 도전하고 있다.
추론용 칩 스타트업 Tenstorrent가 기업가치 62억 달러에 15억 달러를 조달하고, 독립 경영을 유지하며 오픈웨이트 AI 모델과 영상 생성용 칩의 규모 확대에 나선다.
일상·관계·감정·목표 관리를 돕는 AI 동반자 Tolan이 3,000만 달러를 추가 조달했으며, 이용자와 구독 매출의 성장 속에서 AI 에이전트와의 경쟁 및 정서 지원의 위험에 직면하고 있다.
TorchNeuron은 AWS Trainium을 네이티브 PyTorch 장치로 통합해 Hugging Face 라이브러리에서 모델 추론·학습·공유를 간소화하며, 2026년 10월 20일부터 공개 베타로 제공될 예정이다.
Goodfire의 Nick Cammarata는 신경망이 예상보다 이해하기 쉬울 수 있다고 주장했지만, 단순한 모델의 뉴런 재해석이 최신 LLM 전체의 이해로 이어지는지는 아직 엄밀한 검증이 필요하다.
Anthropic이 자사 주식 5%를 출연하는 공익 기금 조성을 발표했으며, 구체적인 운영 구조와 거버넌스는 향후 수개월 내 공개할 예정이다.
Disney가 파산을 신청한 Character.AI의 직원 과반인 최소 60명에게 채용을 제안하기로 했으며, 다른 기업의 더 높은 입찰 가능성은 남아 있다.
Claude에 Firecrawl 커넥터를 연결하면 Apollo·FullEnrich·Data Legion의 최신 인물 데이터를 검색할 수 있으며, 무료 미리보기와 건별 유료 조회를 구분하고 연락처 신뢰도·제공업체 약관·개인정보 보호법을 확인해야 한다.
Anthropic은 주주 승인 등을 조건으로 회사 지분을 Anthropic Public Benefit Fund에 배정하고, 기업 가치 상승에 따라 공익 목적 지분을 늘리는 구조를 발표했다.
프롬프트 캐싱은 동일한 접두부의 처리 상태를 요청 간 재사용해 비용과 응답 시작 시간을 줄이며, 실제 효과는 접두부의 안정성, 제공업체별 설정과 수명, 캐시 적중률에 달려 있다.
Anthropic은 AI 중심 업무 환경에서 주니어 기술 인력과 채용 비중이 줄고 생산성이 높아졌다고 보고했지만, 사람의 주의력·판단력이 병목으로 떠오르고 직원당 회의 시간도 늘었다고 밝혔다.
Meta가 비즈니스 계정 보유자의 웹사이트를 스크래핑해 AI 학습에 이용할 수 있다는 우려를 낳은 상업용 이용약관 문구를 삭제하고, 웹 크롤러 사용 방식에는 변화가 없다고 밝혔다.
