Docs faviconDOCS우성짱의 문서
전체YouTubeArticleTagsAuthorsHub
홈/태그 찾기/#linear-attention
Tag5건Article 5

#linear-attention

이 태그와 연결된 문서를 한곳에서 모아보고, 함께 자주 등장하는 연관 태그까지 이어서 탐색할 수 있습니다.

연관 태그

#hybrid-llm-architecture공동문서 1 · 연관도 45%#kimi-linear공동문서 1 · 연관도 45%#llm-inference-runtime공동문서 1 · 연관도 45%#mamba2공동문서 1 · 연관도 45%#olmo-3-7b공동문서 1 · 연관도 45%#olmo-hybrid공동문서 1 · 연관도 45%#posttraining-transfer-gap공동문서 1 · 연관도 45%#pretraining-efficiency공동문서 1 · 연관도 45%#rnn-attention-hybrid공동문서 1 · 연관도 45%#tooling-bottleneck공동문서 1 · 연관도 45%
Native-speed vLLM transformers modeling backend
Article2026년 7월 8일

Native-speed vLLM transformers modeling backend

transformers의 vLLM 모델링 백엔드는 여러 호환 LLM 아키텍처에서 별도 vLLM 포팅 없이 네이티브 vLLM 구현과 같거나 더 빠른 추론 성능을 내도록 개선되었다.

huggingface.co
#linear-attention#ai-architecture#agent-routing#capex-cycle
On the Shifting Global Compute Landscape
Article2026년 5월 26일

On the Shifting Global Compute Landscape

미국 중심이던 인공지능 연산 생태계가 수출 통제, 중국산 칩의 성장, 개방형 모델과 연산 효율 기술의 확산을 계기로 중국을 포함한 다극적 하드웨어·소프트웨어 구조로 재편되고 있다.

huggingface.co
#nvidia#linear-attention#ai-architecture#agent-memory
Claude Code’s Source Leaks, OpenAI Exits Video Generation, Gemini Adds Music Generation, and more...
Article2026년 4월 3일

Claude Code’s Source Leaks, OpenAI Exits Video Generation, Gemini Adds Music Generation, and more...

원문은 음성 UI가 AI 애플리케이션의 중요한 인터페이스가 될 것이라는 전망을 중심으로, Claude Code 소스 유출이 드러낸 에이전트 구조와 OpenAI의 Sora 종료 계획을 함께 다룬다.

@DeepLearningAI
#anthropic#openai#claude-code#linear-attention
Olmo Hybrid and future LLM architectures
Article2026년 3월 5일

Olmo Hybrid and future LLM architectures

Olmo Hybrid는 attention과 RNN 계열 GDN을 섞은 7B 공개 모델로, 사전학습 효율과 장문 처리 가능성은 크게 보였지만 후학습과 오픈소스 추론 도구에서는 아직 해결해야 할 문제가 많다는 글이다.

interconnects.ai
#linear-attention#mamba2#kimi-linear#olmo-hybrid
Apriel-H1: The Surprising Key to Distilling Efficient Reasoning Models
Article2025년 11월 3일

Apriel-H1: The Surprising Key to Distilling Efficient Reasoning Models

Apriel H1은 기존 150억 매개변수 추론 모델의 주의층을 단계적으로 맘바층으로 교체하면서, 일반 사전학습 데이터가 아니라 교사가 생성한 고품질 추론 궤적을 증류해 추론 품질을 거의 유지하고 처리량을 최대 2.1배 높인 하이브리드 모델이다.

huggingface.co
#linear-attention#luxury-hospitality#luxury-travel#ai-architecture