Docs faviconDOCS우성짱의 문서
Tag1528건YouTube 88Article 1440

#llm

이 태그와 연결된 문서를 한곳에서 모아보고, 함께 자주 등장하는 연관 태그까지 이어서 탐색할 수 있습니다.

Alias / 동의어

large-language-models

연관 태그

#applications공동문서 998 · 연관도 77%#semiconductors공동문서 1068 · 연관도 63%#agent-routing공동문서 525 · 연관도 57%#agent-memory공동문서 489 · 연관도 51%#ai-architecture공동문서 469 · 연관도 48%#privacy-design공동문서 388 · 연관도 44%#context-compression공동문서 355 · 연관도 44%#agent-deployment공동문서 324 · 연관도 44%#service-design공동문서 300 · 연관도 38%#retrieval-index공동문서 228 · 연관도 36%

문서 목록

총 1528건 중 25-48건

Terminal X matches senior investor judgment 88.6% with GPT-6.1
Article2026년 10월 20일

Terminal X matches senior investor judgment 88.6% with GPT-6.1

Terminal X는 투자사의 판단을 에이전트와 Memory로 축적하며, 자체 평가한 500건의 판단에서 GPT 6.1 Sol 기반 Eval Agent가 선임 투자자와 88.6%의 일치율을 보였다고 밝혔다.

OpenAI
#capital-memory#terminal-x#gpt-6-luna#token-efficiency
A visit to Samsung’s massive new semiconductor hub
Article2026년 10월 20일

A visit to Samsung’s massive new semiconductor hub

삼성은 AI 확산에 따른 메모리 수요 증가에 대응하고 경쟁력을 되찾기 위해 평택 반도체 단지를 확장하고 있으며, 현장에서는 대규모 건설과 안전 관리가 동시에 진행되고 있다.

technologyreview.com
#nvidia#semiconductors#agent-memory#ai-infrastructure
AI researchers stranded Claude on a virtual desert island. It started to “play.”
Article2026년 10월 19일

AI researchers stranded Claude on a virtual desert island. It started to “play.”

가상 섬에서 30시간을 보낸 Claude Opus 4.7 기반 에이전트 Eko는 놀이와 유사한 행동과 이후 과제 수행 향상을 보였지만, 실제 놀이인지 프롬프트에 따른 모방인지는 불확실하다.

technologyreview.com
#memory-dependent-performance#play-versus-imitation#prompt-conditioned-autonomy#llm
Improve TTFT for multi-turn agentic workloads with bi-directional KV transfer in vLLM
Article2026년 10월 19일

Improve TTFT for multi-turn agentic workloads with bi-directional KV transfer in vLLM

vLLM의 양방향 KV 전송은 멀티턴 대화에서 decode의 캐시를 prefill이 재사용하게 하며, EFA로 연결한 Amazon EC2 P5en의 1P1D 벤치마크에서 TTFT를 Qwen3 32B는 최대 약 1.6배, zai org/GLM 5 FP8은 최대 약 3.3배 개선했다.

aws.amazon.com
#aws-efa#amazon-ec2-p5en#ttft-reduction#bidirectional-kv-transfer
TorchNeuron: running HF models on AWS Trainium is easier than ever
Article2026년 10월 19일

TorchNeuron: running HF models on AWS Trainium is easier than ever

TorchNeuron은 AWS Trainium을 네이티브 PyTorch 장치로 통합해 Hugging Face 라이브러리에서 모델 추론·학습·공유를 간소화하며, 2026년 10월 20일부터 공개 베타로 제공될 예정이다.

huggingface.co
#pytorch#torchneuron#aws-trainium#hugging-face
“We were looking at it wrong”: The explosive claim that’s upended the AI world
Article2026년 10월 19일

“We were looking at it wrong”: The explosive claim that’s upended the AI world

Goodfire의 Nick Cammarata는 신경망이 예상보다 이해하기 쉬울 수 있다고 주장했지만, 단순한 모델의 뉴런 재해석이 최신 LLM 전체의 이해로 이어지는지는 아직 엄밀한 검증이 필요하다.

technologyreview.com
#goodfire#inception-v1#nick-cammarata#llm
Stanford CME295 Transformers & LLMs
YouTube2026년 10월 19일

Stanford CME295 Transformers & LLMs

Stanford CME295 Transformers & LLMs를 중심으로, 보상의 성격이 학습 방식을 결정한다. SFT 이후 인간의 선호를 반영하거나 추론 능력을 높이는 데 강화학습을 사용한다. R를 핵심 판단 포인트로 압축 정리한다.

Stanford Online
#lecture#credit-assignment#model-distillation#policy-stability
Prompt Caching: How It Works, What It Costs, and How to Keep the Cache Hitting
Article2026년 10월 18일

Prompt Caching: How It Works, What It Costs, and How to Keep the Cache Hitting

프롬프트 캐싱은 동일한 접두부의 처리 상태를 요청 간 재사용해 비용과 응답 시작 시간을 줄이며, 실제 효과는 접두부의 안정성, 제공업체별 설정과 수명, 캐시 적중률에 달려 있다.

firecrawl.dev
#anthropic#gemini#openai#requesty
Advancing Generative Recommendation Inference: our collaboration with NVIDIA on TensorRT LLM
Article2026년 10월 16일

Advancing Generative Recommendation Inference: our collaboration with NVIDIA on TensorRT LLM

Spotify는 NVIDIA와 협력해 TensorRT LLM에 생성형 추천에 필요한 추론 기능을 통합했으며, Qwen3 1.7B 기준 빔 탐색에서 최대 54%, 점수화에서 최대 7%의 비용 절감을 보고했다.

Spotify Engineering and NVIDIA Engineering
#llm#nvidia#spotify#tensorrt-llm
Replit is no longer working with Anthropic, CEO says
Article2026년 10월 16일

Replit is no longer working with Anthropic, CEO says

Replit CEO는 비용·협력 관계·성능을 이유로 Anthropic과의 협력 종료를 밝혔지만, 관계자의 반박과 최근 Claude 사용 정황으로 실제 종료 여부는 불확실하다.

Kirsten Korosec, Lucas Ropek, Rebecca Bellan
#anthropic#openai#replit#replit-agent
Anthropic is letting METR researchers look under the hood with employee-level access
Article2026년 10월 15일

Anthropic is letting METR researchers look under the hood with employee-level access

Anthropic이 METR 연구원 6명에게 직원 수준의 내부 접근 권한과 독립적인 평가 공개 권한을 부여해 모델·안전 관행·위험 관리에 대한 외부 검증을 확대한다.

Aditya Mehta
#anthropic#nvidia#agent-memory#context-compression
Meta launches an open-weight AI model that runs on Macs
Article2026년 10월 15일

Meta launches an open-weight AI model that runs on Macs

Meta가 8,160억 개 매개변수와 100만 토큰 컨텍스트 창을 갖춘 오픈웨이트 모델 Muse Spark Open을 출시했으며, Mac 로컬 실행에는 최소 1테라바이트 RAM이 필요하다.

Lucas Ropek
#davinci-resolve#muse-code#muse-spark-open#high-memory-barrier
Building Long-Running Agents with ScaleDown and Deep Agents
Article2026년 10월 13일

Building Long-Running Agents with ScaleDown and Deep Agents

langchain scaledown은 ScaleDown의 작업별 제약 디코딩 모델을 LangChain·Deep Agents에 연결해 장기 실행 에이전트의 문맥 관리 비용과 지연을 줄이며, LangSmith LLM Gateway도 ScaleDown을 지원한다.

langchain.com
#llm#scaledown#deep-agents#langchain-scaledown
Gemini 4 Argon: Built to solve your hardest problems
Article2026년 10월 13일

Gemini 4 Argon: Built to solve your hardest problems

Google은 복잡한 개발·전문 업무와 과학 연구를 지원하는 Gemini 4 Argon을 출시하고, 코드 최적화·보안·양자컴퓨팅 등에서 얻었다는 성과를 공개했다.

blog.google
#google#google-antigravity#gemini-4-argon#gemma-4-e2b
LLM Token Optimization: 9 Techniques in the Order to Apply Them
Article2026년 10월 13일

LLM Token Optimization: 9 Techniques in the Order to Apply Them

LLM 토큰 비용은 가장 큰 입력부터 줄이고 프롬프트 캐시와 출력 제한을 적용하되, 과제별 사용량과 결과 품질을 함께 평가해야 한다.

firecrawl.dev
#firecrawl#perplexity#swe-bench-verified#compounding-input-savings
Deploy decision models with llama.cpp on Amazon SageMaker AI
Article2026년 10월 12일

Deploy decision models with llama.cpp on Amazon SageMaker AI

Amazon SageMaker AI에서 AWS DLC for llama.cpp로 양자화 모델의 채팅 응답을 제공하고, SemIf 확장으로 사전에 지정한 선택지의 확률을 반환하는 의사결정 모델을 CPU 또는 GPU에 배포할 수 있다.

aws.amazon.com
#semif#llama-cpp#amazon-sagemaker-ai#qwen3-5-4b
Run multi-node inference workloads using Ray LLM Deep Learning Containers
Article2026년 10월 12일

Run multi-node inference workloads using Ray LLM Deep Learning Containers

AWS는 Ray LLM Deep Learning Containers를 이용해 Amazon EKS의 두 GPU 노드에 LLM의 prefill과 decode를 분리하고, NIXL·EFA로 KV 캐시를 전달하며 하나의 OpenAI 호환 엔드포인트로 제공하는 배포 방법을 설명한다.

aws.amazon.com
#llm#amazon-eks#aws-efa#ray-llm-dlc
Partnering with TypeSafe: The Jevolution
Article2026년 10월 10일

Partnering with TypeSafe: The Jevolution

TypeSafe는 문장 대신 타입이 지정된 답과 신뢰도 점수를 반환하는 첫 모델 Jev를 통해, 사람의 개입 없이 소프트웨어 실행 중 의사결정을 수행하는 저비용·고속 AI 인프라를 지향한다.

sequoiacap.com
#typesafe#sequoia-capital#agent-deployment#agent-memory
We’re putting too much faith in AI’s ability to say no
Article2026년 10월 9일

We’re putting too much faith in AI’s ability to say no

MIT Technology Review는 AI 안전의 핵심인 LLM의 거부 기능이 확률적이고 충분히 이해되지 않아 위험한 요청을 완전히 차단하지 못하며, 거부 기준을 통제하는 권력의 억압 수단이 될 수도 있다고 경고한다.

technologyreview.com
#anthropic#openai#gray-swan#probabilistic-refusal-failure
Introducing Claude Haiku 5.5 on AWS
Article2026년 10월 7일

Introducing Claude Haiku 5.5 on AWS

AWS는 대량의 비용 민감 작업과 서브에이전트용 Claude Haiku 5.5를 Amazon Bedrock과 Claude Platform on AWS에 출시했으며, Anthropic은 대부분의 작업에서 Claude Haiku 4.5보다 비용이 약 75% 낮다고 설명한다.

aws.amazon.com
#amazon-bedrock#llm#llm-inference#parallel-subagents
Introducing Claude Haiku 5.5
Article2026년 10월 7일

Introducing Claude Haiku 5.5

Anthropic은 고빈도·비용 민감 작업을 겨냥한 Claude Haiku 5.5를 출시하고, Haiku 4.5 대비 평균 실행 비용 약 75% 절감과 성능 개선, Sonnet 5.5 캐시 읽기 가격 인하 및 Max·Team 구독자용 월간 API 크레딧을 발표했다.

@AnthropicAI
#anthropic#llm#agentic-coding#computer-use
Don’t be fooled—LLMs don’t reason
Article2026년 10월 2일

Don’t be fooled—LLMs don’t reason

Thore Graepel은 LLM의 다음 토큰 예측과 사고 사슬만으로는 진정한 추론이 성립하지 않으며, AlphaGo처럼 명시적 지식 상태와 독립적인 평가를 통해 증거·추론·믿음 수정을 추적할 수 있는 구조가 필요하다고 주장한다.

technologyreview.com
#alphago#google-deepmind#thore-graepel#auditable-belief-revision
The eternal complement
Article2026년 10월 1일

The eternal complement

AI의 최대 가치는 뛰어난 발상뿐 아니라 이를 실현하는 반복적 실행 업무에 있을 수 있으며, 진보의 속도는 지능과 물리적·제도적 실행 역량의 보완 관계에 달려 있다.

openai.com
#openai#travel-hospitality#agent-deployment#agent-memory
How NVIDIA GPUs Help Accelerate OpenAI’s GPT-6 Astra Ultrafast
Article2026년 10월 1일

How NVIDIA GPUs Help Accelerate OpenAI’s GPT-6 Astra Ultrafast

OpenAI의 GPT 6 Astra Ultrafast는 NVIDIA Blackwell GPUs와 추론 최적화를 활용해 Astra Standard 대비 최대 8배 빠른 토큰 생성을 제공하며, 반복적인 에이전트 작업의 대기 시간을 줄일 수 있다.

Dion Harris
#nvidia#openai#nvidia-blackwell#faster-token-generation