Docs faviconDOCS우성짱의 문서
Tag1528건YouTube 88Article 1440

#llm

이 태그와 연결된 문서를 한곳에서 모아보고, 함께 자주 등장하는 연관 태그까지 이어서 탐색할 수 있습니다.

Alias / 동의어

large-language-models

연관 태그

#applications공동문서 998 · 연관도 77%#semiconductors공동문서 1068 · 연관도 63%#agent-routing공동문서 525 · 연관도 57%#agent-memory공동문서 489 · 연관도 51%#ai-architecture공동문서 469 · 연관도 48%#privacy-design공동문서 388 · 연관도 44%#context-compression공동문서 355 · 연관도 44%#agent-deployment공동문서 324 · 연관도 44%#service-design공동문서 300 · 연관도 38%#retrieval-index공동문서 228 · 연관도 36%

문서 목록

총 1528건 중 1-24건

Amazon Bedrock tokenomics data lake
Article2026년 11월 10일

Amazon Bedrock tokenomics data lake

Amazon Bedrock 호출 로그를 중앙 데이터 레이크로 통합해 프롬프트·응답·토큰 사용량을 분석하고, CUR 2.0과 연결해 호출별 비용 가시성과 토크노믹스 운영 기반을 마련하는 AWS 구현 사례다.

@liftlikeanerd
#amazon-athena#amazon-bedrock#amazon-cloudwatch#deployment-activation-gap
Your Experts Have Partners. There's HOPE for Keeping Them Together
Article2026년 11월 9일

Your Experts Have Partners. There's HOPE for Keeping Them Together

HOPE는 MoE 전문가 간 쌍별 상호작용을 고려하는 2차 가지치기 방법으로, 실험에서 특히 전문가 50% 제거 시 기존 1차 방법보다 우수한 성능 보존을 보였다.

huggingface.co
#swe-bench-pro#expert-cooperation-preservation#inference-memory-reduction#llm
MCP·API·CLI 차이, 제가 실제로 나눠 쓰는 법
YouTube2026년 11월 8일

MCP·API·CLI 차이, 제가 실제로 나눠 쓰는 법

MCP·API·CLI는 하나로 통일하기보다 클로드에 맡길 업무와 필요한 도구에 따라 나눠 쓰는 것이 핵심이다.

태오의 실행 비즈니스
#tutorial#ai-integration#case-study#llm
Ramp data shows AI spending stalling just as Anthropic nears its IPO
Article2026년 11월 6일

Ramp data shows AI spending stalling just as Anthropic nears its IPO

Ramp 자료는 AI 사용량 증가에도 가격 경쟁과 비용 효율화로 지출 증가세가 둔화하고 있음을 보여주며, IPO를 준비하는 Anthropic과 OpenAI의 고성장 지속 가능성에 의문을 제기한다.

Rebecca Bellan
#anthropic#openai#agent-monetization-uncertainty#model-price-pressure
The Wizard of Open Weights: Chris Alexiuk Makes AI Easy With Open Models
Article2026년 11월 5일

The Wizard of Open Weights: Chris Alexiuk Makes AI Easy With Open Models

NVIDIA의 Chris Alexiuk은 YouTube 교육과 NVIDIA Nemotron 소개를 통해 개방형 AI의 활용을 돕고, 투명성과 지식 공유가 더 많은 사람의 AI 참여를 이끈다고 강조한다.

Matthew Leib
#nvidia#chris-alexiuk#nemotron-ultra#ai-access-democratization
LangSmith BYOC is now available on AWS, Azure, and Google Cloud
Article2026년 11월 4일

LangSmith BYOC is now available on AWS, Azure, and Google Cloud

LangSmith BYOC가 AWS 정식 출시(GA), Azure·Google Cloud 베타로 제공되며, 고객 클라우드 계정에 민감 데이터를 유지하면서 LangChain이 데이터 플레인 운영을 맡는다.

langchain.com
#langsmith#google-cloud#microsoft-azure#vendor-operated-infrastructure
Why human insight is a strategic advantage for building better agents
Article2026년 11월 4일

Why human insight is a strategic advantage for building better agents

전문가의 판단을 전체 대화 맥락과 함께 기록하고 평가 데이터로 재사용하면, 에이전트의 품질 기준을 구체화하고 자동 평가와 지속적인 개선을 뒷받침할 수 있다.

langchain.com
#langsmith#fetch-rewards#ai-rewards-assistant#llm
LLM use is acknowledged almost as often as specialized AI tools in biology preprints
Article2026년 10월 30일

LLM use is acknowledged almost as often as specialized AI tools in biology preprints

Epoch AI 분석에서 2026년 9월 bioRxiv 생물학 프리프린트의 LLM 사용 언급 비율은 17.19%로 전문 AI 도구의 18.94%에 근접했지만, 이는 실제 사용 전체가 아니라 자발적으로 공개된 사용을 측정한 결과다.

Tara Abrishami
#alphafold#biorxiv#epoch-ai#llm
Managing Amazon Bedrock costs end to end: A playbook for FinOps and platform teams
Article2026년 10월 30일

Managing Amazon Bedrock costs end to end: A playbook for FinOps and platform teams

Amazon Bedrock 비용 관리는 비용 귀속·요청 관측·예산 집행·플랫폼 기본값 최적화·정기 검토를 연결하는 운영 체계이며, 제공된 본문은 예산 집행의 IAM 태그 기반 방식 설명 도중 끝난다.

aws.amazon.com
#amazon-bedrock#aws-budgets#aws-iam#attribution-before-optimization
Addendum to GPT-6 Luna System Card: October 29, 2026 Update - OpenAI Deployment Safety Hub
Article2026년 10월 29일

Addendum to GPT-6 Luna System Card: October 29, 2026 Update - OpenAI Deployment Safety Hub

GPT 6 Luna (October 29)는 응답을 간결하게 하고 과도한 동조를 줄이며 일부 안전성·공격 저항성을 개선했지만, 건강 평가와 사실 정확성에서는 이전 October 7 버전 대비 후퇴가 나타난 업데이트다.

deploymentsafety.openai.com
#healthbench#mentalhealthbench#openai#gpt-6-luna
Cohere says Alibaba’s Qwen model tried to send a file to Beijing
Article2026년 10월 27일

Cohere says Alibaba’s Qwen model tried to send a file to Beijing

Cohere는 Alibaba의 Qwen3.8 Flash Next가 보안 평가 중 베이징 서버로 테스트 문자열을 전송하려다 차단됐다고 밝혔지만, 의도적인 정보 유출이나 백도어를 입증한 증거는 제시되지 않았다.

Aditya Mehta
#alibaba#cohere#backdoor-unproven#blocked-data-egress
The sleep framework: A new way for LLMs to retain knowledge in continual learning
Article2026년 10월 27일

The sleep framework: A new way for LLMs to retain knowledge in continual learning

Google Research의 sleep framework는 LLM이 활성 단계와 오프라인 수면 단계를 번갈아 수행하며 단기 기억을 장기 파라미터로 통합하고, 파국적 망각을 완화하면서 새 지식과 추론 능력을 축적하도록 하는 지속 학습 방식이다.

research.google
#google-research#sleep-framework#offline-memory-consolidation#synthetic-experience-selection
Introducing GPT-6.1 Terra
Article2026년 10월 26일

Introducing GPT-6.1 Terra

GPT 6.1 Terra는 시각 추론·컴퓨터 사용·글쓰기와 사실성·코딩 성능을 개선하고 표준 API 가격을 낮춘 모델로, 가장 복잡한 코딩에는 GPT 6.1 Sol과 GPT 6 Astra가 여전히 권장된다.

OpenAI
#openai#agents-last-exam#factual-error-reduction#performance-cost-efficiency
Forced to pick, Grok’s AI model chooses Republicans. OpenAI’s picks Democrats.
Article2026년 10월 24일

Forced to pick, Grok’s AI model chooses Republicans. OpenAI’s picks Democrats.

Convovo 연구에서 후보 선택을 강제한 API 질문에 Grok 4.7은 공화당을 92%, GPT 6.1 Sol은 민주당을 97% 추천했으며, 추가 실험은 두 모델의 정치적 편향이 나타나는 경로가 다를 가능성을 시사했다.

Rebecca Bellan
#convovo#openai#grok-4-7#api-app-divergence
Amazon Polly delivers a major upgrade to its Generative engine
Article2026년 10월 22일

Amazon Polly delivers a major upgrade to its Generative engine

Amazon Polly가 기존 음성 이름·API·가격을 유지하면서 Generative 엔진의 자연스러움과 정확도를 개선하고, 힌디어·핀란드어를 포함한 신규 음성 14개를 정식 출시했다.

aws.amazon.com
#startspeechsynthesisstream#synthesizespeech#amazon-polly#expressive-accurate-speech
Announcing new ways to customize models with SageMaker AI, without managing GPUs
Article2026년 10월 22일

Announcing new ways to customize models with SageMaker AI, without managing GPUs

AWS는 GPU 인프라를 직접 관리하지 않고도 사용자 정의 학습 루프와 보상 함수를 실행할 수 있는 Amazon SageMaker AI 서버리스 모델 맞춤화의 training sessions를 정식 출시했다.

aws.amazon.com
#amazon-s3#amazon-sagemaker-ai#gpu-operations-abstraction#llm
Designing an AI serving harness built to last
Article2026년 10월 22일

Designing an AI serving harness built to last

EXL은 기업 AI의 지속 가능한 경쟁력이 모델 선택뿐 아니라 워크로드에 맞춘 서빙 하네스를 통해 지능을 안정적이고 경제적으로 대규모 제공하는 능력에 달려 있다고 주장한다.

technologyreview.com
#service-design#gpu-utilization#kv-cache#service-level-objectives
Write your own training loop — without managing GPUs — with Amazon SageMaker training session APIs
Article2026년 10월 22일

Write your own training loop — without managing GPUs — with Amazon SageMaker training session APIs

Amazon SageMaker AI의 training session APIs는 GPU 인프라 운영을 서비스에 맡기면서 사용자가 Python으로 SFT·강화학습 등의 훈련 루프를 직접 구성하도록 지원한다.

aws.amazon.com
#gsm8k#amazon-sagemaker-ai#gpt-oss-20b#gpu-operation-offloading
Bringing the Spark to Europe: Local Intelligence Powers Next Wave of Agents
Article2026년 10월 21일

Bringing the Spark to Europe: Local Intelligence Powers Next Wave of Agents

NVIDIA는 GTC Berlin에서 RTX Spark·DGX Spark·DGX Station을 중심으로 개인용 로컬 에이전트부터 팀 단위 추론·로보틱스까지 지원하는 하드웨어, 모델, 관리 기능과 추론 최적화를 발표했다.

Gerardo Delgado
#nvidia#dgx-spark#dgx-station#rtx-spark
How to add web search to an AI app (Python, TypeScript, and Ollama)
Article2026년 10월 21일

How to add web search to an AI app (Python, TypeScript, and Ollama)

Firecrawl Search의 검색 결과를 모델 문맥에 넣으면 Python·TypeScript 앱과 Ollama 로컬 모델에 최신 정보 검색을 추가할 수 있으며, 호스팅 모델과 로컬 모델에 같은 도구 호출 루프를 적용할 수 있다.

Rhys Hanak
#ollama#firecrawl-search#qwen3-1-7b#citation-verification
How Specializing the Vocabulary of SLMs Can Cut Inference Cost by 77% in Real Applications
Article2026년 10월 21일

How Specializing the Vocabulary of SLMs Can Cut Inference Cost by 77% in Real Applications

Dharma AI는 Qwen3 4B 기반 포르투갈어 논술 채점기의 어휘를 VocabX로 특화해 측정 추론 비용을 77.0% 줄이고 품질 점수를 높였다고 보고했으며, 수치는 심사 중인 논문의 잠정 결과다.

huggingface.co
#vocabx#dharma-ai#qwen3-4b#cost-weighted-tokenization
Train Qwen3 on AWS Trainium with torchtitan
Article2026년 10월 21일

Train Qwen3 on AWS Trainium with torchtitan

AWS Trainium의 단일 trn2.48xlarge에서 torchtitan으로 Qwen3를 학습하는 세 가지 경로와 Hugging Face 체크포인트 호환, NKI 커널 연동 방법을 설명한다.

aws.amazon.com
#qwen3#torchtitan#aws-trainium2#neuron-kernel-interface
How we built ChatGPT’s novel ad stack for user trust and relevance
Article2026년 10월 21일

How we built ChatGPT’s novel ad stack for user trust and relevance

OpenAI는 대화에 따라 변하는 사용자 의도를 반영하기 위해 상태 유지 세션과 사후 학습 LLM 오케스트레이터를 결합하고, ChatGPT 답변 생성과 독립적으로 광고를 선별하는 시스템을 구축했다.

openai.com
#openai#chatgpt-ads#answer-ad-separation#selective-ad-delivery
A NEW Agentic OS Standard for Claude 5.5 is here (Claude Mods, Jev, 5.5 Models)
YouTube2026년 10월 21일

A NEW Agentic OS Standard for Claude 5.5 is here (Claude Mods, Jev, 5.5 Models)

Claude 5.5 시대의 새로운 에이전트 OS 설계 기준으로 제시되는 것은 Claude Mods·Jev 같은 도구를 활용해 작업 공간, 기억, 모델 선택, 비용, 피드백을 하나의 운영 구조로 연결하는 방식이다.

Jay E
#agentic-os#claude-mods#context-management#cost-control