model-distillation 태그 문서 13개

Tag13건YouTube 4Article 9

#model-distillation

이 태그와 연결된 문서를 한곳에서 모아보고, 함께 자주 등장하는 연관 태그까지 이어서 탐색할 수 있습니다.

연관 태그

문서 목록

총 13건 중 1-13건

YouTube2026년 10월 26일

The Most Terrifying Week in AI History...

The Most Terrifying Week in AI History...를 중심으로, 출연자는 PHP·Node.js·GitLab 등 인터넷 기반 기술의 취약점과 AI 크레딧 탈취 공격이 겹쳤다고 설명한다. 다만 구체를 핵심 판단 포인트로 압축 정리한다.

Riley Brown

#cybersecurity #cloud-infrastructure #low-cost-attacks #api-key-theft

YouTube2026년 10월 19일

Stanford CME295 Transformers & LLMs

Stanford CME295 Transformers & LLMs를 중심으로, 보상의 성격이 학습 방식을 결정한다. SFT 이후 인간의 선호를 반영하거나 추론 능력을 높이는 데 강화학습을 사용한다. R를 핵심 판단 포인트로 압축 정리한다.

Stanford Online

#lecture #credit-assignment #model-distillation #policy-stability

Article2026년 10월 12일

Strengthening our defenses against distillation attacks

Anthropic은 Claude의 추론 추출을 제한하는 새 증류 공격 방어책으로 공격자의 데이터 수집량이 약 90~99% 감소했다는 초기 근거를 제시했지만, 효과의 지속성과 정상 사용자에게 발생하는 비용은 남은 과제로 인정했다.

@AnthropicAI

#anthropic #preserved-thinking #swe-bench-verified #layered-distillation-defense

Article2026년 10월 8일

The model that didn't exist, so you made it yourself

저자는 HuggingChat의 ML intern으로 전문 분야 모델, 이미지 LoRA, 경량 모델 등 6개 프로젝트를 수행하고, 약 USD 103의 연산 비용으로 평가 결과를 갖춘 공개 모델을 만들었다.

huggingface.co

#huggingchat #ml-intern #pocket-rewriter #checkpoint-selection

Article2026년 9월 11일

Kimi-maker Moonshot AI targets $2B in annual revenue

Kimi 개발사 Moonshot AI가 2026년 말 연환산 매출 20억 달러를 목표로 하는 가운데, 오픈웨이트 모델의 낮은 수익성과 Anthropic이 제기한 모델 증류 의혹이 쟁점으로 남아 있다.

Russell Brandom

#anthropic #openrouter #kimi-k3 #moonshot-ai

Article2026년 9월 11일

Y Combinator's Garry Tan wants US open-weight AI labs to 'distill' frontier models, too

Y Combinator CEO Garry Tan은 AI 권력의 독점을 막고 미국의 오픈웨이트 선택지를 넓히기 위해, 미국 소규모 AI 연구소에도 프런티어 모델을 정상적인 경로로 증류할 자유가 필요하다고 주장했다.

Julie Bort

#anthropic #dario-amodei #garry-tan #y-combinator

Article2026년 9월 10일

Anthropic details distillation campaigns from Alibaba, Moonshot AI, and DeepSeek

Anthropic은 Alibaba·Moonshot AI 등 중국 AI 기업에 귀속한 5개 증류 공격 캠페인에서 약 2억 건의 교환을 관측했으며, Claude의 추론 과정과 핵심 역량을 추출하려는 시도가 더 정교하고 공격적으로 변했다고 주장했다.

Russell Brandom

#alibaba #anthropic #moonshot-ai #distributed-account-extraction

Article2026년 8월 26일

How Podium optimized agent behavior and reduced engineering intervention by 90% with LangSmith

Podium은 LangSmith를 활용해 AI Employee의 대화 종료 판단 품질을 높이고 고객지원에 필요한 엔지니어 개입을 90% 줄였다.

langchain.com

#langgraph #langsmith #podium #ai-employee

YouTube2026년 8월 16일

엔비디아 칩 막았더니 챗GPT 훔친 중국 (언더스탠딩 김상훈 기자)

엔비디아 칩을 막자 중국은 GPU 밀수·해외 데이터센터 원격 임대·챗GPT 등 미국 AI 모델의 증류로 우회해 성능을 저비용으로 추격했으며, 물리적 칩 봉쇄만으로는 이를 막기 어렵다는 것이 영상의 결론이다.

언더스탠딩 : 세상의 모든 지식

#ai-compute #semiconductor-export-controls #cloud-computing #model-distillation

Article2026년 8월 10일

5 useful things you'll learn in my post-training textbook

네이선 램버트의 교재는 강화학습 알고리즘의 직관부터 시스템 설계, 역사, 증류, 실패 요인까지 연결해 대규모 언어 모델 사후학습을 판단할 수 있는 연구 감각을 길러준다.

Nathan Lambert

#nathan-lambert #llm #model-distillation #asynchronous-rl-systems

Article2026년 7월 18일

Kimi: Threat or menace?

문샷 AI의 오픈소스 모델 키미 K3가 최상위 폐쇄형 모델에 근접한 성능을 보이면서, 미국에서는 경쟁력·증류·안보·오픈 모델 규제를 둘러싼 논쟁이 다시 격화됐다.

techcrunch.com

#kimi-k3 #moonshot-ai #bidirectional-model-dependence #frontier-gap-narrowing

YouTube2026년 4월 29일

Demis Hassabis: Agents, AGI & The Next Big Scientific Breakthrough

지속 학습, 장기 추론, 기억의 일부 측면은 아직 해결되지 않았고, 이런 능력들은 AGI에 필수적인 구성 요소로 남아 있다

Y Combinator

#alphafold #deepmind #vision-language-models #change-management

Article2026년 4월 15일

My bets on open models, mid-2026

네이선 램버트는 2026년 중반의 오픈 모델 경쟁을 단순한 ‘따라잡기’가 아니라 역량 격차, 자금 조달, 배포, 규제, 실제 사용처가 얽힌 복잡한 경제·기술 문제로 본다.

Nathan Lambert

#interconnects #nathan-lambert #closed-frontier-labs #open-weight-models