Docs faviconDOCS우성짱의 문서
Tag3건Article 3

#gpt-oss-20b

이 태그와 연결된 문서를 한곳에서 모아보고, 함께 자주 등장하는 연관 태그까지 이어서 탐색할 수 있습니다.

연관 태그

#agentic-rl공동문서 1 · 연관도 58%#agentic-rl-debugging공동문서 1 · 연관도 58%#attention-sink-stability공동문서 1 · 연관도 58%#fused-chunked-kl공동문서 1 · 연관도 58%#gpu-memory-optimization공동문서 1 · 연관도 58%#instruction-provenance-failure공동문서 1 · 연관도 58%#knowledge-distillation공동문서 1 · 연관도 58%#moe-logprob-mismatch공동문서 1 · 연관도 58%#practical-retrospective공동문서 1 · 연관도 58%#research-reporting공동문서 1 · 연관도 58%

문서 목록

총 3건 중 1-3건

Making Knowledge Distillation Cheap Enough to Run at Scale
Article2026년 8월 10일·👁️ 3

Making Knowledge Distillation Cheap Enough to Run at Scale

교사의 위치별 상위 100개 로짓을 한 번만 저장하고 출력 투영까지 청크 단위로 결합한 KL 손실을 사용해, 지식 증류의 품질을 유지하면서 장문맥 훈련의 메모리와 계산 비용을 크게 줄인 연구다.

huggingface.co
#nvidia-h200#gpt-oss-20b#fused-chunked-kl#teacher-logit-caching
A fundamental flaw leaves LLMs strikingly vulnerable to attack
Article2026년 7월 30일·👁️ 4

A fundamental flaw leaves LLMs strikingly vulnerable to attack

연구진은 대규모 언어 모델이 지시의 출처를 역할 태그보다 문체와 단어에 의존해 판별하는 구조적 약점 때문에 사고 과정 위조 공격에 속을 수 있으며, 훈련만으로 완전한 보안을 달성하기 어렵다고 주장한다.

technologyreview.com
#openai#gpt-5#gpt-oss-20b#instruction-provenance-failure
Unlocking Agentic RL Training for GPT-OSS: A Practical Retrospective
Article2026년 1월 27일·👁️ 2

Unlocking Agentic RL Training for GPT-OSS: A Practical Retrospective

이 글은 GPT OSS를 에이전트형 강화학습의 백본 모델로 활용하기 위해 verl 기반 PPO 학습에서 발견한 온폴리시 불일치, 훈련·추론 불일치, attention sink 미지원 문제를 단계적으로 진단하고 수정한 실험 회고다.

huggingface.co
#gsm8k#retool#gpt-oss-120b#gpt-oss-20b