Docs faviconDOCS우성짱의 문서
Tag5건Article 5

#reasoning-models

이 태그와 연결된 문서를 한곳에서 모아보고, 함께 자주 등장하는 연관 태그까지 이어서 탐색할 수 있습니다.

연관 태그

#adversarial-attack-scaling공동문서 1 · 연관도 45%#adversarial-robustness공동문서 1 · 연관도 45%#agent-safety-evaluation공동문서 1 · 연관도 45%#agent-supervision공동문서 1 · 연관도 45%#compute-allocation-safety공동문서 1 · 연관도 45%#cot-control공동문서 1 · 연관도 45%#cot-controllability공동문서 1 · 연관도 45%#cot-monitorability공동문서 1 · 연관도 45%#deepseek-r1-zero공동문서 1 · 연관도 45%#deepseek-v2-5공동문서 1 · 연관도 45%
Reasoning models struggle to control their chains of thought, and that’s good
Article2026년 3월 5일

Reasoning models struggle to control their chains of thought, and that’s good

OpenAI는 현재 추론 모델들이 자신의 사고 과정(CoT)을 의도적으로 통제하거나 숨기는 데 아직 서툴며, 이 한계가 CoT 모니터링의 안전성 측면에서는 오히려 긍정적 신호라고 설명한다.

openai.com
#openai#cot-control#reasoning-models#chain-of-thought
DeepSeek-R1, An Affordable Rival to OpenAI’s o1
Article2025년 1월 22일

DeepSeek-R1, An Affordable Rival to OpenAI’s o1

DeepSeek R1은 긴 추론 과정을 거쳐 답을 내는 공개 모델로, OpenAI o1과 경쟁할 성능을 보이면서도 자유로운 사용·수정과 낮은 API 비용을 내세운다.

@DeepLearningAI
#deepseek-r1#openai-o1#deepseek-r1-zero#deepseek-v3-base
Trading Inference-Time Compute for Adversarial Robustness
Article2025년 1월 22일

Trading Inference-Time Compute for Adversarial Robustness

OpenAI는 o1 계열 추론 모델이 추론 시점에 더 오래 ‘생각’하도록 계산 자원을 늘리면 여러 적대적 공격에 대한 성공 확률이 낮아질 수 있다는 초기 증거를 제시했다.

openai.com
#openai#simpleqa#o1-mini#o1-preview
Deliberative alignment: reasoning enables safer language models
Article2024년 12월 20일

Deliberative alignment: reasoning enables safer language models

OpenAI는 o series 모델에 사람이 쓴 안전 명세를 직접 가르치고 추론 과정에서 이를 검토하게 하는 ‘숙고적 정렬’을 통해 악성 요청 거부와 benign 요청 허용의 균형을 개선했다고 설명한다.

openai.com
#openai#constitutional-ai#gpt-4o#o-series
DeepSeek-R1, A Transparent Challenger to OpenAI o1
Article2024년 11월 27일

DeepSeek-R1, A Transparent Challenger to OpenAI o1

DeepSeek R1은 OpenAI o1처럼 추론에 더 많은 계산을 쓰는 모델이지만, 추론 과정을 공개한다는 점에서 더 투명한 경쟁자로 제시됐다.

@DeepLearningAI
#deepseek-r1#gpt-4o#deepseek-v2-5#openai-o1-preview