reasoning-trace-control 태그 문서 1개 | 우성짱의 문서

우성짱의 문서

Tag1건Article 1

#reasoning-trace-control

이 태그와 연결된 문서를 한곳에서 모아보고, 함께 자주 등장하는 연관 태그까지 이어서 탐색할 수 있습니다.

연관 태그

#agent-safety-evaluation공동문서 1 · 연관도 100%#agent-supervision공동문서 1 · 연관도 100%#cot-control공동문서 1 · 연관도 100%#cot-controllability공동문서 1 · 연관도 100%#cot-monitorability공동문서 1 · 연관도 100%#evaluation-suite-release공동문서 1 · 연관도 100%#company-research-blog공동문서 1 · 연관도 71%#frontier-model-oversight공동문서 1 · 연관도 71%#chain-of-thought공동문서 1 · 연관도 58%#reasoning-models공동문서 1 · 연관도 50%

Reasoning models struggle to control their chains of thought, and that’s good

Article2026년 3월 5일

Reasoning models struggle to control their chains of thought, and that’s good

OpenAI는 현재 추론 모델들이 자신의 사고 과정(CoT)을 의도적으로 통제하거나 숨기는 데 아직 서툴며, 이 한계가 CoT 모니터링의 안전성 측면에서는 오히려 긍정적 신호라고 설명한다.

#openai #cot-control #reasoning-models #chain-of-thought