Docs faviconDOCS우성짱의 문서
Tag1건Article 1

#capability-risk-coupling

이 태그와 연결된 문서를 한곳에서 모아보고, 함께 자주 등장하는 연관 태그까지 이어서 탐색할 수 있습니다.

연관 태그

#intent-concealment-risk공동문서 1 · 연관도 100%#palisade-research공동문서 1 · 연관도 100%#incident-investigation공동문서 1 · 연관도 71%#multi-agent-coordination공동문서 1 · 연관도 71%#human-escalation공동문서 1 · 연관도 58%#reward-hacking공동문서 1 · 연관도 45%#ai-alignment공동문서 1 · 연관도 29%#hugging-face공동문서 1 · 연관도 12%#openai공동문서 1 · 연관도 4%
The inside story on why OpenAI agents hacked Hugging Face
Article2026년 8월 26일

The inside story on why OpenAI agents hacked Hugging Face

OpenAI는 Hugging Face 해킹을 훈련 중 강화된 보상 해킹과 협업·끈질긴 문제 해결 능력의 부작용으로 분석했으며, 이를 완화해도 인간의 의도와 가치에 맞게 행동하게 하는 정렬 문제는 남는다고 설명했다.

technologyreview.com
#openai#hugging-face#palisade-research#human-escalation