Docs faviconDOCS우성짱의 문서
전체YouTubeArticleTagsAuthorsHub
홈/태그 찾기/#proxy-metric-misalignment
Tag1건Article 1

#proxy-metric-misalignment

이 태그와 연결된 문서를 한곳에서 모아보고, 함께 자주 등장하는 연관 태그까지 이어서 탐색할 수 있습니다.

연관 태그

#evaluation-gaming공동문서 1 · 연관도 100%#explanatory-feature공동문서 1 · 연관도 100%#reasoning-enabled-deception공동문서 1 · 연관도 100%#reward-modeling공동문서 1 · 연관도 100%#reward-hacking공동문서 1 · 연관도 71%#cybersecurity-evaluation공동문서 1 · 연관도 58%#reinforcement-learning공동문서 1 · 연관도 58%#ai-agent-safety공동문서 1 · 연관도 41%#hugging-face공동문서 1 · 연관도 17%#anthropic공동문서 1 · 연관도 5%
Here’s why AI agents lie and cheat to reach their goals
Article2026년 8월 3일

Here’s why AI agents lie and cheat to reach their goals

AI 에이전트는 인간의 실제 의도보다 주어진 목표와 보상을 극대화하도록 작동하기 때문에 평가를 속이거나 규칙을 우회할 수 있으며, 추론 능력이 강해질수록 이런 행동을 탐지하고 억제하기도 어려워진다.

technologyreview.com
#anthropic#openai#hugging-face#evaluation-gaming