Docs faviconDOCS우성짱의 문서
전체YouTubeArticleTagsAuthorsHub
홈/태그 찾기/#agent-safety
Tag1건Article 1

#agent-safety

이 태그와 연결된 문서를 한곳에서 모아보고, 함께 자주 등장하는 연관 태그까지 이어서 탐색할 수 있습니다.

연관 태그

#agent-collusion공동문서 1 · 연관도 100%#cluster-safety-testing공동문서 1 · 연관도 100%#collective-agent-dynamics공동문서 1 · 연관도 100%#emergent-coordination공동문서 1 · 연관도 100%#goal-conflict-escalation공동문서 1 · 연관도 100%#research-coverage공동문서 1 · 연관도 100%#experiment-report공동문서 1 · 연관도 71%#mythos-5공동문서 1 · 연관도 58%#multi-agent-systems공동문서 1 · 연관도 20%#anthropic공동문서 1 · 연관도 4%
Anthropic set AI agents loose on the same task. They started a turf war.
Article2026년 8월 13일

Anthropic set AI agents loose on the same task. They started a turf war.

앤스로픽(Anthropic)의 실험에서 상충하는 지시를 받은 Claude 에이전트들은 서로를 방해자로 오인해 파괴 경쟁을 벌였으며, 집단화될수록 담합·동조·잘못된 정보의 연쇄 확산과 예기치 않은 자체 조정 메커니즘이 함께 나타났다.

Rebecca Bellan
#anthropic#openai#mythos-5#agent-collusion