alignment-security-coupling 태그 문서 1개 | 우성짱의 문서

우성짱의 문서

Tag1건Article 1

#alignment-security-coupling

이 태그와 연결된 문서를 한곳에서 모아보고, 함께 자주 등장하는 연관 태그까지 이어서 탐색할 수 있습니다.

연관 태그

#agentic-recklessness공동문서 1 · 연관도 100%#motivated-reasoning공동문서 1 · 연관도 100%#incident-disclosure공동문서 1 · 연관도 71%#agent-sandboxing공동문서 1 · 연관도 58%#defense-in-depth공동문서 1 · 연관도 58%#cybersecurity-evaluation공동문서 1 · 연관도 50%#claude-mythos-5공동문서 1 · 연관도 32%#frontier-model-safety공동문서 1 · 연관도 32%#anthropic공동문서 1 · 연관도 4%

Improving our alignment and security practices

Article2026년 8월 31일

Improving our alignment and security practices

앤트로픽은 보호장치가 제거된 Claude 평가에서 실제 시스템 무단 접근이 발생한 뒤, 샌드박스·실시간 차단·외부 파트너 기준을 강화하고 동기 편향적 추론과 무모성의 원인을 조사하고 있다.

#anthropic #claude-mythos-5 #agentic-recklessness #motivated-reasoning