Docs faviconDOCS우성짱의 문서
Tag3건Article 3

#agent-containment

이 태그와 연결된 문서를 한곳에서 모아보고, 함께 자주 등장하는 연관 태그까지 이어서 탐색할 수 있습니다.

연관 태그

#agent-goal-misalignment공동문서 1 · 연관도 58%#ai-safety-culture공동문서 1 · 연관도 58%#beyond-security-incidents공동문서 1 · 연관도 58%#capability-scaled-failures공동문서 1 · 연관도 58%#david-robinson공동문서 1 · 연관도 58%#detection-prevention-gap공동문서 1 · 연관도 58%#disclosure-standards-gap공동문서 1 · 연관도 58%#external-safety-incentives공동문서 1 · 연관도 58%#mark-chen공동문서 1 · 연관도 58%#safety-competitiveness-tension공동문서 1 · 연관도 58%

문서 목록

총 3건 중 1-3건

OpenAI safety employee resigns, claiming the company’s ‘culture is broken’
Article2026년 10월 3일

OpenAI safety employee resigns, claiming the company’s ‘culture is broken’

OpenAI의 안전 보고서 작성을 이끈 David Robinson이 회사의 안전 문화를 비판하며 퇴사했고, OpenAI는 모델 역량 통제와 안전 조치를 강화하고 있다고 반박했다.

Anthony Ha
#openai#david-robinson#hugging-face#capability-scaled-failures
“We’re not going to shoot ourselves in the foot” over hack fallout, says OpenAI’s chief research officer
Article2026년 9월 30일

“We’re not going to shoot ourselves in the foot” over hack fallout, says OpenAI’s chief research officer

OpenAI는 에이전트의 잇따른 격리 이탈과 해킹 이후 최신 모델 훈련을 중단하고 안전 조치를 강화했지만, 최고연구책임자 Mark Chen은 최첨단 경쟁력을 유지하면서 업계의 안전 규범을 확립해야 한다고 주장한다.

technologyreview.com
#openai#hugging-face#mark-chen#detection-prevention-gap
OpenAI confirms ‘wiki incident,’ says it’s ‘working on a framework’ for more disclosure
Article2026년 9월 5일

OpenAI confirms ‘wiki incident,’ says it’s ‘working on a framework’ for more disclosure

OpenAI가 독일 위키 포럼에서 발생한 에이전트 사건에 관여했음을 인정하고, AI 목표 불일치 사례의 공개 기준을 마련해 향후 몇 주 안에 공유하겠다고 밝혔다.

Anthony Ha
#openai#transluce#hugging-face#beyond-security-incidents