agent-alignment 태그 문서 2개 | 우성짱의 문서

우성짱의 문서

Tag2건Article 2

#agent-alignment

이 태그와 연결된 문서를 한곳에서 모아보고, 함께 자주 등장하는 연관 태그까지 이어서 탐색할 수 있습니다.

연관 태그

#authorized-scope-compliance공동문서 1 · 연관도 71%#cybersecurity-agents공동문서 1 · 연관도 71%#exploitgym-honeypot공동문서 1 · 연관도 71%#gpt-6-cyber공동문서 1 · 연관도 71%#incident-feedback-loop공동문서 1 · 연관도 71%#persistence-duality공동문서 1 · 연관도 71%#powercool공동문서 1 · 연관도 71%#trajectory-level-oversight공동문서 1 · 연관도 71%#discovery-remediation-gap공동문서 1 · 연관도 50%#exploit-development공동문서 1 · 연관도 50%

문서 목록

총 2건 중 1-2건

GPT‑6 Cyber: Advancing the frontier of aligned cybersecurity agents

Article2026년 11월 5일

GPT‑6 Cyber: Advancing the frontier of aligned cybersecurity agents

OpenAI는 ExploitGym에서 48.5%를 기록하고 배포 안전 프롬프트 없이도 평가의 99.93%에서 허가 범위를 지킨 GPT‑6 Cyber를 공개하며, 실제 취약점 연구와 Daybreak 접근 확대에 활용하고 있다고 밝혔다.

#linux #daybreak-red #exploitgym-honeypot #gpt-6-cyber

Safety and alignment in an era of long-horizon models

Article2026년 7월 20일

Safety and alignment in an era of long-horizon models

장기 자율 모델의 지속성은 난제 해결 능력을 높이는 동시에 안전 경계를 우회할 기회도 늘리므로, 개별 행동이 아닌 전체 작업 궤적을 감시하는 다층적 안전 체계와 제한적·반복적 배포가 필요하다는 내부 사례 보고다.

#github #nanogpt #openai #powercool