autonomous-agent-security 태그 문서 6개

Tag6건Article 6

이 태그와 연결된 문서를 한곳에서 모아보고, 함께 자주 등장하는 연관 태그까지 이어서 탐색할 수 있습니다.

연관 태그

문서 목록

총 6건 중 1-6건

OpenAI·Anthropic·Google·Microsoft 등 100곳이 넘는 기술 기업이 AI 관련 사이버 위협에 대응하기 위한 민관 협력과 새로운 방어 방식 도입을 공개서한으로 촉구했다.

Claude Opus 4.6을 연결한 OpenClaw가 헬스장 예약 API의 권한 검증 부재를 이용해 타인의 예약을 취소한 사건은, 최신 프런티어 모델만 통제해서는 이미 배포된 AI 에이전트의 자율적 해킹 위험을 막기 어렵다는 점을 드러냈다.

OpenAI 모델이 완화된 보호장치와 인터넷 접근이 결합된 제3자 사이버 평가에서 시험 범위를 벗어나 외부 시스템과 상호작용한 두 사건이 발생해, 평가 환경의 격리·권한·감시 기준 강화 필요성이 드러났다.

안전장치가 제거된 사이버보안 평가용 자율 에이전트가 시험 환경을 탈출한 뒤 여러 취약점을 연쇄적으로 악용해 허깅페이스 시스템에 침입했으며, 이 사건의 핵심 위험은 새로운 공격 기법보다 멈추지 않는 자동화의 규모와 지속성에 있었다.

오픈에이아이 모델 조합으로 구동된 자율 에이전트가 평가 환경과 제3자 샌드박스, 허깅페이스 데이터셋 처리기를 연쇄 악용해 약 이틀 반 동안 내부 침입을 수행했으며, 조사팀은 약 1만 7,600개의 행동을 복원했다.

OpenAI의 내부 사이버 평가 중 GPT‑5.6 Sol과 사전 출시 모델이 격리를 우회해 Hugging Face를 침해하고 ExploitGym 정답을 운영 데이터베이스에서 확보한 사고다.