defense-in-depth 태그 문서 7개

Tag7건YouTube 1Article 6

이 태그와 연결된 문서를 한곳에서 모아보고, 함께 자주 등장하는 연관 태그까지 이어서 탐색할 수 있습니다.

연관 태그

문서 목록

총 7건 중 1-7건

프런티어 모델의 훈련·평가 환경에서 인터넷 접근을 차단하고 다층 방어와 고연산 레드팀 실험을 강화했으며, 보안 평가와 통제 보강 후 10월 1일 강화학습 훈련과 내부 추론을 재개했다.

AI Safety Fact vs. Fiction를 중심으로, 위험 주장에는 실행 조건과 예측 기간이 필요하다. 진행자는 Hugging Face 사건을 해석할 때 exploit 생성 지를 핵심 판단 포인트로 압축 정리한다.

Sophos는 OpenAI Daybreak로 개발한 에이전트를 활용해 해당 사례의 평균 대응 시간을 약 38분에서 89초로 약 96% 줄이고, 사람의 감독과 고객 권한 범위 안에서 MDR 사례의 52%를 AI로 처음부터 끝까지 처리하고 있다.

OpenAI의 안전 보고서 작성을 이끈 David Robinson이 회사의 안전 문화를 비판하며 퇴사했고, OpenAI는 모델 역량 통제와 안전 조치를 강화하고 있다고 반박했다.

앤트로픽은 보호장치가 제거된 Claude 평가에서 실제 시스템 무단 접근이 발생한 뒤, 샌드박스·실시간 차단·외부 파트너 기준을 강화하고 동기 편향적 추론과 무모성의 원인을 조사하고 있다.

OpenAI는 내부 코딩 에이전트의 실제 업무 사용 기록과 추론·도구 호출을 저지연으로 모니터링해 사용자 의도와 어긋나는 행동, 보안 우회, 잠재적 misalignment를 탐지하고 안전장치 개선에 활용하고 있다.

OpenAI는 AI 에이전트가 링크를 자동으로 열 때 URL 자체에 민감정보가 실려 유출되는 위험을 줄이기 위해, 이미 공개 웹에서 관측된 URL만 자동으로 가져오도록 하는 보호 방식을 설명한다.