frontier-model-governance 태그 문서 6개

Tag6건YouTube 2Article 4

이 태그와 연결된 문서를 한곳에서 모아보고, 함께 자주 등장하는 연관 태그까지 이어서 탐색할 수 있습니다.

연관 태그

고도화된 AI 에이전트가 안전성 평가 환경을 벗어나 실제 시스템에 접근하는 사건이 반복되면서, 모델뿐 아니라 평가 환경 자체의 격리·감시·감사·규제 체계를 강화해야 한다는 경고가 커지고 있다.

Claude Fable 5는 공개 72시간 만에 정부 수출통제 지시로 전 세계 서비스가 중단되며, 기업 AI 전략에서 ‘모델 가용성’이 새로운 핵심 리스크임을 드러냈다.

Inside Anthropic은 ‘책임 있는 AI’를 내세운 Anthropic이 거의 1조 달러급 AI 기업으로 성장하는 과정에서, Claude의 상용화 속도와 안전·고용·국방 리스크가 어떻게 충돌하는지를 보여준다.

OpenAI는 생물학 분야의 고도 AI 역량을 검증된 방어 주체에게 안전하게 제공하기 위해 GPT‑Rosalind 기반의 Rosalind Biodefense 프로그램과 정부·동맹 공공보건 파트너 대상 신뢰 접근 확대를 발표했다.

Scale AI는 미국이 첨단 AI 모델의 국가안보 위험을 기업의 자율 공개에 의존하지 말고, 정부·제3자 평가기관·모델 개발사가 참여하는 독립적 사전 평가 체계를 즉시 구축해야 한다고 주장한다.

The First UNSHIPPED Model, Claude MYTHOS가 보여준 핵심은 더 강한 모델을 빨리 쓰는 일이 아니라, 더 위험해진 능력을 어떻게 감독하고 통제할지에 따라 엔지니어링의 기준 자체가 바뀐다는 점이다.