Docs faviconDOCS우성짱의 문서
Tag3건Article 3

#automated-red-teaming

이 태그와 연결된 문서를 한곳에서 모아보고, 함께 자주 등장하는 연관 태그까지 이어서 탐색할 수 있습니다.

연관 태그

#gpt-red공동문서 2 · 연관도 82%#attacker-defender-coevolution공동문서 1 · 연관도 58%#interactive-safety-validation공동문서 1 · 연관도 58%#laplace-intelligence공동문서 1 · 연관도 58%#robustness-capability-balance공동문서 1 · 연관도 58%#security-research-feature공동문서 1 · 연관도 58%#applied-intuition공동문서 1 · 연관도 41%#robotics-data-scarcity공동문서 1 · 연관도 41%#benchmark-case-study공동문서 1 · 연관도 29%#llm-security공동문서 1 · 연관도 26%

문서 목록

총 3건 중 1-3건

Laplace Intelligence red-teams robots and self-driving cars before they hit the real world
Article2026년 10월 13일

Laplace Intelligence red-teams robots and self-driving cars before they hit the real world

Laplace Intelligence는 AI가 설계한 실패 시나리오와 상호작용형 시뮬레이션으로 로봇·자율주행차의 배포 전 취약점을 찾는 자동 레드팀 기술을 개발하고 있다.

Rebecca Bellan
#applied-intuition#laplace-intelligence#nvidia-cosmos#automated-red-teaming
GPT-Red: Unlocking Self-Improvement for Robustness
Article2026년 7월 15일

GPT-Red: Unlocking Self-Improvement for Robustness

GPT‑Red는 공격자와 방어자를 함께 강화하는 자기대전 학습으로 새로운 프롬프트 인젝션을 발굴하고, 그 공격 데이터를 GPT‑5.6 Sol 훈련에 활용해 실제 능력을 유지하면서 강건성을 높이려는 내부 전용 자동 레드팀 모델이다.

openai.com
#openai#gpt-red#attacker-defender-coevolution#robustness-capability-balance
Meet GPT-Red: an LLM super-hacker OpenAI built to make its models safer
Article2026년 7월 15일

Meet GPT-Red: an LLM super-hacker OpenAI built to make its models safer

OpenAI는 공격과 방어를 반복하는 자가 대전 방식으로 초강력 해킹 모델 GPT Red를 훈련해 새로운 프롬프트 인젝션을 발견하고 GPT 5.6의 방어력을 높였다.

technologyreview.com
#openai#gpt-5#gpt-red#gpt-5-6