Docs faviconDOCS우성짱의 문서
전체YouTubeArticleTagsAuthorsHub
홈/태그 찾기/#trust-boundary-risk
Tag1건Article 1

#trust-boundary-risk

이 태그와 연결된 문서를 한곳에서 모아보고, 함께 자주 등장하는 연관 태그까지 이어서 탐색할 수 있습니다.

연관 태그

#chatgpt-atlas공동문서 1 · 연관도 100%#human-confirmation-loop공동문서 1 · 연관도 100%#least-privilege-agents공동문서 1 · 연관도 100%#llm-system-safety공동문서 1 · 연관도 100%#multi-layer-defense공동문서 1 · 연관도 100%#security-explainer공동문서 1 · 연관도 100%#company-research-note공동문서 1 · 연관도 71%#instruction-hierarchy공동문서 1 · 연관도 50%#ai-agent-security공동문서 1 · 연관도 41%#prompt-injection-defense공동문서 1 · 연관도 38%
Understanding prompt injections: a frontier security challenge
Article2025년 11월 7일

Understanding prompt injections: a frontier security challenge

OpenAI는 프롬프트 인젝션을 대화형 AI가 외부 콘텐츠의 악성 지시에 속아 사용자의 의도와 다른 행동을 하게 되는 새로운 보안 과제로 설명하며, 모델 훈련·모니터링·제품 보호장치·사용자 통제를 결합한 다층 방어가 필요하다고 강조한다.

openai.com
#chatgpt#openai#chatgpt-atlas#instruction-hierarchy