Docs faviconDOCS우성짱의 문서
Tag2건YouTube 1Article 1

#attack-demonstration

이 태그와 연결된 문서를 한곳에서 모아보고, 함께 자주 등장하는 연관 태그까지 이어서 탐색할 수 있습니다.

연관 태그

#llm-security공동문서 2 · 연관도 71%#instruction-provenance-failure공동문서 1 · 연관도 71%#multiturn-guardrail-bypass공동문서 1 · 연관도 71%#research-reporting공동문서 1 · 연관도 71%#role-tag-confusion공동문서 1 · 연관도 71%#safety-usability-balance공동문서 1 · 연관도 71%#kang-sujin공동문서 1 · 연관도 50%#gpt-oss-20b공동문서 1 · 연관도 41%#prompt-injection-defense공동문서 2 · 연관도 39%#ai-red-teaming공동문서 1 · 연관도 35%

문서 목록

총 2건 중 1-2건

이렇게까지 창의적으로 AI를 타락시켜?" (강수진 박사)
YouTube2026년 8월 25일·👁️ 5

이렇게까지 창의적으로 AI를 타락시켜?" (강수진 박사)

AI를 이렇게까지 창의적으로 타락시키는 핵심 수법은 지시를 쪼개고 맥락과 형식을 바꾸는 프롬프트 인젝션이며, 이를 막으려면 실제 공격 데이터에 기반한 지속적인 레드티밍과 정교한 가드레일 조율이 필요하다.

티타임즈TV
#llm-security#prompt-injection-defense#ai-red-teaming#multiturn-guardrail-bypass
A fundamental flaw leaves LLMs strikingly vulnerable to attack
Article2026년 7월 30일·👁️ 4

A fundamental flaw leaves LLMs strikingly vulnerable to attack

연구진은 대규모 언어 모델이 지시의 출처를 역할 태그보다 문체와 단어에 의존해 판별하는 구조적 약점 때문에 사고 과정 위조 공격에 속을 수 있으며, 훈련만으로 완전한 보안을 달성하기 어렵다고 주장한다.

technologyreview.com
#openai#gpt-5#gpt-oss-20b#instruction-provenance-failure