Best practices for writing Denied Topics in Amazon Bedrock Guardrails
Quick Summary
Amazon Bedrock Guardrails의 Denied Topics는 의미로 차단 대상을 판단하므로, 주제명과 정의를 넓은 분야가 아닌 구체적인 사용자 의도·행동에 맞춰 작성해야 정상 요청의 오차단과 금지 요청의 누락을 줄일 수 있다.
🖼️ 인포그래픽

🖼️ 4컷 인포그래픽

💡 한 줄 요약
Amazon Bedrock Guardrails의 Denied Topics는 의미로 차단 대상을 판단하므로, 주제명과 정의를 넓은 분야가 아닌 구체적인 사용자 의도·행동에 맞춰 작성해야 정상 요청의 오차단과 금지 요청의 누락을 줄일 수 있다.
📌 핵심 요약
- Denied Topics는 자연어로 설명한 범주를 키워드가 아닌 의미로 적용한다. 주요 작성 실패는 정상 요청까지 막는 분야 중심 주제, 다른 표현을 놓치는 키워드 나열식 정의, 경계와 무관한 대상을 학습시키는 예시, 서로 간섭하는 중첩 정의의 네 가지다.
- 가상의 AnyCompany Bank는 고객용 AI 비서 출시를 2주 앞두고 있다. 개인화된 투자 추천, 은행 상대 분쟁의 법률 자문·소송 안내, 내부자 거래 조언, 무기 제작 설명, 프롬프트 주입·탈옥 시도, 출력에서 특정 경쟁사 제품명을 반복하는 행위를 막아야 하지만 계좌·이체·카드·주택담보대출 관리와 일반 금융교육 질문은 통과시켜야 한다.
- AnyCompany Bank의 초기 Finance, Legal, Fraud, Competitors 주제는 각각 급여 입금 시점, 주택담보대출 조건 변경, 카드 부정사용 신고, 경쟁 제품 비교 질문까지 차단했다. 원문은 Finance를 Investment Recommendations로, Legal을 Litigation and Non-Servicing Legal Advice로, Fraud를 Fraud Investigation Requests로 바꾸는 사례를 제시한다.
- Standard tier의 주제는 이름·정의·최대 5개 예시를 함께 평가한다. 이름은 최대 100자, 정의는 최대 1,000자이며 실용적인 권장 길이는 100~300자이고, 예시는 각각 최대 100자, 가드레일당 주제는 최대 30개다.
- 제공된 본문은 8가지 모범 사례를 예고하지만 실제 내용은 사용자 의도 중심 구성, 구체적인 행동을 나타내는 이름, 행동과 대상을 명시하는 정의에 관한 1~3번 설명 도중에 끝난다. 이름은 보통 2~5단어의 구체적인 행동 표현을 권장하며, 정의에는 대상과 구별되는 특징을 명시하고 포함 범위를 긍정형으로 서술하도록 안내한다. 원문은 작성 원칙을 잘 따라도 결과가 완전히 결정적이지는 않다고 예고한다.
🧩 주요 포인트
- 의미 기반 판정 → 이름·정의·예시가 함께 차단 경계를 형성하므로, 정의만 좁혀도 넓은 분야명이나 편향된 예시가 남으면 의도한 범위를 벗어날 수 있다.
- AnyCompany Bank의 업무 범위 → Investment Recommendations, Litigation and Non-Servicing Legal Advice, Fraud Investigation Requests처럼 거부할 행동을 명시해야 금융교육·대출 관리·부정사용 신고를 제공하는 목적과 차단 정책을 조화시킬 수 있다.
- 작성 제약과 결과의 불확실성 → Standard tier의 길이·개수 제한 안에서 구체적인 행동·대상·구별 특징을 담아야 하며, 제공된 1~3번 설명만으로 나머지 모범 사례나 완전한 결정성을 전제할 수 없다.
🧠 상세 정리
1. 의미 기반 차단의 장점과 네 가지 작성 실패
Amazon Bedrock Guardrails의 Denied Topics는 차단할 콘텐츠 범주를 자연어로 설명하면 요청마다 그 의미를 적용하는 방식이며, 특정 키워드의 존재만으로 판단하지 않는다. 이 때문에 투자 조언을 막으려고 Finance라는 주제를 만들면 급여 입금이 언제 처리되는지 묻는 정상 질문도 의미상 가까운 요청으로 잡힐 수 있다. 원문은 분야 중심 주제의 과잉 차단, 키워드 나열식 정의의 누락과 오탐, 잘못된 경계를 가르치는 예시, 중첩된 주제의 상호 간섭을 네 가지 주요 실패 유형으로 제시한다. 같은 생각을 바꿔 쓴 예시 다섯 개는 다양한 경계를 다루지 못하며, 특정 국가·제품·기업을 넣으면 그 대상 자체가 주제의 맥락에 포함될 수 있다. 서로 겹치는 정의는 같은 입력을 두고 일관되지 않은 일치를 보고하거나, 각자라면 차단하지 않을 입력까지 함께 차단할 수 있다고 설명한다.
2. AnyCompany Bank 사례의 차단·허용 요구
가상의 AnyCompany Bank는 첫 고객용 AI 비서 출시를 2주 앞두고 있으며, 모바일·웹 앱에서 계좌, 명세서, 이체, 카드, 주택담보대출 질문을 처리하려 한다. 계좌 변경, 분쟁 접수, 업무 범위 밖의 질문은 사람에게 넘기고, 카드 부정사용 신고도 사람이 처리하도록 연결하는 것이 서비스의 역할이다. 법무·컴플라이언스 측 차단 요구에는 개인화된 투자 추천, 은행 상대 분쟁의 법률 자문과 소송 안내, 내부자 거래 조언, 무기 제작 설명이 포함된다. 프롬프트 주입·탈옥 시도는 비서 자신의 지시를 무력화하려는 별도 성격의 신호이며, 출력에서 특정 경쟁사 제품명을 반복하는 행위도 차단 목록에 있다. 반면 계좌 잔액·명세서, 이체 안내·상환액 안내·에스크로, 카드 관리·분실 교체, 대출 조건 변경·상환 유예·납부 계획과 개인화된 조언이 아닌 일반 금융교육은 허용해야 한다.
3. 초기 정책의 오차단과 Standard tier 구조
AnyCompany Bank가 처음 작성한 Finance, Legal, Fraud, Competitors는 모두 비서가 다루는 넓은 분야를 이름으로 삼아 정상 질문을 차단했다. Finance는 급여 입금 처리 시점을, Legal은 주택담보대출 조건 변경을, Fraud는 주유소에서 카드 정보가 도용됐다는 신고를 막았고, Competitors는 고객의 선택지 비교를 포함한 경쟁 제품 언급을 폭넓게 막았다. 원문은 이를 은행이 거부해야 할 의도 대신 업무 분야를 명명한 결과로 설명한다. Standard tier에서 주제는 이름·정의·최대 5개 예시로 구성되며, 가드레일은 정의만 따로 보지 않고 세 요소를 하나의 단위로 평가한다. 이름은 최대 100자, 정의는 최대 1,000자이고 정의의 실용적인 권장 길이는 100~300자이며, 예시는 각각 최대 100자, 가드레일당 주제는 최대 30개라는 제약이 있다.
4. 모범 사례 1: 분야 대신 의도와 행동으로 구성
첫 번째 원칙은 같은 분야의 질문이라도 사용자가 얻으려는 것이 다르면 차단 판단을 구분해야 한다는 것이다. 급여 입금 시점을 묻는 질문과 L5 엔지니어의 보수를 묻는 질문은 모두 보수에 관련되지만, 원문이 구분하려는 급여 비교의 의도는 두 번째에만 있다. 먼저 개인화된 추천, 법률 의견, 비공개 연락처, 특정 정파 지지처럼 거부하려는 의도를 짧게 파악하되, 이 진단 문구를 그대로 주제에 넣을 필요는 없다. 이후 그 의도를 드러내는 구체적인 요청·주장·생성 행위를 이름과 정의에 표현해야 하며, 이름이나 정의 중 하나라도 넓은 분야를 가리키면 일치 범위가 넓어질 수 있다. 따라서 정의는 특정 대상을 요청하거나 특정 내용을 생성하는 행동으로 시작하고, 어떤 분야와 관련되거나 무엇이든 언급하는 콘텐츠라는 식의 도입은 피하도록 안내한다.
5. 모범 사례 2: 구체적인 행동을 나타내는 이름
두 번째 원칙은 주제명이 예상보다 큰 영향을 미칠 수 있으므로, 한 단어짜리 분야명보다 보통 2~5단어의 구체적인 행동·행위 표현을 선택하라는 것이다. Finance, Security, Legal 같은 넓은 이름은 정의로 범위를 좁혀도 해당 분야의 어휘와 연결될 수 있지만, Investment Recommendations나 Hacking Instructions는 처음부터 특정 행동을 가리킨다. 표현 형식은 행동에서 파생된 명사, 구체적인 행위를 나타내는 명사구, 목적어를 동반한 동명사형 모두 가능하며, 문법적 형태보다 행동의 명확성이 중요하다. 원문은 이름을 소리 내 읽으며 사용자가 하는 일을 설명하는지, 단지 질문이 가까이 있는 분야를 말하는지 확인하도록 권한다. Government, Company, Insurance 같은 넓은 기관·조직 범주도 불필요한 일치를 만들 수 있으며, Government Documents라는 이름이 국가명과 문서를 언급한 사내 정책 질문까지 잡을 수 있다는 예를 든다.
6. 은행 사례에 적용한 이름 변경과 업무 경계
AnyCompany Bank의 Legal은 주택담보대출이 법률적 수단이라는 의미적 연관성 때문에 대출 조건 변경 질문까지 차단하는 사례로 제시된다. 이를 Litigation and Non-Servicing Legal Advice로 바꾸면 소송과 대출 관리 외 법률 자문이라는 구체적인 행위를 드러내고, 조건 변경·상환 유예·에스크로 같은 관리 업무와 구분하는 데 이름 자체가 기여한다. 원문은 이 변경을 정의를 손보기 전에 문제의 절반을 해결하는 조치로 설명하며, 주제명도 판정 범위를 형성한다는 점을 강조한다. Fraud는 Fraud Investigation Requests로 변경해 고객의 부정사용 신고는 사람에게 연결하되, 비서가 직접 부정행위 주장을 조사하려는 요청은 거부하도록 경계를 잡는다. Finance 역시 Investment Recommendations로 바꾸지만, 제공된 본문에는 Competitors의 구체적인 수정 결과가 제시되지 않으므로 네 초기 주제가 모두 해결됐다고 볼 수는 없다.
7. 모범 사례 3: 행동·대상·구별 특징을 담는 정의
세 번째 원칙은 정의가 넓은 주제가 아니라 특정 대상을 향한 사용자의 행동을 설명해야 한다는 것이다. 요청을 다루면 무엇을 묻거나 요청하거나 추천하는지로 시작하고, 사용자 콘텐츠·공개 내용·생성 출력을 다루면 어떤 진술을 하거나 무엇을 제공·생성하는지로 시작하며, 특정 기법을 다루면 무엇을 사용해 무엇을 하는지 표현할 수 있다. 대상도 금융상품이라는 넓은 말보다 개별 주식, 채권, ETF, 암호화폐처럼 구체적인 항목으로 명시하도록 안내한다. 두 주제가 고객 같은 어휘를 공유한다면 각 정의에 서로 구분되는 특징을 넣어야 하며, 의미가 겹치는 정의는 주제 사이의 간섭을 일으킬 수 있다. 또한 정의는 포함되는 범위를 긍정형으로 설명하고 짧은 후행 제외 문구는 구분에 도움이 될 수 있다고 하지만, 제공된 본문은 이 설명 뒤의 참조 문구에서 끊겨 추가 조건은 확인할 수 없다.
8. 예시·중첩의 위험과 제공된 설명의 한계
원문은 이름과 정의뿐 아니라 예시도 함께 평가된다는 전제에서, 예시의 다양성과 구체적 고유명사가 차단 범위에 미치는 영향을 경고한다. 한 생각의 유사 표현만 다섯 개 제시하면 경계를 충분히 다루지 못하고, 특정 국가·제품·기업을 예시에 넣으면 의도하지 않은 대상까지 주제 맥락에 끌어들일 수 있다는 설명이다. 중첩 정의 역시 단순한 중복에 그치지 않고 일치 결과의 불일치나 결합된 과잉 차단을 낳을 수 있어, 행동과 대상을 구분하는 작성 원칙과 연결된다. 다만 글 전체는 8가지 모범 사례와 마지막의 비결정성 한계를 다룬다고 예고하지만, 실제 제공된 자료는 세 번째 모범 사례 설명 도중에 종료된다. 따라서 나머지 다섯 가지의 세부 방법이나 비결정성에 대한 후속 설명을 복원할 수는 없으며, 작성 원칙을 잘 지켜도 결과가 완전히 결정적이지 않다는 예고까지만 근거로 삼을 수 있다.
🧾 핵심 주장 / 시사점
- 정의의 정밀도만 높이는 것으로는 충분하지 않다. 이름·정의·예시가 함께 평가되므로 세 요소가 동일한 사용자 의도와 행동 경계를 표현해야 한다.
- 은행이 금융 분야를 다룬다는 사실과 투자 추천을 거부해야 한다는 요구는 양립한다. 분야 전체를 막으면 서비스가 제공해야 할 교육·관리·신고 기능도 함께 손상될 수 있다.
- 주제 간 의미 중첩은 개별 주제의 범위만으로 설명되지 않는 차단을 만들 수 있다. 구체적인 대상과 구별 특징은 개별 주제의 정확성뿐 아니라 주제 사이의 간섭을 줄이는 데도 중요하다.
✅ 액션 아이템
- AnyCompany Bank의 Finance, Legal, Fraud를 각각 Investment Recommendations, Litigation and Non-Servicing Legal Advice, Fraud Investigation Requests로 구체화하는 방향을 적용 검토한다.
- Standard tier의 이름·정의·예시를 함께 검토하고, 정의에 구체적인 행동·대상·구별 특징을 명시한다.
- 계좌·이체·카드·주택담보대출 관리와 일반 금융교육의 통과 여부를 차단 요구와 함께 확인하고, 결과가 완전히 결정적이지 않다는 한계를 반영한다.
❓ 열린 질문
- Investment Recommendations는 개인화된 투자 추천을 차단하면서 일반 금융교육 질문을 통과시키는가?
- Fraud Investigation Requests는 카드 부정사용 신고를 허용하면서 비서의 직접 조사 요청을 구분하는가?
- Competitors는 고객의 경쟁 제품 비교 질문과 출력에서 특정 경쟁사 제품명을 반복하는 행위를 어떻게 구분해야 하는가?