Design responsible AI controls for Amazon Aurora PostgreSQL
Quick Summary
AWS는 Amazon Aurora PostgreSQL 기반 고객 지원 챗봇에 책임 있는 AI의 8개 차원을 적용하는 방안을 소개하고, 그중 설명 가능성을 위해 검색한 자료와 답변이 실제 인용한 자료를 구분해 기록하는 설계를 제시한다.
🖼️ 인포그래픽

🖼️ 4컷 인포그래픽

💡 한 줄 요약
AWS는 Amazon Aurora PostgreSQL 기반 고객 지원 챗봇에 책임 있는 AI의 8개 차원을 적용하는 방안을 소개하고, 그중 설명 가능성을 위해 검색한 자료와 답변이 실제 인용한 자료를 구분해 기록하는 설계를 제시한다.
📌 핵심 요약
- 이 글은 과거 지원 티켓과 지식 문서를 활용하는 검색 증강 생성(RAG) 챗봇을 사례로 삼는다. AWS는 8개 차원별 통제 방안을 예시하고, 시리즈 1편인 이 글에서는 설명 가능성을 집중적으로 다룬다.
- Aurora ML은 SQL에서 Amazon Bedrock 모델을 호출할 수 있다. 예시 설계에서는 개인 식별 정보(PII)를 가린 문서와 사용자 질문을 같은 Amazon Titan Text Embeddings V2 모델로 변환해 비교 가능한 1,024차원 벡터를 만든다.
- AWS Lambda가 검색을 조율하고, Aurora PostgreSQL의 pgvector가 관련 문서 조각을 찾는다. 행 수준 보안(RLS)은 검색 결과를 현재 테넌트로 제한하며, Amazon Bedrock Guardrails는 입력을 검사하고 답변이 검색 자료로 뒷받침되는지 평가한다.
- Lambda는 질문, 검색된 문서 조각의 ID와 유사도 점수, 실제 인용 출처, Guardrails 검사 기록, 모델 ID를 chat_interactions에 남긴다. 사용자는 출처가 표시된 답변을 받고, 지원팀은 개별 답변의 근거를 추적할 수 있다.
- 기본 검색과 인용 기능으로 충분하면 Amazon Bedrock Knowledge Bases가 더 간단하다. 검색 결과와 실제 인용 출처를 자체 스키마에 보관하고 SQL로 조회하거나 자체 보존 정책을 적용해야 할 때는 맞춤형 기록 설계가 적합하다.
🧩 주요 포인트
- 문서와 질문에 같은 임베딩 모델 적용 → pgvector가 동일한 벡터 공간에서 두 텍스트의 유사도를 비교할 수 있다.
- 행 수준 보안(RLS)과 Amazon Bedrock Guardrails의 역할 구분 → 어떤 자료를 조회할 수 있는지와 그 자료가 답변을 뒷받침하는지를 각각 판단한다.
- 검색된 문서 조각과 실제 인용 출처를 구분해 보존 → 지원팀이 답변을 검토할 때 검색 단계와 인용 단계를 따로 살펴볼 수 있다.
🧠 상세 정리
1. 고객 지원 답변에 설명 가능성이 필요한 이유
과거 지원 티켓과 지식 문서를 조회하는 챗봇은 고객의 청구나 주문에 관한 질문에 빠르게 답하고, 해당 고객의 상황까지 반영할 수 있다. 다만 티켓에는 이름이나 연락처, 주문 정보처럼 노출을 제한해야 하는 내용이 있고, 고객과 지원팀은 답변이 어떤 기록에 근거했는지도 알아야 한다. AWS는 Amazon Aurora PostgreSQL-Compatible Edition에 저장된 자료를 활용하는 검색 증강 생성(RAG) 챗봇을 예로 들어 개인정보 보호, 정확성, 안전성, 거버넌스가 만나는 지점을 설명한다. 글은 책임 있는 AI의 8개 차원을 데이터베이스 기능과 AWS 서비스에 연결한 뒤, 시리즈 1편의 상세 설계 범위를 개별 답변의 근거를 추적하는 설명 가능성으로 좁힌다.
2. 공정성·설명 가능성·개인정보 보호·안전성
공정성의 기준은 언어, 지역, 고객 프로필에 관계없이 비슷한 품질의 답을 제공하는 것이다. AWS는 다양한 언어와 고객 상황을 담은 지원 질의로 편향을 시험하고, 인구통계 정보와 임베딩을 분리하는 방식을 예로 든다. 설명 가능성은 고객과 지원팀이 특정 답변의 근거를 알 수 있도록 검색된 문서 조각과 유사도 점수, 답변에 표시된 인용을 연결하는 데 초점을 둔다. 개인정보 보호와 보안에는 임베딩 전 개인 식별 정보(PII) 가림 처리, 행 수준 보안(RLS), 암호화와 역할 기반 접근 제어가 포함된다. 안전성 차원에서는 Amazon Bedrock Guardrails의 콘텐츠 필터와 금지 주제 설정 등을 활용해 유해하거나 부적절한 답변을 줄이는 방안을 제시한다.
3. 통제 가능성·진실성 및 견고성·거버넌스·투명성
통제 가능성은 챗봇의 동작을 조정하거나 필요할 때 사람이 응대를 이어받을 수 있는지를 뜻한다. 글은 피드백을 기록하고 상담원에게 이관하는 방식, 특정 기능이나 챗봇 동작을 중단하는 방식을 예로 든다. 진실성 및 견고성 차원에서는 유사도 기준으로 검색 근거를 선별하고 문서 버전과 검증 규칙을 관리해 답변이 지원 자료에서 벗어날 가능성을 줄인다. 거버넌스는 상호작용의 감사 기록과 보존 정책, 모델 버전 추적을 통해 나중에 챗봇의 응답을 검토할 수 있도록 하는 데 초점을 둔다. 투명성은 고객이 AI와 대화 중임을 알리고 데이터 출처와 개인정보 처리 방식을 설명하는 데 있으며, AWS는 차원별로 열거한 구현 방식이 사용 사례에 따라 달라질 수 있다고 밝힌다.
4. 관리형 RAG와 맞춤형 기록 설계를 가르는 기준
Amazon Bedrock Knowledge Bases는 검색 증강 생성과 출처 인용을 기본으로 제공하므로, 기본 검색 방식과 인용 표시가 요구에 맞으면 이 서비스를 사용하는 편이 간단하다. AWS가 맞춤형 설계를 제시하는 경우는 조직이 답변의 근거를 자체 데이터베이스 스키마에 보관해야 할 때다. 예를 들어 지원팀이 고객에게 표시된 출처를 검토할 때, 검색 당시 반환된 다른 문서 조각과 각 유사도 점수, Guardrails 검사 기록까지 함께 살펴봐야 할 수 있다. 이 경우 어떤 자료를 찾아냈고 모델이 그중 무엇을 인용했는지를 별도 항목으로 기록하면 SQL로 두 기록을 대조할 수 있다. 조직이 근거 기록을 얼마 동안 보관할지 자체 정책으로 정할 수 있다는 점도 선택 기준에 포함된다.
5. 문서 수집과 1,024차원 임베딩
수집 단계에서는 과거 지원 티켓, 자주 묻는 질문, 제품 문서의 개인 식별 정보를 먼저 가린 뒤, 검색에 사용할 텍스트를 벡터로 변환한다. Aurora ML은 SQL에서 Amazon SageMaker 엔드포인트와 Amazon Bedrock 기반 모델을 호출하는 기능을 제공한다. 이 설계는 그중 Amazon Bedrock 연동을 사용해 별도의 데이터 이동이나 맞춤형 ETL 파이프라인 없이 데이터베이스 계층에서 임베딩을 생성한다. 문서를 적재할 때 Amazon Titan Text Embeddings V2가 1,024차원 벡터를 만들고, pgvector가 이를 저장한다. 이에 따라 Aurora PostgreSQL은 구조화된 고객 정보를 보관하는 관계형 저장소이면서, 나중에 들어온 질문과 의미가 가까운 문서를 찾는 벡터 데이터베이스 역할도 맡는다.
6. 테넌트별 검색과 답변 근거 검사
자연어 질문이 HTTPS를 통해 Amazon API Gateway에 도착하면 AWS Lambda가 요청을 처리한다. 질문과 문서의 벡터를 비교하려면 같은 임베딩 모델을 사용해야 하므로, 질문에도 문서 적재 때 사용한 Amazon Titan Text Embeddings V2를 적용한다. Aurora PostgreSQL은 pgvector의 코사인 거리를 이용해 질문과 가까운 문서 조각을 유사도 점수와 함께 반환하며, 행 수준 보안은 검색 결과를 현재 테넌트가 조회할 수 있는 자료로 제한한다. Lambda는 검색된 조각의 출처를 구분해 Amazon Bedrock에 전달하고, Guardrails는 입력에서 개인 식별 정보와 금지 주제 등을 검사한다. 모델이 답변을 생성하면 문맥 근거 검사가 해당 답변을 검색 자료가 뒷받침하는지 평가하고, 사용자는 출처 인용이 포함된 답변을 받는다.
7. 한 답변을 추적하는 기록과 장기 보존
Lambda는 chat_interactions 테이블에 사용자의 질문, 검색된 문서 조각의 ID와 유사도 점수, 답변이 실제로 인용한 출처를 함께 기록한다. 같은 상호작용에 Guardrails 검사 기록과 모델 ID를 남기므로, 지원팀은 특정 답변을 검토할 때 당시 검색 결과와 검사 내용, 응답에 사용된 모델을 연결해 볼 수 있다. 고객이 보는 인용만으로는 검색됐지만 답변에 표시되지 않은 자료를 알기 어렵기 때문에, 검색과 인용을 구분하는 것이 이 기록 설계에서 중요하다. 보존과 모니터링은 개별 요청 처리와 분리하며, pg_cron은 오래된 상호작용 기록을 Amazon S3에 보관하는 작업을 맡는다. Lambda는 로그와 지표를 Amazon CloudWatch로 보내고, AWS CloudTrail은 감사를 위해 API 활동을 기록한다.
8. 데이터베이스 전제 조건과 상세 설계의 시작점
데이터베이스에는 벡터 연산을 위한 pgvector, Aurora ML 연동을 위한 aws_ml, 보존 기록을 Amazon S3로 내보내기 위한 aws_s3 확장과 각 서비스에 접근할 IAM 권한이 필요하다. HNSW 인덱스와 반복 인덱스 스캔은 비교적 새로운 pgvector 버전을 요구하며, Aurora ML과 Amazon Bedrock 모델 지원도 별도로 갱신되므로 AWS는 현재 문서에서 지원 조건을 확인하도록 안내한다. 임베딩에는 Amazon Titan Text Embeddings V2를, 답변 생성에는 Bedrock Converse API를 지원하는 모델을 사용하고, Guardrails에서는 문맥 근거 검사 정책을 활성화해야 한다. 감사와 예약 작업을 위해 기존 사전 로드 라이브러리를 유지하면서 pgaudit와 pg_cron을 추가하는 설정에는 클러스터 재시작이 필요하다. 제공된 본문은 이런 전제 조건을 설명한 뒤 고객 데이터, 채팅 세션, 상호작용, 피드백을 담을 핵심 테이블을 소개하는 대목에서 끝난다.
🧾 핵심 주장 / 시사점
- 고객에게 표시되는 인용은 최종 답변의 근거를 알려준다. 지원팀이 검색 품질까지 검토하려면 인용되지 않은 검색 결과와 그 유사도 점수도 함께 볼 수 있어야 한다.
- 임베딩 전 PII 가림 처리는 검색용 문서에 어떤 정보가 들어갈지를 결정하고, 행 수준 보안은 개별 요청이 어떤 문서를 조회할 수 있는지를 결정한다. 두 통제는 서로 다른 시점에 작동한다.
- 유사도 점수는 문서 조각이 질문과 얼마나 가까운지를 나타낸다. 생성된 답변의 내용이 그 조각으로 뒷받침되는지는 별도의 문맥 근거 검사에서 평가한다.
✅ 액션 아이템
- Amazon Bedrock Knowledge Bases의 기본 검색·인용 기능이 요구를 충족하는지, 자체 스키마와 보존 정책이 필요한지 판단한다.
- 문서와 질문에 같은 Amazon Titan Text Embeddings V2를 적용해 비교 가능한 1,024차원 벡터를 생성하는지 확인한다.
- chat_interactions에서 검색된 문서 조각과 실제 인용 출처를 구분하고, 유사도 점수와 Guardrails 검사 기록을 함께 조회할 수 있는지 검토한다.
❓ 열린 질문
- 어떤 고객 지원 사례에서 Amazon Bedrock Knowledge Bases의 기본 인용 기능만으로 충분한가?
- 행 수준 보안(RLS)이 제한한 검색 결과 안에서 Amazon Bedrock Guardrails는 답변의 근거를 어떻게 평가하는가?
- 지원팀은 chat_interactions의 유사도 점수와 실제 인용 출처를 대조해 개별 답변의 근거를 어디까지 설명할 수 있는가?