RAG·CAG·KAG를 세대 순서로 알고 계신 분, 그거 틀렸습니다
Quick Summary
RAG·CAG·KAG를 세대 순서로 이해하면 선택 기준을 놓친다. RAG는 필요한 근거를 찾고, CAG는 안정적인 지식의 계산 결과를 재사용하며, KAG는 관계와 규칙을 따라 답을 구한다.
영상 보기
클릭 전까지는 가벼운 미리보기만 먼저 불러옵니다.
🖼️ 인포그래픽

🖼️ 4컷 인포그래픽

💡 한 줄 결론
RAG·CAG·KAG를 세대 순서로 이해하면 선택 기준을 놓친다. RAG는 필요한 근거를 찾고, CAG는 안정적인 지식의 계산 결과를 재사용하며, KAG는 관계와 규칙을 따라 답을 구한다.
📌 핵심 요점
- RAG는 문서가 많고 자주 바뀔 때 질문에 필요한 부분만 가져온다. 개정 전 규정도 질문과 의미가 비슷해 검색될 수 있으므로, 정답 문서가 상위에 있는지와 최종 답의 주장이 그 문서로 뒷받침되는지를 각각 확인해야 한다.
- CAG는 문맥 창에 들어가는 문서를 미리 읽고 그때 계산한 KV 캐시를 재사용한다. 같은 자료를 자주 묻는 업무에 유리하며, 질문 간격이 길거나 문서가 자주 바뀌면 캐시를 다시 만드는 비용이 커진다.
- KAG는 공급업체에서 부품과 계약을 거쳐 담당자를 찾는 식의 질문에 적합하다. 지식 그래프로 관계를 따라가고 원문에서 근거를 확인할 수 있지만, 관계 하나를 잘못 기록하면 이후 추론도 잘못될 수 있다.
- 선택할 때는 지식의 크기와 변경 빈도, 질문에 필요한 관계, 그 관계가 이미 저장된 곳을 차례로 살핀다. 계약과 담당자가 업무 데이터베이스에 연결돼 있다면 SQL이나 업무 API로 답을 구할 수 있는지 먼저 확인한다.
- 한 시스템에서도 질문에 따라 방식을 조합할 수 있다. 자주 묻는 핵심 문서는 캐시에 두고, 수시로 늘어나는 문서는 검색하며, 여러 관계를 따라야 하는 질문에는 그래프를 활용한다.
🧩 배경과 문제 정의
회사 규정 수만 건에서 최신 조항을 찾는 일, 같은 안내서를 두고 반복되는 문의에 답하는 일, 계약 만료 조건을 따져 담당자를 찾는 일은 모두 질의응답처럼 보인다. 하지만 첫 번째 업무는 검색 품질에, 두 번째는 같은 자료를 읽는 계산의 재사용에, 세 번째는 기록 사이의 연결과 규칙에 성패가 달려 있다. 영상은 원 논문 세 편을 바탕으로 각 방식이 유리한 조건과 운영 중 실패하는 지점을 살핀다.
🕒 시간순 섹션별 상세정리
1. 세 약어가 가리키는 문제
- RAG를 기본형, CAG를 개선형, KAG를 고급형으로 이해하는 통념을 소개하고, 세 방식이 각각 외부 지식 검색, 계산 재사용, 관계 추론을 다룬다고 보여준다. [00:33]
- 비교의 기준으로 각 논문이 풀려는 문제, 방식이 실패하는 조건, 실무에서 선택할 순서를 제시한다. [00:48]
2. RAG에서 검색과 답변을 따로 평가하는 이유
- 질문에 필요한 문서 조각만 가져오면 답에 출처를 붙일 수 있고, 문서가 바뀌면 인덱스를 갱신해 반영할 수 있다. [01:47]
- 표가 둘로 잘리거나, 질문과 문서의 용어가 다르거나, 같은 규정의 옛 버전이 검색되면 관련 있어 보이는 결과에서도 필요한 근거를 놓친다. [02:20]
- 정답 문서가 상위에 들어왔는지 먼저 측정하고, 답의 모든 주장이 실제로 가져온 문서 조각에 근거하는지 따로 평가한다. [02:48]
3. CAG의 이점이 유지되는 조건
- 문서 전체가 문맥 창에 들어가면 미리 읽을 때 만든 KV 캐시를 저장하고 질문 부분만 새로 계산할 수 있다. [03:23]
- 영상에 따르면 CAG 논문은 SQuAD와 HotpotQA의 제한된 지식 범위에서 RAG와 비슷하거나 더 나은 결과를 보고했다. [03:37]
- 긴 문맥의 가운데 놓인 정보를 놓칠 수 있다. 질문 사이에 캐시가 만료되거나 문서 수정으로 캐시 일부를 다시 만들어야 하므로, 작고 안정적인 자료를 자주 묻는 업무가 유리하다. [04:44]
4. KAG가 관계와 원문을 연결하는 방식
- 계약이 만료된 부품의 담당자를 찾으려면 공급업체·부품·계약·담당자의 관계를 따라가면서 날짜 조건도 적용해야 한다. [05:27]
- KAG는 엔티티와 관계를 그래프로 표현하고, 그래프 노드와 원문을 양방향으로 연결해 각 단계의 근거를 찾아볼 수 있게 한다. [06:04]
- 영상은 KAG 논문이 멀티홉 질의응답에서 기존 방법 대비 F1의 상대 상승률을 2Wiki 19.6%, HotpotQA 33.5%로 보고했다고 보여준다. [06:29]
5. 업무에 맞는 방식과 투자 범위
- 세 방식의 대표적인 실패는 RAG가 엉뚱한 조각을 가져오는 경우, CAG가 문맥 속 정보를 놓치거나 오래된 캐시를 쓰는 경우, KAG가 잘못 기록된 관계를 따라가는 경우다. [07:29]
- 전체 지식이 문맥 창에 들어가는지와 질문이 여러 관계를 요구하는지 확인한다. 필요한 관계가 업무 데이터베이스에 있다면 SQL이나 업무 API로 직접 조회하는 방법도 검토한다. [08:16]
- 검증할 지점을 정한 뒤 추가 정확도가 유지 인력을 들일 만큼 큰지 따져 본다. 멀티홉 질문이 드문 업무에서는 관련 벤치마크의 상승폭을 그대로 기대하기 어렵다. [09:00]
6. 질문별 조합과 운영의 기준
- 자주 묻는 핵심 문서는 캐시에 두고, 나머지는 검색하며, 관계 질문만 그래프로 보내는 조합을 제시한다. [09:25]
- 운영에서는 지식이 낡고 데이터가 충돌하며 권한도 바뀐다. 지식을 가져오는 방식, 근거 검증, 업무 규칙 적용, 실패 처리가 함께 필요한 이유다. [10:05]
- 마지막으로 지식의 크기, 질문의 형태, 기존 관계의 위치, 검증 지점, 비용 순으로 선택 기준을 되짚고 시청자에게 자기 회사의 질문이 어느 유형에 가까운지 묻는다. [11:06]
🧾 결론
- 대표 질문 하나를 골라 답에 필요한 근거를 짚어 보면, 문서 한 곳을 찾는 것으로 충분한지 여러 기록을 연결해야 하는지 드러난다.
- 검증 지점은 오류가 생기는 곳에 둔다. RAG에서는 문서 버전과 답변 근거를, CAG에서는 캐시의 최신성을, KAG에서는 추론에 쓰인 관계를 확인한다.
- 업무 시스템에 연결할 때는 근거 확인과 함께 업무 규칙을 어디서 적용하고 실패한 요청을 어떻게 처리할지도 설계해야 한다. 에이전트가 여러 도구를 사용할수록 잘못된 지식의 영향이 후속 작업까지 퍼질 수 있다.
📈 투자·시사 포인트
- 검색 시스템 예산에는 문서 분할, 검색 순위 조정, 개정 문서 관리, 답변 검증을 포함필요가 있다. 벡터 데이터베이스를 연결한 데모만으로는 이 운영 부담을 가늠하기 어렵다.
- 캐싱의 경제성은 실제 질문 간격에 달려 있다. 평가할 때는 캐시를 읽을 때의 단가와 함께, 만료나 문서 수정으로 다시 쓰는 횟수도 계산해야 한다.
- 지식 그래프에 투자할 때는 실제 문의 중 여러 관계를 따라야 하는 질문의 비중을 확인해야 한다. 그 질문에서 얻는 정확도 개선을 그래프 구축·유지 인력과 비교해야 투자 효과를 판단할 수 있다.
⚠️ 불확실하거나 확인이 필요한 부분
- 영상에 따르면 CAG 논문은 SQuAD와 HotpotQA에서 지식 범위가 제한된 조건일 때 RAG와 비슷하거나 더 나은 결과를 보고했다. 문서 전체가 문맥 창에 들어가더라도 모델이 중간에 놓인 근거를 제대로 활용하는지는 별도로 확인해야 한다.
- 영상이 인용한 KAG 논문의 F1 개선폭은 2Wiki에서 19.6%, HotpotQA에서 33.5%로, 모두 기존 방법 대비 상대 상승률이다. 두 데이터셋은 여러 단계의 추론이 필요한 질문을 모았으므로 사내 문의에서의 개선폭은 별도 측정이 필요하다.
- 영상의 캐시 읽기 단가와 기본 유지 시간은 특정 제공자의 사례다. 실제 비용을 추정하려면 적용할 서비스의 요금과 만료 조건, 업무 시간대별 캐시 적중률을 확인해야 한다.
- 자막 기반 정리: 타임스탬프가 있는 자막을 기준으로 정리했으며, 고유명사·수치·인용은 원문 확인 필요 시 별도 검증한다.
- 영상 속 주장: 발표자의 해석·전망·비교는 확인된 외부 사실이 아니라 영상 속 주장으로 분리해 읽는다.
- 검증 필요: 수치, 기업 실적, 정책·시장 전망은 발행 전 최신 자료로 별도 검증이 필요하다.
✅ 액션 아이템
- 실제 문의에서 문서 하나로 답할 수 있는 질문과 여러 기록을 연결해야 하는 질문을 골라, 각각의 정답과 원문 근거를 기록한다.
- RAG 평가에서 최신 정답 문서가 검색 상위에 들어온 비율과 최종 답의 각 주장이 해당 문서로 뒷받침되는 비율을 따로 측정한다.
- CAG 후보 문서의 전체 길이와 수정 빈도를 확인하고, 실제 질문 간격으로 캐시 적중률·응답 시간·재생성 비용을 측정한다.
- 관계형 질문 하나를 기존 업무 데이터베이스나 API로 풀어 본다. 그래프를 추가했을 때 더 풀리는 질문과 새로 관리해야 할 관계를 함께 기록한다.
❓ 열린 질문
- 고객이 자주 묻는 질문 가운데 여러 문서가 필요한 경우는 얼마나 되며, 그중 실제로 날짜 조건이나 엔티티 간 관계가 답을 결정하는 경우는 얼마나 될까?
- 최신 규정과 이전 규정이 함께 검색되거나 그래프의 관계가 원문과 충돌하면, 어느 단계에서 답변이나 후속 작업을 멈춰야 할까?
- 정확도가 얼마나 개선돼야 캐시 갱신이나 그래프 유지에 들어가는 추가 비용과 인력을 감당할 만할까?