AWS vector solutions: Build agentic AI where your data lives

🖼️ 인포그래픽

🖼️ 4컷 인포그래픽

💡 한 줄 요약

AWS 벡터 솔루션은 벡터 검색을 기존 데이터가 있는 저장소에 직접 추가하고, 새 워크로드에는 지연 시간·비용·접근 패턴에 맞는 엔진을 선택해 에이전트형 AI가 조직 지식을 정확하고 맥락 있게 활용하도록 지원한다.

📌 핵심 요약

• 벡터 검색은 에이전트형 AI가 데이터베이스, 객체 저장소, 검색 엔진, PDF, 영상 통화 기록 등에 분산된 조직 지식을 빠르게 찾아 정확하고 근거 있는 응답과 작업을 수행하게 하는 검색 계층이다.
• 벡터는 텍스트·이미지·오디오·비디오를 고차원 공간에 표현해 의미와 관계를 비교하며, RAG, 의미 검색, 하이브리드 검색, GraphRAG, 추천, 이상 탐지, 멀티모달 콘텐츠 검색에 활용된다.
• AWS의 우선 원칙은 데이터를 이동하거나 복제하지 않고 기존 저장소에 벡터 검색을 추가하는 것으로, 교차 서비스 호출과 동기화 부담을 줄이고 기존 성능·운영 경험·투자를 활용한다.
• 새 워크로드에는 검색·확장성·에이전트형 AI 통합의 균형을 제공하는 Amazon OpenSearch Service가 기본 선택지이며, 다중 신호 검색, 수십억 개 규모의 벡터, 초당 수천 건의 질의를 지원한다.
• Amazon S3 Vectors는 약 100밀리초 이상의 지연 시간이 허용되는 대규모·비정기 조회에 비용 효율적이고, Amazon DynamoDB는 한 자릿수 밀리초 지연 시간과 99% 이상의 재현율이 필요한 운영 데이터 검색에 적합하다.

🧩 주요 포인트

1. 벡터가 원본 데이터와 같은 저장소에 머무르면 별도 시스템 도입, 데이터 복제, 동기화, 새로운 API 학습을 줄일 수 있어 검색 성능과 운영 효율을 함께 높인다.
2. Amazon OpenSearch Service는 균형 잡힌 범용 검색, Amazon S3 Vectors는 저비용 대규모 저장과 비정기 조회, Amazon DynamoDB는 초저지연 운영 검색에 초점을 두므로 선택 기준은 워크로드의 지배적 제약이다.
3. 벡터 검색과 기존 저장소의 네이티브 질의 기능을 결합하면 에이전트가 조직 지식, 세션 맥락, 장기 기억을 같은 데이터 기반에서 검색하고 활용할 수 있다.

🧠 상세 정리

1. 에이전트형 AI와 검색 계층의 역할

에이전트형 AI는 여러 단계에 걸쳐 계획하고 추론하며 행동하기 때문에 조직 지식에 빠르고 적절하게 접근할 수 있어야 한다. 벡터 검색은 에이전트가 실제 데이터를 근거로 정확하고 맥락에 맞는 결과를 생성하도록 지원하는 검색 계층이다. 조직의 지식은 데이터베이스나 객체 저장소뿐 아니라 검색 엔진, PDF, 녹화된 영상 통화, 업무 시스템 등 다양한 위치와 형식에 분산되어 있다. AWS 벡터 솔루션의 접근은 이 데이터를 별도 장소로 이동하거나 중복 저장하기보다 현재 위치에서 지능형 검색과 검색 결과 활용이 가능하도록 만드는 것이다. 기존 저장소가 적용되지 않는 새 워크로드에는 여섯 가지 목적별 솔루션을 대상으로 요구 사항에 맞는 엔진을 선택하는 결정 모델을 제시한다.

2. 벡터가 조직 지식을 연결하는 방식

벡터는 모델과 수십 년 동안 축적된 분산 조직 지식을 연결하는 공통 표현으로 설명된다. 데이터가 고차원 벡터로 변환되면 애플리케이션은 단순한 문자열 일치를 넘어 의미와 데이터 사이의 관계를 파악할 수 있다. 텍스트, 이미지, 오디오, 비디오는 서로 다른 형식이지만 벡터를 이용하면 공유된 수학적 공간에서 비교하고 검색할 수 있다. 이 표현은 제품 설명, 보안 로그, 미디어 자료처럼 성격이 다른 데이터에도 적용되며 세션을 넘나드는 맥락 유지에도 사용된다. 결과적으로 벡터는 지능형이고 맥락을 인식하며 개인화된 사용자별 경험을 구성하는 기반이 된다.

3. 검색 방식과 에이전트형 AI 활용 사례

RAG와 지식 기반은 실행 시점에 신뢰할 수 있는 데이터를 검색해 모델 응답을 근거화하고, 정확도를 높이며 환각을 줄이고 조직 지식에 맞는 답변을 생성한다. 의미 검색은 정확히 같은 키워드가 없어도 사용자의 의미와 의도에 따라 관련 정보를 찾고, 하이브리드 검색은 어휘 기반 검색과 의미 검색을 결합해 구조화·비구조화 데이터를 폭넓게 다룬다. GraphRAG는 의미 검색과 지식 그래프를 결합해 여러 단계의 추론이 필요한 기업 환경에서 맥락이 풍부하고 추적 가능한 응답을 지원한다. 벡터 유사도는 사용자 관심과 맞는 상품이나 콘텐츠를 찾는 실시간 추천, 고차원 데이터에서 비정상 패턴을 찾는 이상·사기 탐지에도 적용된다. 또한 하나의 의미 기반 질의로 텍스트, 이미지, 오디오, 비디오를 함께 찾는 멀티모달 콘텐츠 탐색이 가능하다.

4. 데이터가 있는 곳에 벡터를 추가하는 원칙

AWS가 제시하는 첫 번째 원칙은 기존 AWS 데이터 저장소가 있다면 그 저장소에 벡터 검색을 추가하고, 설득력 있는 이유가 없으면 별도 서비스를 도입하지 않는 것이다. 벡터와 원본 데이터를 같은 위치에 두면 교차 서비스 호출을 제거하고 벡터 검색을 저장소 고유의 질의 기능과 결합할 수 있다. 기존 프로그래밍 도구, API, SDK를 계속 사용할 수 있으므로 새로운 기술을 익히는 부담도 줄어든다. 이미 운영 환경에서 확장성, 가용성, 성능이 검증된 데이터베이스의 특성을 벡터 검색에서도 이어갈 수 있으며 데이터 이동이나 동기화가 없어 애플리케이션 속도와 비용 측면에서도 유리하다. 따라서 Amazon OpenSearch Service, Amazon S3, Amazon Aurora PostgreSQL, Amazon DynamoDB, Amazon ElastiCache for Valkey, Amazon Neptune에 데이터가 있다면 검색 솔루션이 데이터를 따라가야 한다.

5. 새 워크로드를 위한 선택 기준

기존 저장소를 전제로 할 수 없는 새 워크로드에서는 지연 시간, 비용, 접근 패턴 가운데 무엇이 가장 중요한 요구 사항인지 먼저 식별해야 한다. 하나의 지배적인 요구가 없는 다수의 워크로드는 검색 기능, 확장성, 에이전트형 AI 통합 사이의 균형을 필요로 한다. 이 경우 Amazon OpenSearch Service가 기본값으로 제시되며 어휘 검색, 벡터 검색, 하이브리드 검색, 에이전트형 검색을 하나의 시스템에서 제공한다. 반면 대규모 벡터의 비정기 조회와 비용이 핵심이면 Amazon S3 Vectors가, 운영 데이터에 대한 한 자릿수 밀리초 검색이 핵심이면 Amazon DynamoDB가 더 적합하다. 즉 제품 이름보다 워크로드의 데이터 위치와 지배적 제약이 엔진 선택을 결정한다.

6. Amazon OpenSearch Service의 범용 검색 역량

Amazon OpenSearch Service는 높은 처리량과 낮은 지연 시간으로 어휘·벡터·하이브리드 검색을 결합하는 관리형 검색 엔진이다. 여러 인덱싱 전략, 벡터 양자화, 메타데이터 필터링을 지원해 단순한 RAG부터 복잡한 다중 신호 검색까지 확장할 수 있으며, 기계 학습 기반 자동 최적화가 적절한 설정을 선택해 수동 조정 부담을 줄인다. GPU 가속은 대규모 데이터셋의 인덱싱을 최대 10배 빠르게 수행하면서 비용을 4분의 1 수준으로 낮추고, UltraWarm과 Writable Warm 계층은 접근 빈도가 낮은 데이터의 저장 비용을 줄인다. 이 서비스는 수십억 개 규모의 벡터와 초당 수천 건의 질의를 처리하며 RAG, 이상 탐지, 멀티모달 콘텐츠 탐색, 하이브리드 검색을 포괄한다. 차세대 Amazon OpenSearch Serverless는 이전 세대보다 20배 빠르게 자동 확장하고 유휴 상태에서는 0까지 축소해 최대 60%의 비용 절감을 제공하며, Adobe는 이를 활용해 Acrobat AI Assistant를 수억 명의 사용자 규모로 확장했다.

7. Amazon S3 Vectors의 대규모 비용 최적화

Amazon S3 Vectors는 벡터의 저장과 질의를 네이티브로 지원하는 Amazon S3 기능으로, 객체 저장소의 비용 구조와 확장성, 단순성을 벡터 검색에 적용한다. 특화 벡터 데이터베이스와 비교해 벡터 업로드·저장·질의 비용을 최대 90% 줄일 수 있으며, 관리해야 할 인프라 없이 수십억 개 규모의 벡터 인덱스를 구축할 수 있다. 일반 제공 이후 하루 평균 수천만 건의 질의가 실행되었고, 미리 보기 기간보다 사용량이 5배 이상 증가했다. 질의당 검색 결과는 최대 1만 개로 100배 확대되어 재순위화, 집계, 중복 제거가 포함된 다단계 검색에 활용할 수 있으며, 1천만 개가 넘는 벡터 인덱스의 질의 요금은 최대 80% 인하됐다. 인덱스 하나당 최대 20억 개의 벡터를 지원하므로 약 100밀리초 이상의 지연 시간이 허용되는 대규모·비정기 조회, 데이터 레이크 의미 검색, RAG 지식 검색, 일괄 검색에 적합하다.

8. Amazon DynamoDB의 초저지연 벡터 검색

Amazon DynamoDB 벡터 검색은 서버리스 분산형 NoSQL 데이터베이스에서 규모와 관계없이 한 자릿수 밀리초 지연 시간과 99% 이상의 재현율을 제공하도록 설계됐다. 서버 프로비저닝, 패치, 소프트웨어 설치, 유지보수 기간이나 유지보수 중단 없이 벡터 검색을 운영할 수 있으며, 벡터 임베딩이 저장된 속성에 새로운 인덱스를 생성하는 방식으로 적용된다. 최대 4,096차원과 유클리드 거리, 코사인 거리, 내적 거리 함수를 지원하고 인라인 필터링과 DynamoDB 글로벌 테이블도 사용할 수 있다. 기존에는 대화 중 세션 맥락을 저장하고 여러 단계 작업의 상태를 추적하는 데 활용됐으며, 벡터 검색을 통해 에이전트형 애플리케이션의 장기 기억을 위한 의미 검색까지 같은 데이터베이스에서 처리할 수 있다. 운영 데이터가 이미 DynamoDB에 있거나 별도 벡터 저장소와 데이터 동기화 없이 초저지연 RAG, 멀티모달 유사도 검색, 추천 기능이 필요한 경우에 적합하다.

🧾 핵심 주장 / 시사점

• 벡터 검색 도입의 핵심 판단은 가장 강력한 전용 엔진을 찾는 것이 아니라 데이터 이동과 중복을 피하면서 현재 저장소의 운영 특성을 유지할 수 있는지를 확인하는 데 있다.
• 범용 균형, 비용 효율, 초저지연이라는 서로 다른 최적화 축이 제시되므로 모든 벡터 워크로드를 하나의 저장소로 통합하기보다 데이터 위치와 접근 특성에 맞춰 선택하는 구조가 중요하다.
• 에이전트의 정확성과 맥락성은 모델만이 아니라 실행 시점에 조직 지식을 검색하는 계층에 달려 있으며, 벡터와 네이티브 질의를 함께 활용할수록 검색 가능한 관계와 작업 범위가 넓어진다.

✅ 액션 아이템

• 기존 데이터가 있는 경우 Amazon OpenSearch Service 등 현재 저장소에 벡터 검색을 직접 추가하는 방안을 우선 검토.
• 새 워크로드에는 Amazon OpenSearch Service를 기본 후보로 두고 지연 시간·비용·접근 패턴의 우선순위를 비교.
• 약 100밀리초 이상의 지연 시간이 허용되는 대규모·비정기 조회에는 Amazon S3 Vectors를, 한 자릿수 밀리초가 필요한 운영 검색에는 Amazon DynamoDB를 후보로 평가.

❓ 열린 질문

• 새 워크로드에서 Amazon OpenSearch Service를 기본값으로 선택할 만큼 검색·확장성·에이전트형 AI 통합 사이의 균형이 중요한가?
• 대규모 벡터 데이터의 비정기 조회에서 Amazon S3 Vectors의 약 100밀리초 이상 지연 시간이 허용되는가?
• Amazon DynamoDB의 한 자릿수 밀리초 벡터 검색이 필요한 운영 데이터가 이미 DynamoDB에 있는가?