The generative AI customization spectrum: From prompt engineering to custom models on AWS

🖼️ 인포그래픽

🖼️ 4컷 인포그래픽

💡 한 줄 요약

AWS는 생성형 AI 맞춤화를 기존 모델 사용부터 자체 모델 학습까지 8단계로 나누고, 정확도·지연 시간·도메인 요구를 충족하지 못할 때만 더 복잡한 단계로 이동할 것을 제안한다.

📌 핵심 요약

• AWS의 8단계 프레임워크는 USE(기존 모델 사용·프롬프트 개선), ENHANCE(RAG·프롬프트 캐싱·모델 증류), TRAIN(미세 조정·지속 사전학습·자체 모델 학습)으로 구성되며, 원문은 대부분의 워크로드가 3단계를 넘을 필요가 없다고 설명한다.
• Amazon Bedrock에서 기존 모델을 먼저 사용하고, 출력 형식·어조·추론 지침을 프롬프트로 조정한다. 원문은 프롬프트가 약 2,000토큰을 넘거나 도메인 사실에 대한 환각이 지속되거나 모델에 없는 지식이 필요할 때 다음 단계를 검토하도록 제안한다.
• RAG는 Amazon Bedrock Knowledge Bases를 통해 비공개·빈번히 갱신되는·도메인 특화 데이터를 추론 시점에 제공한다. 검색 지연, 컨텍스트 창 초과, 검색 내용에 대한 추론 실패가 다음 단계 검토 신호이며, 프롬프트 캐싱은 반복되는 공통 컨텍스트의 계산 비용과 지연을 줄인다.
• 모델 증류는 검증된 대형 교사 모델의 출력을 소형 학생 모델이 모방하도록 학습하는 방식이다. 원문이 인용한 2025년 5월 Amazon Bedrock Model Distillation 정식 출시 발표는 최대 500% 더 빠른 속도, 최대 75% 비용 절감, 2% 미만의 정확도 손실을 제시한다.
• 미세 조정은 수천 개의 라벨링된 예제로 모델의 행동·스타일·도메인 정확도를 조정하며, RFT는 정답 예시 대신 출력을 평가하는 보상 신호로 학습한다. 지속 사전학습과 Amazon Nova Forge를 통한 자체 모델 학습은 개요에만 소개되고, 제공된 본문은 6단계의 RFT 설명 도중 끝난다.

🧩 주요 포인트

1. 단계가 높아질수록 비용·노력·데이터 요구와 통제력이 함께 증가하므로, 정확도·지연 시간·도메인 요구의 실제 미충족 여부가 투자 확대의 기준이 된다.
2. 프롬프트는 지시 방식, RAG는 외부 지식 접근, 캐싱·모델 증류는 비용과 속도, 미세 조정은 학습된 행동을 다루므로 문제 유형에 맞춰 접근법을 선택해야 한다.
3. 모델 증류의 성능 수치는 특정 발표에서 제시한 범위이고 본문도 RFT에서 중단되므로, 해당 수치의 개별 워크로드 적용 여부와 후반 학습 단계의 세부 조건은 이 자료만으로 확정할 수 없다.

🧠 상세 정리

1. 1. 과잉 투자와 부족한 맞춤화를 피하는 8단계 원칙

AWS는 Amazon Bedrock을 통해 Anthropic, Meta, Mistral, Amazon의 기반 모델에 접근할 수 있지만, 모델을 사용할 수 있다는 사실만으로 특정 업무에 맞는 활용법까지 정해지는 것은 아니라고 설명한다. 잘 구성한 프롬프트로 해결할 문제에 곧바로 미세 조정을 적용하거나, 도메인 학습 데이터가 필요한 문제를 프롬프트 수정만으로 해결하려 하면 계산 비용과 출시 지연이 발생하고 결과에 대한 신뢰도 떨어질 수 있다. 이를 피하기 위한 8단계 스펙트럼은 기존 모델 활용과 프롬프트 개선을 USE, RAG·캐싱·증류를 ENHANCE, 미세 조정·지속 사전학습·자체 모델 학습을 TRAIN으로 구분한다. 단계가 올라갈수록 노력·비용·데이터 요구뿐 아니라 통제력과 도메인 특화 정도도 커지므로, 1단계에서 시작해 정확도·지연 시간·도메인 요구를 충족하지 못할 때만 이동하는 것이 핵심이다. 원문은 대부분의 워크로드가 3단계를 넘을 필요가 없다고 주장하며, 요리사에게 주문을 더 명확히 전달하는 일과 장기간 요리 교육을 받게 하는 일의 차이로 투자 수준을 비유한다.

2. 2. 기존 모델을 그대로 사용하며 출발하기

1단계는 Amazon Bedrock의 단일 API를 통해 Claude, Amazon Nova, Llama, Mistral 등의 기반 모델을 별도 맞춤화 없이 직접 호출하는 방식이다. 원문은 일반적인 요약, 번역, 아이디어 발상, 코드 생성처럼 기본 모델의 정확도로 충분한 작업에 이 접근법을 권하며, 별도의 학습 데이터나 맞춤화 설정이 필요하지 않다고 설명한다. 사용할 수 있는 모델은 AWS 리전에 따라 확인해야 하므로, 모델 선택에는 원문이 안내하는 리전별 지원 모델 정보도 관련된다. 출력이 지나치게 일반적이거나 요구한 형식과 다르거나 도메인의 관례를 따르지 않는 경우에는 프롬프트 개선 단계로 넘어갈 신호가 된다. 사례로 제시된 Dovetail은 모델 맞춤화 없이 Amazon Bedrock을 활용해 하루 안에 프로토타입을 만들고 2주 만에 새로운 생성형 AI 기능을 출시했다.

3. 3. 프롬프트와 문맥 내 학습으로 지시를 구체화하기

2단계는 모델 가중치를 바꾸지 않고 시스템 프롬프트, 소수의 예시, 단계적 추론 지침을 통해 모델에 요구하는 행동을 명확히 하는 접근법이다. 모델이 필요한 지식을 이미 갖고 있지만 형식·어조·추론 경로를 안내해야 할 때 적합하며, 원문은 다수의 사용 사례에서 이 방식이 효과적이라고 설명한다. 효과적인 프롬프트의 구성 요소로는 명확한 지시, 충분한 맥락, 구체적인 요구사항, 출력 형식, 품질 지표를 제시하고, 맥락을 무작정 늘리기보다 작업 복잡도에 맞춰 상세 수준을 조절하라고 권한다. 운영 환경에서 프롬프트가 수백 개로 늘어나면 프롬프트 평가로 정확도와 견고성을 측정하고, 프롬프트 최적화로 선택한 모델에 맞게 문구를 자동 개선할 수 있다. 프롬프트가 약 2,000토큰을 초과하거나 도메인 사실에 대한 환각이 계속되거나 모델에 없는 지식을 요구할 때가 다음 단계의 검토 신호로 제시되며, DoorDash의 사례는 Amazon Bedrock과 Anthropic Claude를 활용한 음성 셀프서비스 고객센터가 2개월 만에 실시간 테스트 준비를 마쳤다는 내용이다.

4. 4. RAG로 외부 지식에 근거한 답변 생성하기

3단계의 검색 증강 생성인 RAG는 추론 시점에 외부 지식을 제공해 모델이 조직의 데이터에 근거한 답변을 만들도록 하는 방식이다. Amazon Bedrock Knowledge Bases는 이를 위한 완전관리형 기능으로 소개되며, 모델을 다시 학습하지 않고 환각을 줄이는 데 목적이 있다. 내부 문서, 정책, 제품 카탈로그처럼 비공개이거나 자주 갱신되거나 특정 도메인에 속하는 데이터에 접근해야 할 때 적합하다. 다만 검색 지연이 요구 수준을 넘거나 컨텍스트 창이 넘치거나 검색한 내용을 모델이 올바르게 추론하지 못하면 현재 접근법의 한계를 검토해야 한다. Fractal Analytics는 Amazon Bedrock과 RAG로 상담원용 통합 지식 기반을 구축해 통화 처리 시간을 10~15% 줄이고 상담원 통화로 이어지지 않도록 처리하는 비율 30%, 월 20만 건 이상의 질의를 달성한 사례로 제시된다. EXL은 방대한 문서를 처리·평가하는 RAG 기반 가상 비서를 통해 보험 인수심사 비용을 80% 줄였다고 원문은 소개한다.

5. 5. 프롬프트 캐싱으로 반복 계산 줄이기

4단계는 시스템 지침, 소수의 예시, 대규모 컨텍스트처럼 자주 반복되는 프롬프트의 앞부분을 사전 처리하고 캐시해 동일한 계산을 되풀이하지 않도록 하는 방식이다. 원문은 이 접근법이 출력 품질을 바꾸지 않으면서 지연 시간과 비용을 줄인다고 설명하며, 공통 컨텍스트를 사용하는 대량의 반복 질의에 적합하다고 제시한다. 고객 지원 봇, 문서 질의응답, 동일한 시스템 프롬프트를 사용하는 코드 도우미가 대표적인 적용 대상으로 언급된다. 캐싱만으로 모델 크기와 비용 문제를 해결할 수 없고 같은 품질을 제공하는 더 작고 저렴한 모델이 필요하다면 모델 증류를 검토할 시점이 된다. 이 절의 사례인 inGenious.ai는 여러 대규모 언어 모델을 시험·검증하고 Amazon Nova를 활용해 이해력을 희생하지 않는 1초 미만의 응답과 챗봇 이해력 80% 개선을 달성했다고 소개되지만, 제시된 사례 설명만으로 그 성과를 캐싱의 직접 효과라고 단정할 수는 없다.

6. 6. 모델 증류로 검증된 품질을 더 작은 모델에 옮기기

5단계의 모델 증류는 대형 교사 모델의 지식을 소형 학생 모델로 전달해 특정 사용 사례에서 교사의 출력을 모방하도록 학습하는 방식이다. 대형 모델에서 품질을 이미 검증했지만 더 낮은 비용, 더 빠른 응답, 또는 엣지 배포가 필요할 때 적합하며, 요리사의 대표 메뉴 몇 가지를 다른 요리사에게 가르쳐 더 빠르고 저렴하게 제공하는 비유로 설명된다. 원문은 2025년 5월 Amazon Bedrock Model Distillation 정식 출시 발표를 인용해 학생 모델이 교사보다 최대 500% 더 빠르고 최대 75% 저렴하며 정확도 손실은 2% 미만이라고 제시한다. 이는 해당 발표가 제시한 성능 범위이므로 모든 작업에서 같은 결과를 보장한다는 의미로 확대해서는 안 되며, 증류 모델이 필요한 어조·형식·추론 스타일을 충족하지 못하면 직접적인 미세 조정을 검토하도록 안내한다. 원문은 증류를 가중치를 동결하는 ENHANCE 범주에 넣으면서도 학생 모델을 학습한다고 설명하므로, 범주의 설명과 개별 단계의 학습 설명 사이에는 구분이 필요하다. 이 절에 등장하는 Goodnotes 사례는 Ask Goodnotes의 확장성과 비용 효율을 높이기 위해 Amazon EKS의 자체 호스팅 모델에서 Amazon Bedrock의 Anthropic Claude로 전환했다는 내용이며, 구체적인 증류 수행 결과는 제시되지 않는다.

7. 7. 미세 조정으로 행동과 도메인 정확도 바꾸기

6단계의 미세 조정은 입력·출력 쌍으로 구성된 라벨링 데이터를 사용해 모델 가중치를 갱신하고 행동, 스타일, 도메인 정확도를 지속적으로 바꾸는 접근법이다. 원문은 비교적 작은 데이터셋을 위한 PEFT/LoRA와 포괄적인 갱신을 위한 전체 미세 조정을 선택지로 소개한다. 프롬프트 개선과 RAG 이후에도 어조·형식·작업별 추론이 요구에 맞지 않고, 원하는 행동을 보여주는 수천 개의 라벨링된 예제가 있을 때 적합하다고 설명한다. 반대로 모델이 도메인 용어나 개념 자체를 이해하지 못한다면 행동 조정만으로는 부족하며 기반 지식을 확장할 필요가 있다는 것이 다음 단계 검토 신호다. 사이버 보안 기업 Trellix는 Amazon Bedrock과 Anthropic Claude로 생성형 AI 보안 도구를 구축하고 보안 통합을 위해 모델을 미세 조정한 사례로 제시되며, 원문은 통합 건당 개발 시간을 40시간 이상 절감하고 새로운 보안 통합의 시장 출시 소요 시간을 90% 줄였다고 설명한다.

8. 8. RFT의 보상 기반 학습과 제공된 본문의 범위

미세 조정 절의 후반부는 표준 지도 미세 조정인 SFT와 강화 미세 조정인 RFT를 구분하며, SFT에서는 학습시키려는 행동마다 모범 입력·출력 쌍을 마련해야 한다고 설명한다. 코드 생성, 구조화된 출력의 정확성, 여러 단계의 추론처럼 정답을 직접 작성하는 것보다 결과의 옳고 그름을 검증하는 일이 더 저렴한 작업에서는 이러한 예시 작성이 비싸고 비현실적일 수 있다는 것이 RFT를 소개하는 근거다. RFT는 출력을 채점하는 보상 함수를 정의하고 모델이 그 신호를 최적화하도록 학습하는 방식으로 제시된다. 관리형 인프라가 없을 경우 맞춤형 학습 루프 구축, GPU 클러스터 관리, 보상 모델 서빙 조율 등이 필요하다는 설명이 이어지지만, 제공된 본문은 해당 문장 도중 끝난다. 따라서 7~8단계에 대해서는 개요에 제시된 대규모 비라벨 말뭉치를 통한 지속 사전학습과 Amazon Nova Forge를 통한 처음부터의 자체 모델 학습이라는 방향만 확인할 수 있으며, 세부 절차나 비용·데이터 조건을 이 자료로 보완할 수는 없다.

🧾 핵심 주장 / 시사점

• 단계 상승의 기준은 더 복잡한 기술의 도입 자체가 아니라 현재 접근법이 충족하지 못하는 요구다. 프롬프트로 해결할 수 있는 문제와 도메인 학습이 필요한 문제를 구분하는 것이 비용과 출시 지연을 줄이는 핵심이다.
• 외부 지식 부족, 반복 계산 비용, 행동 불일치는 서로 다른 문제다. RAG·캐싱·미세 조정의 역할을 구별해야 한 방식에 과도하게 의존하는 일을 피할 수 있다.
• 각 절에 배치된 기업 사례가 반드시 해당 기법의 직접 효과를 입증하는 것은 아니다. 캐싱 절의 inGenious.ai와 증류 절의 Goodnotes는 제공된 설명이 실제로 밝히는 적용 내용과 성과 범위 안에서 해석해야 한다.

✅ 액션 아이템

• 기존 모델 사용부터 시작해 정확도·지연 시간·도메인 요구의 충족 여부를 기준으로 다음 단계 검토.
• 지시 방식은 프롬프트, 외부 지식 접근은 RAG, 비용과 속도는 캐싱·모델 증류, 학습된 행동은 미세 조정에 연결해 적용 적합성 판단.
• 모델 증류의 최대 500% 속도 향상·최대 75% 비용 절감·2% 미만 정확도 손실이 개별 워크로드에 적용되는지 검증하고, RFT 이후 단계의 세부 조건은 추가 확인.

❓ 열린 질문

• 현재 워크로드가 기존 모델과 프롬프트만으로 충족하지 못하는 정확도·지연 시간·도메인 요구는 무엇인가?
• RAG 적용 후 남는 문제는 검색 지연, 컨텍스트 창 초과, 검색 내용에 대한 추론 실패 중 어디에 해당하는가?
• 개별 워크로드에서도 모델 증류가 최대 500% 더 빠른 속도와 최대 75% 비용 절감, 2% 미만의 정확도 손실을 재현할 수 있는가?