Full Fine-Tuning (FFT) on SageMaker AI Serverless Model Customization
Quick Summary
Amazon SageMaker AI Serverless Model Customization은 전체 파라미터를 갱신하는 Full Fine Tuning(FFT)을 지원하며, AWS는 Qwen3 4B 코드 생성 실험에서 학습 데이터가 커질수록 FFT가 LoRA보다 높은 품질을 보였다고 보고했다.
🖼️ 인포그래픽

🖼️ 4컷 인포그래픽

💡 한 줄 요약
Amazon SageMaker AI Serverless Model Customization은 전체 파라미터를 갱신하는 Full Fine-Tuning(FFT)을 지원하며, AWS는 Qwen3-4B 코드 생성 실험에서 학습 데이터가 커질수록 FFT가 LoRA보다 높은 품질을 보였다고 보고했다.
📌 핵심 요약
- SageMaker AI Serverless Model Customization은 GPU 할당과 체크포인트 관리를 자동화한다. 사용자는 GPU 클러스터를 구성하거나 분산 학습을 직접 설정할 필요 없이 FFT와 LoRA를 실행할 수 있다.
- AWS는 Qwen3-4B를 Magicoder-Evol-Instruct-110K의 코드 지시·응답 110,000쌍으로 지도 미세조정했다. 학습에 99,000건, 검증과 최종 테스트에 각각 5,500건을 배정했고, FFT와 LoRA에 같은 입력·정답·평가 코드를 적용했다.
- AWS는 도표에서 ‘100K+’로 표시한 규모에서 FFT의 LLM-as-Judge 의미적 정확도가 90.0%였다고 보고했다. 여러 품질 지표에서 FFT가 LoRA를 앞섰고, 특히 BLEU와 ROUGE-2에서 격차가 두드러졌다.
- 평가에서는 Amazon Nova Pro가 생성한 코드의 논리적 타당성을 판정했고, PRIMECODE는 참조 코드와의 텍스트 유사도를 측정했다. AWS는 57개 학문 분야를 다루는 MMLU로 미세조정 전후의 일반 지식 보존 정도를 살폈다.
- AWS는 Qwen3-4B, DeepSeek-R1-1.5B, Nemotron-30B, Gemma-4-26B에서 학습률, 배치 크기, 워밍업 비율, 에포크 수, 데이터 규모를 바꾸며 수십 차례 실험했다. 개별 실험은 작업 제출부터 평가까지 몇 시간이 걸렸으며, 제공된 본문은 학습률 설명 도중에 끝난다.
🧩 주요 포인트
- LoRA는 일부 파라미터만 학습해 GPU 요구량을 줄인다. AWS는 복잡한 과제에서 랭크를 높여도 정확도 격차가 남는 이유를 저랭크 갱신의 표현력 제약으로 해석했다.
- 실험 설계에 명시된 학습 건수는 99,000건이고 성능 도표의 규모 표기는 ‘100K+’다. 90.0%를 해석할 때는 두 수치의 관계를 확인할 필요가 있다.
- LLM-as-Judge, PRIMECODE, MMLU는 각각 코드의 의미적 정확성, 참조 코드와의 유사도, 일반 지식 보존을 측정한다. 세 결과를 함께 봐야 코드 생성 능력의 향상과 기존 능력의 변화를 구분할 수 있다.
🧠 상세 정리
1. 작은 모델을 특정 업무에 맞추는 이유
AWS는 기업이 자체 데이터로 사전학습 모델을 추가 학습하는 목적을 업무 정확도와 추론 비용에서 찾는다. 특정 분야의 용어나 작업 방식, 원하는 응답 형식을 학습한 작은 모델은 해당 업무에서 대형 범용 모델과 비슷하거나 더 높은 정확도를 낼 수 있다는 설명이다. 이 경우 토큰당 추론 비용이 낮아지고, 요청이 수백만 건 쌓이면 비용 차이도 커질 수 있다. 어떤 미세조정 방식을 쓸지에 따라 학습에 필요한 GPU 용량과 모델이 익힐 수 있는 패턴의 범위도 달라진다. AWS가 이 글에서 직접 비교한 성과는 코드 생성 품질이며, 해당 실험의 토큰당 비용이나 실제 절감액은 제시하지 않았다.
2. LoRA에서 랭크를 높여도 남는 격차
LoRA는 사전학습 가중치를 고정한 채 모델 계층에 추가한 작은 저랭크 행렬 쌍을 학습한다. 갱신하는 파라미터가 적어 GPU 요구량이 줄고 단순한 과제에 적응하는 데 효과적이지만, 가중치를 바꿀 수 있는 방향은 저랭크 행렬이 표현할 수 있는 범위로 제한된다. AWS는 과제가 복잡해지고 데이터가 수만 건을 넘어서면 랭크를 높여 학습 가능한 파라미터를 늘려도 LoRA의 정확도가 정체될 수 있다고 설명한다. 반면 FFT는 모델 전체의 가중치를 함께 갱신하므로 복잡한 도메인 패턴을 학습할 때 가중치 행렬의 표현력을 폭넓게 활용할 수 있다. 저자들은 이러한 차이가 학습의 수렴과 모델 계층 간 활성화 패턴의 정렬에 유리하게 작용한다고 해석한다.
3. 코드 생성에서 나타난 FFT의 우위
AWS가 제시한 데이터 규모별 도표에서는 학습 예시가 늘어날수록 코드 생성 과제에서 FFT의 품질 우위가 커졌다. 도표에서 ‘100K+’로 표시한 지점의 FFT 의미적 정확도는 90.0%로, 평가 모델이 생성 코드의 논리를 판정한 결과다. 여러 품질 지표를 한데 표시한 도표에서는 기본 모델의 점수가 전반적으로 낮았고, LoRA는 모든 축에서 기본 모델보다 개선됐다. FFT는 표시된 모든 축에서 LoRA보다 높은 점수를 기록했으며, 참조 코드와의 표현상 유사도를 나타내는 BLEU와 ROUGE-2에서 차이가 특히 컸다. AWS는 여러 지표에서 개선 방향이 일치한다는 점을 전체 가중치 갱신의 이점을 뒷받침하는 근거로 들었다.
4. Qwen3-4B 비교 실험의 데이터와 조건
AWS는 Amazon SageMaker AI Studio에서 제공하는 Qwen3-4B 기본 모델을 선택하고, FFT와 LoRA 모두에 지도 미세조정(SFT)을 적용했다. Magicoder-Evol-Instruct-110K는 알고리즘 설계, 디버깅, 자료구조, 시스템 프로그래밍을 다루는 코드 지시·응답 110,000쌍으로 구성된다. 연구진은 이를 90/5/5로 나눠 99,000건으로 모델을 학습하고, 검증용 5,500건으로 학습 중 손실과 수렴을 관찰했으며, 마지막 5,500건은 최종 평가를 위해 따로 두었다. 두 방식에는 동일한 입력과 기대 응답, 평가 코드를 사용해 비교 조건을 맞췄다. 이 데이터 분할로 얻은 학습 건수와 앞선 성능 도표의 ‘100K+’ 표기가 정확히 어떻게 대응하는지는 제공된 본문에서 설명하지 않는다.
5. 서버리스 환경에서 두 학습 방식 비교
SageMaker AI Serverless Model Customization에서는 사용자가 기본 모델, 데이터셋, 하이퍼파라미터를 지정하면 서비스가 연산 자원을 할당하고 체크포인트를 관리한다. 이에 따라 실험마다 GPU 용량을 계획하거나 클러스터와 분산 학습 환경을 다시 구성할 필요가 줄어든다. 원문의 SageMaker Python SDK 예시는 학습률 2e-5, 전역 배치 크기 8, 최대 2에포크, 워밍업 단계 비율 0.1로 FFT 작업을 설정한다. 같은 예시에서 학습 유형을 TrainingType.FULL에서 TrainingType.LORA로 바꾸면 나머지 작업 설정을 유지한 채 두 방식을 비교할 수 있다. 학습 중 기록된 성능 지표는 해당 작업에 연결된 MLflow 앱에서 확인할 수 있다.
6. 코드의 논리적 정확성과 참조 코드 유사도
LLM-as-Judge 평가에서 Amazon Nova Pro는 원래 요청과 모델이 생성한 코드를 함께 읽고, 그 코드가 요청에 논리적으로 맞는 해법인지 판정한다. 따라서 보고된 90.0%는 자동 평가 모델이 의미적으로 올바르다고 판단한 비율로 읽어야 한다. PRIMECODE는 생성 코드와 참조 해법을 비교해 BLEU, ROUGE-1/2/L, F1을 계산하며, 같은 텍스트 쌍에서는 같은 점수를 산출한다. AWS는 이 재현성을 활용해 학습 조건을 바꿨을 때 모델이 참조 해법의 코딩 패턴, 서식 관례, 구현 스타일을 얼마나 가깝게 재현하는지 비교했다. 두 평가를 함께 보면 코드가 요청을 해결한다고 판정된 정도와 그 표현이 참조 코드에 가까워진 정도를 구분할 수 있다.
7. 일반 지식 보존과 하이퍼파라미터 해석
코드에 특화된 학습이 기존 능력에 미치는 영향을 살피기 위해 AWS는 추상대수학부터 철학까지 57개 학문 분야를 다루는 MMLU의 정확도를 미세조정 전후에 비교했다. 이 평가의 목적은 코드 생성 품질이 높아지는 동안 일반 지식 점수가 얼마나 변하는지, 그 변화가 하이퍼파라미터 선택에 따라 달라지는지 살피는 데 있다. AWS는 네 가지 기본 모델에서 학습률, 배치 크기, 워밍업 비율, 에포크 수, 데이터 규모를 바꿔 수십 차례 실험했다고 밝혔다. 작업 제출부터 평가 결과 확인까지는 각각 몇 시간이 걸렸고, 학습한 모델은 SageMaker Model Registry에 버전이 있는 모델 패키지로 자동 등록됐다. 저자들은 적정 설정이 과제에 따라 달라진다고 설명하며, 제공된 본문은 FFT에서 학습률이 모든 가중치의 갱신 폭을 조절한다는 설명 도중에 끝난다. 개별 설정에 따른 MMLU 점수 변화나 최적 학습률은 이 발췌문에서 확인할 수 없다.
🧾 핵심 주장 / 시사점
- LoRA와 FFT를 선택할 때는 학습에 필요한 GPU 용량과 과제의 복잡도를 함께 고려할 근거가 있다. 이 실험에서는 데이터가 커지면서 FFT의 이점이 더 뚜렷해졌다.
- FFT가 BLEU와 ROUGE-2에서 크게 앞섰다는 결과는 참조 코드의 표현과 구조를 더 가깝게 재현했다는 뜻이다. 논리적 타당성에 관한 근거는 Amazon Nova Pro의 별도 판정에서 나온다.
- 학습률 2e-5는 작업을 실행한 설정 예시다. 여러 모델에서 실험했다는 보고만으로 이 값이 각 모델의 코드 생성 품질과 일반 지식 보존에 공통으로 최적이었다고 판단하기는 어렵다.
✅ 액션 아이템
- Qwen3-4B에서 FFT와 LoRA의 품질을 비교할 때 동일한 입력·정답·평가 코드 조건을 유지한다.
- 90.0%를 인용할 때 LLM-as-Judge 판정값임을 명시하고, 도표의 ‘100K+’와 학습에 배정한 99,000건을 구분해 표기한다.
- 학습률에 따른 효과는 LLM-as-Judge와 PRIMECODE의 코드 생성 결과, 미세조정 전후의 MMLU 변화를 함께 검토한다.
❓ 열린 질문
- 성능 도표의 ‘100K+’는 실험 설계에서 학습에 배정한 99,000건과 어떻게 대응하는가?
- FFT의 LLM-as-Judge 의미적 정확도가 90.0%였던 조건에서 LoRA의 정확도는 얼마였는가?
- Qwen3-4B의 학습률을 바꿨을 때 코드 생성 품질과 미세조정 전후의 MMLU 점수는 각각 어떻게 달라졌는가?