Articlehuggingface.co·2026년 11월 18일·0

DaisyRose-27B: Pushing the Frontier of Post-Training Efficiency

Quick Summary

RadixArk는 Qwen3.8 27B를 약 1,200개 과제로 강화학습한 첫 모델 DaisyRose 27B를 공개하고, Terminal Bench 4.1의 단일 시도 성공률(pass@1)이 5.6%에서 12.0%로 올랐다고 보고했다.

DaisyRose-27B: Pushing the Frontier of Post-Training Efficiency 관련 대표 이미지

🖼️ 인포그래픽

DaisyRose-27B: Pushing the Frontier of Post-Training Efficiency 내용을 설명하는 본문 이미지

🖼️ 4컷 인포그래픽

DaisyRose-27B: Pushing the Frontier of Post-Training Efficiency의 핵심 내용을 4단계로 요약한 인포그래픽
DaisyRose-27B: Pushing the Frontier of Post-Training Efficiency 핵심 내용을 4단계로 압축한 4컷 인포그래픽

💡 한 줄 요약

RadixArk는 Qwen3.8-27B를 약 1,200개 과제로 강화학습한 첫 모델 DaisyRose-27B를 공개하고, Terminal-Bench 4.1의 단일 시도 성공률(pass@1)이 5.6%에서 12.0%로 올랐다고 보고했다.

📌 핵심 요약

  • RadixArk는 H200 GPU 144대로 18일간 DaisyRose-27B를 학습했다. 모델의 문맥 창은 256K 토큰이며, 중간 내용을 요약해 여러 실행 기록을 연결하는 방식으로 최대 1M 토큰의 학습 세션을 처리했다.
  • DaisyRose-27B는 공개된 7개 벤치마크 모두에서 Qwen3.8-27B를 앞섰다. 벤치마크별로 BF16과 FP8 실행 중 높은 점수를 사용했고, 두 형식을 모두 평가한 경우 점수 차이는 1점 미만이었다.
  • RadixArk와 Eigent AI는 수천 개의 후보 중 약 1,200개를 선별했다. Qwen3.8-27B가 실제로 저지른 오류, 여러 단계가 서로 의존하는 정도, 의도한 문제를 풀어야 보상을 받는지를 기준으로 과제를 다듬었다.
  • Miles를 이용한 비동기 학습에서 RadixArk의 내부 백엔드는 모델 연산 활용률(MFU) 37%를 기록했다. 비교 대상인 Megatron 기반 공개 학습기는 16%였으며, 팀은 같은 학습에 필요한 GPU 시간이 57% 줄고 전체 처리량은 초당 약 8,300토큰에서 16,800토큰으로 늘었다고 보고했다.
  • AgentENV 기반 서비스는 9주간 샌드박스 약 94만 4천 개를 실행했고 최대 1,566개를 동시에 운영했다. 팀에 따르면 생성 성공률은 전체 기간 99%였으며, 클라우드 인프라 비용은 같은 샌드박스를 주요 클라우드 샌드박스 서비스에서 실행할 때보다 약 80% 낮았다.

🧩 주요 포인트

  1. Terminal-Bench 4.1에서는 6.4%포인트 올랐고 텍스트 전용 HLE에서는 33.9점에서 34.3점으로 올랐다. 개선 방향은 같아도 평가 과제에 따라 폭은 달랐다.
  2. 기본 모델의 실패 사례를 바탕으로 난이도를 조정하고 실제 풀이와 채점 결과를 대조해, 약 1,200개 과제에서 어떤 행동을 보상할지 정했다.
  3. GPU 시간 57% 절감은 학습 백엔드 비교에서, 샌드박스 비용 약 80% 절감은 클라우드 서비스 비교에서 나온 수치다. 두 지표는 서로 다른 비용 항목을 설명한다.

🧠 상세 정리

1. DaisyRose-27B의 공개 범위와 문맥 길이

RadixArk는 2026년 11월 18일 Qwen3.8-27B를 기반으로 개발한 첫 모델 DaisyRose-27B를 공개했다. 기본 모델의 아키텍처, 토크나이저, 대화 템플릿, 이미지 이해 기능과 256K 토큰 문맥 창을 유지했다. 학습에서는 실행 환경이 중간 내용을 요약해 다음 실행 기록으로 넘기는 방식으로 한 세션을 최대 1M 토큰까지 이어 갔다. BF16, FP8, NVFP4 체크포인트를 Apache 2.0 라이선스로 배포했으며, 팀은 모델을 서비스할 때 SGLang과 DSpark 추측 디코딩을 함께 사용하도록 권장했다.

2. 7개 벤치마크의 개선 폭과 점수 산정 기준

단일 시도로 과제를 해결한 비율을 측정한 Terminal-Bench 4.1에서 Qwen3.8-27B는 5.6%, DaisyRose-27B는 12.0%를 기록해 가장 큰 상승 폭을 보였다. Terminal-Bench 2.1은 73.0점에서 75.5점으로, DeepSWE v1.1은 42.2점에서 46.2점으로, SWE Bench Pro v2는 91.3점에서 94.7점으로 올랐다. 텍스트 전용 HLE는 33.9점에서 34.3점, IFBench는 79.5점에서 82.4점, GPQA Diamond는 89.2점에서 90.7점으로 상승했다. 팀은 벤치마크마다 BF16과 FP8 실행 중 높은 값을 보고했으며, 두 형식을 모두 평가한 항목에서는 차이가 1점 미만이었다고 밝혔다.

3. 기본 모델의 실패 사례에서 출발한 과제 설계

RadixArk와 Eigent AI는 머신러닝, 소프트웨어 엔지니어링, 과학 등 여러 분야에서 수천 개의 과제 후보를 만들고 약 1,200개를 최종 학습에 사용했다. 먼저 모든 과제를 Qwen3.8-27B로 실행한 뒤, 고치려는 오류가 드러나도록 과제를 다시 설계하고 풀이 성공률이 학습에 적절한 범위에 들도록 난이도를 조절했다. 여러 단계의 판단과 실행이 서로 의존하는 과제를 골랐으며, 시도 한 번에 최대 1.5시간을 허용해 도구 호출이 100회, 출력이 256K 토큰을 넘는 작업도 다뤘다. 팀은 각 과제와 모델의 실제 풀이를 함께 검토해 의도한 문제를 해결하지 않고도 통과할 수 있거나 설계에 결함이 있는 과제는 수정하거나 제외했다.

4. 추론과 학습을 병행한 Miles 비동기 실행

RadixArk는 자체 오픈소스 강화학습 프레임워크인 Miles를 완전 비동기 모드로 운영해 에이전트의 과제 수행과 모델 학습을 동시에 진행했다. H200 GPU 144대 중 128대는 에이전트가 과제를 수행하는 데 필요한 추론을 담당했고, 16대는 그 과정에서 수집한 실행 기록으로 모델을 학습했다. 내부 백엔드는 한 학습 단계마다 소수의 긴 세션에서 얻은 기록을 사용했으며, 학습 단계가 끝날 때마다 갱신한 모델을 추론용 GPU 128대에 배포했다. 팀은 18일간 진행한 이번 학습에 총 63,000 GPU시간을 사용했고 첫 단계부터 마지막 단계까지 처리 속도와 효율이 안정적으로 유지됐다고 보고했다.

5. GPU 연산 활용률과 전체 학습 처리량

팀은 GPU의 최대 연산 성능 중 실제 모델 학습에 쓰인 비율인 MFU가 내부 백엔드에서 37%, 비교 가능한 조건의 Megatron 기반 공개 학습기에서 16%였다고 밝혔다. 이를 기준으로 같은 양을 학습하는 데 필요한 GPU 시간이 57% 줄었다고 산정했다. 에이전트가 과제를 수행하는 시간까지 포함한 처리량은 동일한 GPU 144대에서 초당 약 8,300토큰에서 16,800토큰으로 올라 약 두 배가 됐다. 팀은 별도로 전문가 혼합 모델에서 백엔드의 효율 향상 폭이 더 컸다며, Qwen3.6-35B-A3B에서는 6.2배, 약 3,000억 매개변수 규모의 GLM-5.3-Flash에서는 10배를 넘었다고 보고했다.

6. 샌드박스 운영 규모와 인프라 비용

에이전트는 시도할 때마다 새로 준비한 샌드박스에서 명령을 실행하고 파일을 편집한 뒤 결과를 평가받았다. RadixArk는 오픈소스 AgentENV를 기반으로 이 서비스를 구축해 9월 중순부터 11월 중순까지 약 94만 4천 개의 샌드박스를 실행했으며, 최대 동시 실행 수는 1,566개였다. 서버를 1대에서 최대 12대로 늘리고 대부분 학습을 진행하는 동안 10차례 업그레이드했으며, 생성 성공률은 9주 전체에서 99%, 10월 말 이후에는 99.95%를 넘었다. 팀은 실제 사용량에 따라 각 샌드박스의 메모리 할당량을 조절해 서버 한 대를 더 많은 환경이 공유하도록 한 것이 비용 절감에 기여했다고 설명했다. 프로젝트의 샌드박스 인프라 비용은 주요 클라우드 샌드박스 서비스에서 같은 환경을 실행할 때보다 약 80% 낮았다고 밝혔다.

🧾 핵심 주장 / 시사점

  • 최대 1M 토큰은 중간 요약으로 이어 간 학습 세션 전체의 길이다. 모델이 한 번에 참조할 수 있는 문맥 창은 기존과 같은 256K 토큰이다.
  • 약 1,200개라는 과제 수에는 후보를 만드는 작업과 검수 과정이 드러나지 않는다. 팀은 수천 개의 후보를 마련하고 기본 모델의 시도까지 검토해 학습에 사용할 과제를 추렸다.
  • Terminal-Bench 4.1의 pass@1은 두 배 이상이 됐지만 최종 성공률은 12.0%였다. 상대적인 개선 폭과 한 번의 시도로 실제 과제를 해결한 비율을 함께 봐야 한다.

✅ 액션 아이템

  • DaisyRose-27B와 Qwen3.8-27B의 성능을 비교할 때 벤치마크별 상승 폭과 BF16·FP8 점수 선정 기준을 함께 확인한다.
  • 긴 작업에 DaisyRose-27B를 적용할 때 256K 토큰 문맥 창과 요약으로 이어진 최대 1M 토큰 학습 세션을 구분한다.
  • 효율을 비교할 때 GPU 시간 57% 절감과 샌드박스 비용 약 80% 절감에 각각 어떤 비교 대상이 쓰였는지 확인한다.

❓ 열린 질문

  • 약 1,200개 과제에서 중점적으로 다룬 오류는 Terminal-Bench 4.1과 텍스트 전용 HLE의 개선 폭 차이와 어떤 관련이 있는가?
  • 최대 1M 토큰의 학습 세션에서 중간 요약이 보존한 정보는 이후 단계의 과제 성공률에 어떤 영향을 주었는가?
  • AgentENV 기반 서비스의 동시 실행 수가 최대 1,566개에 가까워질 때 샌드박스 생성 성공률은 어떻게 달라졌는가?

관련 문서

공통 태그와 주제 흐름을 기준으로 같이 보면 좋은 문서를 이어서 제안합니다.