Codex is Open Sourcing AI models

🖼️ 인포그래픽

Codex is Open Sourcing AI models 내용을 설명하는 본문 이미지

🖼️ 4컷 인포그래픽

💡 한 줄 요약

이 글은 Codex가 Hugging Face Skills를 활용해 데이터 검증, 모델 파인튜닝, 학습 모니터링, 평가, 보고서 갱신, Hub 배포까지 이어지는 오픈소스 모델 실험을 수행하는 방법을 설명한다.

📌 핵심 요약

저자는 Claude Code로 오픈소스 모델 학습을 수행했던 작업을 바탕으로, Codex에도 Hugging Face Skills 저장소를 연결해 머신러닝 실험을 더 깊게 자동화하는 흐름을 소개한다.
HF Skills를 사용하면 Codex는 언어 모델 파인튜닝, RL 정렬, Trackio 기반 학습 지표 확인, 체크포인트 평가, 실험 보고서 작성, GGUF 변환, Hub 배포 같은 작업을 처리할 수 있다.
예시 실험은 Qwen/Qwen3-0.6B 모델을 open-r1/codeforces-cots 데이터셋으로 SFT 방식 파인튜닝하고, openai_humaneval 벤치마크로 평가하는 end-to-end 코드 해결 능력 개선 실험이다.
Codex는 데이터셋 형식 검증, 하드웨어 선택, 학습 스크립트와 Trackio 모니터링 설정, Hugging Face Jobs 제출, 비용 추정, 진행 상황 확인, 오류 디버깅, 보고서 갱신을 담당한다.
글은 작업 제출 전 설정 검토와 승인 절차, 데이터셋 전처리 가능성, 학습 로그와 Trackio 링크 추적, 베이스라인 및 파인튜닝 체크포인트 평가를 통해 실험을 반복 관리하는 방식을 강조한다.

🧩 주요 포인트

저자는 Claude Code로 오픈소스 모델 학습을 수행했던 작업을 바탕으로, Codex에도 Hugging Face Skills 저장소를 연결해 머신러닝 실험을 더 깊게 자동화하는 흐름을 소개한다.
HF Skills를 사용하면 Codex는 언어 모델 파인튜닝, RL 정렬, Trackio 기반 학습 지표 확인, 체크포인트 평가, 실험 보고서 작성, GGUF 변환, Hub 배포 같은 작업을 처리할 수 있다.
예시 실험은 Qwen/Qwen3-0.6B 모델을 open-r1/codeforces-cots 데이터셋으로 SFT 방식 파인튜닝하고, openai_humaneval 벤치마크로 평가하는 end-to-end 코드 해결 능력 개선 실험이다.
Codex는 데이터셋 형식 검증, 하드웨어 선택, 학습 스크립트와 Trackio 모니터링 설정, Hugging Face Jobs 제출, 비용 추정, 진행 상황 확인, 오류 디버깅, 보고서 갱신을 담당한다.
글은 작업 제출 전 설정 검토와 승인 절차, 데이터셋 전처리 가능성, 학습 로그와 Trackio 링크 추적, 베이스라인 및 파인튜닝 체크포인트 평가를 통해 실험을 반복 관리하는 방식을 강조한다.

🧠 상세 정리

1. Codex와 Hugging Face Skills의 결합

글은 Claude Code로 오픈소스 모델을 학습시키던 기존 작업을 출발점으로 삼아, 이번에는 Codex가 더 넓은 범위의 머신러닝 실험을 수행하도록 만드는 과정을 설명한다. 핵심은 Codex에 Hugging Face Skills 저장소 접근 권한을 주는 것이다. 이 저장소에는 모델 학습, 평가, 정렬, 보고서 작성처럼 머신러닝과 AI 작업에 필요한 지침이 담겨 있다. Codex는 자체적으로 AGENTS.md 파일을 활용하고 Claude Code는 Skills를 쓰지만, HF Skills는 두 방식 모두와 호환되며 Codex, Claude Code, Gemini CLI 같은 주요 코딩 에이전트에서 사용할 수 있다고 설명한다.

2. HF Skills가 Codex에 제공하는 작업 범위

HF Skills를 연결하면 Codex는 단순한 코드 작성 보조를 넘어 모델 실험의 여러 단계를 수행할 수 있다. 글에서 제시한 기능에는 언어 모델 파인튜닝, RL alignment 적용, Trackio에서 들어오는 실시간 학습 지표 검토와 해석, 평가 결과에 따른 행동, 실험 보고서 생성이 포함된다. 또한 모델을 GGUF로 내보내고 양자화해 로컬 배포에 활용하거나, 최종 모델을 Hugging Face Hub에 게시하는 흐름도 지원한다. 저자는 이것이 장난감 데모가 아니라 SFT, DPO, verifiable rewards 기반 강화학습처럼 실제 프로덕션에서 쓰이는 학습 방법을 포함한다고 강조한다.

3. 간단한 지시에서 실행되는 학습 자동화

글은 Codex에게 Qwen3-0.6B를 open-r1/codeforces-cots 데이터셋으로 파인튜닝하라고 지시하는 예시를 든다. Codex는 이 요청을 받아 데이터셋 형식을 검증하고, 0.6B 규모 모델에 맞는 하드웨어를 선택하며, Trackio 모니터링이 포함된 학습 스크립트를 사용하거나 갱신한다. 이후 Hugging Face Jobs에 작업을 제출하고, 작업 ID와 예상 비용을 보고하며, 사용자가 요청하면 진행 상황을 확인한다. 학습은 Hugging Face GPU에서 진행되므로 사용자는 다른 일을 할 수 있고, 완료 후 파인튜닝된 모델은 Hub에 나타나 바로 사용할 수 있는 형태가 된다.

4. 목표는 end-to-end 머신러닝 실험 위임

저자는 이전 Claude Code 튜토리얼의 단일 프롬프트 접근보다 더 나아가, Codex가 end-to-end 머신러닝 실험을 수행할 수 있어야 한다고 말한다. 여기에는 단순히 학습 작업을 시작하는 것뿐 아니라 진행 상황 모니터링, 모델 평가, 최신 상태의 학습 보고서 유지가 포함된다. 이런 방식은 엔지니어가 Codex에 실험을 맡기고, 이후 보고서를 검토하는 식으로 더 손이 덜 가는 흐름을 가능하게 한다. 또한 Codex가 학습 보고서와 평가 결과를 바탕으로 더 많은 결정을 스스로 내릴 수 있게 하는 것이 글에서 제시한 방향이다.

5. 설치와 인증 절차

실험을 시작하기 위해서는 Hugging Face 계정의 Pro 또는 Team, Enterprise 플랜이 필요하며, Jobs 사용을 위해 유료 플랜이 요구된다고 안내한다. 또한 Hugging Face 설정 페이지에서 발급한 쓰기 권한 토큰과 설치 및 설정이 완료된 Codex가 필요하다. Hugging Face Skills는 저장소를 클론하면 Codex가 AGENTS.md 파일을 자동으로 감지해 지침을 불러오는 방식으로 사용된다. 이후 hf auth login 명령으로 Hugging Face에 인증하며, 선택적으로 Codex 설정 파일에 Hugging Face MCP 서버를 추가해 Hub 통합 기능을 더 활용할 수 있다고 설명한다.

6. 예시 실험: 코드 해결 능력 개선 파인튜닝

본문의 첫 번째 전체 예시는 작은 모델의 코드 해결 능력을 개선하는 파인튜닝 실험이다. 사용 데이터셋은 코드포스 문제와 해법을 담은 open-r1/codeforces-cots이며, 평가는 openai_humaneval 벤치마크로 수행하도록 지시한다. 사용자는 Codex에게 SFT 방식으로 새 파인튜닝 실험을 시작하고, 실험 보고서를 유지하며, 지정 데이터셋과 평가 벤치마크를 사용하라고 요청한다. Codex는 이 요청을 분석해 학습 설정을 준비하고, 모델과 데이터셋, 방법명을 반영한 training_reports 경로의 Markdown 보고서를 만들며, 실험이 진행되는 동안 해당 보고서를 계속 갱신한다.

7. 학습 보고서와 평가 결과의 지속적 갱신

Codex가 생성하는 학습 보고서에는 베이스 모델, 데이터셋, 학습 방식, 하드웨어, 배치 크기, learning rate, 평가 및 저장 전략, Hub 모델 경로, Trackio 프로젝트와 실행 이름 등이 정리된다. 실험이 진행되면 보고서 제목과 상태가 In Progress 또는 Completed처럼 바뀌고, Hugging Face Jobs의 실행 로그 링크와 Trackio 로그 링크가 추가된다. 평가 영역에는 HumanEval pass@1 같은 벤치마크 점수, 평가 작업 링크, 모델 링크가 표 형태로 기록된다. 이 구조 덕분에 사용자는 학습 작업, 베이스라인 평가, 파인튜닝 모델 평가를 하나의 보고서에서 추적할 수 있다.

8. 데이터셋 검증과 전처리 지원

글은 데이터셋 형식과 처리 과정이 학습 실패의 가장 흔한 원인이라고 설명한다. Codex는 학습 작업이 시작되기 전에 데이터셋을 검증하고, TRL에 맞는 설정을 정의하거나 별도 전처리를 수행할 수 있다. 예를 들어 SFT에는 messages 컬럼이 있는 대화 형식 데이터셋이 준비된 것으로 판정될 수 있지만, DPO에는 chosen과 rejected 컬럼이 없어 호환되지 않는다고 보고할 수 있다. 데이터셋에 변환이 필요하면 Codex는 good_response와 bad_response 같은 필드를 chosen과 rejected 대신 쓰도록 전처리하고, 학습 스크립트 설정을 업데이트하는 흐름도 지원한다.

9. 제출 전 검토와 비용 통제

Codex는 실제로 작업을 제출하기 전에 사용자가 설정을 검토할 수 있도록 구성 정보를 보여준다. 예시에서는 Qwen/Qwen3-0.6B를 open-r1/codeforces-cots에 SFT로 파인튜닝하며, 하드웨어는 t4-small, 시간은 약 20분, 비용은 약 0.30달러, 출력 저장소는 사용자의 Hub 저장소로 제시된다. 이 단계에서 사용자는 출력 저장소 이름을 바꾸거나, 하드웨어를 변경하거나, 학습 파라미터 수정을 요청할 수 있다. 원하면 전체 실행 전에 100개 예시만 사용하는 빠른 테스트 실행을 지시해 설정을 먼저 확인할 수도 있다.

10. 진행 추적과 후속 평가

작업 제출 후에는 학습 보고서와 로그 링크를 통해 진행 상황을 추적한다. 사용자는 Codex에게 로그를 가져오고, 진행 상황을 요약하고, 학습 보고서를 갱신하라고 요청할 수 있다. 본문 예시에서 Codex는 SFT 작업과 베이스라인 lighteval 작업이 실행 중임을 보고하고, LoRA 설정, 모델, 데이터셋 분할, 하드웨어, 최대 스텝, 배치, 학습률, 저장 및 평가 주기, Hub 푸시 경로를 함께 요약한다. 파인튜닝된 체크포인트가 Hub에 올라간 뒤에는 같은 lighteval 스크립트를 재사용해 베이스 모델과 파인튜닝 모델의 HumanEval 결과를 비교하는 흐름을 제시한다.

🧾 핵심 주장 / 시사점

본문의 핵심은 Codex가 단순히 코드를 작성하는 도구가 아니라, Hugging Face Jobs와 Trackio, Hub를 연결해 모델 실험의 실행·관찰·기록·평가 단계를 맡을 수 있다는 점이다.
저자는 데이터셋 검증과 제출 전 설정 검토를 별도 단계로 강조하며, 자동화가 곧바로 무검토 실행을 뜻하는 것이 아니라 사용자가 비용, 하드웨어, 출력 저장소, 파라미터를 조정할 수 있는 절차를 포함한다고 설명한다.
실험 보고서를 중심으로 로그, 지표, 평가 결과, 모델 링크를 계속 갱신하는 구조는 여러 학습 실행과 베이스라인·체크포인트 평가를 비교 가능한 형태로 남기는 데 초점을 둔다.

✅ 액션 아이템

요약된 실험 흐름 기준으로 Codex와 HF Skills 연결 후 데이터셋 형식 검증·파인튜닝·Trackio 모니터링·체크포인트 평가 범위를 정의한다.
Qwen/Qwen3-0.6B 실험에서 open-r1/codeforces-cots SFT와 openai_humaneval 평가를 결합해 베이스라인 대비 성능 개선을 비교한다.
제출 전 설정 검토, 비용 추정, Hugging Face Jobs 제출, 오류 디버깅, 보고서 갱신을 반복 실행 항목으로 고정해 실험 운영 방식을 정리한다.