Advancing chip design with OpenAI models
🖼️ 인포그래픽

🖼️ 4컷 인포그래픽

💡 한 줄 요약
OpenAI는 모델이 제안한 회로 변경으로 자체 추론 칩 Jalapeño와 AMD의 GPU·CPU 설계를 개선했다고 보고했으며, 공개 RISC-V 코어 평가에서도 모델 세대에 따른 처리량 점수 향상을 관찰했다.
📌 핵심 요약
- OpenAI 팀은 모델이 제안한 변경으로 Jalapeño의 표준 셀 면적이 벡터 유닛에서 약 13%, 행렬 유닛에서 약 10% 줄었다고 추정했다. 해당 최적화가 실제 칩에서 동작한다는 점은 초기 구동 과정에서 확인했다.
- OpenAI는 AMD의 주력 GPU IP에서 이미 고도로 최적화한 기준 설계 대비 전력·성능·면적(PPA)이 최대 14% 개선됐다고 보고했다. AMD는 일부 변경을 제조에 넘긴 설계에 반영했고, 차세대 주력 CPU의 주요 블록에서도 한 자릿수 퍼센트의 PPA 개선을 검증했다.
- 기존 32비트 RISC-V 코어의 처리량을 높이는 과제에서 실행당 약 112,000토큰을 썼을 때 GPT‑6.2 Astra가 PicoRV32와 Ibex 모두에서 평균 점수 1위를 기록했다.
- 두 과제와 두 코어, 모든 토큰 예산을 합쳐 총 9,881회 실행을 채점했다. 실행당 약 112,000토큰에서는 모델 5개 모두 두 코어에서 기존 설계를 수정할 때보다 명세를 바탕으로 새로 설계할 때 더 높은 점수를 받았다.
- OpenAI는 명세 기반 설계에서 일부 기능을 생략할 수 있었던 점이 점수 차이의 한 원인일 수 있다고 봤다. 후속 과제로는 Synopsys와 협력해 전자설계자동화(EDA) 도구를 활용하는 모델 GPT‑Synopsys를 훈련하고 있다.
🧩 주요 포인트
- Jalapeño의 행렬 유닛에서는 곱셈기와 덧셈기의 면적이 각각 약 15% 줄었지만, 지연 시간까지 단축된 쪽은 곱셈기였다.
- AMD는 회로 동작을 보존한 변경 중 일부를 제조용 설계에 채택했다. GPU의 최대 14%와 CPU의 한 자릿수 퍼센트는 각각 다른 설계에서 얻은 결과다.
- RISC-V 점수는 비공개 작업 부하에서 추정한 처리량을 반영하며, 원래 코어 면적의 16배까지 허용한다. 필수 기능, 면적 상한, 물리 합성 후 타이밍 검증은 양산 설계와의 비교를 좌우하는 조건이다.
🧠 상세 정리
1. Jalapeño의 연산 회로에서 줄인 면적과 지연 시간
OpenAI는 2025년 초부터 첫 자체 추론 칩 Jalapeño의 설계에 GPT‑4o를 활용했다. 병렬 연산을 담당하는 벡터 유닛에서는 부동소수점 덧셈기와 곱셈기, 변환 함수, 리덕션 회로, 특수 함수 유닛을 검토했다. 모델은 같은 연산을 다른 논리 회로로 구현하거나 파이프라인 단계 사이에 연산을 재배치해 하드웨어를 공유하고 중간값 저장 공간을 줄일 방법을 찾았다. 행렬 유닛에서는 곱셈기 하나의 합성 결과 셀 면적을 약 15% 줄이면서 지연 시간을 2클록 주기에서 1주기로 단축했고, 별도의 덧셈기는 2주기를 유지하면서 면적을 약 15% 줄였다. 저정밀도 내적 회로 등의 변경까지 포함해 팀이 추정한 표준 셀 면적 절감률은 벡터 유닛 약 13%, 행렬 유닛 약 10%였으며, 최적화를 적용한 회로는 실제 칩의 초기 구동 과정에서 검증했다.
2. AMD가 제조용 설계에 반영한 회로 변경
AMD와의 협업에서 모델은 주력 GPU IP의 회로를 기술하는 SystemVerilog RTL을 다시 작성해 연산, 제어, 데이터 이동을 담당하는 블록을 개선했다. 모델은 Synopsys 도구로 각 변경이 기존 회로의 동작을 보존하는지 확인하고 전력·성능·면적 사이의 상충 관계를 평가했다. OpenAI가 보고한 개선 폭은 이미 고도로 최적화한 기준 설계 대비 최대 14%였고, 회사는 5개월 미만에 거둔 진전을 통상 약 1년치에 해당한다고 평가했다. AMD는 일부 변경을 제조에 넘긴 최근 설계에 포함했고, 다른 변경은 향후 버전에 쓸 설계 파일에 반영했다. AMD는 차세대 주력 CPU의 주요 블록에서도 모델이 작성한 설계를 검증해 한 자릿수 퍼센트의 PPA 개선을 확인했다.
3. 두 RISC-V 코어의 처리량을 비교한 방법
OpenAI는 모델 세대별 설계 능력을 비교하기 위해 서로 다른 용도의 공개 32비트 RISC-V 코어 두 개를 골랐다. PicoRV32는 재구성 가능한 칩인 FPGA를 위한 소형 코어이고, Ibex는 OpenTitan 보안 칩의 내장 프로세서다. 첫 과제에서는 모델에 기존 하드웨어 기술 코드를 주고 초당 실행 명령 수를 늘리도록 했다. 명령 하나에 필요한 클록 주기 수를 줄이더라도 각 주기가 길어질 수 있어, 처리량으로 두 효과를 함께 평가했다. 시뮬레이션에서 출력 검사를 통과하지 못하거나 면적이 원래 코어의 16배를 넘으면 0점을 부여했다. 통과한 설계는 모델에 공개하지 않은 작업 부하별 클록당 명령 수의 기하평균에 Yosys로 추정한 최대 클록 주파수를 곱해 처리량을 구했다. 코어별로 같은 제약에서 관측한 최고 처리량을 1.0점으로 두고 0점인 실행까지 포함해 평균을 냈다.
4. 기존 코어를 수정할 때 나타난 모델별 차이
기존 RTL을 최적화하는 과제에서 실행당 약 112,000토큰이라는 비슷한 예산을 적용하자 GPT‑6.2 Astra가 PicoRV32와 Ibex 모두에서 가장 높은 평균 점수를 기록했다. PicoRV32에서는 이 예산에서 GPT‑6.2 Astra의 평균 점수가 GPT‑6 Astra의 약 두 배였고, 예산이 큰 공통 비교 구간에서도 선두였다. Ibex에서는 GPT‑6.2 Astra가 시험된 높은 예산 구간에서 토큰을 더 쓸수록 평균 점수가 계속 올랐으며, GPT‑6 Astra와 GPT‑6.1 Sol의 점수는 서로 더 가까웠다. 같은 약 112,000토큰 조건에서 GPT‑6.1 Sol도 두 코어 모두에서 GPT‑5.6 Sol을 앞섰다.
5. 기존 회로 대신 명세에서 출발한 결과
두 번째 과제에서는 모델에 서면 요구사항과 코어를 시스템에 연결하는 방식을 보여 주는 공개 코드 템플릿을 제공했다. 모델은 데이터가 코어 내부에서 이동하는 경로와 연산을 나눌 단계를 직접 정했고, 정확성 검사와 메모리·캐시 설정, 처리량 목표는 첫 과제와 같았다. 실행당 약 112,000토큰에서 모델 5개 모두 PicoRV32와 Ibex 양쪽에서 기존 회로를 수정할 때보다 높은 점수를 받았다. 이 예산 부근에서 GPT‑6.2 Astra의 평균 점수는 PicoRV32에서 0.7을 넘었고 Ibex에서 약 0.75였다. 기존 회로 수정 대비 점수 상승 폭도 Ibex에서 더 컸다. 두 과제와 두 코어, 모든 토큰 예산을 통틀어 채점한 실행은 총 9,881회였다.
6. 평가의 한계와 Synopsys 협력의 방향
서면 명세에서 출발한 모델은 기존 코어에 들어 있던 성능 카운터나 추가 명령어를 생략할 수 있었다. OpenAI는 이런 기능이 시험용 작업 부하의 처리량에 기여하는 정도가 작다면, 생략할 수 있는 자유가 명세 기반 설계의 점수 우위 일부를 설명할 수 있다고 봤다. 연구진은 해당 기능을 필수로 지정하고 회로 면적 상한을 낮추며 물리 합성 후 타이밍까지 확인하면 평가가 양산 칩의 설계 조건을 더 잘 반영할 것이라고 설명했다. OpenAI는 신뢰할 수 있는 설계·검증 도구로 모델을 평가하고 다루는 과제의 범위를 넓히기 위해 Synopsys와 협력하고 있다. 두 회사가 훈련하는 GPT‑Synopsys의 목표는 숙련된 칩 설계자가 쓰는 방식으로 Synopsys의 EDA 도구를 활용하는 것이다.
🧾 핵심 주장 / 시사점
- Jalapeño에서 개별 곱셈기의 약 15%는 해당 회로의 합성 결과이고, 행렬 유닛의 약 10%는 여러 변경을 합산한 블록 전체의 면적 절감 추정치다. 두 수치의 적용 범위가 다르다.
- AMD가 일부 변경을 제조용 설계에 반영했다는 사실은 모델 제안이 실제 설계에 채택됐음을 보여 준다. Jalapeño의 경우에는 검증이 실제 칩의 초기 구동 단계까지 진행됐다.
- 명세 기반 과제에서는 기존 코어보다 설계 선택의 폭이 넓었다. 두 과제의 점수 차이에는 데이터 경로와 연산 단계를 재구성한 효과뿐 아니라 일부 기능을 생략한 효과도 포함됐을 수 있다.
✅ 액션 아이템
- Jalapeño의 면적 절감 효과를 인용할 때 벡터 유닛 약 13%와 행렬 유닛 약 10%를 팀의 추정치로 명시한다.
- AMD의 PPA 개선 폭은 GPU의 최대 14%와 차세대 주력 CPU 주요 블록의 한 자릿수 퍼센트로 구분해 해석한다.
- RISC-V 명세 기반 설계의 점수 우위는 필수 기능, 면적 상한, 물리 합성 후 타이밍 검증 조건을 고려해 판단한다.
❓ 열린 질문
- AMD의 주력 GPU IP에서 보고된 최대 14%는 전력·성능·면적 각각의 변화로 보면 어떻게 나뉘는가?
- 생략할 수 있었던 기능을 필수 기능으로 지정해도 모델 5개 모두 PicoRV32와 Ibex에서 명세 기반 설계의 점수 우위를 유지할까?
- 원래 코어 면적의 16배인 면적 상한을 낮추고 물리 합성 후 타이밍 검증을 적용하면 GPT‑6.2 Astra의 처리량 순위는 어떻게 달라질까?