New global AI computing capacity is doubling every 9 months

🖼️ 인포그래픽

🖼️ 4컷 인포그래픽

💡 한 줄 요약

Epoch AI는 2024년 이후 전 세계에서 분기마다 판매된 AI 칩의 연산능력이 연간 약 2.5배, 약 9.1개월마다 두 배로 증가했으며, 추가적인 성장 둔화 여부는 통계적으로 확실하지 않다고 분석했다.

📌 핵심 요약

• 분기별 신규 연산능력은 2024년 1분기 약 80만 H100e에서 2026년 2분기 약 630만 H100e로 증가했다. 추정 증가율은 연간 2.5배이며 90% 신뢰구간은 2.3~2.7배, 두 배가 되는 기간은 9.1개월이며 90% 신뢰구간은 8.4~10.0개월이다.
• 초기 ChatGPT와 GPT-4 출시 이후 Nvidia H100이 이끈 2023년의 급증에 비하면 성장 속도는 낮아졌다. Nvidia GPU와 Google TPU의 2024년 1분기 H100e 판매량은 2023년 1분기의 약 6배였다.
• Epoch AI는 Nvidia, Google, AMD, Amazon, Huawei, Cambricon의 판매량을 H100 환산 단위인 H100e로 측정했다. 분석에는 2026년 10월 19일 기준 판매량 중앙 추정치와 2024년 1분기부터 2026년 2분기까지 10개 분기의 자료를 사용했다.
• 누적 용량의 전년 동기 대비 증가 배수는 2026년 2분기 2.6배로, 1년 전의 3.5배보다 낮아지며 분기 신규 추가량의 연간 2.5배 추세에 가까워졌다. 신규 추가량의 전년 동기 대비 증가 배수도 2025년 2분기 2.8배에서 2026년 2분기 2.2배로 낮아졌지만, 분기 성장률의 하락 추세는 통계적으로 유의하지 않았다(p = 0.26).
• 판매 시점과 실제 가동 시점에는 수개월의 차이가 생길 수 있으며, Blackwell 등 칩 세대 전환도 분기별 변동을 유발한다. 신뢰구간에는 기초 판매량 추정치의 불확실성이 포함되지 않고, 분석은 10개 분기와 주요 설계사 6곳에 한정된다.

🧩 주요 포인트

1. 년 판매 급증의 영향이 누적 용량에 남아 있어 2024~2026년 누적 자료에 추세를 맞추면 현재 성장률을 과대평가할 수 있다 → 현재 증가 속도를 판단하는 기준은 분기 신규 추가량이다.
2. 전년 동기 대비 증가 배수의 하락과 Blackwell 세대 전환에 따른 변동이 함께 관측된다 → 2024년 이후 구조적인 성장 둔화와 일시적인 판매 파동을 확실히 구분하기 어렵다.
3. H100e와 주요 설계사 6곳의 판매량은 공급되는 연산능력을 비교하는 공통 기준을 제공한다 → 실제 가동 중인 용량이나 판매량 추정 자체의 불확실성까지 포괄하는 지표로 해석해서는 안 된다.

🧠 상세 정리

1. 약 9개월마다 두 배로 늘어나는 신규 연산능력

Epoch AI는 전 세계에서 분기마다 판매된 AI 칩의 연산능력이 2024년 이후 연간 약 2.5배 증가했다고 분석한다. 이는 초기 ChatGPT와 GPT-4 출시 이후 Nvidia의 새 H100 GPU를 중심으로 AI 학습·추론용 연산능력이 급증했던 2023년의 약 6배 증가보다 낮은 속도다. 분기별 판매 칩의 연산능력 합계는 2024년 1분기 827,914 H100e에서 2026년 2분기 6,327,416 H100e로 늘었다. 마지막 분기에는 Nvidia가 3,953,823 H100e, Google이 1,607,427 H100e를 차지했다. 다만 이 수치는 해당 분기에 판매된 칩이 제공하는 신규 연산능력을 나타내므로, 이미 가동 중인 전 세계 AI 연산능력 전체가 같은 기간마다 두 배가 된다는 뜻으로 읽어서는 안 된다.

2. 판매량 추정과 증가율 산출 방법

분석 대상은 Nvidia, Google, AMD, Amazon, Huawei, Cambricon 등 주요 AI 칩 설계사 6곳이며, 서로 다른 칩의 연산능력을 H100 환산 단위인 H100e로 표시했다. 기초 자료는 기업 재무 공시, 분석가 추정, 언론 보도를 바탕으로 모델별 분기 판매량을 추정하는 AI chip sales 자료이며, 2026년 10월 19일 기준 중앙 추정치를 사용했다. Epoch AI는 2024년 1분기부터 2026년 2분기까지 10개 분기의 H100e 판매량에 대해 시간을 설명변수로 하는 로그선형 회귀를 적용했다. 그 결과 연간 증가 배수는 2.5배, 90% 신뢰구간은 2.3~2.7배로 추정됐다. 두 배가 되는 기간은 9.1개월이고 90% 신뢰구간은 8.4~10.0개월이며, 신뢰구간은 회귀 기울기의 표준오차로부터 분석적으로 산출했다.

3. 누적 용량보다 분기 신규 추가량을 보는 이유

Epoch AI는 분기별 추가량을 계속 합산한 누적 용량 대신, 각 분기에 새로 판매된 칩의 연산능력에 추세를 맞췄다. 신규 추가량이 일정한 비율로 증가하면 누적 용량의 증가율도 같은 비율로 수렴하지만, 2023년처럼 판매가 급증한 뒤 증가 속도가 낮아지면 두 지표는 한동안 달라질 수 있다. 실제로 Nvidia GPU와 Google TPU의 2024년 1분기 H100e 판매량은 전년 동기보다 약 6배 많았고, 2024~2025년에는 기존 누적 용량이 최근 분기 판매량에 비해 작아 누적 용량이 상대적으로 빠르게 늘었다. 2026년 2분기 누적 용량은 전년 동기 대비 2.6배로 증가해 신규 추가량의 연간 2.5배 추세에 가까워졌으며, 이는 1년 전 누적 용량 증가 배수인 3.5배보다 낮다. 따라서 2024~2026년 누적 용량 전체에 추세를 맞추면 현재의 증가 속도를 과대평가할 수 있다는 것이 분석의 판단이다.

4. 추가 둔화의 징후와 칩 세대 전환

2023년보다 이후의 증가 속도가 낮다는 점과 별개로, 2024년 초부터 성장률이 계속 둔화했는지 아니면 대체로 일정했는지는 명확하지 않다. 분기 신규 추가량의 전년 동기 대비 증가 배수는 2025년 2분기 2.8배에서 2026년 2분기 2.2배로 낮아졌다. 분기 성장률을 시간에 대해 회귀하면 분기당 약 32%에서 19%로 하락하는 추세가 나타나지만, p값은 0.26으로 통계적으로 유의하지 않다. 분기별 변동에는 2024년 말과 2025년 초 Nvidia의 Blackwell 출시처럼 칩 세대가 바뀌는 과정도 영향을 준다. Nvidia는 최근 차세대 Rubin 칩 출하를 시작했지만 7월에 끝난 최근 회계분기까지 Rubin 매출을 인식하지 않았으며, 관측된 둔화가 세대 사이의 일시적인 공백을 반영할 가능성도 제시된다.

5. 판매 시점과 실제 가동 용량의 차이

이 자료는 AI 칩이 실제로 가동되기 시작한 시점이 아니라 판매된 시점을 추적한다. Nvidia 같은 판매사는 일반적으로 서버 조립 협력사에 칩을 인도할 때 매출을 인식하므로, 해당 칩이 데이터센터에서 실제 운영되기까지는 몇 달이 더 걸릴 수 있다. 따라서 분기별 판매 연산능력은 실제 가동 용량과 시점상 차이가 있다. 분석에서는 Intel, Meta, Microsoft, Cerebras, Groq 같은 소규모 설계사와 Nvidia 등을 포함한 설계사들의 데이터센터용이 아닌 GPU, 예를 들어 게임용 칩도 제외했다. Epoch AI는 제외된 물량이 작아 전체 추세를 의미 있게 바꾸지는 않을 것으로 판단하지만, 이는 분석의 범위와 함께 제시된 판단이며 모든 AI 관련 칩을 집계한 결과는 아니다.

6. 신뢰구간과 관측 기간의 한계

제시된 신뢰구간은 중앙 판매량 추정치에 추세가 얼마나 잘 들어맞는지만 반영하며, 기초 판매량 추정치 자체의 불확실성은 포함하지 않는다. 주요 추정은 10개 분기의 자료에만 의존하고, 새로운 칩 세대의 판매가 본격화되는 과정에서 판매량이 파동을 보일 수 있다는 제약도 있다. 2024년 이전 자료를 제외한 이유는 당시 증가 속도가 이후보다 상당히 높아 같은 추세로 다루기 어렵기 때문이다. 또한 2024년 이전에는 Nvidia GPU와 Google TPU 이외의 AI 칩 판매량 추정치가 없어, 설계사 6곳 전체에 대한 과거 성장 추세를 맞출 수 없다. 따라서 연간 2.5배와 9.1개월이라는 결과는 해당 기간과 자료 범위에서 관측된 추세의 추정치로 이해해야 하며, 추가 둔화 여부에 관한 불확실성도 함께 유지해야 한다.

🧾 핵심 주장 / 시사점

• 누적 용량의 증가 배수가 낮아져도 분기 신규 추가량의 성장률이 같은 정도로 둔화했다고 볼 수는 없다. 2023년 급증의 영향이 누적 지표에서 줄어드는 과정도 두 지표의 차이를 설명한다.
• 분기 신규 추가량이 연간 약 2.5배 증가한다는 추정과, 2024년 이후 추가 둔화가 통계적으로 유의하지 않다는 판단은 함께 성립한다. 성장 속도의 수준과 그 속도가 변하는지는 별개의 분석 대상이다.
• H100e는 판매된 칩의 연산능력을 비교하는 데 쓰이지만, 실제 가동 시점의 지연과 기초 판매량 추정의 불확실성까지 해소하지는 않는다. 추정치의 정밀도와 자료가 포괄하는 범위를 구분할 필요가 있다.

✅ 액션 아이템

• AI 연산능력 증가 속도를 해석할 때 분기 신규 추가량과 누적 용량을 구분하고, 연간 2.5배 추세가 가리키는 대상을 명시.
• 2024년 이후 추가 둔화 여부는 p = 0.26과 Blackwell 세대 전환에 따른 변동을 함께 고려해 판단.
• H100e 판매량을 실제 가동 용량과 구분하고, 10개 분기·주요 설계사 6곳이라는 범위와 판매량 추정의 불확실성을 함께 반영.

❓ 열린 질문

• 2024년 이후 분기 신규 추가량의 증가 배수 하락은 지속적인 성장 둔화인가, Blackwell 등 칩 세대 전환에 따른 일시적 변동인가?
• 판매 시점과 실제 가동 시점의 수개월 차이는 H100e로 측정한 신규 연산능력과 가동 용량의 관계에 어떤 영향을 주는가?
• 기초 판매량 추정치의 불확실성까지 반영하면 연간 2.5배 증가율과 9.1개월 배가 기간의 신뢰구간은 어떻게 달라지는가?