🖼️ 인포그래픽

🖼️ 4컷 인포그래픽

💡 한 줄 요약

OpenAI는 대규모 AI 훈련에서 GPU 간 데이터 이동 지연과 장애를 줄이기 위해 MRC라는 새로운 다중 경로 네트워킹 프로토콜을 개발해 공개했다.

📌 핵심 요약

• 프런티어 모델 훈련은 수많은 GPU 사이에서 데이터를 빠르고 안정적으로 이동시키는 슈퍼컴퓨터 네트워크에 의존하며, OpenAI는 AMD, Broadcom, Intel, Microsoft, NVIDIA와 협력해 MRC를 개발했다.
• MRC는 RoCE를 확장한 프로토콜로, 단일 전송을 수백 개 경로와 여러 네트워크 플레인에 분산해 혼잡을 줄이고 장애가 발생한 경로를 마이크로초 단위로 우회하도록 설계됐다.
• OpenAI는 Stargate 규모의 컴퓨팅을 효율적으로 활용하려면 네트워크를 포함한 스택 전반의 복잡성을 줄여야 한다고 보고, MRC 사양을 Open Compute Project를 통해 공개했다.
• MRC는 800Gb/s 인터페이스를 여러 100Gb/s 링크로 나누는 다중 플레인 구조를 활용해 더 적은 스위치 계층으로 10만 개가 넘는 GPU를 연결하고, 비용·전력·장애 가능성을 줄이는 방향을 제시한다.
• 또한 MRC는 패킷 스프레이, 경로 상태 추적, 손실 감지, 패킷 트리밍, SRv6 기반 정적 소스 라우팅을 결합해 동적 라우팅의 복잡성과 장애 영향을 낮추려 한다.

🧩 주요 포인트

1. 프런티어 모델 훈련은 수많은 GPU 사이에서 데이터를 빠르고 안정적으로 이동시키는 슈퍼컴퓨터 네트워크에 의존하며, OpenAI는 AMD, Broadcom, Intel, Microsoft, NVIDIA와 협력해 MRC를 개발했다.
2. MRC는 RoCE를 확장한 프로토콜로, 단일 전송을 수백 개 경로와 여러 네트워크 플레인에 분산해 혼잡을 줄이고 장애가 발생한 경로를 마이크로초 단위로 우회하도록 설계됐다.
3. OpenAI는 Stargate 규모의 컴퓨팅을 효율적으로 활용하려면 네트워크를 포함한 스택 전반의 복잡성을 줄여야 한다고 보고, MRC 사양을 Open Compute Project를 통해 공개했다.
4. MRC는 800Gb/s 인터페이스를 여러 100Gb/s 링크로 나누는 다중 플레인 구조를 활용해 더 적은 스위치 계층으로 10만 개가 넘는 GPU를 연결하고, 비용·전력·장애 가능성을 줄이는 방향을 제시한다.
5. 또한 MRC는 패킷 스프레이, 경로 상태 추적, 손실 감지, 패킷 트리밍, SRv6 기반 정적 소스 라우팅을 결합해 동적 라우팅의 복잡성과 장애 영향을 낮추려 한다.

🧠 상세 정리

1. 대규모 AI 훈련에서 네트워크가 핵심 병목이 된 배경

이 글은 프런티어 모델 훈련이 단순히 많은 GPU를 확보하는 문제를 넘어, GPU 사이에서 데이터를 얼마나 빠르고 안정적으로 이동시키느냐에 달려 있다고 설명한다. 대형 모델 훈련에서는 하나의 학습 단계 안에서도 수백만 건의 데이터 전송이 발생할 수 있으며, 그중 하나가 늦어져도 전체 작업에 지연이 번질 수 있다. 특히 동기식 사전훈련에서는 많은 GPU가 보조를 맞춰 하나의 모델을 훈련하므로, 일부 전송의 지연이나 실패가 GPU 유휴 시간으로 이어진다. OpenAI는 이런 문제를 해결하기 위해 네트워크 성능뿐 아니라 예측 가능성과 장애 복원력을 함께 개선해야 한다고 본다.

2. MRC 개발과 공개의 목적

OpenAI는 AMD, Broadcom, Intel, Microsoft, NVIDIA와 협력해 MRC, 즉 Multipath Reliable Connection을 개발했다고 밝힌다. MRC는 대규모 훈련 클러스터에서 GPU 네트워킹의 성능과 회복력을 높이기 위한 새로운 프로토콜이며, 최신 800Gb/s 네트워크 인터페이스에 들어가는 방식으로 설명된다. OpenAI는 이 사양을 Open Compute Project에 공개해 더 넓은 산업 생태계가 활용할 수 있도록 했다. 글은 이를 OpenAI의 컴퓨트 전략 일부로 설명하며, 핵심 인프라 계층에서 공유 표준을 만드는 것이 AI 시스템을 더 효율적이고 안정적으로 확장하는 데 도움이 된다고 말한다.

3. Stargate 규모가 요구한 설계 전환

OpenAI는 ChatGPT가 매주 9억 명이 넘는 사람에게 사용되고 있다고 설명하며, 자사 시스템이 AI의 핵심 인프라가 되고 있다고 전제한다. Stargate 이전에도 OpenAI는 파트너들과 함께 여러 세대의 슈퍼컴퓨터를 공동 개발하고 운영해 왔고, 그 경험을 통해 대규모 컴퓨팅을 효율적으로 쓰려면 스택의 모든 계층에서 복잡성을 줄여야 한다는 결론에 이르렀다고 말한다. 네트워크 설계도 그 대상에 포함되며, 단순히 빠른 네트워크가 아니라 실패가 있어도 예측 가능한 성능을 내는 네트워크가 목표로 제시된다. 이 흐름에서 MRC는 Stargate 규모의 슈퍼컴퓨터를 가능하게 하는 네트워크 설계의 한 축으로 소개된다.

4. 혼잡과 장애라는 두 가지 핵심 문제

글은 현재 규모의 Stargate 슈퍼컴퓨터를 가능하게 하려면 두 가지 네트워킹 과제를 해결해야 했다고 설명한다. 첫째는 불가피한 병목을 제외하고 설계 단계에서 네트워크 혼잡 가능성을 최소화하는 것이다. 둘째는 링크나 스위치 장애가 훈련 작업 자체에 미치는 영향을 줄이는 것이다. 대규모 클러스터에서는 아무리 품질이 높은 네트워크라도 배경 수준의 장애가 계속 발생할 수 있으며, 과거에는 단일 장애가 훈련 작업을 중단시키거나 체크포인트에서 재시작하게 만들거나 라우팅 재계산 동안 수초 이상 진행을 멈추게 할 수 있었다. 글은 이런 동기식 훈련 워크로드가 장애를 증폭하는 성격을 지니므로, 장애의 영향을 줄이는 것이 필수라고 강조한다.

5. 다중 플레인 토폴로지와 구성 요소 감소

MRC는 먼저 자연스러운 중복성을 가진 네트워크 토폴로지에서 출발한다. 글은 하나의 800Gb/s 네트워크 인터페이스를 하나의 큰 링크로 취급하는 대신 여러 개의 더 작은 링크로 나누는 방식을 설명하며, 예를 들어 하나의 인터페이스를 여덟 개 스위치에 연결해 각각 100Gb/s로 동작하는 여덟 개의 병렬 네트워크 플레인을 만들 수 있다고 말한다. 이 변화는 클러스터의 형태를 크게 바꾸며, 800Gb/s 포트 64개를 연결할 수 있는 스위치가 100Gb/s 포트 512개를 연결하는 방식으로 활용될 수 있다. 그 결과 약 13만1000개의 GPU를 두 계층 스위치만으로 완전 연결하는 설계가 가능해지고, 기존 800Gb/s 네트워크가 요구할 수 있는 세 개 또는 네 개 계층보다 구성 요소와 전력, 비용을 줄일 수 있다고 설명한다.

6. 패킷 스프레이로 단일 경로 한계를 넘는 방식

글은 다중 플레인 구조만으로는 충분하지 않다고 지적한다. 기존 AI 훈련용 네트워크 프로토콜은 일반적으로 패킷 순서를 보장하기 위해 하나의 전송이 단일 경로를 따르도록 설계되는데, 큰 다중 플레인 네트워크에서는 서로 다른 흐름이 같은 링크에서 충돌해 혼잡을 만들고 각 흐름이 사용 가능한 플레인 중 하나만 쓰게 되는 문제가 생긴다. MRC는 이 모델을 바꿔 하나의 전송에 속한 패킷들을 네트워크 전체의 수백 개 경로와 여러 플레인에 분산한다. 패킷은 순서가 뒤섞여 도착할 수 있지만, 각 MRC 패킷에는 최종 메모리 주소가 포함되어 있어 목적지는 도착하는 대로 메모리에 전달할 수 있다. 이 방식은 특정 링크의 핫스폿을 줄여 동기식 AI 훈련에서 문제가 되는 최악 지연을 완화하는 데 초점을 둔다.

7. 경로 상태 추적, 재전송, 패킷 트리밍

MRC 연결은 자신이 사용하는 여러 경로에 대해 작은 양의 상태를 유지하며, 어떤 경로가 혼잡해지는 것을 감지하면 다른 경로로 교체해 네트워크 부하를 고르게 만든다. 패킷을 잃으면 안전한 선택으로 그 경로에 장애가 있을 수 있다고 가정하고 즉시 사용을 중단한 뒤, 손실되었을 가능성이 있는 패킷을 재전송한다. 이후 MRC는 해당 경로를 완전히 버리는 데서 끝내지 않고 프로브 패킷을 보내 실제 장애가 있었는지, 있었다면 복구되었는지를 확인한다. 또한 손실이 항상 장애 때문은 아니며 목적지 혼잡도 흔한 원인이므로, 스위치가 패킷을 버려야 할 상황에서 페이로드를 잘라내고 헤더만 전달하는 패킷 트리밍을 사용한다. 이 헤더는 명시적 재전송 요청을 유발해, 단순 손실을 경로 장애로 잘못 판단하는 사례를 줄인다.

8. SRv6 정적 소스 라우팅으로 동적 라우팅 복잡성 축소

MRC는 네트워크 단순화 측면에서도 중요한 역할을 한다고 글은 설명한다. 전통적으로 스위치는 BGP 같은 동적 라우팅 프로토콜을 실행해 사용 가능한 경로를 계산하고 장애를 우회하지만, 스위치는 복잡한 소프트웨어를 구동하는 복잡한 장치이기 때문에 미묘한 실패가 발생하면 진단이 어렵고 연결 실패를 유발할 수 있다. OpenAI는 MRC가 패킷 손실 경로를 스스로 피할 수 있기 때문에 동적 라우팅의 필요성이 줄었다고 보고, IPv6 Segment Routing인 SRv6를 사용해 송신자가 패킷이 지나갈 경로를 직접 지정하는 방식을 채택했다고 설명한다. SRv6는 스위치 식별자 시퀀스를 패킷의 목적지 주소에 넣고, 각 스위치는 자신의 식별자를 확인한 뒤 다음 식별자가 드러나도록 주소를 이동시키며 정적 라우팅 테이블에 따라 전달한다. 이 구조에서는 경로 실패가 발생해도 스위치가 경로를 재계산하지 않고, MRC가 해당 경로 사용을 멈추는 방식으로 대응한다.

🧾 핵심 주장 / 시사점

• 이 글의 핵심은 대규모 AI 훈련에서 네트워크가 단순한 연결 장치가 아니라 모델 훈련 속도와 안정성을 좌우하는 핵심 인프라라는 점이다.
• MRC의 설계는 더 빠른 링크 하나에 의존하기보다, 많은 경로를 동시에 쓰고 실패한 경로를 빠르게 피하는 방식으로 예측 가능한 성능을 얻으려는 접근이다.
• OpenAI가 MRC 사양을 공개한 것은 대규모 AI 인프라에서 특정 구현만이 아니라 공유 가능한 네트워크 표준과 파트너 생태계가 중요하다는 메시지로 읽힌다.

✅ 액션 아이템

• 수백 개 경로 분산·마이크로초 장애 우회가 가능한 MRC의 RoCE 확장 구조를 기존 GPU 네트워크 병목 구간과 대조한다.
• 800Gb/s 인터페이스를 다수의 100Gb/s 링크로 분할하는 다중 플레인 구성을 기준으로 10만 개 GPU 환경의 스위치 계층·비용·전력 항목을 비교한다.
• Stargate급 대규모 학습에서 스택 복잡성 축소 관점으로 패킷 스프레이·경로 상태 추적·손실 감지·패킷 트리밍의 조합 효능을 점검한다.

❓ 열린 질문

• 수백 경로 분산 설계가 실제 대규모 모델 학습에서 지연 완화에 어느 수준의 효과를 제공할 것인가?
• 10만 개 이상 GPU를 연결하는 환경에서 다중 플레인 구조가 비용·전력 절감으로 어느 정도 정량화되는가?
• SRv6 기반 정적 소스 라우팅은 장애가 발생한 경로를 마이크로초 단위로 우회할 때 동적 라우팅 대비 어떤 신뢰성 한계를 가지는가?