The Hidden Infrastructure Behind the AI Boom
Quick Summary
The Hidden Infrastructure Behind the AI Boom를 중심으로, HPE는 서버·슈퍼컴퓨터·네트워크를 개발한다. 인프라 구축에는 수십억 달러가 들지만, 장비가 실제로 쓰일 때 고객이 어떤 기술을를 핵심 판단 포인트로 압축 정리한다.
영상 보기
클릭 전까지는 가벼운 미리보기만 먼저 불러옵니다.
🖼️ 인포그래픽

🖼️ 4컷 인포그래픽

💡 한 줄 결론
The Hidden Infrastructure Behind the AI Boom를 중심으로, HPE는 서버·슈퍼컴퓨터·네트워크를 개발한다. 인프라 구축에는 수십억 달러가 들지만, 장비가 실제로 쓰일 때 고객이 어떤 기술을를 핵심 판단 포인트로 압축 정리한다.
📌 핵심 요점
- HPE는 서버·슈퍼컴퓨터·네트워크를 개발한다. 인프라 구축에는 수십억 달러가 들지만, 장비가 실제로 쓰일 때 고객이 어떤 기술을 필요로 할지는 투자 시점에 예측하기 어렵다.
- 프로세서 한 개가 쓰는 전력이 늘면서 열을 빼내는 방식이 장비 배치를 좌우하게 됐다. HPE 연구실의 개방형 수랭 시스템은 서버와 주변 설비까지 식히므로, 엔지니어들은 물의 순환 경로와 컴퓨터 구조를 함께 설계한다.
- HPE CEO 안토니오 네리에 따르면 직접 액체 냉각을 적용한 일부 엑사스케일 슈퍼컴퓨터는 이전 세대보다 에너지를 35% 적게 썼다. 별도로 그는 차세대 모듈형 수랭 시스템이 설치 공간을 50% 줄이고 에너지 사용량을 추가로 35% 낮출 수 있다고 전망했다.
- 운용 장소에 따라 풀어야 할 문제도 달라진다. HPE는 정비가 어려운 원격지를 위해 장비를 액체에 담가 식히는 시스템을 시험한다. 달에서는 통신 지연이 과제인 가운데, 애스트로랩의 로버에 컴퓨터를 공급해 언어 모델을 현지에서 실행할 수 있는지 살필 계획이다.
- HPE는 엔지니어가 불확실한 아이디어를 시험할 여지를 둔다. ‘올해의 실패’ 상은 시도가 실패한 뒤 무엇을 바꿔 성과를 냈는지 동료들에게 보여주는 사례를 포상한다.
🧩 배경과 문제 정의
- AI를 실제 서비스로 구현하려면 모델을 학습시키고 실행할 서버와 슈퍼컴퓨터, 데이터를 옮길 네트워크가 필요하다. HPE는 여기에 수십억 달러를 투자해야 하지만, 어떤 장비가 앞으로도 필요할지는 기술 변화 속도 때문에 예측하기 어렵다.
- 프로세서 한 개가 소비하는 전력이 계속 늘면서 열을 빼내는 방식과 장비가 차지하는 공간이 연산 성능만큼 중요한 설계 조건이 됐다.
- HPE CEO 안토니오 네리가 풀어야 할 과제는 기술과 조직 양쪽에 걸쳐 있다. 장비의 효율을 높이는 동시에, 엔지니어가 불확실한 아이디어를 시험하고 실패에서 배울 여건을 마련해야 한다.
🕒 시간순 섹션별 상세정리
1. 달에서 언어 모델을 돌리려는 계획과 인프라 투자의 부담
- HPE는 애스트로랩과 협력해 달에 착륙할 화물 운반용 로버에 컴퓨터를 공급할 계획이다. 달에서 언어 모델을 실행해 우주비행사가 화성으로 출발하기 전에 예측과 분석을 할 수 있는지 살피는 것도 실험 목표다. [00:18]
- 연간 사업 규모가 300억 달러를 넘는 HPE는 서버·슈퍼컴퓨터·네트워크를 개발한다. 이 규모의 인프라를 구축하는 데는 수십억 달러가 드는데, 투자한 장비가 쓰일 때까지 기술 수요가 어떻게 바뀔지는 불확실하다. [01:10]
2. 휴스턴 사옥에 반영한 디자인 감각과 현장 경력
- 네리는 휴스턴 사옥의 나무 조형물에 기술과 지속가능성을 함께 담으려 했다. 그림을 그리고 그리는 공간에서 생각을 정리해 온 그는 동료들과 실내 설계에도 참여해, 디지털 기술을 전시하면서도 사람들이 편하게 머물 수 있게 했다. [03:14]
- 아르헨티나에서 자란 네리는 십 대에 새로운 기술을 접하려고 군 관련 학교에 들어갔다. 이후 HP와 HPE에서 30년 넘게 일했고, 두 창업자를 포함해 열 번째 CEO가 됐다. [04:23]
3. 포뮬러 원에서 검증하는 기술과 AI 아바타를 움직이는 장비
- 포뮬러 원 팀은 세계 각지를 이동하면서 데이터를 주고받고, 시뮬레이션과 모델링 결과를 경기 판단에 활용한다. HPE는 승패가 데이터 해석에 달릴 만큼 요구 수준이 높은 환경에서 기술을 시험한 뒤 다른 고객에게도 판매한다. [05:23]
- 고객 혁신센터의 홀로그램 아바타는 네리의 모습으로 방문객과 대화하고, 미래의 리더십을 한 단어로 묻자 ‘적응력’이라고 답했다. 이 아바타는 현장에서 계속 학습을 수행하는 AI 시스템에 연결돼 있다. [06:44]
4. 달과 화성에서 커지는 통신 지연과 엔지니어의 재량
- 네리는 우주 탐사에 오래 관심을 둔 엔지니어들에게 스스로 문제를 고를 여지와 결정권을 준다. 엔지니어들은 그 재량을 바탕으로 좋아하는 일의 사업적 가치까지 따져 본다. [07:53]
- 네리는 화성으로 가는 길에 중간 거점이 필요하다고 봤다. 달에서도 통신 지연이 크고 화성에서는 더 길어지므로, 달에 먼저 갖춰야 할 기반 중 하나로 통신 연결을 꼽았다. [08:24]
5. 슈퍼컴퓨터 전체를 식혀 줄이는 공간과 전력
- HPE 연구실의 개방형 수랭 시스템에서는 물이 장비로 들어와 열을 받아 밖으로 나간다. 서버뿐 아니라 주변 인프라 전체를 식히므로 물을 순환시키는 기계 설계와 컴퓨터 설계를 함께 해야 한다. [10:26]
- 네리는 이듬해 도입할 차세대 모듈형 수랭 시스템으로 장비를 더 촘촘하게 배치해 공간을 50% 절약하고 에너지 사용량을 추가로 35% 줄일 수 있다고 내다봤다. [11:02]
6. 원격지용 액침 냉각과 장비 내구성 시험
- 일반 데이터센터보다 환경이 가혹하고 정비가 어려운 원격지를 위해 HPE는 장비를 액체에 담가 식히는 일체형 시스템을 시험한다. 네리는 유지보수가 거의 필요 없으며, 오일을 쓰는 방식에서는 기존 서버를 개조하지 않고 사용할 수 있다고 설명했다. [13:36]
- 장비를 현장에 보내기 전에는 충격·진동·습도 시험을 거친다. 연구진은 시스템을 실제로 흔들고 떨어뜨려 극한 조건을 견디는지 확인한다. [14:17]
7. 실패 뒤의 개선을 포상하는 개발 문화
- 메이커스페이스에서 네리는 열다섯, 열여섯 살 무렵 군 기지에서 쓰던 것과 같은 공구를 알아봤다. 경력을 쌓고 나서야 직접 손으로 만들던 일로 돌아가고 싶다는 생각이 들었다고 했다. [15:10]
- HPE의 ‘올해의 실패’ 상은 위험을 감수했다가 실패한 뒤 빠르게 개선해 성과를 낸 사례에 돌아간다. 네리는 실패 이후 무엇을 바꿨는지 동료들이 볼 수 있어야 다음 사람도 시도할 수 있다고 봤다. [16:04]
8. 직원들과의 축구 경기에서 드러난 승부욕
- 네리가 캠퍼스에서 직원들의 즉석 축구 경기에 합류한 뒤에도 선수들은 속도를 늦추지 않았다. 축구화를 신지 않은 네리도 득점을 하나 도왔다. [17:37]
- 어린 시절 양말을 뭉쳐 공을 만들어 놀았던 네리에게 축구는 자라온 생활 그 자체였다. [18:04]
9. 적자 PC 사업으로 옮긴 수평 이동이 연 기회
- 네리는 미국으로 이주하면서 선택할 수 있는 일의 폭이 넓어졌다고 회고했다. 또 다른 전환점은 당시 HP에서 수익성이 가장 높던 사업을 떠나 적자를 내던 PC 사업으로 수평 이동한 결정이었다. [19:26]
- 네리에 따르면 함께 이동한 경영진은 PC 사업을 흑자로 돌리고 1위에 올렸다. 그 경험은 훗날 CEO가 되는 길을 열었다. 그는 후배들에게 직함보다 배울 수 있는 지식을 중시하고, 약속한 일을 해내 다음 역할을 제안받을 만큼 신뢰를 쌓으라고 조언했다. [20:06]
10. 조직이 커질수록 중요해지는 인재 유지와 육성
- 네리가 보는 리더십은 호기심과 열정에서 시작해 공동의 이익을 위해 일하는 데 이른다. 사람들을 위해 시간과 노력을 내놓는 희생도 그 역할의 일부다. [20:46]
- 사업을 확장할 때 네리가 우선하는 일은 인재를 채용하고, 머물게 하고, 성장시키는 것이다. 특히 인재를 붙잡는 데는 조직문화가 중요하며, 주주에게 돌아가는 성과만큼 그 성과를 내는 방식도 중요하다고 봤다. [21:40]
11. 모든 직무에 필요한 ‘AI 부전공’
- 네리는 AI가 일부 일자리를 줄이면서도 다른 분야에서 성장할 기회를 만들 것으로 전망했다. 기술 시장에 진입하는 장벽도 자신이 경력을 시작했을 때보다 낮아졌다고 판단했다. [22:05]
- 그가 말하는 ‘AI 부전공’은 엔지니어링·재무·인사처럼 각자의 전문 분야를 유지하면서 AI를 능숙하게 쓸 수 있을 만큼 배우자는 뜻이다. 네리는 이 기준을 자신에게도 적용했다. [22:33]
12. AI 규범 마련과 기업 도입 속도의 차이
- 네리는 공공·민간 부문이 함께 AI 규제와 윤리 기준을 마련해야 한다고 봤다. 최근 3년간 기술 발전이 빨라지면서 소비자의 쇼핑 방식은 이미 크게 바뀌었다. [23:18]
- 기존 업무 구조가 확고한 기업들은 AI 도입에 더 신중하다. 네리는 기업이 에이전트형 AI를 활용해 업무 절차 자체를 다시 설계하기 시작하면 수요가 크게 늘 것으로 전망했다. [23:37]
13. 위기에는 대응 방식을 바꾸고 판단 기준은 지키는 리더십
- 네리도 자신의 아바타처럼 미래 리더십의 요건으로 적응력을 꼽았다. CEO로 일하는 동안 지정학적 갈등, 팬데믹, 공급망 차질을 겪으며 대응 방식은 조정하되 어려운 결정을 내릴 때도 회사의 목표와 자신이 지켜 온 가치를 기준으로 삼았다고 했다. [24:24]
14. 의료 연구와 재난 예측에 거는 기대
- 네리는 AI가 암·치매·알츠하이머병 치료법 연구를 돕고, 분자 도킹 모델의 계산을 가속해 백신과 의약품 개발 시간을 줄일 가능성에 주목했다. 재난을 발생 전에 예측하는 일도 그가 기대하는 활용처다. [24:58]
- 그는 양자컴퓨팅이 모든 문제를 해결하리라고 보지 않았다. 현재의 컴퓨팅 기술에 수학·과학·AI 알고리즘의 발전과 인프라 개선이 더해지면서 일부 문제의 해법에 가까워졌다는 판단이다. [25:20]
15. 직접 책임질 결정과 개인적 우선순위
- 네리는 아르헨티나 축구 문장과 별 세 개를 새긴 문신에 대표팀에 대한 애정을 담았다. 경영 판단에서는 직감을 선호하며, 주주에게 큰 영향을 미치는 결정은 자신이 직접 책임진다고 했다. [26:38]
- 네리는 커피와 축구를 떠올린 뒤 자신에게 가장 소중한 것은 지금도 가깝게 지내는 자녀들이라고 답했다. 경험이 쌓이면서 여러 걱정에 매달리기보다 결과를 바꾸는 소수의 일에 집중하는 법을 배웠다. [27:44]
16. 재향군인의 사회 복귀를 돕던 양봉장에서 시작한 AI 실험
- 휴스턴 캠퍼스의 양봉 프로젝트는 재향군인에게 양봉을 가르쳐 사회 복귀와 정신건강을 지원하려고 시작했다. 벌을 돌보는 과정에서 자연에 AI를 적용하는 방법을 배운다는 목적이 더해졌다. [28:42]
- 벌통 안에 문제가 생겨도 양봉가가 알아차릴 때는 이미 늦을 수 있다. 연구팀은 센서로 벌통 상태를 추적하고 AI로 이상 징후를 찾아 더 일찍 대응할 수 있는지 시험하고 있다. 양봉 밖으로의 응용도 아직 가능성 단계다. [29:08]
17. 무엇을 찾으려 하는가
- 찾으려는 것은 앞서 언급한 것과 같은 원동력이다 [30:01]
18. 어디에서 그 원동력을 찾는가
- 그 원동력을 찾으려는 곳은 그들이 하는 일 속이다 [30:03]
🧾 결론
- AI 서비스를 구현하려면 계산을 맡는 장비, 데이터를 옮기는 네트워크, 열을 처리하는 설비가 함께 작동해야 한다. 냉각은 컴퓨터를 설계할 때부터 고려할 조건이다.
- 정비 인력이 접근하기 어려운 곳에서는 유지보수 필요성이, 지구와의 통신이 지연되는 곳에서는 현지에서 수행할 수 있는 계산의 범위가 중요한 설계 기준이 된다.
- 네리가 설명한 HPE의 개발 문화는 기술 수요를 예측하기 어렵다는 투자 문제와 맞닿아 있다. 엔지니어에게 문제를 고를 재량을 주고, 실패 뒤의 개선을 공유해 다음 시도에 활용한다.
📈 투자·시사 포인트
- 슈퍼컴퓨터의 경제성을 비교할 때는 같은 작업을 처리하는 데 드는 에너지와 필요한 설치 공간을 함께 봐야 한다. 수랭의 가치는 전력 사용량과 장비 배치 밀도 양쪽에 걸쳐 있다.
- 인프라 투자와 고객의 도입 결정 사이에는 시차가 있다. 네리는 기업이 에이전트형 AI에 맞춰 업무 절차를 재설계하면 수요가 늘 것으로 봤다. 투자 판단에서 확인할 지점은 그 변화가 실제 장비 수요로 이어지는 시점이다.
- HPE는 포뮬러 원 팀의 데이터 전송과 시뮬레이션 환경에서 시험한 기술을 다른 고객에게도 판매한다. 현장 시험의 사업성을 살필 때는 어떤 기능을 다른 고객도 필요로 하는지 보는 편이 유용하다.
⚠️ 불확실하거나 확인이 필요한 부분
- 에너지 절감률 35%는 두 번 등장한다. 하나는 네리가 설명한 일부 기존 슈퍼컴퓨터의 세대 간 비교이고, 다른 하나는 차세대 수랭 시스템에 대한 전망이다. 영상에는 두 수치의 작업 부하와 측정 범위가 제시되지 않아 합산하거나 주어진 수치만으로 직접 비교하기 어렵다.
- 원격지용 액침 냉각이 유지보수를 거의 필요로 하지 않는다는 설명은 네리의 평가다. 영상에서 소개한 충격·진동·습도 시험만으로는 현장에서 장기간 운용했을 때의 정비 빈도를 확인하기 어렵다.
- 달 로버에서 언어 모델을 실행하는 일은 실험 목표다. 기업의 업무 재설계가 AI 수요를 크게 늘릴 것이라는 발언 역시 향후 도입 속도에 관한 전망이다.
- 자막 기반 정리: 타임스탬프가 있는 자막을 기준으로 정리했으며, 고유명사·수치·인용은 원문 확인 필요 시 별도 검증한다.
- 영상 속 주장: 발표자의 해석·전망·비교는 확인된 외부 사실이 아니라 영상 속 주장으로 분리해 읽는다.
- 검증 필요: 수치, 기업 실적, 정책·시장 전망은 발행 전 최신 자료로 별도 검증이 필요하다.
✅ 액션 아이템
- 11분 02초의 차세대 수랭 전망과 12분 16초의 기존 장비 설명을 대조해 대상 장비, 비교 기준, 측정값 또는 예상값 여부를 기록한다.
- 냉각 시스템을 비교할 때 연산 작업, 에너지 측정 범위, 설치 공간을 같은 기준으로 맞춘다. 원격지용 시스템에는 현장 정비 횟수도 비교 항목에 넣는다.
- AI 인프라 수요를 검토할 때 기업의 업무 재설계 계획과 실제 서버·네트워크 도입 사례를 구분해 추적한다.
❓ 열린 질문
- 차세대 모듈형 수랭 시스템은 어떤 작업 부하와 장비 배치에서 공간 50% 절약과 에너지 사용량 35% 추가 절감을 동시에 달성할 수 있을까?
- 기업이 에이전트형 AI에 맞춰 업무 절차를 바꿀 때 서버·슈퍼컴퓨터·네트워크 가운데 어느 장비의 수요가 먼저 늘어날까?