HBM 수요 갉아먹는 HBF, 왜 SK하이닉스가 직접 미나

🖼️ 인포그래픽

🖼️ 4컷 인포그래픽

💡 한 줄 결론

HBF는 SK하이닉스가 서버당 HBM 감소를 감수하더라도 AI 비용과 사용량의 병목을 풀어 HBM·HBF·엔터프라이즈 SSD 전체 시장을 키우려는 다음 메모리 전략이다.

📌 핵심 요점

1. HBM은 높은 가격뿐 아니라 디램 적층, TSV 연결, 패키징, 고객 검증에 이르는 복잡한 생산 과정 때문에 공급 확대가 어렵고, 일반 디램보다 많은 웨이퍼 생산능력을 사용한다.
2. AI 에이전트의 작업 시간과 동시 실행 수가 늘면 모델 웨이트와 KV 캐시가 차지하는 공간도 커진다. 다만 모델 공유와 계산 결과 재사용이 가능하므로 AI 사용량과 HBM 수요가 일대일로 증가하지는 않는다.
3. CMX와 HBF의 핵심은 모든 데이터를 HBM에 두지 않는 계층형 메모리 구조다. 빠른 읽기·쓰기가 필요한 데이터는 HBM에 남기고, 자주 바뀌지 않는 모델 웨이트와 오래되거나 사용 빈도가 낮은 KV 캐시는 낸드 기반 계층으로 옮긴다.
4. 제시된 HBM 1TB 구성을 HBM 500GB와 HBF 2TB로 바꾸는 예시처럼 서버당 HBM 용량은 줄어들 수 있다. 그러나 운영비와 토큰 비용이 낮아지면 같은 예산으로 서버·사용자·컨텍스트·에이전트를 늘려 전체 메모리 수요를 확대할 수 있다.
5. SK하이닉스는 HBM만 많이 파는 전략에서 벗어나 HBM·HBF·엔터프라이즈 SSD를 함께 공급하려 한다. HBM4 고객 맞춤화, 조기 공동설계, 장기 공급계약, 합작 팹, Memory as a Service는 수요 가시성을 높일 수 있지만 동시 증설에 따른 메모리 사이클 위험은 남는다.

🧩 배경과 문제 정의

• AI 에이전트의 작업 시간과 동시 사용량이 늘어나면서 모델 웨이트와 KV 캐시가 차지하는 공간도 커지고, 비싸고 공급이 제한된 HBM에 부담이 집중된다.
• HBM으로 역대급 실적을 내는 SK하이닉스가 일부 데이터를 낸드 기반 메모리로 옮겨 HBM 사용량을 줄일 수 있는 HBF를 직접 추진하면서 자기잠식처럼 보이는 선택을 했다.
• 핵심 변수는 HBF가 서버 한 대의 HBM 용량을 줄이는 데 그칠지, 토큰 비용을 낮춰 AI 사용량과 전체 메모리 시장을 더 크게 확장할지에 있다.

🕒 시간순 섹션별 상세정리

1. HBM 공급 부족과 HBF의 자기잠식 역설

• 젠슨 황은 컴퓨텍스에서 SK하이닉스의 HBM4 웨이퍼에 ‘Please make more’를 남겼고, SK하이닉스는 2034년까지 메모리 생산능력을 현재의 세 배로 키울 계획이다. [00:33]
• 엔비디아의 CMX는 모든 데이터를 비싼 HBM에 유지하지 않고 일부를 낸드 플래시에 보관해, 필요한 HBM 용량과 데이터 처리 비용을 줄인다. [00:46]
• AI 에이전트 사용량은 향후 5년간 현재의 77배, 10년 뒤 전체 메모리 수요는 현재 생산능력의 약 5배까지 늘어날 수 있다는 전망이 대규모 증설의 근거가 된다. [02:17]
• 모델 공유와 계산 결과 재사용 때문에 AI 사용량과 HBM 수요가 일대일로 늘지는 않지만, 작업 시간이 길어질수록 모델 웨이트와 KV 캐시가 차지하는 메모리는 계속 증가한다. [03:02]

2. HBM 생산 병목과 CMX의 비용 절감 방식

• HBM은 디램을 수직 적층하고 TSV로 연결한 뒤 패키징과 고객 검증까지 거쳐야 하며, 일반 디램보다 웨이퍼 생산능력을 많이 사용해 PC·스마트폰·일반 서버용 공급에도 영향을 준다. [04:27]
• HBM 가격이 오르면 토큰당 비용이 악화되므로, CMX는 오래되거나 사용 빈도가 낮은 KV 캐시를 낸드 플래시로 옮겼다가 필요할 때 다시 불러와 재계산 비용을 피한다. [05:41]

3. HBF가 맡을 데이터와 서버 경제성 변화

• HBF는 낸드를 8단 또는 16단으로 쌓아 일반 SSD보다 프로세서 가까이에 두지만, 접근 지연과 쓰기 특성 때문에 빠른 읽기·쓰기가 필요한 데이터는 계속 HBM이 담당해야 한다. [06:29]
• 크기는 크지만 자주 바뀌지 않는 모델 웨이트와 오래되거나 사용 빈도가 낮은 KV 캐시가 HBF 이동 후보이며, 이런 데이터가 내려가면 서버 한 대의 HBM 용량은 감소한다. [06:52]

4. 아이팟의 자기잠식과 더 큰 메모리 시장

• 애플은 아이폰에 음악 재생 기능을 넣어 잘 팔리던 아이팟 수요를 스스로 줄였지만, 그 대신 MP3 플레이어보다 훨씬 큰 스마트폰 시장을 확보했다. [08:22]
• HBF도 서버당 HBM 탑재량을 줄일 수 있지만 AI 서비스 비용을 낮춰 사용량을 확대하고, SK하이닉스에는 HBM·HBF·엔터프라이즈 SSD를 함께 공급할 기회를 만든다. [09:21]

5. 대규모 증설과 고객 맞춤형 공급 전략

• 생산능력 확대는 시장 수요에 따라 단계적으로 결정되지만, 여러 업체의 신규 라인이 비슷한 시기에 가동되면 공급이 한꺼번에 늘어 가격이 무너지는 메모리 산업의 순환 위험이 다시 커진다. [10:30]
• HBM4는 TSMC 첨단 로직 공정의 베이스 다이를 활용해 고객별 데이터 흐름과 전력 조건에 맞출 수 있으며, 엔비디아와 구글처럼 요구사항이 다른 고객과 조기 공동설계를 진행하면 미래 물량 예측과 고객 유지가 쉬워진다. [11:12]

6. 동시 증설이 되살릴 메모리 사이클

• 구체적인 계약 형태는 아직 공개되지 않았지만, 고객이 증설 단계부터 미래 물량을 약정하면 공장을 먼저 지은 뒤 구매자를 찾는 방식보다 수요 가시성이 높아진다. [12:00]
• 삼성전자와 마이크론도 AI 메모리 투자를 확대하고 있어 각 회사에는 합리적인 증설이더라도, 신규 라인이 비슷한 시기에 올라오면 전체 공급은 예상보다 빠르게 증가할 수 있다. [12:20]

7. CMX·HBF 채택을 좌우할 검증 과제

• CMX는 베라 루빈 플랫폼에 포함되지만, 실제 효과는 하이퍼스케일러와 데이터센터가 이를 얼마나 적극적으로 채택하고 KV 캐시를 HBM 밖으로 얼마나 옮기는지에 달려 있다. [13:27]
• HBF는 표준화 초기 단계여서 낸드의 신뢰성과 내구성을 유지하면서 모델 웨이트와 일부 캐시를 맡을 성능을 내는지 실제 제품과 시스템에서 검증해야 한다. [13:44]

8. HBF가 바꿀 서버 경제성과 메모리 시장

• HBF가 자리 잡으면 서버 한 대에 필요한 HBM 용량은 줄 수 있지만, 토큰 비용 하락으로 AI 사용량은 더 빠르게 늘어날 수 있다. [14:13]
• 핵심은 서버당 HBM 감소보다 AI 사용량과 전체 메모리 시장의 확대가 더 큰지를 실제 데이터센터에서 확인하는 것이다. [14:26]
• 따라서 HBM 생산량만 볼 것이 아니라, 고가 HBM에 남을 데이터와 낸드 기반 계층으로 내려갈 데이터의 비중까지 함께 봐야 한다. [14:42]
• CMX와 HBF의 역할 범위가 향후 서버 한 대당 HBM 용량을 크게 좌우할 전망이다. [14:46]

9. HBM을 넘어 다음 메모리 구조를 선점하려는 전략

• SK하이닉스는 HBF가 기존 HBM 수요 일부를 잠식할 가능성에도 이를 직접 준비하고 있다. [14:55]
• 이는 애플이 아이팟에 머물지 않고 스마트폰 시장에 진입했듯, 현재 잘 팔리는 HBM보다 다음 메모리 구조를 먼저 차지하려는 공격적인 전략이다. [15:09]
• 이 선택이 더 큰 시장으로 이어질지는 CMX·HBF의 실제 채택과 HBF가 낸드의 신뢰성·내구성 한계 속에서도 HBM의 일부 역할을 맡을 수 있는지에 달려 있다. [15:26]

🧾 결론

• HBF는 HBM을 완전히 대체하는 메모리가 아니라 데이터의 속도와 변경 빈도에 따라 HBM의 부담을 나누는 보완 계층이다.
• SK하이닉스의 자기잠식은 서버당 HBM 탑재량 방어보다 AI 서비스 비용 절감과 전체 사용량 확대를 우선하는 선택으로 해석할 수 있다.
• 이 전략이 성공하면 SK하이닉스는 단일 HBM 공급자를 넘어 데이터 특성별 메모리 계층을 폭넓게 공급할 기회를 얻는다.
• 다만 더 큰 시장이라는 결과는 CMX·HBF의 실제 채택률, HBF의 성능·신뢰성·내구성 검증, 신규 생산능력의 가동 시점에 달려 있다.

📈 투자·시사 포인트

• 서버 한 대에 들어가는 HBM 용량만 보지 말고 전체 서버 수, 사용자 수, 컨텍스트 길이, 동시 에이전트 수와 HBM·HBF·SSD의 구성 변화를 함께 봐야 한다.
• CMX를 채택하는 하이퍼스케일러의 범위와 KV 캐시를 HBM 밖으로 옮기는 비율은 HBM 수요 잠식과 전체 시장 확대 중 어느 효과가 더 큰지 보여줄 선행 지표다.
• HBM4 고객 맞춤화와 엔비디아·구글 등 고객과의 조기 공동설계는 미래 물량 예측과 고객 유지력을 판단할 단서가 될 수 있다.
• 삼성전자와 마이크론을 포함한 신규 라인의 동시 가동은 AI 수요가 강하더라도 공급 급증과 가격 하락을 다시 촉발할 수 있는 하방 변수다.

⚠️ 불확실하거나 확인이 필요한 부분

• AI 에이전트 사용량이 5년간 77배, 전체 메모리 수요가 10년 뒤 현재 생산능력의 약 5배에 이를 수 있다는 수치는 전망이며, 산정 가정과 실현 여부는 제시된 내용만으로 확인할 수 없다.
• HBF는 표준화 초기 단계이므로 낸드의 접근 지연, 쓰기 특성, 신뢰성, 내구성을 유지하면서 모델 웨이트와 일부 KV 캐시를 안정적으로 맡을 수 있는지 실제 제품과 시스템에서 검증해야 한다.
• CMX가 베라 루빈 플랫폼에 포함된다는 사실만으로 데이터센터의 적극적인 채택이나 대규모 KV 캐시 이전이 보장되지는 않는다.
• 자막 기반 정리: 타임스탬프가 있는 자막을 기준으로 정리했으며, 고유명사·수치·인용은 원문 확인 필요 시 별도 검증한다.
• 영상 속 주장: 발표자의 해석·전망·비교는 확인된 외부 사실이 아니라 영상 속 주장으로 분리해 읽는다.
• 검증 필요: 수치, 기업 실적, 정책·시장 전망은 발행 전 최신 자료로 별도 검증이 필요하다.

✅ 액션 아이템

• 하이퍼스케일러와 데이터센터의 CMX·HBF 채택 여부 및 KV 캐시의 HBM 외부 이전 비율을 지속해서 추적한다.
• 서버당 HBM 용량 감소와 전체 서버·사용자·컨텍스트·에이전트 증가를 함께 비교해 총메모리 수요의 순효과를 점검한다.
• HBF 실제 제품의 지연시간, 읽기·쓰기 성능, 신뢰성, 내구성 검증 결과를 확인한다.
• SK하이닉스·삼성전자·마이크론의 신규 라인 가동 시점과 HBM 생산량, 고객 공동설계 및 장기 물량 약정의 구체화를 함께 모니터링한다.

❓ 열린 질문

• HBF와 CMX가 실제 데이터센터에 적용될 때 서버당 HBM 용량은 어느 정도까지 줄어들며, 그 감소분보다 AI 사용량 확대 효과가 더 클까?
• 토큰 비용 하락이 서버·사용자·컨텍스트·동시 에이전트 수요를 얼마나 빠르게 늘릴까?
• HBF는 낸드의 지연시간과 내구성 한계를 견디면서 모델 웨이트와 KV 캐시 중 어느 범위까지 안정적으로 맡을 수 있을까?