🖼️ 인포그래픽

🖼️ 4컷 인포그래픽

💡 한 줄 결론

샌디스크 특허가 던진 HBF 논의의 핵심은 HBM을 바로 대체한다는 선언이 아니라, NAND를 AI 메모리 계층으로 끌어올릴 수 있는지 수명·열·오류 정정까지 검증해야 한다는 점입니다.

📌 핵심 요점

1. HBF는 NAND 플래시를 HBM과 SSD 사이의 새 계층으로 끌어올려, 커지는 AI 모델 가중치를 더 큰 용량과 상대적으로 낮은 비용으로 다루려는 시도입니다.
2. 샌디스크의 구상은 NAND 다이 적층, 넓은 인터페이스, 로직 베이스 다이, 병렬 채널·다이·플레인 활용을 통해 단일 NAND 셀 속도가 아니라 전체 처리량을 높이는 방향입니다.
3. 다만 NAND는 DRAM이 아니기 때문에 리텐션, 쓰기 내구성, 오류 정정, 발열, 반복 온도 변화에 따른 신뢰성 문제가 HBF의 가장 큰 현실 장벽으로 제시된다.
4. 초기 HBF는 쓰기가 잦은 KV 캐시보다 자주 바뀌지 않는 읽기 중심 모델 가중치에 더 적합하며, HBM·CMX·기업용 SSD와 역할을 나누는 구조가 더 현실적으로 설명된다.
5. 현재 HBF는 특허와 로드맵, 시뮬레이션 중심의 초기 기술에 가깝고, 실제 제품성은 샘플 이후 지연시간·전력·수율·수명·고온 신뢰성 검증으로 판단해야 한다.

🧩 배경과 문제 정의

• AI 반도체의 병목은 연산칩 자체에서 HBM 공급·대역폭·용량 문제로 이동했고, 이제는 HBM과 SSD 사이의 중간 메모리·저장 계층까지 논의가 확장되고 있다.
• HBF는 기존 SSD에 쓰이던 NAND 플래시를 GPU 가까이 끌어와, 커지는 AI 모델 가중치를 비싼 HBM에 모두 올리기 어려운 문제를 완화하려는 접근이다.
• NAND는 비휘발성, 높은 집적도, 상대적으로 낮은 비용이라는 장점이 있지만 DRAM 계열 메모리와 달리 지연시간, 쓰기 내구성, 리텐션, 오류 정정, 발열 안정성 문제가 크다.
• 샌디스크 특허는 프로세서를 NAND 위에 직접 얹고 HBM을 주변부로 배치하는 급진적 패키징 구상을 담아 “HBM 다음은 HBF인가”라는 질문을 만들었지만, 이는 아직 제품 검증이 아니라 특허와 로드맵 차원의 논의로 구분해야 한다.
• 따라서 핵심 쟁점은 HBF가 HBM을 단순히 대체하느냐가 아니라, 읽기 중심 AI 가중치 저장 계층으로서 HBM·SSD·CMX 같은 다른 메모리 계층과 어떻게 역할을 나눌 수 있느냐다.
• 검증이 필요한 부분은 실제 샘플과 양산 조건에서의 지연시간, 전력, 수율, 열 안정성, 데이터 보존성, 쓰기 수명, 오류 정정 부담, 소프트웨어 지원 수준이다.

🕒 시간순 섹션별 상세정리

1. HBM 중심 경쟁에서 HBF 논의로 확장되는 AI 메모리 구도

• AI 반도체 경쟁의 병목이 GPU 연산 성능에서 HBM 대역폭과 용량으로 옮겨간 상황에서, HBM 다음 후보로 NAND 플래시 기반 HBF가 거론되며 논의의 축이 메모리와 저장장치 경계까지 넓어진다 [00:35]
• HBF는 SSD에 쓰이던 NAND를 고대역폭 계층으로 끌어올리려는 개념으로 소개되며, 단순 저장장치가 아니라 GPU 옆에서 AI 모델 가중치를 공급하는 새로운 계층으로 다뤄진다 [00:50]
• 샌디스크 특허는 프로세서를 NAND 위에 직접 붙이고 HBM을 패키지 가장자리로 보내는 구조를 담고 있어, HBM이 AI 패키지의 중심 지위에서 밀려날 수 있다는 우려를 불러온다 [00:54]
• 다만 이 특허는 곧바로 HBM 대체 제품이 등장했다는 의미가 아니라, NAND 기반 고대역폭 계층을 둘러싼 기술 방향과 권리 선점 경쟁을 보여주는 사례로 읽힌다 [01:09]

2. 샌디스크 HBF 로드맵과 NAND를 선택한 이유

• 샌디스크가 제시한 1세대 HBF 목표는 NAND 다이 16개를 한 스택으로 쌓아 512GB 용량과 초당 1.6TB 읽기 대역폭을 구현하는 방향이며, HBM과 유사한 공간에서 훨씬 큰 용량을 제공하는 데 초점이 있다 [01:58]
• 이 구상은 HBM처럼 빠른 대역폭을 추구하면서도, DRAM이 아니라 NAND의 집적도와 비용 이점을 활용해 AI 모델 가중치를 더 많이 가까운 곳에 두려는 시도다 [02:13]
• 2세대와 3세대 로드맵은 대역폭을 초당 2TB 이상, 나아가 초당 3.2TB까지 높이고, 스택당 용량도 1TB와 1.5TB 수준으로 키우는 방향을 제시한다 [02:14]
• 로드맵 수치만 보면 HBF는 HBM 대비 용량 면에서 강점을 내세우지만, 실제 제품에서 같은 조건의 지연시간, 전력, 열, 신뢰성을 만족할지는 별도 검증이 필요하다 [02:29]

3. HBM과 SSD 사이의 새 계층으로서 HBF의 역할

• 공개된 성능 수치에는 내부 시뮬레이션과 개발 목표가 섞여 있으므로, 이를 실제 양산 제품의 확정 성능으로 받아들이기보다는 샘플 이후 검증해야 할 목표치로 봐야 한다 [03:09]
• 특히 HBF의 현실성은 읽기 대역폭 수치만으로 결정되지 않고, 실제 지연시간, 전력 소모, 수율, 장기 신뢰성, 패키지 내부 열 조건이 함께 충족되는지에 달려 있다 [03:24]
• AI 모델 가중치는 계속 커지고 있지만, 모든 가중치를 비싼 HBM에 넣는 방식은 물리적 공간과 비용 측면에서 한계가 있다 [03:39]
• 반대로 SSD에서 필요한 데이터를 매번 가져오면 GPU가 대기하는 시간이 길어지기 때문에, HBF는 HBM과 SSD 사이에서 더 큰 용량을 비교적 가까운 위치에 두는 중간 계층으로 제안된다 [03:54]

4. 병렬성, 다이 적층, SLC 운용이 만드는 성능 선택지

• SSD 내부 컨트롤러는 여러 채널과 여러 NAND 다이에 동시에 명령을 보내고, 각 다이 내부의 여러 플레인도 서로 다른 데이터를 병렬 처리해 전체 처리량을 끌어올린다 [04:01]
• HBF가 NAND 기반임에도 높은 읽기 대역폭을 노리는 배경에는 셀 하나의 속도를 극적으로 높이는 방식보다, 다이와 플레인, 채널을 넓게 병렬화하는 설계가 있다 [04:16]
• 마이크론의 6플레인 NAND 사례처럼 플레인 수가 늘어나면 읽기와 쓰기 명령을 더 많이 동시에 처리할 수 있어, 셀 자체의 물리적 속도 변화 없이도 처리량을 높일 수 있다 [04:24]
• 여기에 다이 적층과 SLC 또는 pSLC 운용을 조합하면 성능과 신뢰성 여유를 얻을 수 있지만, 그만큼 유효 용량과 비용 구조가 달라지는 절충이 발생한다 [04:39]

5. NAND의 리텐션·내구성·오류 정정 한계

• NAND는 셀 안에 가둔 전자의 양에 따라 문턱 전압을 구분하고 이를 데이터로 읽어내는 구조이므로, 전하 상태가 안정적으로 유지되는지가 데이터 신뢰성의 핵심이다 [05:51]
• 셀 하나에 더 많은 비트를 담을수록 전압 상태 간격이 좁아져 작은 전하 변화나 노이즈에도 오류 가능성이 커지며, 이는 고용량 NAND가 피할 수 없는 물리적 한계로 드러난다 [06:06]
• 시간이 지나거나 열을 받으면 셀 안의 전자가 새어나가 저장된 값이 흔들릴 수 있고, 기록한 값을 얼마나 오래 유지할 수 있는지가 리텐션 특성을 결정한다 [06:29]
• HBF가 GPU 가까이에 배치되면 일반 SSD보다 더 높은 열 환경을 마주할 수 있기 때문에, 리텐션과 오류 정정 부담은 단순한 부가 문제가 아니라 제품 성립 조건에 가까워진다 [06:44]

6. GPU 옆 HBF가 마주하는 열·패키징·수명 리스크

• HBF가 GPU 바로 옆에서 높은 대역폭을 유지하려면 NAND 스택만 쌓는 것으로는 부족하고, 로직 베이스 다이와 시스템 소프트웨어가 오류 정정, 불량 다이 관리, 데이터 보정을 함께 처리해야 한다 [08:34]
• GPU 패키지 근처는 전력 밀도와 발열이 큰 영역이기 때문에, NAND의 온도 민감성과 데이터 보존성 문제를 패키징·냉각·컨트롤러 차원에서 함께 해결해야 한다 [08:49]
• 초기 HBF는 자주 바뀌지 않는 읽기 중심 모델 가중치에 더 적합한 계층으로 설명되며, 쓰기가 빈번한 데이터까지 모두 맡기는 구조는 현실성이 낮다 [08:50]
• 특히 추론 과정에서 계속 생기고 지워지는 KV 캐시는 쓰기 부담이 크기 때문에, HBF보다는 HBM이나 별도 고성능 메모리 계층에 두는 구성이 더 현실적인 선택지로 드러난다 [09:05]

7. HBF는 패키징이 아니라 시스템 기술이다

• 오류가 늘어난 영역은 동적으로 격리할 수 있고 pSLC 운용은 수명과 데이터 보존 여유를 키울 수 있지만, 이런 방식은 HBF가 내세우는 고용량 이점을 일부 줄이는 대가를 동반한다 [12:00]
• 즉 HBF는 “NAND를 많이 쌓으면 끝나는 기술”이 아니라, 용량·성능·수명·신뢰성 사이에서 어떤 절충을 선택할지 설계해야 하는 시스템 문제로 압축된다 [12:15]
• HBF가 실제로 작동하려면 셀 구조, 병렬 인터페이스, 컨트롤러, 오류 정정, 열설계, 소프트웨어가 함께 맞물려야 한다 [12:30]
• 따라서 샌디스크의 특허나 로드맵은 흥미로운 방향성을 보여주지만, HBF의 성패는 패키징 아이디어 자체보다 전체 시스템이 NAND의 약점을 얼마나 보완하느냐에 달려 있다 [12:45]

8. 삼성과 엔비디아는 GPU 옆 HBF만이 아닌 다른 경로를 택한다

• 삼성전자는 OCP 표준화 참여나 HBF 제품 사양을 공식 발표하지 않은 상태로 언급되며, HBF가 아직 초기 기술인 만큼 내부 개발과 시장 관망을 병행할 가능성이 남아 있는 것으로 압축된다 [13:13]
• 이 부분은 삼성전자가 HBF를 하지 않는다고 단정하기보다, 공개된 제품 전략과 표준화 참여 정보만으로는 GPU 패키지형 HBF 계획을 확인하기 어렵다는 의미로 구분된다 [13:28]
• 공개 전략상 삼성은 NAND를 GPU 패키지 안에 넣는 방향보다 PCIe 6.0 기반 기업용 SSD와 페타바이트급 스토리지처럼 랙·데이터센터 단위에서 빠르고 크게 활용하는 방향을 강조한다 [13:32]
• 이는 NAND를 AI에 쓰지 않는다는 뜻이 아니라, GPU 옆 초근접 메모리 계층이 아닌 데이터센터 스토리지 계층에서 대용량·고성능 NAND의 역할을 키우는 접근으로 볼 수 있다 [13:47]

9. HBF와 CMX는 경쟁보다 역할 분담 가능성이 크다

• HBF는 잘 바뀌지 않는 읽기 중심 모델 가중치를 겨냥하고, CMX는 계속 생성되고 삭제되는 쓰기 중심 KV 캐시를 겨냥하기 때문에 두 기술은 같은 데이터를 두고 직접 경쟁하는 관계로만 보기 어렵다 [15:13]
• 모델 가중치와 KV 캐시는 접근 패턴이 다르므로, 하나의 메모리 기술이 두 영역을 모두 최적으로 처리하기보다는 각 계층이 맡는 데이터 성격을 나누는 구성이 더 자연스럽다 [15:28]
• 한 팟 안에서 HBF가 GPU 옆에서 모델 가중치를 들고, CMX가 랙 차원에서 KV 캐시를 나눠 가질 수 있다는 시나리오가 드러난다 [15:35]
• 이 관점에서는 HBF가 HBM이나 CMX를 완전히 밀어내는 것이 아니라, AI 시스템 안에서 읽기 중심 대용량 계층으로 공존할 가능성이 충분하다 [15:50]

10. 표준화의 핵심은 용량 숫자보다 인터페이스와 신뢰성 조건이다

• OCP 코리아 테크데이의 주제는 차세대 메모리 계층, AI 스토리지, 데이터 중심 아키텍처, 냉각, 차세대 실리콘 패키징으로 소개되며, HBF 표준화 논의와 맞물릴 가능성이 크다 [16:48]
• 이 행사는 HBF 같은 새로운 메모리 계층이 단일 기업의 패키징 아이디어를 넘어, 데이터센터와 AI 시스템 표준으로 자리 잡을 수 있는지를 가늠하는 장으로 나온다 [17:03]
• HBF 관련 내용이 나온다면 화려한 용량 수치보다 GPU와 HBF 사이의 인터페이스가 어떻게 정의되는지, 오류 정정과 불량 단위 관리 책임이 어디에 놓이는지를 먼저 봐야 한다 [17:20]
• 또한 온도 조건, 수명 기준, 신뢰성 보증 방식이 공개되는지가 중요하며, 이 요소들이 확인되지 않으면 HBF의 실제 경쟁력을 판단하기 어렵다 [17:35]

11. 샌디스크 특허는 HBM 대체보다 공존과 검증 과제를 드러낸다

• 샌디스크 특허는 멀티코어 프로세서를 NAND 위에 직접 붙이고 HBM을 주변으로 밀어내는 급진적 구조를 담고 있지만, 아직 양산 제품이 아니라 권리 선점을 위한 특허 단계로 구분해야 한다 [18:01]
• 이 특허는 HBM이 곧바로 사라진다는 신호라기보다, AI 패키지 안에서 HBM·NAND·프로세서의 배치와 역할을 새롭게 조합하려는 실험적 방향을 보여준다 [18:16]
• 실제로 이런 구조가 동작하려면 전력, 발열, 수율, 수명, 소프트웨어 지원 문제가 해결돼야 하며, 이 요소들은 제공된 내용 기준으로 아직 검증되지 않았다 [18:47]
• 결론적으로 HBF는 HBM을 단순 대체하는 기술이라기보다, 읽기 중심 대용량 가중치 계층으로 HBM과 SSD 사이를 메우려는 시도이며, 최종 평가는 샘플과 표준화, 신뢰성 검증 결과를 확인한 뒤 가능하다 [19:02]

12. 샌디스크 특허의 핵심은 HBM 제거보다 역할 이동에 가깝다

• 이 특허 안에서도 HBM은 같은 인터포저에 남아 지연 시간이 중요한 즉각 작업을 맡고, NAND는 대용량 읽기·쓰기 쪽을 담당하는 역할 분담에 가깝다 [19:07]
• 프로세서를 NAND에 직접 붙이는 구조는 HBF 자체라기보다 HBF보다 더 급진적인 별개념이며, 샌디스크가 더 먼 미래 그림까지 특허로 깔아둔 것으로 읽힌다 [19:25]
• 업계의 현실적인 그림은 대체가 아니라 공존이고, SK하이닉스 시뮬레이션에서는 HBM 8개와 HBF 8개를 함께 붙인 하이브리드 구조가 와트당 성능을 크게 높인 사례로 드러난다 [19:46]
• HBM은 지연 시간과 대역폭이 중요한 데이터를 맡고, HBF는 더 큰 용량을 상대적으로 낮은 비용에 제공하는 별도 계층으로 압축된다 [20:14]

13. HBF의 최종 평가는 샘플·수명·채택 여부와 AI 메모리 경쟁의 확장에 달려 있다

• HBF는 SSD를 단순히 쌓는 것이 아니라 채널·다이·플레인을 극단적으로 병렬화하고 로직 다이, 전용 인터페이스, 신뢰성 관리 기술까지 새로 설계해야 하는 구조로 드러난다 [20:37]
• NAND를 SLC처럼 쓰면 속도와 내구성은 좋아질 수 있지만, TLC나 QLC가 주는 용량·비용 이점은 줄어들기 때문에 모든 문제가 자동으로 해결되지는 않는다 [20:48]
• 앞으로의 관전점은 2026년 하반기 샌디스크 샘플 출시 여부, 초당 1.6TB 목표 유지, 쓰기 많은 워크로드 수명, 고온·온도 변화 뒤 보존 특성과 오류율, GPU·클라우드 업체의 실제 채택 여부다 [20:59]
• AI 반도체 경쟁은 계산 속도와 HBM 대역폭을 넘어 거대한 모델과 컨텍스트를 어디에 두고 얼마나 빠르고 안정적으로 오래 쓸 수 있는지로 넓어졌으며, HBF는 매력적이지만 NAND의 마모와 열·쓰기 특성을 해결해야 완성된다 [21:40]

🧾 결론

• HBF는 HBM을 없애는 기술이라기보다, HBM이 맡기 어려운 대용량 모델 가중치 저장·공급 문제를 보완하려는 새로운 메모리 계층입니다.
• HBM은 지연시간과 즉각적인 데이터 접근이 중요한 영역에 남고, HBF는 NAND 기반의 대용량 읽기 중심 계층으로 배치될 가능성이 큽니다.
• 샌디스크 특허는 방향성을 보여 주지만 제품 자체는 아니며, 실제 구현에는 전력, 발열, 수율, 수명, 소프트웨어 관리 문제가 함께 풀려야 한다.
• 검증이 필요한 부분은 샌디스크가 제시한 2026년 샘플 일정, 초당 1.6TB급 목표 성능, 고온 환경에서의 리텐션과 오류율, 쓰기 많은 워크로드에서의 수명입니다.
• 영상의 결론은 “HBM 다음이 곧바로 HBF”라기보다, AI 반도체 경쟁이 GPU와 HBM을 넘어 SSD·NAND·네트워크 스토리지까지 확장되고 있다는 쪽에 가깝습니다.

📈 투자·시사 포인트

• AI 메모리 경쟁은 단순히 HBM 공급량만 보는 단계에서, 모델 가중치와 KV 캐시를 어디에 저장하고 얼마나 빠르게 공급할지 보는 계층 경쟁으로 넓어지고 있다.
• 샌디스크와 SK하이닉스의 HBF 표준화 움직임은 NAND 업체와 HBM·패키징 역량을 가진 업체가 AI 인프라 시장에서 새 역할을 찾고 있음을 시사한다.
• 삼성전자는 영상 기준으로 HBF 제품 사양을 공식화하기보다 PCIe 6.0 기업용 SSD, 페타바이트급 스토리지 등 랙·데이터센터 단위 전략을 강조하는 경로로 설명된다.
• 엔비디아의 CMX 같은 외부 스토리지 계층은 HBF와 정면 경쟁하기보다, HBF가 모델 가중치에 가깝고 CMX가 KV 캐시 같은 데이터를 맡는 식의 역할 분담 가능성을 보여 줍니다.
• 투자 관점에서는 HBF 관련 숫자보다 인터페이스 표준, 오류 정정 책임, 열 설계, 수명 기준, 실제 고객 채택 여부를 더 중요하게 봐야 한다.
• NAND 수요 확대 기대는 존재하지만, HBF가 실제 매출과 공급망 변화를 만들려면 샘플 검증과 양산 신뢰성 확인이 선행되어야 한다.

⚠️ 불확실하거나 확인이 필요한 부분

• 샌디스크의 HBF 성능 수치에는 내부 시뮬레이션과 개발 목표가 섞여 있어, 실제 지연시간·전력·수율·신뢰성은 샘플 이후 별도 검증이 필요하다.
• 2026년 하반기 샘플, 2027년 초 초기 AI 추론 시스템 목표가 언급되지만, 실제 일정 유지 여부와 양산 가능성은 아직 확정된 사실로 보기 어렵다.
• 샌디스크 특허는 급진적인 패키징 구조를 보여 주지만, 현재 단계에서는 제품 발표가 아니라 권리 선점 성격이 강하므로 실제 구현 여부는 확인이 필요하다.
• 자막 기반 정리: 타임스탬프가 있는 자막을 기준으로 정리했으며, 고유명사·수치·인용은 원문 확인 필요 시 별도 검증한다.
• 영상 속 주장: 발표자의 해석·전망·비교는 확인된 외부 사실이 아니라 영상 속 주장으로 분리해 읽는다.
• 검증 필요: 수치, 기업 실적, 정책·시장 전망은 발행 전 최신 자료로 별도 검증이 필요하다.

✅ 액션 아이템

• 샌디스크가 발표한 HBF 1세대 목표치인 512GB, 초당 1.6TB 읽기 대역폭, 2026년 하반기 샘플 일정이 이후 발표에서도 유지되는지 추적한다.
• OCP 워크스트림과 OCP 코리아 테크데이에서 HBF 인터페이스, 오류 정정 책임, 불량 다이 관리, 온도·수명 기준 관련 논의가 나오는지 확인한다.
• HBF가 TLC·QLC·pSLC 중 어떤 운용 방식을 전제로 하는지, 그 선택이 용량·속도·수명에 어떤 trade-off를 만드는지 정리한다.
• HBF와 엔비디아 CMX/스토리지 렉 접근법을 모델 가중치, KV 캐시, 지연시간, 교체성, 열 관리 관점에서 비교표로 정리한다.

❓ 열린 질문

• HBF는 실제 AI 추론 시스템에서 HBM 대비 어느 정도의 지연시간 차이를 보이며, 그 차이가 모델 가중치 로딩에는 허용 가능한 수준일까?
• HBF가 읽기 중심 모델 가중치에는 적합하더라도, 쓰기가 잦은 KV 캐시나 임시 데이터 처리까지 맡을 수 있을까?
• GPU 바로 옆에 NAND를 배치했을 때 열 스트레스와 반복 온도 변화가 리텐션·쓰기 내구성·오류율에 미치는 영향은 어느 정도일까?