HBF, HBM옆 대용량 플래시 계층

뉴스에 HBF가 자꾸 보이는데, 정작 뭐 하는 건지는 잘 안 보이죠.

한 줄로 먼저 말할게요: HBF는 GPU·CPU 옆에 붙여 HBM과 SSD 사이의 빈틈을 ‘큰 용량+높은 대역폭’으로 메우려는 플래시 모듈이에요.

HBF(High Bandwidth Flash)는 낸드(NAND) 플래시 다이(개별 칩 조각)를 여러 장 수직으로 쌓은 스택(세로 적층 묶음)을 GPU·CPU 가까이에 두고, UCIe(칩과 칩을 가까이에서 고속으로 잇는 표준)로 연결하는 비휘발성 메모리 계층이에요.

스택당 최대 512GB 용량, 등급(Grade)별 대역폭, HBM과 공존하도록 설계됐다는 점이 공개됐어요.

두 가지만 먼저 기억하세요 —

1) UCIe를 지원하지 않는 가속기에는 HBF를 붙일 수 없어요.
2) ‘512GB’는 카드나 서버 전체가 아니라 스택 하나의 용량이에요.

---

HBM 옆에서 큰 용량을 채우는 새 서랍

HBF의 자리는 명확해요.

HBM의 바로 옆에서 부족한 ‘용량’을 플래시로 크게 채우되, SSD처럼 멀리 두지 않고 칩 가까이에 붙여 대역폭을 끌어올리는 구상이에요.

• 비휘발성: 전원을 꺼도 내용이 남아요(플래시 특성).
• 스택 용량: 스택 하나가 최대 512GB 구성(8단·16단 적층로드맵).
• 연결 방식: 칩 가까이에서 쓰는 UCIe 채택.
• 대역폭 제시: 단일 값이 아니라 Grade 13 등급(약 0.43.0TB/s 범위).
• 역할: HBM을 대체가 아니라 공존(coexist)하도록 설계됨.

---

지금 주목받는 이유는 ‘용량이 막혔기 때문’

그럼 왜 지금일까요?

초거대 모델이 요구하는 메모리 크기가 GPU 한 장·한 노드의 HBM을 넘어서면서, ‘모델을 한곳에 올려 돌리기’가 막혔어요.

• 모델 파일 자체 크기(예): FP16 810GB, FP8 405GB, INT4 203GB.
• H100 8장 한 노드 HBM 총합은 약 640GB라 FP16은 한 노드에 안 들어가요. 8비트로 줄여야 겨우 들어가는 수준이에요.
• H200 한 장 HBM은 141GB, 대역폭 4.8TB/s. 8비트로 줄여도 4,050억 파라미터 모델은 한 장에 못 올려요.
• 문맥 128K를 쓰면 FP16 기준 KV 캐시가 123.05GB 더 필요해요 — 모델 크기만의 문제가 아니에요.

즉 ‘HBM 옆에 더 큰 서랍’이 필요해졌고, 그 해법 후보 중 하나가 HBF예요.

다만 속도·지연·전력의 조건을 함께 봐야 해요.

---

핵심 차이는 지연·큰 페이지·비휘발성

HBF가 HBM을 대체하지 않는 이유는 구조가 달라서예요.

플래시 기반이라 비휘발성이지만 지연이 길고, 한 번에 읽는 최소 덩어리(페이지)도 더 커요 — 이건 벤더가 스스로 밝힌 한계예요.

• 지연(latency): HBM보다 길다고 벤더 문서에 명시.
• 읽기 단위: 큰 페이지로 읽는 특성 표기.
• 비휘발성·리프레시 전력 없음: 플래시 특성상 전원 꺼져도 데이터 유지, D램처럼 주기적 리프레시 전력이 들지 않음.
• 대역폭 보기: 규격은 Grade 1~3(약 0.4 ~ 3.0TB/s)로 ‘범위’를 제시. 한편 벤더 로드맵은 1세대 1.6TB/s, 2세대 2TB/s 초과, 3세대 3.2TB/s 같은 ‘목표 수치’를 따로 제시했어요.
• HBM 이해의 기준선: JEDEC 표준은 HBM을 넓은 인터페이스로 고속·저전력을 노리는 D램 적층 메모리로 규정하고, 128비트 버스와 독립 채널 구조를 설명해요.

정리하면 HBF는 ‘용량·비휘발성’에서 강점이, HBM은 ‘짧은 지연·세밀한 접근’에서 강점이 있어요.

그래서 ‘공존’이라는 포지션이 나온 거예요.

---

누가 미는가, 누구 이름이 비었나

속도와 신뢰는 ‘누가 하느냐’에서 시작해요.

첫 규격은 SK하이닉스와 샌디스크가 주 기여자로 공개했고, 구글과 텐스토렌트가 합류했어요.

발표문에 삼성·마이크론 이름은 없어요(참여하지 않는다는 뜻으로 단정할 수는 없어요).

• 주도: SK하이닉스·샌디스크(주 기여자) + 구글·텐스토렌트 합류.
• HBM 시장 배경(’26년 1분기): SK하이닉스 58%, 삼성 21%, 마이크론 21%.
• 낸드 시장 배경(’26년 1분기): 삼성 29%, SK하이닉스 18%, 키옥시아 14%, 마이크론 13%, 샌디스크 13%, YMTC 13%.
• YMTC 낸드 점유율: ’25년 8% → ’26년 13%.

요약하면 HBM 강자와 낸드 강자가 손잡고, 칩 설계·사용 기업이 함께 규격을 밀고 있어요.

이제 궁금한 건 ‘언제 손에 잡히느냐’죠.

---

테이프아웃 완료, 2027 샘플 목표

샌디스크는 첫 HBF 메모리 다이의 테이프아웃(칩 설계를 마치고 제조로 넘기는 단계)을 알렸고, 첫 추론 제품 샘플 목표를 2027년으로 제시했어요.

대량 생산(양산) 시점은 아직 공개되지 않았어요.

• 확정·공개된 것: 첫 규격 공개, 첫 다이 테이프아웃, 2027년 샘플 ‘목표’.
• 미공개·미정인 것: 양산 시점, 실제 지연·전력·내구성(쓰기 수명)·가격 등의 핵심 수치 상당수.

선례로 보면 이미 성숙한 HBM에서조차 ‘차세대 발표→양산’까지 수개월이 걸렸어요.

HBF는 새 계층이니 일정·성능 폭을 약속하는 문장은 경계해 읽으시면 좋아요.

---

정리

• 숫자 옆 ‘조건’을 꼭 같이 보세요: 등급(Grade) 값인지, 벤더 로드맵 목표인지, 실측인지.
• ‘512GB’가 스택 하나 기준인지, 카드·시스템 기준인지 먼저 확인하세요.
• 내 가속기가 UCIe를 받는지부터 체크하세요 — 아니면 HBF를 붙일 수 없어요.
• HBM과 HBF는 공존 전제예요. 동일 축(지연 vs 용량 등)을 섞지 말고 같은 축에서만 비교하세요.
• 일정은 ‘목표’와 ‘확정’을 구분해 보세요: 2027 샘플 목표, 양산 시점 미공개.

---

자주 묻는 질문

Q. HBF가 HBM을 대체하나요?

A. 아니에요.

규격이 ‘공존(coexist)’하도록 설계됐고, 벤더도 HBF가 HBM보다 지연이 길고 큰 페이지로 읽는다고 한계를 적었어요.

역할이 달라서 보완재로 보는 게 맞아요.

Q. HBF 속도는 어느 정도예요?

A. 규격은 등급(Grade)으로 범위를 제시해 약 0.4~3.0TB/s예요.

별도로 벤더 로드맵은 1세대 1.6TB/s, 2세대 2TB/s 초과, 3세대 3.2TB/s 같은 목표 수치를 냈어요(규격의 등급 체계와는 별개예요).

Q. 언제 실제 제품을 볼 수 있나요?

A. 첫 HBF 메모리 다이는 테이프아웃됐고, 추론용 제품 샘플 목표는 2027년이에요.

다만 양산 시점은 아직 어디에도 공개되지 않았어요.

Q. 내 GPU에 HBF를 붙일 수 있나요?

A. 가속기가 UCIe를 받아야 해요.

UCIe를 지원하지 않는 칩에는 HBF를 붙일 수 없다고 발표됐어요.

Q. 전원 끄면 데이터가 남나요?

A. 네, HBF는 플래시 기반이라 비휘발성이에요.

D램처럼 주기적 리프레시 전력이 들지 않는다는 점도 함께 밝혀졌어요.

---

더 확인해보고 싶다면

• 실제 지연시간(ns)과 전력(W) 실측치 — 벤더 데이터시트·후속 규격 업데이트에서 값을 확인하세요
• 내구성(쓰기 수명)과 가격/GB — 샘플 공개 이후 제품 자료에서 확인하세요

---

참고한 글

• https://www.sandisk.com/company/newsroom/press-releases/2026/2026-08-03-Sandisk-and-sk-hynix-advance-global-standardization-of-hbf
• https://documents.sandisk.com/content/dam/asset-library/en_us/assets/public/sandisk/collateral/company/Sandisk-HBF-Fact-Sheet.pdf
• https://www.storagereview.com/news/sandisk-tapes-out-its-first-hbf-memory-die-targets-2027-for-inference-product-samples
• https://www.jedec.org/standards-documents/docs/jesd235a
• https://news.skhynix.com/en/the-story-of-sk-hynixs-hbm-development/
• https://counterpointresearch.com/en/insights/global-dram-and-hbm-market-share
• https://counterpointresearch.com/en/insights/global-nand-memory-market-share
• https://huggingface.co/blog/llama31
• https://www.nvidia.com/en-us/data-center/h200/

HBF, 하이대역폭플래시, HBM, HBF대역폭, HBF용량, UCIe, AI메모리, HBM보완, 샌디스크, SK하이닉스, 표준공개, 2027샘플

---

이 글은 공개된 자료와 업체 발표를 정리한 것입니다. 표준과 제품 사양은 시점에 따라 달라질 수 있으니 최신 규격 문서와 데이터시트를 확인하세요.