AI 반도체를 볼 때 흔히 먼저 보는 숫자는 FLOPS다. 하지만 실제 가속기는 계산을 시작하기 전에 가중치와 중간 결과를 메모리에서 받아야 한다. 연산 유닛이 아무리 많아도 필요한 데이터가 제때 도착하지 않으면, 비싼 칩의 일부는 기다리는 시간에 묶인다.
H100 SXM은 최대 1,979 TFLOPS의 FP16 Tensor 성능과 3.35TB/s의 HBM3 메모리 대역폭을 함께 제시한다.[1] 두 수치는 단위가 달라 단순히 나눌 수는 없다. 다만 모델이 계산 한 번당 옮겨야 하는 데이터가 많으면, 연산 능력이 남아도 메모리 대역폭이 먼저 한계에 닿을 수 있다는 점은 분명하다.
이를 생산설비에 비유하면 GPU는 고속 조립 라인이고, 메모리는 부품을 실어 나르는 도로다. 조립 라인을 더 설치해도 도로가 막히면 생산량은 기대만큼 늘지 않는다. HBM은 이 도로를 넓히고, 아예 공장 바로 옆으로 옮기는 방식이다.
물론 AI 시스템의 병목은 메모리 하나로 끝나지 않는다. 네트워크, 전력, 냉각, 소프트웨어, 첨단 패키징도 성능과 공급을 제약한다. 그럼에도 대규모 학습과 추론에서는 메모리 용량과 대역폭이 가속기 활용도를 좌우하는 핵심 변수 중 하나다.
HBM은 ‘쌓은 DRAM’보다 넓은 개념이다
투자자 입장에서 HBM을 이해하는 데 필요한 질문은 세 가지다. 첫째, 데이터를 얼마나 넓게 보낼 수 있는가. 둘째, 그 구조를 높은 수율로 대량 생산할 수 있는가. 셋째, 다음 세대 패키지 안에서 고객의 가속기와 제대로 맞물리는가다.
일반적인 메모리 모듈이 기판 주변에 나란히 놓인다면, HBM은 여러 장의 DRAM 다이를 수직으로 적층한다. 다이 사이에는 TSV(실리콘 관통 전극)라는 미세 연결이 들어간다. GPU 가까이에 매우 넓은 데이터 통로를 만들 수 있는 대신, 한 층이 늘 때마다 열, 휨, 접합, 불량 관리도 함께 어려워진다.
따라서 HBM의 경쟁력은 발표된 속도만으로 판단하기 어렵다. 한 장의 다이 불량이 전체 스택의 경제성을 훼손할 수 있고, 고객이 검증한 제품을 안정적으로 납품할 수 있어야 매출과 마진으로 이어진다. HBM은 메모리 설계이면서 동시에 후공정과 생산관리의 시험대다.
SK하이닉스의 12단 HBM3E는 2024년 9월 양산에 들어갔다. 회사는 36GB 용량과 최대 9.6Gbps 동작 속도를 제시했고, 12단을 기존 8단 제품 높이 안에 넣기 위해 DRAM 다이를 40% 얇게 만들었으며 MR-MUF 공정을 적용했다고 밝혔다.[2]
HBM4에서는 메모리와 로직의 경계가 더 흐려진다. SK하이닉스와 TSMC는 2024년 4월 TSMC의 첨단 로직 공정 기반 HBM4 베이스 다이를 공동 개발하고 CoWoS 패키징에 맞춘 최적화를 추진한다고 발표했다. 양산 목표 시점은 2026년이다.[3]
경쟁은 점유율 한 줄로 정리되지 않는다
HBM3E 상용화 국면에서는 SK하이닉스가 먼저 앞섰다. 그렇다고 삼성전자와 마이크론을 ‘없는 경쟁자’로 보는 것은 사실과 다르다. 공개 자료에는 세 회사의 HBM 점유율을 동일 기준으로 비교한 감사 완료 표가 없기 때문에, 총 DRAM 점유율을 HBM 점유율처럼 읽는 것도 피해야 한다.
| 회사 | 공개된 신호 | 읽을 수 있는 범위 |
|---|---|---|
| SK하이닉스 | 2024년 4분기 HBM이 DRAM 매출의 40% 초과;[4] 2025년 HBM 매출은 전년 대비 두 배 이상.[5] | HBM이 실적의 큰 축이라는 근거다. 정확한 HBM 시장점유율은 공개하지 않았다. |
| 삼성전자 | 2024년 4분기 메모리 매출은 HBM과 서버 DDR5 판매 증가에 힘입어 사상 최고.[6] | HBM 기여는 확인되지만 별도 매출은 공개되지 않았다. |
| 마이크론 | 2025회계연도 2분기 HBM 매출 10억 달러 돌파.[7] | 실질적인 세 번째 공급자라는 의미다. SK하이닉스의 비공개 HBM 매출과 직접 비교할 수는 없다. |
SK하이닉스는 2024년 4분기에 HBM이 DRAM 매출의 40%를 넘었다고 밝혔다. 그해 연간 매출은 66.2조원, 영업이익은 23.5조원이었다.[4] 이어 2025년 HBM 매출이 두 배 이상 늘었고, 전사 매출은 97.1조원, 영업이익은 47.2조원으로 각각 47%, 101% 증가했다고 발표했다.[5] HBM이 단순한 기술 홍보가 아니라 이익 구조에 영향을 주는 사업이 됐다는 해석은 가능하다.
삼성전자는 HBM과 서버 DDR5의 판매 증가가 2024년 4분기 메모리 사업의 기록적인 매출에 기여했다고 설명했지만 HBM만의 매출은 분리해 공개하지 않았다.[6] 마이크론은 2025회계연도 2분기에 HBM 매출 10억 달러를 넘어섰다고 밝혔다.[7] 후발 주자를 ‘가능성’으로만 치부하기 어려운 이유다.
SK하이닉스의 방어력은 무엇에서 나오는가
나는 이를 영구적인 독점이 아니라, 세대마다 다시 증명해야 하는 방어력으로 본다. 핵심은 고객 승인, 패키지 공동 설계, 그리고 양산에서 축적된 공정 경험이 서로 분리되지 않는다는 데 있다.
먼저 고객 승인과 물량 계획이다. SK하이닉스는 2025년 4월 HBM 공급 물량을 고객과 약 1년 전에 협의한다고 설명했다.[10] TrendForce는 이전 HBM3 및 HBM3E 8단 제품에도 최소 두 분기의 수율 학습이 필요했고, 12단 제품에는 추가 검증 주기가 뒤따른다고 봤다.[11] 가속기 안에서 검증을 마치고 생산능력까지 예약한 메모리를 공급 도중 바꾸는 일은 범용 DRAM 현물 매입과 다르다.
둘째는 패키지 안에서의 협업이다. CoWoS는 GPU 또는 가속기와 HBM을 인터포저 위에 함께 올린다. SK하이닉스와 TSMC의 HBM4 베이스 다이 및 HBM-CoWoS 통합 협력은 TSMC가 특정 메모리 업체에 묶인다는 뜻은 아니다. 다만 전기적 연결, 열, 패키지 문제를 더 이른 단계에서 함께 풀 기회를 준다.[3]
셋째는 발표 자료에 잘 드러나지 않는 제조 학습이다. 얇은 다이 취급, TSV 연결, 열 관리, MR-MUF, 수율, 고객 인증이 모두 양산 규모에서 맞아야 한다.[2] 경쟁사는 다음 제품의 사양만 맞추면 되는 것이 아니라, 이 과정을 같은 시간 안에 반복해야 한다.
반대 방향의 힘도 있다. 대형 고객은 공급 안정성, 협상력, 리스크 관리를 위해 복수 공급자를 원한다. HBM4에서 삼성전자와 마이크론이 진전하고 있다는 사실도 확인된다. 따라서 ‘몇 년 동안 따라오지 못한다’는 식의 고정된 시간표보다, 세대 전환마다 누가 검증·수율·배분을 가장 잘 실행하는지를 보는 편이 현실적이다.
SKHY 투자자라면 두 가격을 분리해서 봐야 한다
HBM은 우선 SK하이닉스 본업의 가치를 바꾼다. 제품 믹스, 마진, 설비투자 부담, 고객 집중도는 한국 상장 보통주의 이익 기대와 가치평가에 영향을 주고, 그 영향은 SKHY 예탁증서에도 이어진다.
그래서 ‘AI 수요가 좋다’는 큰 문구보다 HBM 매출 성장, DRAM 매출 또는 마진에서의 기여도, 차세대 가속기에서의 인증과 물량 배정 소식을 보는 편이 낫다. 이때 매출 증가가 수율과 현금창출을 동반하는지도 함께 확인해야 한다.
다만 HBM이 강하다고 SKHY가 KRX:000660보다 반드시 더 높은 괴리율로 거래된다는 뜻은 아니다. 두 증권은 같은 SK하이닉스 사업을 반영한다. 상대 가격은 10 ADR 대 보통주 1주의 비율, USD/KRW, 거래 시간, 유동성, 투자자 접근성, 전환 제약, 예탁증서 수급 같은 보다 기계적인 요인으로도 달라진다.
그래서 SKHY 괴리율 계산기는 기업의 펀더멘털 판단과 별도로, SKHY와 KRX:000660의 표시 가격을 환율과 공식 ADR 비율로 비교한다. 계산 기준에서 산식을, 괴리율 추이에서 시간에 따른 간극을 확인할 수 있다. HBM은 사업의 가치를 이해하는 단서이고, 괴리율은 같은 사업에 미국 시장 접근성이 붙은 가격을 보여주는 지표다.
참고자료
- NVIDIA, NVIDIA H100 Tensor Core GPU, 제품 사양, 2026년 7월 26일 확인.
- SK hynix, SK hynix Begins Volume Production of the World's First 12-Layer HBM3E, 2024년 9월 26일.
- SK hynix, SK hynix Partners with TSMC to Strengthen HBM Technological Leadership, 2024년 4월 19일.
- SK hynix, SK hynix Announces 4Q24 Financial Results, 2025년 1월 23일.
- SK hynix, SK hynix Announces FY25 Financial Results, 2026년 1월 28일.
- Samsung Electronics, Samsung Electronics Announces Fourth Quarter and FY 2024 Results, 2025년 1월 31일.
- Micron Technology, Results for the Second Quarter of Fiscal 2025, 2025년 3월 20일.
- TrendForce, Server DRAM and HBM Continue to Drive Growth, 2025년 2월 27일.
- TrendForce, HBM4 Validation Expected in 2Q26, 2026년 2월 13일.
- SK hynix, SK hynix Announces 1Q25 Financial Results, 2025년 4월 24일.
- TrendForce, HBM3E 12-Hi Faces Yield Learning Curve and Customer Validation Challenges, 2024년 9월 30일.