2025년 현재, 인공지능(AI) 반도체 시장에서 주목받는 키워드 중 하나는 ‘HBM(High Bandwidth Memory)’이다. 다시 말해 고대역폭 메모리인 HBM은 AI 서버와 고성능 연산용 GPU의 확산과 함께 폭발적으로 증가하는 데이터 처리 수요를 충족시키며, 기존 DRAM 중심의 메모리 시장을 재편하고 있다. 우리나라는 SK하이닉스와 삼성전자라는 막강한 투톱을 우리나라는 HBM을 기점으로 반도체 강국으로 나아가기 위한 미래를 구상하는 중이다.
HBM, 단순 메모리가 아닌 ‘전략 자산’
HBM은 기존 DRAM보다 최대 10배 높은 대역폭을 제공하면서도, 물리적 공간은 줄이고 소비 전력은 낮추는 고성능 메모리 솔루션이다. 특히 AI 학습용 GPU나 고성능 컴퓨팅(HPC) 환경에서는 데이터 병목을 해결하는 핵심 역할을 한다. 한 예로, 엔비디아의 H100, H200, AMD의 MI300 시리즈, 최근 발표된 블랙웰 GPU 등 최신 AI 연산 칩은 모두 HBM과의 결합을 통해 성능을 극대화하고 있다.
이러한 흐름 속에서 SK하이닉스와 삼성전자는 HBM 시장에서 기술력과 수율, 공급 안정성 측면에서 글로벌 리더로 부상하고 있다. HBM3의 경우, 대역폭이 819GB/s에 달하며, HBM3E는 이를 최대 1.2TB/s까지 끌어올릴 수 있다. 이는 일반 DDR5 메모리보다 약 15배 이상의 전송속도를 자랑한다. 하지만 이 기술은 단순히 DRAM을 많이 쌓는다고 해결되지 않는다. 수직 적층 기술(TSV), 2.5D 인터포저 설계, 고밀도 실장 등 첨단 후공정 기술의 정밀도와 품질 관리 능력이 절대적으로 필요하다.
이러한 기술적 복합성으로 인해 2025년 기준 HBM을 대량 양산해 엔비디아에 안정적으로 납품할 수 있는 기업은 전 세계에서 SK하이닉스와 마이크론 정도다. 다만 마이크론은 HBM3를 발표했지만 본격 양산 일정이 2025년으로 밀려 있고, 수율 측면에서도 여전히 과제가 많다는 평가다.
SK하이닉스는 HBM3 시장에서 2024년 기준 점유율 약 53%, 삼성전자는 약 38%를 차지했으며, 양사는 2025년 상반기 HBM3E 대량 생산체제를 가동할 예정이다. 즉, HBM은 이제 더 이상 틈새형 특수 메모리가 아니라, AI 컴퓨팅 산업의 전략 병목 자산으로 떠올랐다. HBM은 K-반도체가 세계 무대에서 유일하게 기술·수익·시장 점유율 모두를 쥔 영역이라고 볼 수 있다.
HBM 우위에 선 韓, 그러나 게임은 이제부터
문제는 한국이 HBM을 잘 만든다고 해서 반도체 산업 전체의 주도권을 가졌다고 보기 어렵다는 점이다. HBM은 연산 칩(GPU, SoC 등)에 결합돼야만 실제 제품으로 작동한다. 그런데 그 연산 칩을 설계하는 기업은 대부분 미국 기반의 엔비디아, AMD, 인텔이다. 이 칩들이 패키징되는 최종 공정은 대만의 TSMC가 주도하는 CoWoS 플랫폼이 사실상 독점한다.
즉, HBM은 연산 플랫폼의 필수 부품일 수 있지만, 전체 시스템을 설계하거나 통제하는 입장은 아니다. 우리나라는 현재 HBM만 주도할 뿐 패키징은 대만에 의존하고, 시스템 설계는 미국에 종속되며 AI 반도체 플랫폼 전략은 부재한 상태다. 이는 과거 스마트폰 산업에서 AP 설계 없이 메모리 공급만 하던 구조와 다르지 않다.
우리나라는 분명 기술적으로 HBM 패권국이다. 그러나 전체 반도체 가치사슬에서의 주도권을 따지자면, 여전히 갈 길이 멀다. 결정적인 이유 중 하나는 후공정 기술력과 생태계 기반의 약세때문이다. 현재 HBM은 GPU 또는 AI 가속기와 함께 적층·실장을 거쳐 패키징되는데, 이 과정을 주도하는 것은 TSMC와 같은 대만의 파운드리 및 후공정 전문 기업이다. TSMC는 2023년 기준 글로벌 고급 패키징 시장의 60% 이상을 점유하며, 특히 엔비디아의 H100과 H200, AMD의 MI300X 등 주요 칩의 패키징 공정(CoWoS)을 독점적으로 수행하고 있다.
반면 한국은 이 분야에서 인프라와 생태계 모두 열세다. 삼성전자는 자체적으로 메모리 기반 HBM 패키징을 수행하지만, 외부 고객 수주는 제한적이다. SK하이닉스는 대부분의 HBM을 엔비디아에 공급하지만, 패키징은 TSMC나 Amkor Korea 등 외부 업체에 의존하는 구조다.
특히 삼성전자·하이닉스 모두 공정 생산설계(DFx)와 테스트 자동화(TnR) 등의 후공정 설계 최적화 능력에서는 아직까지 제한적 평가를 받고 있다. 여기에 국내 후공정 전문 기업의 숫자와 역량도 매우 제한적이다. ASE(대만), JCET(중국)과 달리, 한국은 Amkor Korea와 하나마이크론 정도가 고급 패키징을 시도하고 있다. 이처럼 공급은 가능하지만 플랫폼 구축이 어려운 구조가 현재 국내 반도체 산업의 현실이다.
다음 스텝은? ‘기술에서 플랫폼으로’
HBM의 성공은 단기적 공급 경쟁에서의 우위를 확보했다는 점에서는 긍정적이다. 하지만 이 우위를 산업 주도권으로 전이시키기 위해서는 구조적 업그레이드가 필요하다. 먼저 차세대 HBM 기술 로드맵 선점이 중요하다. 이미 SK하이닉스는 HBM4 개발을 시작했으며, 12단 적층 TSV 구조와 PAM4 인터페이스 기반 고속 신호처리 기술을 접목하고 있다.
삼성전자는 미세 공정 기반 고수율 HBM4를 2025년 상반기까지 양산한다는 계획을 발표한 바 있다. 하지만 기술 수준 못지않게 중요한 것은 표준화 주도와 상호호환성 확보다. 현재 JEDEC 표준은 뒤늦게 따라가는 수준에 머물며, 이를 선점하는 국가가 이후 메모리 생태계의 규칙을 만든다.
다음으로는 후공정 및 고급 패키징 생태계 확대가 필수적이다. CoWoS, InFO, Fan-Out 등 대만 중심의 기술이 독점되는 상황에서, 한국은 MR-MUF, 하이브리드 본딩 등 대안 기술 확보와 함께 소재 기업·장비 기업과의 협업 체계 강화가 시급하다.
끝으로, HBM을 플랫폼으로 삼아 시스템 반도체 확장 전략을 병행해야 한다. 현재까지 한국은 시스템 반도체 시장에서 약 3% 미만의 점유율을 기록 중이다. 그러나 HBM을 중심으로 메모리와 AI 연산 모듈 통합 전략을 시도할 경우, 후발 주자라도 존재감을 확보할 수 있다. 예컨대, HBM-CIM 기술이나 CXL 기반 DRAM-HBM 융합 메모리 전략이 유망한 후속 전장이 될 가능성도 있다.
HBM이 주목받는 지금이야말로, 한국 반도체가 세계 반도체 공급망을 아우르고 산업을 설계하는 플레이어로 진화할 수 있는 기회다. 단순히 많이 만들고 잘 만드는 기술자가 아니라, 반도체 구조 자체를 설계하고 방향을 제시하는 주도자로 나서야 한다. 지금의 HBM 패권을 단기 실적으로만 소비한다면, 또다시 글로벌 반도체 게임의 조연에 머물지도 모른다. 기술의 우위에서 산업 리더십으로 간다는 것. HBM이 한국 반도체에 던진 진짜 질문은 바로 그것이다.
헬로티 서재창 기자 |
