글로벌 AI 인프라가 범용 GPU 중심에서 벗어나, 맞춤형 ASIC과 커스텀 HBM 중심 구조로 급속히 재편되고 있다. 특히 AI 추론 수요의 폭발로 전력과 비용 효율이 핵심 경쟁력으로 부상하면서, 표준형 HBM이 시스템 병목을 유발하는 한계에 직면했다. 이에 따라 신호·전력·채널 구조를 ASIC별로 맞춤 설계한 커스텀 HBM이 새로운 시장 표준으로 부상하고 있다.

이 같은 흐름은 단순한 기술 진화를 넘어 메모리 산업의 근본 구조를 변화시키고 있다. 과거 ‘규격 제품 중심’이었던 시장은 ‘설계 기반 고부가가치 솔루션’ 중심으로 이동하고 있으며, 커스텀 HBM은 AI 반도체의 실효 성능을 결정하는 핵심 플랫폼으로 자리잡았다.

대표 사례로 구글의 최신 AI 모델 ‘Gemini 3 Pro’가 있다. TPU 기반으로 학습된 이 모델은 GPT-5, Claude 등 경쟁작 대비 우수한 성능을 기록하며 ASIC의 기술 가능성을 입증했다. 특히 복합 추론 및 멀티모달 영역에서 높은 정확도를 보이며, 학습 인프라의 효율성이 AI 성능에 미치는 영향을 부각시켰다.

시장 조사기관 TrendForce는 2026년부터 CSP(클라우드 서비스 제공사)의 인하우스 ASIC 투자 성장률이 GPU보다 두 배 이상 빠르게 확대될 것으로 전망하고 있다. 이와 함께, TPU·ASIC 기반 AI 가속기에 최적화된 데이터 흐름을 구현하기 위한 메모리 수요가 커지면서 커스텀 HBM의 역할이 확대되고 있다.

특히 HBM4부터는 2048bit I/O 기반의 인터페이스 확장을 통해 데이터 유입량이 폭증하는 구조로 바뀐다. 이에 따라 프로세서 외부에서 데이터를 사전 가공해 공급하는 로직 다이의 중요성이 커지고 있으며, 이는 ASIC 구조에 최적화된 커스텀 HBM의 필요성을 더욱 부각시키고 있다.

기업별 전략도 뚜렷하다. SK하이닉스는 엔비디아-TSMC와의 ‘One Team’ 전략을 기반으로 커스텀 HBM 시장에서 압도적 선도 지위를 유지하고 있다. 고객 맞춤형(C-HBM) 조직을 별도 운영해 빠른 기술 대응력을 확보했으며, HBM4 도입과 함께 가격 경쟁력을 뛰어넘는 고수익 기반을 구축하고 있다.

한편 오픈엣지테크놀로지는 커스텀 HBM의 ‘두뇌’에 해당하는 로직 다이에 필수적인 메모리 컨트롤러와 PHY IP를 동시에 공급할 수 있는 국내 유일 기업으로 주목받고 있다. AI 칩 제조에서 칩 간 고속 연결을 위한 칩렛(Chiplet) 기술에서도 핵심 파트너로 부상하고 있으며, 메모리 IDM과 팹리스를 연결하는 기술적 가교 역할을 수행 중이다.

커스텀 HBM은 수요 맞춤형 ‘수주형 산업’으로 재고 리스크가 낮고, 고객 락인 효과가 높다는 점에서 기존 메모리 산업의 수익 모델을 근본적으로 변화시키고 있다. AI 시대, 메모리 반도체의 진화가 또 한 번 산업의 중심축을 흔들고 있다.

■ 필자인 한용희 그로쓰리서치 연구원은 투자자산운용사 자격증을 보유하고 있으며, SBS Biz 방송에 출연중이다.

[편집자주] 독립 리서치 기업인 '그로쓰리서치'의 분석을 담은 내용입니다. 뷰어스는 글과 관련한 투자 결과에 책임을 지지 않습니다.