SK하이닉스 안현 사장 "HBM 넘어 전체 메모리 계층 최적화로 AI 병목 깬다"

[미디어펜=조우현 기자]SK하이닉스가 인공지능(AI) 추론 시장 급성장에 따른 새로운 성능 병목을 해결하기 위해 고대역폭메모리(HBM)를 넘어 메모리 전 계층을 아우르는 최적화 기술 로드맵을 공개했다.

안현 SK하이닉스 개발총괄 사장(CDO)은 14일 서울 코엑스에서 열린 국내 최대 반도체 전시회 'SEDEX 2026' 기조연설에서 "AI 추론 수요 급증으로 기존 메모리 계층 간 데이터 이동과 전력 소모에서 새로운 병목이 나타나고 있다"며 "HBM 경쟁력을 한층 높이는 동시에 3D 스택드 D램(3D Stacked DRAM), HBF(고대역폭 플래시) 등 새로운 계층을 구축해 AI 인프라 전체의 에너지 효율과 연산 성능을 극대화하겠다"고 밝혔다.

안 사장은 복잡한 연산, 컨텍스트 확장, 추론 요청량 증가가 맞물리면서 글로벌 AI 인프라 성능 규모가 2026년 대비 2030년까지 약 20배 커질 것으로 전망했다. 특히 과거 연산 토큰을 재활용하는 'KV 캐시' 데이터가 폭증하면서 HBM·D램·SSD 간 데이터 왕복에 따른 지연 현상이 새로운 '메모리 장벽'으로 떠올랐다고 진단했다.

이를 돌파할 해법으로 차세대 아키텍처 로드맵을 제시했다. 연산기와 메모리 간 물리적 거리를 좁히기 위해 GPU·NPU 위에 D램을 수직 적층하는 '3D 스택드 D램'과, TSV 적층 기술을 낸드에 접목한 신개념 메모리 'HBF'를 공식화했다.

HBF는 HBM 대비 절반 수준의 대역폭과 약 10배에 달하는 대용량을 구현해 읽기 위주의 AI 추론 작업에서 D램과 SSD 접근 빈도를 줄여주는 핵심 계층으로 낙점됐다. SK하이닉스는 HBF의 글로벌 표준화 작업을 선제적으로 이끌어 생태계를 주도한다는 방침이다. 

아울러 고객 맞춤형 로직을 베이스 다이에 내장하는 '커스텀 HBM(HBM4·HBM4E)'과 CXL, 차세대 스토리지 기술을 결합해 세분화된 고객 요구에 대응할 계획이다.

한편 SK하이닉스는 이번 SEDEX 전시관을 육상 트랙 형태로 구성하고 부스 중앙에 젠슨 황 엔비디아 최고경영자(CEO)의 친필 사인이 새겨진 HBM 웨이퍼와 차세대 '베라 루빈(Vera Rubin)' 슈퍼칩을 배치해 굳건한 AI 동맹을 과시했다. 

업계 최대 용량인 256GB 3DS RDIMM, 세계 최초 10나노급 6세대(1c) 공정 적용 64GB RDIMM 등 고성능 서버 D램을 비롯해 액체냉각(DLC) 대응 기업용 eSSD(PEB210 시리즈), 초고속 모바일 메모리(LPDDR6, UFS 5.0) 등 칩 투 시스템을 아우르는 AI 풀라인업을 대거 전시했다.

업계에서는 AI 메모리 시장이 단일 HBM 제품 성능 경쟁을 넘어 로직 적층, 대용량 낸드 결합, CXL 인터페이스 등 이종 메모리 간 계층 설계 역량으로 무게추가 이동하고 있다고 보고 있다. SK하이닉스가 HBM 선도 지위를 바탕으로 규격 표준화와 계층 다변화를 주도하며 기술 진입장벽을 한층 공고히 쌓고 있다는 분석이다.