SK하이닉스, AI 메모리 기술 전략 제시…“성능 넘어 에너지 효율까지 최적화”

인공지능(AI) 산업이 빠르게 성장하면서 반도체의 성능뿐 아니라 데이터 처리 과정에서 발생하는 전력 소모와 메모리 효율이 핵심 경쟁력으로 떠오르고 있다. AI 모델이 복잡해지고 처리해야 할 데이터가 늘어날수록 메모리 간 데이터 이동이 증가하면서 새로운 기술적 병목이 발생하고 있기 때문이다.

SK하이닉스는 14일 국내 최대 규모 반도체 전시회인 ‘SEDEX 2026’에서 차세대 메모리 기술 로드맵을 공개하고, AI 인프라의 성능과 에너지 효율을 동시에 높이기 위한 기술 전략을 제시했다.

안현 SK하이닉스 개발총괄 사장은 이날 ‘AI 시대, 메모리 기술의 진화 방향’을 주제로 한 기조연설에서 AI 추론 시장의 확대에 따라 기존 메모리 구조의 한계가 나타나고 있다고 진단했다.

안 사장은 AI 인프라의 지속적인 성장을 위해서는 개별 메모리 제품의 성능을 높이는 데 그치지 않고, 다양한 메모리 계층을 유기적으로 연결해 시스템 전체를 최적화해야 한다고 강조했다.

특히 AI 추론 시장은 작업의 복잡도, 한 번에 처리하는 정보의 길이를 의미하는 컨텍스트(Context), 추론 요청량이라는 세 가지 요인이 동시에 증가하면서 빠르게 확대되고 있다고 설명했다. 이들 요인이 복합적으로 작용해 AI 인프라 수요를 끌어올리고 있으며, 2030년에는 AI 인프라의 성능 규모가 2026년 대비 약 20배까지 커질 것으로 전망했다.

AI 모델의 규모와 활용 범위가 확대되면 연산량뿐 아니라 데이터를 저장하고 이동시키는 과정에서 필요한 메모리 용량도 증가한다.

대표적인 사례가 AI 추론 과정에서 이전에 처리한 정보를 저장하고 재활용하는 ‘KV 캐시(Key-Value Cache)’다. AI가 처리해야 할 문맥이 길어질수록 KV 캐시에 필요한 저장 공간도 늘어난다.

이러한 데이터를 효율적으로 처리하기 위해서는 고대역폭메모리(HBM), D램(DRAM), 솔리드스테이트드라이브(SSD) 등 여러 메모리 계층에 데이터를 분산해 저장해야 한다. 그러나 계층 간 데이터 이동이 많아지면 처리 속도가 저하되고 전력 소비도 증가할 수 있다.

안 사장은 과거의 메모리 장벽이 주로 연산장치와 메모리 사이에서 발생했다면, AI 시대에는 서로 다른 메모리 계층 간 성능 차이와 데이터 이동 자체가 새로운 병목으로 부상하고 있다고 설명했다.

이에 따라 SK하이닉스는 기존 HBM 기술을 고도화하는 동시에 새로운 메모리 계층을 구축하는 기술 개발에 집중하고 있다.

우선 AI 반도체의 핵심 부품인 HBM은 HBM4E까지 용량과 대역폭, 에너지 효율을 높이는 방향으로 발전시키고 있다. 고객사의 AI 시스템 구조에 맞춰 기능을 최적화하는 ‘커스텀 HBM(Custom HBM)’ 개발도 확대한다.

커스텀 HBM은 베이스 다이에 메모리 컨트롤러와 고객 맞춤형 로직을 탑재하는 방식이다. 이를 통해 메모리가 단순히 데이터를 저장하는 부품에서 벗어나 AI 시스템의 성능과 효율을 결정하는 핵심 요소로 진화할 수 있다는 설명이다.

차세대 기술로는 ‘3D Stacked DRAM’과 ‘HBF(High Bandwidth Flash)’가 제시됐다.

3D Stacked DRAM은 그래픽처리장치(GPU)나 신경망처리장치(NPU) 등 연산 반도체 위에 D램을 적층하는 구조다. 연산장치와 메모리 사이의 물리적 거리를 줄여 데이터 전송 속도를 높이고, 데이터 이동에 필요한 에너지를 줄이는 것이 핵심이다.

HBF는 HBM 개발 과정에서 축적한 실리콘관통전극(TSV) 적층 기술과 고속 입출력 기술을 낸드플래시에 적용하는 차세대 메모리다.

SK하이닉스는 HBF를 HBM과 D램 사이의 새로운 메모리 계층으로 배치해 고대역폭과 대용량을 동시에 확보한다는 목표를 세웠다. 동세대 HBM 대비 약 절반 수준의 대역폭과 10배 수준의 용량을 구현하는 것이 개발 목표다.

이를 통해 AI 연산에 필요한 대규모 데이터를 연산장치와 가까운 곳에 저장하고, 상대적으로 멀리 있는 메모리나 저장장치에 접근하는 횟수를 줄여 시스템 전체의 성능과 에너지 효율을 개선할 수 있을 것으로 기대하고 있다.

SK하이닉스는 이 밖에도 컴퓨트 익스프레스 링크(CXL)와 차세대 스토리지 기술인 ‘Storage-Next’ 등을 활용해 메모리 계층을 다양화할 계획이다. HBF의 표준화를 선제적으로 추진하고 글로벌 기술 파트너들과 협력을 강화해 새로운 메모리 생태계도 구축한다는 방침이다.

이러한 기술 전략은 AI 데이터센터의 전력 수요가 증가하는 상황에서 의미가 있다. 연산 성능을 높이는 것만으로는 AI 인프라의 지속적인 확장을 뒷받침하기 어렵기 때문이다. 데이터 이동을 줄이고 메모리 효율을 개선하는 기술은 AI 시스템의 에너지 소비와 운영비용을 낮추는 데 기여할 수 있다. 다만 실제 절감 효과는 향후 제품 상용화와 시스템 적용 결과에 따라 달라질 수 있다.

한편 SK하이닉스는 이번 SEDEX 2026에서 AI 인프라부터 PC와 모바일 기기까지 다양한 분야에 적용되는 메모리 제품을 선보였다.

‘멈추지 않고 나아가는 AI 여정’을 주제로 구성한 전시 공간에서는 HBM과 HBF의 구조 모형, HBM 기술 개발 역사, 엔비디아 베라 루빈 슈퍼칩 등을 전시했다. 젠슨 황 엔비디아 최고경영자(CEO)의 사인이 담긴 HBM 웨이퍼도 공개하며 양사의 협력 관계를 강조했다.

서버용 메모리 제품으로는 256GB 3DS RDIMM과 128GB MRDIMM, 10나노급 6세대(1c) 공정을 적용한 64GB RDIMM 등을 소개했다.

기업용 SSD 분야에서는 액체냉각 기술을 지원하는 PEB210 제품군과 QLC 기반 PS1101 제품을 선보였다. PC와 모바일 분야에서도 DDR5 CSODIMM, GDDR7, LPDDR5X, LPDDR6 등 다양한 D램과 차세대 저장장치 제품을 공개했다.

또한 AI 기술을 활용한 지역사회 사회적 가치 창출 활동을 소개하고, AI 메모리 기술이 가져올 미래 변화를 체험할 수 있는 공간도 마련했다.

SK하이닉스는 이번 전시와 기조연설을 통해 AI 반도체 시장의 경쟁이 개별 메모리 제품의 성능 향상을 넘어 시스템 전체의 효율을 높이는 방향으로 확대되고 있음을 강조했다.

AI 기술의 확산에 따라 데이터 처리량과 전력 수요가 함께 증가하는 가운데, 차세대 메모리 기술이 AI 인프라의 성능과 에너지 효율을 얼마나 개선할 수 있을지가 향후 반도체 산업의 주요 경쟁 요소가 될 전망이다.