"엔비디아 보고 있나"… 4TB 괴물 메모리 들고나온 샌디스크의 선전포고

글로벌 인공지능(AI) 데이터센터 시장이 급격한 메모리 공급 부족과 인플레이션의 파고를 마주하고 있는 현재, 반도체 전방 산업의 가장 큰 숙제는 그래픽처리장치(GPU)의 연산 속도를 메모리 대역폭이 따라가지 못하는 ‘메모리 벽(Memory Wall)’ 현상이다. 테크 기업들은 엔비디아의 칩을 구동하기 위해 초고가인 고대역폭 메모리(HBM)를 울며 겨자 먹기로 조달하고 있으나, DRAM 기반 HBM이 지닌 치명적인 고비용 구조와 물리적인 용량 확장 한계는 AI 비즈니스의 수익성을 갉아먹는 거대한 하부 구조적 걸림돌이었다.

이러한 상황에서 과거 이동식 저장장치나 단순 소모품 제조사로 인식되던 ‘샌디스크(SanDisk)’가 인류 하드웨어 지성사에 거대한 충격파를 던졌다. 웨스턴디지털(Western Digital)로부터의 성공적인 독자 분사 이후, HBM의 용량 한계를 정면으로 겨냥한 하이브리드형 신기술 ‘HBF(High Bandwidth Flash, 하이 대역폭 플래시)’의 독점적 로드맵을 가동하기 시작한 것이다.

메모리 가격이 가파르게 치솟는 국면 속에서 월가의 대형 투자은행들이 샌디스크의 목표주가를 파격적으로 끌어올리는 이유와 이들이 설계한 미래 반도체 지형도를 기획 취재했다.

“HBM은 너무 비싸다”… 엔비디아 판 흔들 ‘HBF’ 공학의 정체

샌디스크가 미래 사활을 걸고 집중 투자하고 있는 HBF(하이 대역폭 플래시) 기술은, 초고속이지만 비싼 DRAM 대신 상대적으로 저렴하고 대량 생산이 용이한 NAND 플래시의 공간 효율성을 수직으로 압축(Compression)한 하이브리드형 메모리다.

AI 모델의 거대한 가중치를 상시 읽어와야 하는 ‘추론(Inference)’ 단계에서는 지연 시간보다 수천억 개의 파라미터를 한 번에 빠르게 전송할 수 있는 거대한 ‘대역폭’과 ‘용량’이 훨씬 중요하다. 샌디스크는 바로 이 점을 정확히 파고들었다.

HBF는 샌디스크의 고도화된 3D NAND 기술인 ‘BiCS8’ 218층 다이(Die) 16개를 실리콘 관통 전극(TSV)으로 수직 적층하고, 로직 레이어를 하부 구조에 결합하는 ‘CBA(CMOS directly Bonded to Array)’ 아키텍처를 전격 전유(Appropriation)했다.

이를 통해 기존 HBM implementations 대비 최소 8배에서 최대 16배에 달하는 압도적인 용량을 구현한다. 단 8개의 HBF 스택만으로 무려 4TB(테라바이트)의 비디오 램(VRAM)을 GPU 하드웨어에 직접 탑재할 수 있게 되는 것이다. 이는 거대한 대형 언어 모델(LLM)을 외부 스토리지 장치와의 병목현상 없이 GPU 대역 위에서 원스톱으로 구동시킬 수 있는 미학적 카타르시스를 선사한다.

AI 추론 시장 독점 조준, 2026~2027 시장 안착 로드맵

자본시장과 실리콘밸리가 예측하는 샌디스크의 장기적 기업 전망은 이 HBF 기술의 상용화 타임라인과 완벽하게 궤를 같이한다. 샌디스크는 단순히 이론적인 기술 제시에 그치지 않고, 글로벌 반도체 장인들과 석학들로 구성된 ‘HBF 기술 자문위원회’를 출범시키며 생태계 선점을 위한 행정 공학을 추진하고 있다. 더욱이 메모리 리더인 SK하이닉스와의 전략적 양해각서(MOU) 체결을 통해 하드웨어 통합을 선제적으로 확보했다.

현재 조율 중인 로드맵에 따르면, 최초의 HBF 메모리 다이 샘플이 주요 빅테크 기업에 인도되어 호환성 검증 단계를 거치고 있다. 이어 인프라 최적화와 컨트롤러 결합 단계를 지나 차세대 AI 추론 디바이스 및 데이터센터용 하드웨어에 공식적으로 안착하는 대전환(Transition)을 이뤄낼 것으로 전망된다. 글로벌 메모리 가격 예측 기관들이 하드웨어 수요 폭증을 예견하는 가운데, 가성비를 무기로 내세운 HBF가 성공적으로 양산 궤도에 오를 경우 샌디스크는 메모리 시장의 새로운 ‘슈퍼 사이클’의 독점적 수혜자가 될 잠재력이 충분하다.

수명 한계와 패키징 동맹… 거인이 넘어야 할 마지막 고개

물론 샌디스크의 장기적 비전이 장밋빛 미래로만 가득한 것은 아니다. 하부 구조가 플래시 메모리(NAND)에 기반하고 있는 만큼, 낸드의 고유한 물리적 취약점인 ‘쓰기 수명(Write Endurance)’의 한계가 아킬레스건으로 지목된다. HBF는 데이터 수정과 기록이 쉴 새 없이 반복되는 AI 학습 워크로드에 무리하게 투입될 경우, 불과 몇 시간 만에 메모리가 파산 상태에 이를 수 있다. 샌디스크가 이 기술을 ‘읽기 중심의 AI 추론(Inference)’ 영역으로 철저하게 한정해 포지셔닝하는 이유가 바로 여기에 있다.

또 다른 거대한 장벽은 엔비디아를 비롯한 절대적인 GPU 독점 기업들과의 패키징 통합 메커니즘 구축이다. HBF가 제 성능을 발휘하려면 메인 프로세서(GPU/NPU)와 동일한 실리콘 인터포저 위에 직접 하이브리드 본딩 형태로 정밀하게 패키징되어야 한다. 현재 자체적인 HBM 아키텍처 생태계를 견고하게 구축하고 있는 기존 GPU 리더들이 샌디스크의 새로운 HBF 규격을 적극적으로 수용하고 설계도를 수정해 줄 것인가는, 향후 샌디스크가 글로벌 반도체 영토에서 독점적 지분을 확보하기 위해 풀어야 할 가장 치명적인 외교·기술적 숙제다.

‘생각하는 기술’에서 ‘기억하는 기술’로… 메모리 권력의 전원

종합하자면 샌디스크는 모두가 고비용 DRAM 기반의 HBM 성능 고도화에만 매몰되어 있을 때, 시장의 거대한 축을 차지하는 ‘AI 추론’이라는 블루오션을 정확히 조준하여 플래시 메모리의 가능성을 하이브리드 형태로 재직조해 낸 영리한 전략가다.

화면 속 가상 현실의 연산 속도만을 숭배하던 테크 경제학에서, 비용 효율성과 용량의 균형을 맞추려는 샌디스크의 HBF 실험은 향후 AI 하드웨어 인프라의 판도를 바꿀 강력한 상수가 될 잠재력이 충분하다.

수명 제어와 플랫폼 연대라는 과제가 남아있지만, 고물가와 투자 효율성이 고도로 요구되는 시대적 흐름 속에서 샌디스크가 선보인 역발상의 공학은 다가올 미래 반도체 지성사의 가장 매혹적이고 다정한 이정표로 기록될 것이다.

ⓒ 뉴욕앤뉴저지. 무단전재 및 재배포 금지

ⓒ New York and New Jersey. Unauthorized reproduction and redistribution prohibited.