[테크톡톡] “AI 반도체 데이터 병목 해결사”… 샌디스크 날개 된 ‘...

GPU 아래 낸드플래시 붙인 특허 확보데이터 이동 거리 줄여 AI 반도체 병목 완화HBM 중심 경쟁에서 돌파구 찾으려는 시도상용화 위해서는 발열 제어·수율 과제샌디스크가 미국 특허상표청(USPTO)에 등록한 ‘고용량·고대역폭 저장 메모리를 통합한 프로세싱 코어’ 특허 도면./미국 특허상표청 미국 샌디스크가 개발한 고대역폭플래시(HBF) 기술이 최근 시장에서 재조명받고 있습니다. 샌디스크는 최근 그래픽처리장치(GPU)나 인공지능(AI) 가속기 밑에 낸드플래시를 직접 붙이는 기술 특허를 확보했습니다. 이 기술이 AI 반도체 시장의 데이터 병목을 줄일 수 있는 대안으로 주목받으면서 주가 상승에도 영향을 미친 것으로 분석됩니다.22일(현지시각) 샌디스크 주가는 전 거래일보다 4.07% 오른 2273.73달러(약 350만원)에 거래를 마쳤습니다. 장중에는 2352.99달러까지 오르며 52주 신고가를 기록했습니다. AI 확산에 따라 샌디스크의 주력 제품인 데이터센터향 낸드와 기업용 솔리드스테이트드라이브(eSSD) 사업이 호황을 맞은 데 더해, HBF와 같은 차세대 기술의 상용화 기대감이 주가를 밀어 올린 동력으로 꼽힙니다. 미국 특허상표청(USPTO)에 따르면 샌디스크는 작년 9월 ‘고용량·고대역폭 저장 메모리를 통합한 프로세싱 코어’ 특허(US 12,430,274 B2)를 등록했습니다. 이 특허의 핵심은 GPU나 AI 가속기 같은 프로세서를 고용량 비휘발성 메모리 위에 직접 얹고, 주변에는 고대역폭메모리(HBM) 스택(묶음)을 배치하는 구조입니다.시장조사업체 트렌드포스는 22일 이 특허에 대해 “샌디스크가 낸드를 수직 적층하는 차세대 구조인 HBF 개발에 속도를 내는 동시에, 구조적 용량 한계를 해결하기 위한 추가 메모리 개념도 진전시키고 있다”고 했습니다.반도체 업계 관계자는 “낸드는 D램보다 데이터 접근 속도가 느리지만, 연산 칩 바로 아래에 배치하면 데이터 이동 거리를 줄여 AI 반도체의 병목을 완화할 수 있다”면서 “샌디스크의 특허 기술은 저장 병목을 돌파할 수 있는 미래 하드웨어 구조를 보여주는 기술”이라고 했습니다. AI 병목, GPU 확보에서 메모리 용량으로 이동 그동안 AI 반도체 경쟁은 GPU와 HBM을 얼마나 확보하느냐의 싸움에 가까웠습니다.AI 시장은 대규모 모델을 만드는 ‘학습’에서 실제 사용자에게 답을 제공하는 ‘추론’으로 무게중심이 이동한 상태입니다. 추론 단계에서는 수많은 사용자가 동시에 질문하고, AI가 이전 대화와 문맥을 기억하며, 이미지·영상·음성까지 함께 처리해야 합니다. 이 과정에서 메모리 용량과 데이터 이동이 문제로 부각되고 있습니다. 대규모언어모델(LLM)이 이전 문맥을 빠르게 참조하기 위해 쓰는 키-값(KV) 캐시도 갈수록 커지고 있습니다. AI가 개인화되고 에이전트 AI로 발전할수록 이 한계는 더 뚜렷해집니다.HBM은 비휘발성 메모리인 D램을 수직으로 쌓아 데이터 통로를 넓힌 메모리입니다. GPU가 대규모 병렬 연산을 수행할 때 필요한 데이터를 빠르게 공급해 AI 시대 핵심 부품으로 자리 잡았습니다. 하지만 HBM은 빠른 대신 비싸고, 전원이 끊기면 데이터가 사라지는 휘발성 메모리를 기반으로 해 용량을 무한정 늘리기 어렵습니다.고대역폭메모리(HBM) 모듈화 예시./SK하이닉스 뉴스룸 캡처 SSD는 낸드를 기반으로 해 용량이 크고 가격도 상대적으로 낮습니다. 전원이 꺼져도 데이터가 사라지지 않는 비휘발성이라는 장점도 있습니다. 그러나 AI 칩과 물리적으로 멀리 떨어져 있고, 데이터 전송 속도도 HBM보다 낮습니다.HBF는 이 둘 사이의 빈 공간을 메우려는 기술입니다. HBM보다는 느리지만 SSD보다 빠르고, HBM보다 훨씬 큰 용량을 제공하는 새로운 메모리 계층을 만들겠다는 것입니다. 더 많은 데이터를 더 가까운 곳에 저장하고 빠르게 불러오는 능력이 중요해지는 상황에서 샌디스크의 특허 기술이 대안이 될 수 있다는 분석이 나오자, 시장의 이목이 쏠리게 된 것입니다. 그간 AI 칩은 GPU 옆에 HBM을 붙이고, 더 큰 데이터는 멀리 떨어진 SSD에 맡기는 방식으로 설계됐습니다. 반면 샌디스크의 특허는 대용량 낸드를 연산 칩 바로 아래까지 끌어오는 구조입니다. HBM이 책상 위에 펼쳐둔 ‘참고서’라면, 낸드 기반 HBF를 GPU 가까이에 둔 ‘서가’로 쓰겠다는 개념입니다.업계에서는 이 특허가 HBF를 단순히 HBM과 SSD 사이에 놓이는 ‘새 메모리’로만 보는 데서 더 나아가, AI 칩을 만드는 방식 자체를 바꿀 수 있다는 점을 보여준다고 해석합니다. 샌디스크는 특허에서 낸드 저장공간과 이를 제어하는 회로를 하나로 붙인 구조 위에 GPU나 AI 가속기 같은 연산 칩을 올리는 방식을 제시했습니다. 이 결합 구조를 반도체 칩들이 함께 올라가는 기판인 인터포저에 붙이고, 그 주변에 HBM을 배치하는 방식입니다.쉽게 말하면 대용량 낸드를 GPU 바로 아래에 붙여 효율성을 높이겠다는 것입니다. 낸드 저장공간을 연산 칩 가까이에 두면 데이터 이동 거리를 줄일 수 있습니다. HBM은 당장 빠르게 처리해야 하는 데이터를 맡고, GPU 아래에 붙은 낸드는 더 큰 데이터를 저장하고 반복적으로 읽고 쓰는 역할을 나눠 맡는 구상입니다.이 구조에서 연산 칩은 대형 GPU나 AI 프로세서가 될 수 있고, 주변에는 HBM 스택이 배치될 수 있습니다. 샌디스크가 노리는 것은 낸드를 단순 저장장치가 아니라 AI 반도체 안에서 HBM과 함께 작동하는 고용량 메모리로 끌어올리는 것입니다.고대역폭플래시(HBF) 구조./샌디스크 샌디스크가 제시한 구조는 HBF가 HBM을 대체한다기보다 HBM과 역할을 나누는 방향에 가깝습니다. 즉각적인 연산과 초저지연 작업은 HBM이 맡고, 대용량 읽기·쓰기 작업과 오래 유지돼야 하는 데이터는 낸드 기반 HBF가 맡는 방식입니다.이런 구조가 구현되면 AI 데이터센터는 비싼 HBM을 무한정 늘리지 않고도 더 긴 문맥, 더 많은 사용자 기록, 더 큰 멀티모달 데이터를 처리할 수 있습니다. 추론 비용과 전력 소모를 낮출 수 있어 AI 서비스 기업 입장에서는 매력적인 기술로 여겨질 수 있습니다.다만 HBF가 모든 AI 작업에 적합한 것은 아닙니다. 낸드는 D램보다 지연 시간이 길고, 쓰기 내구성 문제도 있습니다. 따라서 HBF는 지연 시간이 극도로 중요한 연산보다는 대규모 데이터를 반복적으로 읽고, 큰 문맥을 유지하고, 방대한 KV 캐시를 참조하는 추론 작업에 먼저 쓰일 가능성이 큽니다.AI 메모리 아키텍처 개념도./SK하이닉스 뉴스룸 캡처 샌디스크, SK하이닉스와 표준화… 삼성전자도 참전 조짐 업계에서는 샌디스크가 HBF 기술에 집중하는 건 강점을 지닌 낸드를 AI 반도체 패키지 안으로 끌어들여 HBM 중심 경쟁에서 새 돌파구를 찾으려는 시도라고 해석합니다. 낸드는 D램에 비해 AI 시장에서 주목도가 비교적 떨어졌습니다.반도체 업계 관계자는 “HBM은 삼성전자·SK하이닉스·마이크론이 주도하는 시장으로, AI 수요 증가에 따라 초호황기를 구가하고 있다”며 “샌디스크가 이 경쟁을 정면으로 따라가기보다 자신들이 강점을 가진 초대용량 낸드를 AI 반도체 안으로 끌어들이는 전략을 택한 것”이라고 했습니다.샌디스크는 HBM에 근접한 대역폭을 제공하는 HBF를 개발하는 게 목표라고 밝힌 바 있습니다. 비슷한 비용으로 HBM보다 8~16배 큰 용량을 제공하면서 기존 SSD보다 높은 대역폭을 구현하는 제품으로 시장 구도를 재편하겠다는 것입니다.샌디스크는 이미 SK하이닉스와 HBF 표준화 작업을 공식화한 상태입니다. 두 회사는 지난 2월 미국 캘리포니아주 밀피타스 샌디스크 본사에서 HBF 사양 표준화 컨소시엄 킥오프 행사를 열었습니다.SK하이닉스는 HBM에서 축적한 적층·패키징·인터포저 기술을, 샌디스크는 낸드와 플래시 설계 역량을 제공하는 구조로 협력하고 있습니다. SK하이닉스는 HBM 시장에서 엔비디아 공급망을 선점하며 AI 메모리 강자로 자리 잡았습니다. 여기에 샌디스크와 HBF 표준을 함께 만들면, AI 메모리 시장을 HBM과 HBF 양축으로 가져갈 수 있습니다.삼성전자는 공식적으로 HBF 사업 계획을 구체화하지 않았습니다. 다만 업계와 증권가에서는 HBM에서 한 차례 주도권을 놓친 경험 때문에 HBF 시장에는 더