AI 수요 급증에 삼성전자, 최초로 12스택 HBM3E 출시

세계 최대의 메모리 칩 제조사는 시장 회복과 AI의 높은 수요를 활용하기 위해 현재까지 가장 발전된 HBM을 출시할 예정입니다.

이미지: 삼성

삼성전자는 업계 최초로 12스택 HBM3E D램을 개발해 역대 최대 용량을 갖춘 고대역폭 메모리로 만들었다고 화요일 밝혔다.

삼성전자는 HBM3E 12H DRAM이 최대 1,280GB/s의 대역폭과 36GB의 용량을 제공한다고 밝혔습니다. 삼성은 8스택 HBM3에 비해 대역폭과 용량이 모두 50% 증가했다고 밝혔습니다.

HBM은 수직으로 쌓인 여러 DRAM 모듈로 구성되며, 각각 스택 또는 레이어라고 합니다. 삼성전자 최신 제품의 경우 D램 모듈 1개당 용량이 24기가비트(GB), 3기가바이트(GB)로 12개다.

메모리 제조사인 삼성, SK하이닉스, 마이크론은 더 많은 용량과 함께 칩을 최대한 얇게 만들기 위해 스택 높이를 제한하면서 스택을 늘리기 위해 경쟁하고 있습니다.

세 회사 모두 메모리 칩 시장의 다운사이클이 끝난 것처럼 보이는 올해 HBM의 생산량을 늘리고, GPU 수요가 증가한 AI의 인기로 인한 높은 수요를 충족할 계획입니다. 특히 Nvidia에서 만든 제품 -- 이 HBM과 쌍을 이룹니다.

삼성전자에 따르면 첨단 열압착 비전도성 필름(TC NCF)을 적용해 12단 HBM3E가 8단 HBM3E와 동일한 높이를 갖도록 만들어 패키지 요구사항을 충족시켰다. 12단 HBM3E는 기존에 사용하던 필름보다 두께가 얇아지고, 스택 사이의 공극을 없애고, 그 사이의 간격을 7마이크로미터로 줄여 8단 HBM3 대비 수직 밀도를 20% 이상 높였다. .

삼성전자는 TC NCF가 크고 작은 범프 사용도 허용했다고 밝혔다. 칩 본딩 시 작은 범프는 신호 전달을 위한 영역에, 큰 범프는 방열이 필요한 곳에 사용된다.

이 기술 대기업은 HBM3E 12H의 더 높은 성능과 용량을 통해 고객이 데이터 센터의 총 소유 비용을 줄일 수 있다고 말했습니다. AI 애플리케이션의 경우 HBM3 8H 대비 AI 훈련 평균 속도는 34%, 추론 서비스 동시 사용자 수는 11.5배 증가할 수 있다고 삼성전자는 밝혔다.

회사는 이미 HBM3E 12H 샘플을 고객들에게 제공했으며, 올해 상반기 양산을 시작할 예정이다.