HBM은 "High Bandwidth Memory"의 약자로, 고대역폭 메모리를 의미합니다. HBM은 컴퓨터 시스템에서 그래픽 카드 및 고성능 컴퓨팅 애플리케이션과 같은 대규모 데이터 처리를 요구하는 작업에 사용되는 혁신적인 메모리 기술입니다.
HBM은 기존의 GDDR5 또는 GDDR6와 같은 표준 그래픽 메모리와 비교하여 큰 대역폭 및 낮은 전력 소비를 제공합니다. HBM은 고밀도로 구성된 여러 개의 3D 스택으로 구성되며, 각 스택은 논리 칩에 직접 연결되어 매우 빠른 데이터 전송 속도를 제공합니다.
HBM은 주로 GPU(그래픽 처리 장치)에서 그래픽 데이터 및 중앙 처리 장치(CPU)와의 데이터 통신을 위해 사용됩니다. 이를 통해 고해상도 그래픽 처리, 가상 현실(VR) 및 인공지능과 같은 고성능 컴퓨팅 작업을 더 효율적으로 처리할 수 있습니다.
HBM은 그래픽 카드 및 고성능 컴퓨터 시스템에서의 성능 향상을 위해 계속해서 발전하고 있으며, 현재는 HBM2 및 HBM2E와 같은 다양한 세대의 HBM 기술이 존재합니다.
-
장점
-
짧은 메모리 레이턴시와 높은 메모리 대역폭
메모리 적층을 통해 여러 메모리 채널을 갖추어 GDDR 계열 SGRAM에 비해 짧은 레이턴시와 높은 대역폭을 동시에 구현할 수 있다. -
작은 칩 면적과 작은 컨트롤러 면적
PCB에서 차지하는 메모리 칩(모듈)의 총 면적을 줄일 수 있고, 프로세서 내부에 탑재되는 내장 메모리 컨트롤러 자체도 기존 GDDR 계열 SGRAM 대비 더 작은 편이기 때문에 면적 대비 고대역폭에 유리하다. 당장 최상위 GPU에 탑재되는 GDDR6 SGRAM 컨트롤러의 총 면적만 봐도 HBM 컨트롤러보다 훨씬 더 넓은 면적으로 차지하고 있다. 그러므로 제한된 크기에서 성능을 올려야 할 때 HBM으로 성능 밀도를 더 올릴 수 있다.
-
-
단점
-
높은 구현 난이도로 인한 비싼 가격
단순히 기판에 붙이면 되는 SGRAM에 비해 HBM은 추가로 미세회로인 인터포저를 그려넣는 공정이 추가로 필요하다. 이 때문에 GDDR 계열 SGRAM보다 구현이 어렵다는 단점이 있다. 사실상 인터포저 때문에 HBM의 장점을 다 깎아먹고 있다고 봐도 과언이 아니다. 지지부진한 수율 상승과 GDDR 계열 SGRAM의 최신 규격인 GDDR6에 비해서 뚜렷하게 우세하지 못한 성능[1]과 높은 구현 난이도로 인한 비싼 가격으로 일반적인 소비자용 그래픽카드에 적용되어 있는 GDDR을 완전히 대체하기에는 무리가 있다. 때문에 현재는 HBM이 마냥 장밋빛 전망인 것은 아니다.[2] -
복잡한 구조와 낮은 공정 숙련도로 인한 낮은 내구성
HBM이 적용된 Radeon VII과 같은 그래픽 카드의 경우 아무래도 기존의 그래픽카드에 많이 사용되던 GDDR이 아닌 새로운 형태의 메모리이고 구조도 복잡하기 때문에 내구성이 떨어져 메모리가 고장나면서 그래픽카드가 돌연사 하는 경우가 종종 나타나고 있다. # 또한 메모리가 고장났을 시 리솔더링을 통해 비교적 쉽게 수리가 가능한 GDDR과 달리 그래픽 카드 다이에 인터포저가 직결되어 있는 HBM은 수리가 굉장히 까다로우며, 사실상 자가수리가 불가능하다고 보아야 한다.[3] -
낮은 메모리 클럭과 낮은 오버클럭 마진
기본적으로 HBM 메모리는 대역폭이 GDDR 대비 엄청나게 넓지만, 동작 속도 자체가 훨씬 낮고 GDDR에 비해 구조가 복잡하며 여러 개의 칩으로 구성되어 열원이 분산되는 GDDR에 비해 하나의 칩에 적층으로 구성되어 있어 열원이 더 집중되어 나타난다. 그러므로 방열에 더욱 불리한 구조를 가지고 있다.[4] 따라서 메모리 오버클럭으로 인한 성능 증가에 비하여 발열의 증가가 GDDR의 경우보다 더욱 크기 때문에 오버클럭을 통한 성능향상에 한계가 있다. -
불리한 메모리 용량 확장성
용량 측면에서 현재 HBM 메모리는 4층까지 적층할 수 있는데 층당 용량한계가 2 GB이기 때문에 8 GB 용량이 한계이다. 그림에서 보이는 것처럼 GDDR의 경우 넓은 기판 전·후면에 수십 개씩 칩을 박아 넣는 식으로 용량을 계속 늘릴 수 있지만, HBM은 실리콘 인터포저를 사용하는 방식의 한계 때문에 이런 무식한 용량 확대가 불가능하다.
-
HBM(고대역폭 메모리)을 사용하는 주요 플레이어는 주로 반도체 기업이며, 현재까지 HBM을 상용화한 기업으로는 SK Hynix, Samsung Electronics, Micron Technology, AMD, NVIDIA 등이 있습니다. 이 중 SK Hynix와 Samsung Electronics는 주요 HBM 메모리 공급 업체로 알려져 있습니다.
현재 HBM 기술은 계속 발전하고 있으며, 여러 세대의 HBM이 출시되었습니다. 초기에는 HBM1이 등장하였고, 이후 HBM2, HBM2E, 그리고 최근에는 HBM3가 개발되었습니다. 각 세대는 전송 속도, 대역폭, 용량 등의 측면에서 향상되었습니다.
HBM은 주로 고성능 컴퓨팅 분야에서 사용되며, 그래픽 카드 및 고성능 컴퓨터 시스템에서 GPU와 CPU 간 데이터 전송을 가속화하는 데 중요한 역할을 합니다. 이를 통해 고해상도 게임, 인공지능, 과학 연구 등의 작업에서 높은 성능을 발휘할 수 있습니다.
HBM은 고성능 컴퓨팅 분야에서 계속해서 발전하고 있으며, 앞으로 더 많은 기업들이 HBM을 채택할 것으로 예상됩니다. 또한, HBM의 성능 향상 및 적용 분야의 확대를 위한 연구와 개발이 지속되고 있습니다.