HBM 개념 및 적용 분야 분석

 

HBM 개념 및 적용 분야 분석

 

AI 시대에 중요한 건 반도체다. GPU와 함께 가장 각광받고 있는 반도체 제품이 바로 HBM이다. 이 HBM 덕분에 SK하이닉스, 삼성전자 등 굴지의 반도체 회사들이 2024년 경영 실적을 아주 우수하게 내고 있다. 현대 산업의 또 다른 쌀이 되어가고 있는 HBM의 개념에 대해 알아보자.

 

HBM 이란? 

 

HBM은 고대역폭 메모리(HBM, High Bandwidth Memory)라고도 하며, 고성능 컴퓨팅 시스템에서 사용되는 고속 메모리 기술이다.

 

HBM 구조도 (출처 : 서울경제 강혜령의 하이엔드 테크#1)

 

 

기존의 메모리 기술보다 더 높은 데이터 전송 속도와 더 낮은 전력 소모를 제공하여, 고성능 그래픽 카드, 슈퍼컴퓨터, 인공지능(AI) 시스템 등에서 중요한 역할을 한다. 특히 GPU가 원활히 구동되는 데에 핵심적인 역할을 한다. HBM의 몇 가지 주요 특징은 아래와 같다.

 

1. 높은 데이터 전송 속도:
   • HBM은 기존의 DDR 메모리보다 훨씬 더 높은 대역폭(데이터 전송 속도)을 제공한다. 이는 더 많은 데이터를 더 빠르게 처리할 수 있음을 의미한다.
   • 예를 들어, HBM3는 최대 819GB/s의 대역폭을 제공할 수 있다. (SK하이닉스 기준)
2. 3D 적층 구조:
   • HBM은 여러 개의 메모리 칩을 세로로 쌓아 올리는 3D 적층 구조를 사용한다. 이를 통해 더 높은 밀도의 메모리를 작은 공간에 집적할 수 있다.
   • 이러한 구조 덕분에 메모리와 프로세서 간의 데이터 전송 거리가 짧아져 속도가 빨라진다.
3. 인터포저 사용:
   • HBM은 인터포저(interposer)라는 특수한 기판 위에 배치된다. 인터포저는 메모리와 프로세서 간의 고속 연결을 가능하게 한다.
   • 이를 통해 데이터 전송 속도가 더욱 향상되고, 전력 소모도 줄어든다.
4. 낮은 전력 소모:
   • HBM은 높은 성능을 제공하면서도 전력 소모가 낮다. 이는 고성능 컴퓨팅 시스템에서 열 발생을 줄이고 에너지 효율을 높이는 데 도움이 된다.

 

 

GDDR과 HBM의 차이

 

참고로, 그래픽용 램인 GDDR이 HBM이 나오기 전에는 GPU를 옆에서 돕는 역할을 했다. GDDR이란 GPU 주변에 탑재되며 GPU와 GDDR 사이 거리는 D램 모듈보다는 가깝다. 하지만 GPU를 보좌하기엔 아쉽다. 용량이 GDDR 하나당 2GB라면, 12개를 놓으면 24GB이고, HBM에 비하면 GPU사이와의 거리도 가까운 편은 아니다.

 

HBM은 GDDR보다 GPU와 거리가 가까우며 적층, 즉 쌓는 것도 가능하여 2GB 램 12개를 수직으로 쌓을 수 있다. 이렇게 되면 2GB X 12개, 24GB가 1개의 HBM3가 되는 것이다. GDDR은 12개가 모여 24GB가 되지만, HBM3는 1개가 24GB로 동일한 용량을 낼 수 있다. GPU 옆에 4개만 탑재해도 총 24GB X 4 = 96GB의 용량을 탑재 가능하다.

 

 

GDDR vs HBM (출처 : AMD)

 

 

HBM의 적용 분야

 

HBM이 적용되고 있는 분야는 아래와 같다.

 

1. 그래픽 카드:
   • 고성능 그래픽 카드에서 HBM은 매우 중요한 역할을 한다. 특히, 게임, 가상현실(VR), 3D 렌더링 등에서 고해상도 그래픽을 빠르게 처리할 수 있다.
2. 슈퍼컴퓨터:
   • 슈퍼컴퓨터는 매우 복잡한 계산을 빠르게 처리해야 한다. HBM은 이러한 시스템에서 높은 데이터 전송 속도를 제공하여 계산 속도를 크게 향상한다.
3. 인공지능(AI):
   • AI 시스템은 대량의 데이터를 실시간으로 처리해야 한다. HBM은 이러한 요구를 충족시킬 수 있는 높은 대역폭과 낮은 지연 시간을 제공한다.
4. 데이터 센터:
   • 데이터 센터에서는 많은 양의 데이터를 효율적으로 처리하고 저장해야 한다. HBM은 이러한 환경에서 성능과 효율성을 극대화한다.

 

 

반도체 시장 및 HBM 시장 전망

 

HBM 라이벌 : 삼성전자 vs SK하이닉스