현재 가장 핫한 메모리 반도체인 HBM의 넘버 1, 2 생산업체는 SK하이닉스, 삼성전자다. 이 두 회사가 만드는 HBM에는 어떤 차이가 있는지 알아보자. 바로 써먹는 최강의 AI혁명 책을 참고하였다.
1. HBM 시장
HBM은 AI 가속기의 핵심 메모리 반도체다. HBM 모듈은 일반 D램 대비 6~7배 비싼 가격에 팔리고, DDR5대비 HBM3 가격은 5배가량 비싸다.
HBM과 DDR5 수요 (비트 기준)에서 AI 관련 비중은 2023년 4% → 2027년 34%로 급증 전망이다. 엔비디아 DGX H100에는 HBM 650GB, DDR5 2TB 탑재된다. 기존 서버에는 D램이 450GB 정도 탑재됨을 감안하면 6배 증가한 것이다.
엔비디아 DGX H200에는 144TB D램을 탑재한다. ARM 기반 CPU를 사용하여 HBM 사용량을 줄이고 LPDDR5를 적용했다. 1세트당 592GB 메모리 X 256세트 감안시 총 144TB를 사용하는 것.
매출 기준으로 따지면 D램 내 AI 비중 (HBM 및 DDR5)은 더욱 커진다. 2023년 16% → 2027년 56%까지 증가할 전망이다.
2. SK 하이닉스 HBM
SK하이닉스는 2023년 HBM3의 8단 제품을 양산했다. 그리고 2024년 HBM3E 8단 신제품을 공급 중이다. 신제품은 40% 얇아진 D램 칩 12장을 이전보다 13% 좁은 간격으로 쌓아 12단 24GB 용량을 구현했다. 기존 8단 16GB 제품과 동일한 두께를 유지하면서 용량을 증가시킨 점이 주목할 만하다. 수율도 70% 수준으로 업계 최고다.
이에 따라 SK하이닉스 HBM은 엔비디아를 비롯한 수많은 글로벌 고객들의 러브콜을 받고 잇고, 2024년 HBM3 / HBM3E에 대한 물량은 이미 완판된지 오래다. 2025년 물량도 곧 완판 될 것으로 보인다.
2024년 SK하이닉스는 HBM을 중심으로 10조원 설비투자를 배정했다. SK하이닉스 청주 팹 M15에서는 신규 HBM라인 구축을 추진 중이며, 2025년 가동 목표다. 청주 공장은 신규 팹 M15X의 건설도 진행 중이다. HBM 투자 확대에 따라 2026년 양산 목표인 6세대 HBM4 생산 라인에 대한 건설도 가능할 전망이다.
SK 하이닉스 HBM3와 HBM3E에는 advanced MR-MUF (Mass-Reflow Molded Underfill) 공정이 적용되었다. 이는 얆아진 웨이퍼가 휘지 않도록 제어하는 새로운 기술이다. 12단 칩을 쌓는 과정에서 범프들이 고르게 연결되도록 강한 열을 순간적으로 가하며, 방열성이 높은 신규 소재를 집어넣고, 70톤의 압력을 가해 칩 사이 공간을 채워 넣었다. 이에 따라 생산성 3배, 열 방출 성능이 2.5배 개선되었다고 한다.
MR-MUF는 압력을 주지 않아 크랙 등 수율에 유리하며, 더미 범프로 방열에 유리하다. 하지만 층수가 TC-NCF 방식 대비 증가하면서 균일도 문제가 있다.
3. 삼성전자 HBM
삼성전자는 12단 HBM3E를 AMD 인스팅트 MI350X에 공급하고 있다. AMD의 MI350X는 엔비디아의 H200, B200의 대항마로 꼽힌다. 두 제품 모두 HBM3E를 채택했다. 엔비디아는 SK하이닉스, AMD는 삼성전자. 어떻게 보면 삼성전자와 SK 하이닉스간의 대결이라고도 볼 수 있다.
삼성전자는 HBM 주도권을 찾아오기 위해 사활을 걸고 있다. 평택 팹 P4 공사 인력 재배치, 파운드리 생산 라인인 페이즈2 투입 인력을 HBM 생산을 위한 페이즈 3으로 전환 배치하는 등 말이다.
삼성전자 D램 생산능력은 SK하이닉스 대비 1.5~2배 수준으로 물량 면에서는 경쟁 우위에 있다. 이를 앞세워 삼성전자는 2024년 HBM 공급량을 2.5배 늘릴 예정이다.
삼성전자의 CAPEX 도 SK하이닉스와 마찬가지로 HBM3E와 DDR5 capa 확대에 대부분 투입된다. AI 서버, 고성능 컴퓨팅, 네트워킹 및 게이밍 애플리케이션 수요에 대응 목적이다. 화성 레거시 라인과 평택 P2라인을 최신 1b기술로 전환하는 투자를 진행 중이다.
현재 1a 기술이 주력인 평택 P3라인은 연말까지 Capa 확대를 30k → 50k로 단행 계획이며, 25년 말까지 월 100k까지 확대할 것으로 전망된다.
삼성전자는 TC-NCF 공정을 활용하여 HBM을 생산 중이다. NCF라는 필름을 넣고 열과 압력을 가하는 것으로, 방열 특성에서 불리하나 층 수 증가시 스택 간 gap을 줄이는데 유리하다. HBM3E 12단 샘플은 기존 8단 HBM3 대비 20% 이상 향상된 수직 집적도를 달성했다. D램 낱장이 구겨지는 Warpage 현상 최소화에 장점이 있다. 그리고 적층 단수를 빠르게 올리는데 효율적인 공법이다.
하지만 필름 타입이다 보니 열과 압력으로 누르는 과정에서 양 옆 부위가 튀어나오는 다이 슬립, 크랙 등 문제가 발생할 수 있다.
4. 차세대 HBM 시장
향후 양사는 6세대 HBM4를 개발해 낼 것이다. HBM4는 대역폭이 크게 개선된다. 입출력단자 수가 1024개 → 2048개로 증가한다. 입출력 단자수가 확대되는 만큼 기존 칩보다 크기가 커져야 한다.
코어 다이, 즉 D램 낱장도 변화한다. HBM3E는 1a/1b 공정으로 만들며, HBM4에는 1b or 1c 공정이 도입된다. 코어 다이의 메모리 컨트롤러 기능을 담당하는 로직 다이에도 변화가 있다.
로직 다이는 HBM과 CPU를 PHY (물리계층)으로 연결해 데이터를 고속으로 처리한다. 그 동안은 D램 공정에서 로직 다이를 생산했다면 HBM4부터는 파운드리에서 담당하게 된다. 로직 다이에 4 나노 선단 공정까지 적용되기 때문이다.
단 로직 다이 차별화 커스터마이징 본격화 시점은 2028년 HBM4E부터일 가능성이 높다. 삼성전자는 소재 두께를 지속 축소해 7나노까지 구현한 상황이다.
'IT 수다' 카테고리의 다른 글
반도체 시장 및 HBM 시장 전망 (82) | 2024.07.13 |
---|---|
HBM 개념 및 적용 분야 분석 (80) | 2024.07.11 |
구글 제미나이 (Google Gemini) AI 언어 모델 분석, 사용법 소개 (88) | 2023.12.08 |
인공지능AI 무료 이미지 생성 사이트 10곳 추천 (AI Free image) (82) | 2023.12.03 |
네이버 초거대 AI 하이퍼클로바 X 출시! 얼마나 쓸모 있을까? (62) | 2023.09.02 |
댓글