치고 나가는 SK·역전 노리는 삼성, 하반기 ‘HBM3E 12단’ 경쟁 본격화

160X600_GIAI_AIDSNote
김주선 SK하이닉스 사장, 세미콘 타이완서 HBM 로드맵 공개
9월 말 HBM3E 12단 양산, HBM4는 TSMC와 협업키로
HBM3E 12단, 차세대 HBM 시장 판도 바꿀 '게임체인저'
SKhynix_HBM3E12_TE_20240905
김주선 SK하이닉스 AI 인프라담당 사장이 4일 세미콘 타이완 2024에서 키노트 발표를 하고 있다/사진=SK하이닉스

SK하이닉스가 최선단 HBM(고대역폭메모리) 양산을 차질 없이 진행한다. 올해 초 HBM3E 8단 제품을 업계 최초로 공급한 데 이어, 이달 말부터 HBM3E 12단 제품 양산에 돌입할 예정이다.

HBM3E 12단, 이달 말 제품 양산 시작

4일 김주선 SK하이닉스 인공지능(AI) 인프라 담당 사장은 이날 대만에서 열린 ‘세미콘 타이완’ 기조연설에서 “SK하이닉스는 올해 초부터 HBM3E 8단 제품을 업계 최초로 공급 중”이라며 “이번 달 말부터 HBM3E 12단 제품도 양산에 돌입할 계획”이라고 로드맵을 밝혔다. 이어 “미래를 위한 제품과 기술 개발을 순조롭게 진행하고 있다”며 “HBM4를 고객 요구에 맞춰 적기에 공급할 수 있도록 순조롭게 개발 중”이라고 설명했다.

차세대 메모리 제품도 언급했다. 김 사장은 “LPCAMM, CXL, 512GB 고용량 DIMM 등도 착실히 준비하고 있다”며 “또한 최대 40Gbps를 지원하는 업계 최고 성능의 GDDR7을 양산할 준비가 마무리 단계에 들어섰으며, 혁신적인 대역폭과 전력을 갖춘 LPDDR6도 개발하고 있다”고 했다.

아울러 현재 AI 수요에 대응하는 주력 제품도 소개했다. 김 사장은 “SK하이닉스는 올해 초부터 HBM3E 8단 제품을 업계 최초로 공급 중이며 AI 서버향인 TSV 기술 기반 서버용 256GB DIMM도 공급 중”이라며 “또한 QLC 기반 고용량 eSSD(기업용 차세대 대용량 저장장치)를 양산하는 유일한 공급업체로 120TB 모델을 선보일 계획이며 온디바이스 AI에 최적화한 LPDDR5T도 시장에 내놨다”고 설명했다. 이와 더불어 인프라 투자에 대한 계획도 강조했다. 김 사장은 “SK하이닉스는 부지 조성 공사가 순조롭게 진행 중인 용인 반도체 클러스터에 최첨단 생산시설을 구축할 예정”이라며 “또한 2028년 양산을 목표로 미국 인디애나에 첨단 패키지 공장과 연구개발(R&D) 시설을 건설할 계획”이라고 말했다.

AI 시대의 난제도 짚었다. 그는 “AI가 AGI(범용인공지능) 수준에 다다르려면 전력과 방열, 메모리 대역폭 등을 해결해야 한다”고 운을 뗐다. 이어 “가장 큰 문제는 전력인데 오는 2028년에는 현재 데이터센터 소비전력의 최소 두 배 이상을 사용할 것으로 추정된다”며 “충분한 전력 공급을 위해 소형모듈원전 같은 새로운 형태의 에너지가 필요할 수 있다”고 했다. 또 “데이터센터에서 많은 전력이 사용되면 많은 열도 발생하는 만큼 이를 해결하기 위한 효과적인 방안을 찾아야 한다”며 “AI 기술이 발전할수록 메모리 대역폭 향상에 대한 요구도 점점 더 커지고 있다”고 짚었다.

엔비디아, 블랙웰 양산 일정 고수 “삼성·SK 대응 분주”

전문가들은 SK하이닉스가 HBM3E 12단 양산에 속도를 내는 데는 엔비디아의 차세대 AI 칩인 블랙웰의 생산 차질 논란이 작용한 것으로 보고 있다. 최근 엔비디아는 기대 이상의 2분기 실적을 발표했음에도 주가 급락세를 면치 못했다. 전년 대비 122%의 매출 성장을 기록했지만 지난 3분기 연속 200%대 성장을 보인 것과 비교해 성장 둔화라는 시장 판단이 작용하면서 폭락한 것이다. 특히 시장은 엔비디아의 차세대 AI 반도체칩인 블랙웰이 시장에 제대로 출시될 수 있는지 불안감을 떨쳐버리지 못했다. 엔비디아가 지난달 블랙웰 GB200 시제품의 설계 결함을 이유로 출시일을 내년 1분기로 미뤘기 때문이다.

블랙웰은 엔비디아의 현재 주력인 H100 후속작으로 지난 3월 공개한 AI 가속기(AI 학습·추론에 특화된 반도체 패키지)다. 그래픽처리장치(GPU) 2개를 붙이고 HBM3E 8개를 연결한 블랙웰엔 ‘괴물칩’이란 별명이 붙을 정도로 시장의 관심이 컸다. 당초 엔비디아는 올해 3분기(8~10월) 블랙웰을 출하할 계획이었다. 하지만 지난달 초 “블랙웰에 결함이 발생했다”는 외신 보도가 나온 데 이어 엔비디아가 “포토마스크에 문제가 있었지만 해결했다”고 밝히면서 결함이 있었던 사실이 확인됐다. 엔비디아는 “성능엔 변화가 없다”고 강조했지만 본격적인 출하가 지연됐다는 소식이 알려지며 실망 매물이 쏟아졌다.

이에 엔비디아는 블랙웰을 당초 일정대로 양산하겠다고 밝히며 논란을 불식시켰다. 칩 재설계를 통한 대체품을 내놓는 것으로, HBM 역시 더 높은 용량의 제품을 탑재하기로 했다. 이에 SK하이닉스를 비롯해 삼성전자도 당초보다 빨리 HBM3E 12단 제품을 엔비디아에 공급해야 하는 상황에 놓였다. 이에 대응해 엔비디아는 HBM3E 12단 승인을 앞당기기 위한 논의를 진행하고 있다. 반도체 업계 관계자는 “엔비디아의 요청에 따라 메모리 제조사들도 HBM3E 12단 물량을 급하게 늘리려는 움직임을 보이고 있다”며 “HBM3E 12단의 수율이 상대적으로 낮고, 긴급한 주문이기 때문에 메모리 제조사 입장에서도 더 높은 가격을 책정받을 수 있다는 이점을 누릴 수 있다”고 설명했다.

samsung_semiconductor_TE_20240905
이재용 삼성전자 회장(오른쪽에서 두번째)이 삼성전자 천안캠퍼스에서 반도체 제품을 살펴보고 있다/사진=삼성전자

하반기 ‘HBM3E 12단’ 엔비디아 공급 선점 주목

이처럼 HBM3E 12단이 올해 하반기 AI 반도체 시장의 최대 승부처로 떠오르면서 메모리 기업들의 경쟁은 더욱 치열해질 전망이다. SK하이닉스가 이달 말 HBM3E 12단 양산에 돌입하는 데 이어 삼성전자도 연내 HBM3E 12단 양산을 예고하며 HBM 리더십 회복을 겨냥했다. 현재 삼성전자는 올 4·4분기 중 HBM3E 12단 양산을 시작해 엔비디아 공급을 목표로 하고 있다.

앞서 올해 3·4분기 중 양산을 예고했던 HBM3E 8단은 엔비디아의 퀄 테스트(품질 검증)를 통과해 이미 납품되고 있는 것으로 알려졌다. 대만 시장조사기관 트렌드포스에 따르면 삼성전자는 최근 블랙웰 전작인 ‘호퍼’ 기반 H200용 HBM3E 8단 출하를 시작했다. 트렌드포스는 “삼성이 (SK하이닉스, 마이크론과 비교해) 다소 늦게 뛰어들었지만 최근 HBM3E 인증을 완료하고 H200용 HBM3E 8단 제품의 출하를 시작했다”며 “블랙웰 시리즈에 대한 인증도 순조롭게 진행됐다”고 밝혔다.

이와 관련해 삼성전자는 “고객사 관련 내용은 확인 불가”라는 입장이지만 업계는 젠슨 황 엔비디아 최고경영자(CEO)의 최근 발언을 근거로 트렌드포스의 분석을 기정사실화하고 있다. 황 CEO는 2분기 실적 발표 직후 응한 인터뷰에서 “블랙웰 칩 공급량이 아주 많을 것이고, 더 늘릴 수 있을 것”이라며 블랙웰 생산량 증가 가능성을 시사한 바 있다.

현재 엔비디아에 5세대 HBM3E 8단 제품을 공급 중이라고 공식적으로 알려진 회사는 SK하이닉스와 미국 마이크론뿐이다. 그런데 엔비디아가 증산을 자신하는 것은 삼성전자를 염두에 둔 것이라는 분석이다. 이에 따라 이번 품질 검증 통과가 사실이라면, 블랙웰 시리즈에 대한 인증도 탄력을 받을 것이라는 시각이 지배적이다. 실제로 SK하이닉스는 이미 내년까지 예약 주문을 확보해 놓은 터라 여유 케파(생산능력) 여력이 없는 상황이다. SK하이닉스는 지난 2분기 실적발표 컨퍼런스콜 당시 “이미 내년도 HBM 생산 케파 대부분 고객과 협의를 마친 상황”이라고 말한 바 있다.

이런 가운데 업계는 차세대 HBM 경쟁은 수율(양품 비율)과 엔비디아의 물량 배분이 최대 변수가 될 것으로 보고 있다. 누가 먼저 엔비디아에 HBM3E 12단 제품을 공급하는지에 따라 SK하이닉스가 HBM 선두 자리를 지킬 지, 삼성전자가 국면 전환을 할지가 결정될 수 있다는 분석이다. 한편 한국 기업들을 빠른 속도로 추격 중인 마이크론은 하반기 HBM3E 12단 양산 준비를 마치고 내년에 엔비디아 등 대형 고객사에 공급한다는 계획이다.