AI 칩 전쟁 뒤처진 삼성전자, 차세대 HBM서 역전 노린다

160X600_GIAI_AIDSNote
삼성전자, 올해 상반기 내 차세대 HBM 대량 생산 가능성 커
전사적 역량 활용, HBM 공급 및 첨단 패키징까지 담당할 것
HBM기술 확보·자체 AI 가속기 제품 '마하2' 개발 동시 진행
samsungHBM_ve_20240402
삼성전자의 HBM3/사진=삼성전자

삼성전자가 인공지능(AI) 경쟁에 본격적으로 뛰어들며 경쟁사와의 기술 격차를 빠르게 좁힐 것으로 보인다. 고대역폭메모리(HBM)로 대변되는 AI 칩 전쟁은 그간 SK하이닉스와 마이크론이 시장을 선도하고 있었다. 하지만, 삼성전자가 재정 및 기술적 역량 등 총력을 쏟아붓고 있는 가운데, AI 붐으로 HBM 수요가 폭발적으로 증가하고 있어 예상보다 빠르게 경쟁사들을 따라잡을 것이란 전망이 나온다. 또한 삼성전자의 엔비디아 퀄테스트 통과 및 자체 AI 가속기 개발에 따라 향후 판도가 달라질 것으로 보여 업계의 주목을 받고 있다.

HBM3ESamsung_ve_20240402
삼성전자의 12단 HBM3E/사진=삼성전자

삼성, HBM 기술 격차, 1년1분기로 좁혀질 전망

1일(현지시간) 월스리트저널(WSJ)은 ‘AI 메모리 경쟁에서 삼성을 배제하지 말라’는 제하의 기사에서 최근 고성능 AI 메모리 칩 분야에서 삼성이 SK하이닉스에 밀렸지만, 기술적 격차를 좁혀가고 있다고 분석했다. 현재 SK하이닉스와 삼성전자가 전 세계 HBM 시장을 양분하고 있지만, 기술력에 있어서는 삼성전자가 SK하이닉스에 1년 정도 뒤처져 있는 것으로 평가된다. SK하이닉스는 2022년부터 4세대 제품인 HBM3를 엔비디아에 사실상 독점 공급하면서 일찍부터 주도권을 잡았다. SK하이닉스는 올해 HBM 생산분을 모두 판매했으며 내년 주문을 받고 있다. SK하이닉스가 만드는 ‘HBM3E’로 불리는 차세대 칩 은 엔비디아의 최신 AI 반도체에 탑재될 것으로 알려졌으며 현재 대량 생산에 돌입했다. 반면 삼성전자는 지난해 하반기가 돼서야 HBM3 대량 생산을 시작해 엔비디아에 납품하고 있긴 하지만, 주로 저사양 AI 반도체에 들어가는 구세대 HBM만 공급 중이다.

하지만 양상이 달라질 가능성도 높아졌다. 삼성전자가 올해 상반기 차세대 HBM 칩 대량 생산이 가능할 것으로 기대되면서 삼성전자가 경쟁사와 격차를 좁힐 것으로 보이기 때문이다. 삼성전자는 지난 2월 “12단 HBM3E 양산을 상반기 중 시작하겠다”는 계획을 밝혔다. WSJ는 “삼성전자가 상반기 차세대 HBM을 양산하면, 이전 세대 HBM 칩처럼 1년이 아닌 분기(3개월) 정도만 뒤처지게 될 것”이라고 분석했다. 현재 엔비디아는 급증하는 AI 수요 속에서 추가 공급사가 필요한 상황이다. 일본 닛케이 신문은 지난달 19일 “젠슨 황 엔비디아 최고경영자(CEO)는 회사가 삼성의 차세대 HBM 칩을 테스트 중”이라고 전했다.

다만 WSJ는 시장의 기대처럼 삼성전자가 엔비디아의 검증을 통과하기 위해선 “생산 능력을 늘리는 동시에 제품이 표준에 부합하는지를 확인해야 한다”고 전했다. 그러면서도 “(HBM) 공급이 극도로 부족한 상황을 고려할 때, 엔비디아는 추가 공급업체가 필요하다”고 덧붙이며, 삼성전자의 검증 통과 가능성을 높게 전망했다. 또한 WSJ는 “전체 메모리 시장의 선두주자인 삼성전자는 이제 (경쟁사를) 따라잡아야 하는 불편한 위치에 처해 있다”며 “추격을 지속하는 데는 비용이 많이 들 수밖에 없지만, 전반적인 메모리 시장이 더 타이트해지고(수요·공급의 불일치가 심화하고) 엔비디아의 잠재적 지원(HMB3E 수급)까지 있다면 삼성전자에 큰 도움이 될 것”이라며 삼성전자의 상황을 긍정적으로 바라봤다.

HBM 기술 경쟁에 재무적·기술적 역량 등 총력 기울일 것

삼성전자는 HBM 경쟁에서 앞서 나가기 위해 종합반도체기업(IDM)으로서의 강점과 패키지 등 대규모 후공정 투자를 발판 삼아 6세대 제품인 HBM4 초격차기술 개발에 총력을 기울이고 있다. 현재 SK하이닉스는 HBM 패키징 분야에서 글로벌 파운드리(반도체 위탁생산) 1위 TSMC와 공동전선을 펴고 있다. TSMC가 SK하이닉스의 HBM3를 개별 GPU 칩에 패키징해 엔비디아의 H100을 생산하고 납품하는 방식이다. 반면 삼성전자는 HBM 제조와 첨단 패키징 역량을 동시에 갖췄다. 이에 삼성전자는 IDM으로서의 강점을 살려 미국 반도체 기업 엔비디아에 그래픽처리장치(GPU)의 필수 부품인 HBM과 첨단패키징 서비스를 함께 공급할 계획이다.

이와 관련해 엔비디아가 GPU 첨단 패키징 물량 대부분을 맡고 있는 기존 공급사인 TSMC에 대한 의존도를 낮추고, 생산 시간·비용을 줄이기 위해 삼성전자를 낙점한 것이라는 분석이 나온다. 최근 생성형 인공지능(AI) 확산으로 H100 수요가 빠르게 늘면서 TSMC가 엔비디아의 주문량을 모두 소화하기 힘든 상황도 삼성전자의 엔비디아 공급 가능성에 무게를 더한다. 지난해 8월 1일 반도체업계에 따르면 최근 삼성전자는 엔비디아와 GPU용 HBM3·첨단패키징 서비스 기술 검증 작업을 진행 중인 것으로 알려졌다. 이에 기술 검증 절차가 끝나는 대로 삼성전자는 HBM3를 엔비디아에 공급하고, 개별 GPU 칩과 HBM3를 묶어 고성능 GPU ‘H100’으로 가공하는 첨단 패키징을 담당할 것으로 전망했다.

또한 삼성전자는 뺏긴 선두 자리를 되찾기 위해 자존심 상하는 일마저 불사할 심산이다. 삼성이 최근 ‘MUF’ 기술을 적용할 수 있는 반도체 제조 장비를 구매하며 HBM 패키징에서 사용하던 ‘NCF’ 기술을 버리고 SK하이닉스의 ‘MR-MUF’를 채택할 것이란 전망이 나온다. 삼성의 NCF는 칩과 칩 사이에 필름을 넣어 연결하는 기술이다. 이와 달리 SK하이닉스의 MR-MUF 방식은 칩 사이 공간에 특수 물질을 채워 넣어 붙이는 기술로 현재 수율 측면에서 앞서 있다. 업계에 따르면 SK하이닉스의 HBM3 수율은 60~70%인 반면 삼성전자의 수율은 10~20%에 불과한 것으로 알려졌다. 이에 삼성전자가 수율 격차를 극복하기 위해 SK하이닉스의 공법을 도입할 것이란 전망이 힘을 얻고 있다.

투트랙 전략, HBM 기술 확보와 함께 자체 AI 가속기 개발 힘쓴다

1일(현지시간) 삼성전자가 HBM 태스크포스트(TF) 팀을 정식 조직으로 격상시켰다. 신설 팀은 DS 사업부 내 주요 인력들을 끌어모은 조직으로 규모는 400여 명이 될 전망이다. 이번 HBM 전담팀 재구성으로 삼성전자는 SK하이닉스에 내준 HBM 1위를 되찾겠다는 목표다. 이와 관련해 전담팀이 현존 HBM보다 진보한 HBM3E, HBM4 제품에서 성과를 내면 충분히 가능하다는 분석이 나온다. 시장조사업체 트렌드포스에 따르면 글로벌 HBM 시장에서 SK하이닉스의 점유율은 50% 이상이지만, 삼성전자도 35~40%를 차지하고 있기 때문이다.

SK하이닉스와 마이크론 등 경쟁사가 엔비디아에 HBM3E 제품을 상반기 내 공급하는 것으로 보이는 가운데, HBM 전담팀의 첫 과제는 당장 시급한 HBM3E 수율 안정화와 엔비디아 퀄테스트 통과일 것으로 전망된다. 이외에도 6세대 제품인 HBM4 개발 등의 업무도 담당할 것으로 보인다. HBM4는 핀펫(FinFET) 공정을 로직다이 등에 적용하고, HBM3E 대비 입출력(I/O)이 2배 늘어나는 등 HBM3E와 비교해 개발 난도가 높은 것으로 알려졌다.

한편 삼성전자는 HBM 투자 확대와 동시에 HBM이 필요 없는 제품 개발에도 속도를 내고 있어 업계의 시선이 쏠린다. 일명 투트랙 전략인데, HBM 기술력을 확보해 엔비디아에 제품을 납품하는 동시에 자체 AI 가속기 제품을 개발해 엔비디아의 독점 구조를 해소하겠다는 계산이다. 이와 관련해 최근 삼성전자는 자체 개발한 AI 가속기 ‘마하 1’의 개발 사실을 공개하며 ‘마하 2’의 개발도 추진 중이라고 밝혔다. 삼성의 ‘마하1’은 HBM 없이도 사용 가능한 AI 가속기다. 기존 엔비디아의 AI 학습과 추론에 사용되는 AI 가속기는 HBM이 꼭 필요한 제품으로 삼성이 개발한 신제품이 품질 검증에만 성공하면 수주가 폭증할 것이란 전망이 나온다. 지나친 엔비디아 의존도를 우려해 빅테크 기업들이 반(反)엔비디아 세력을 구축하는 등 엔비디아의 대안을 찾는 데 혈안이기 때문이다. 다만 아직까지는 삼성전자의 AI 가속기 성능이 입증되기 전이고, 네이버 외에 뚜렷한 납품처가 없어 성공을 예단하기 이르다는 평가다.