커스텀 반도체 시장 급성장, 삼성전자도 MS·메타 맞춤형 HBM4 개발 나서

기기·플랫폼별 맞춤형 반도체 수요 급증
커스텀 반도체 시장, 2028년 60조원 전망
시장 선두 엔비디아도 발 빠른 행보

삼성전자가 마이크로소프트(MS)와 메타에 맞춤형으로 공급할 고대역폭 메모리 ‘커스텀 HBM4’ 개발에 나섰다. 반도체 시장이 대규모 양산형에서 개별 고객사 맞춤형 시장으로 변화하는 데 따른 움직임으로, 맞춤형 반도체 시장은 연평균 43%가량 급성장 중이다. 삼성전자는 이르면 내년 맞춤형 HBM4 양산에 돌입할 전망이다.

“메모리·LSI 사업부 모두 갖춘 삼성전자, 빅테크에 최적 파트너”

12일 반도체업계에 따르면 삼성전자는 최근 MS와 메타에 제공할 맞춤형 HBM4 개발에 착수했다. 차세대 제품인 HBM4는 기존 반도체가 가진 메모리 기능은 물론 개별 고객사 요구에 맞는 다양한 연산을 수행해야 하므로 ‘컴퓨팅 인 메모리(CIM·Compute-in-Memory)’로 불린다. 한 반도체 업계 관계자는 “MS는 마이아100, 메타는 아르테미스라는 자신들만의 인공지능(AI) 칩을 보유하고 있다”며 “삼성전자는 메모리사업부와 연산 칩을 직접 설계할 수 있는 LSI사업부를 모두 보유하고 있어 이들 빅테크 기업들에 최적의 파트너”라고 설명했다.

삼성전자가 MS와 메타에 공급할 커스텀 HBM4의 세부 사양은 아직 알려지지 않았다. 다만 지난 2월 반도체 학술대회 ‘ISSCC 2024’에서 공개된 정보에 의하면 향후 생산 예정인 HBM4은 데이터 전송 속도인 대역폭이 기존 HBM3E와 비교해 66% 증가한 초당 2테라바이트(TB)에 달하며, 디램(DRAM) 단수는 16단으로 늘어나 용량 또한 36GB보다 33% 늘어난 48GB에 달한다.

삼성전자는 올 7월에도 ‘삼성 파운드리 포럼’과 ‘세이프 포럼(SAFE) 2024’를 개최하는 과정에서 차세대 HBM4에 맞춤형 서비스를 강조한 바 있다. 당시 최장석 메모리사업부 신사업기획팀장 부사장은 “HBM4는 HBM3 대비 성능이 대폭 향상됐다”며 “48GB 용량으로 확대해 내년 생산 목표로 개발 중”이라고 밝혔다. HBM4는 MOSFET 적용 대비 속도가 200% 빠르고, 면적은 70% 줄어들며, 성능은 50% 이상 향상된다는 게 삼성전자의 설명이다.

최 부사장은 “HBM은 성능과 용량뿐 아니라 전력과 열효율성도 고려해야 한다”며 “이를 위해서 16단 HBM4는 비전도성접착필름 조립 기술을 비롯해 하이브리드 본딩(HCB) 기술 등 여러 최첨단 패키징 기술을 적절히 구현하는 것이 필수적이며, 우리(삼성전자)는 계획된 일정에 맞춰 기술 개발을 준비 중이다”고 덧붙였다.

HCB는 반도체(다이) 위아래를 구리로 직접 연결해 신호 전송 속도를 비약적으로 높일 수 있으며, HBM 높이도 줄인다는 특징을 가지고 있다. HBM을 16단으로 안정적으로 쌓더라도 단과 단 사이에 고객이 요구하는 특별 단인 ‘버퍼 다이’를 설계하고 삽입할 수 있는 능력이 필요한데, 이때 필요한 핵심 기술이 HCB인 셈이다. 삼성전자는 최대한 빠른 시일 내 HBM4 개발을 끝낸 후 곧바로 양산에 돌입할 방침이다.

맞춤형 AI 가속기 및 플랫폼 개발사 급증

급성장을 거듭 중인 HBM 시장에서 맞춤형 서비스는 경쟁력 강화를 위한 필수 역량으로 꼽힌다. 기존 최고 사양인 HBM3까지는 발열 해결과 속도가 관건이었지만, HBM4부터는 고객별 맞춤 AI 연산(NPU)이나 특정 데이터 처리 기능(IP)을 반영할 수 있는 역량에 따라 고객사가 이동하는 경향을 보이기 때문이다. 예컨대 HBM을 적용하는 AI 가속기의 경우 적층된 D램의 아래를 의미하는 ‘로직 다이’에 저전력 기능을 추가하는 등 맞춤형 주문을 하는 식이다.

AI 가속기의 구조를 완전히 달리하는 경우도 있다. 대규모 데이터를 바탕으로 구축하는 학습 모델의 경우 병렬 연산에 특화한 그래픽처리장치(GPU) 기반 AI 가속기가 적합하지만, 한 분야에 집중된 기능인 추론의 경우 신경망처리장치(NPU) 등을 활용한 AI 가속기 구조를 고려할 수 있다. 업계에서는 아마존과 메타가 이러한 형태의 AI 가속기를 개발하고 있으며, HBM 대신 그래픽 D램(GDDR)을 적용하는 가속기도 시장에 나와 있다.

MS와 구글, 애플 등 글로벌 빅테크들이 일제히 자사의 기기나 서비스에 특화된 맞춤형 AI 가속기와 플랫폼을 자체 개발 중이라는 점도 맞춤형 반도체 수요 증가를 짐작게 한다. 이들 기기나 서비스의 형태 및 기능이 제각각인 만큼 필요로 하는 반도체의 사양 또한 제각각이다. 시장조사기관 시장조사 업체 트렌드포스에 따르면 지난해 76억 달러(약 10조2,000억원) 수준이던 글로벌 맞춤형 반도체 시장은 2028년 450억 달러(약 60조4,000억원)까지 성장할 전망이다. 5년 만에 시장 규모가 6배 넘게 성장하는 셈이다. 연평균 성장률은 43%에 달한다.

데이터센터→비디오 게임, 전 산업 공략하고 나선 엔비디아

전 세계 AI 칩 시장의 80%를 차지하고 있는 선두기업 엔비디아도 이같은 흐름에 맞춰 맞춤형 AI 반도체 역량 강화에 나섰다. 기존 엔비디아의 주력 상품인 H100, A100은 범용 AI 프로세서 역할을 하는 탓에 고객사가 이를 적용하는 과정에서 비용과 에너지가 많이 소모된다는 평가를 들어 왔다. 이 때문에 엔비디아의 고객사 중 일부 기업은 저마다의 특정한 필요를 위한 내부 칩을 개발하고 나서기도 했다.

엔비디아는 자신들의 기술을 이용해 이들 기업이 데이터센터나 자동차, 5G 무선, 비디오 게임 등 맞춤형 AI 칩을 개발할 수 있도록 도움을 준다는 계획이다. 이미 아마존과 메타, MS, 구글 등과 맞춤형 칩 제작에 대해 논의했으며, 스웨덴 통신 인프라 제조업체 에릭슨과도 자사의 GPU 기술을 포함한 무선 칩 개발을 추진 중이다.

아울러 엔비디아는 자동차 및 비디오 게임 시장도 공략할 계획이다. 이미 일본 게임업체 닌텐도의 스위치 휴대용 콘솔(Lite) 최신 모델에는 엔비디아가 생산한 맞춤형 칩 테그라X1이 탑재돼 있으며, 향후 MS의 엑스박스와 소니의 차세대 콘솔로 대상을 확대한다는 방침이다. 또 이달 5일(현지 시각)에는 자율 주행 시스템을 개발하는 중국의 스타트업 딥루트닷에이아이에 대중(對中)수출제한에 걸리지 않는 자동차용 칩을 대량 공급할 계획을 발표하기도 했다. 딥루트는 기존 자율주행 시스템에 엔비디아의 차량용 칩 오린(Orin SoC)을 사용해 왔다.