HBM-NCF·시스템 반도체-MUF ‘투트랙’ 전략 취하는 삼성, LG화학 협업 아래 수율·발열 문제 해결할 수 있을까

소재 이원화 나선 삼성, HMB엔 기존 NCF 유지 방침
SK하이닉스는 수율 60~70%, 삼성은 10~20%? "NCF 고도화 불가피"
LG화학과 손잡은 삼성, 차별화된 소재 기술 개발이 관건

삼성전자가 반도체 수직 적층용 접합 소재를 이원화한다. 고대역폭메모리(HBM)는 기존에 활용했던 ‘비전도성필름(NCF)’을 유지하고 시스템 반도체엔 ‘몰디드언더필(MUF)’을 도입함으로써 투트랙 전략을 취하겠단 것이다. 수율 문제를 비롯해 각종 과제가 산적해 있지만 NCF를 유지함으로써 시장을 보다 힘 있게 밀고 나가겠단 의도가 깔린 것으로 풀이된다. 공정 소재 전환보다는 성능 혁신으로 HBM 시장에서 승부를 보겠다는 의지를 드러낸 셈이다.

NCF 밀어붙이는 삼성, 반도체 패키징엔 MUF 적용

업계에 따르면 최근 삼성전자는 HBM을 위·아래로 붙이는 소재로 NCF를 유지하기로 결정했다. AI용 메모리로 손꼽히는 HBM은 D램을 여러 단으로 쌓아 제조하는데, 이때 D램을 서로 접합하는 소재로 삼성전자는 NCF라는 필름을 사용한다. 업계에선 삼성전자가 SK하이닉스와 견줘 HBM 경쟁 우위를 확보하지 못한 이유로 이 NCF를 지목해 왔다. 발열 제어 등 소재 성능이 SK하이닉스의 액체성 소재인 MUF, 좀 더 구체적으로는 매스리플로우(MR)-MUF 대비 뒤처진다는 것이다. 실제 SK하이닉스도 HBM2(2세대)까지는 NCF를 사용했지만, 이후 HBM2E(3세대)부터는 MR-MUF로 전격 교체했다.

MR-MUF로의 전격 교체가 SK하이닉스의 시장 영향력 확대에 직접적 요인이 됐다는 게 업계의 중론이다. MR-MUF로의 전환이 시장 주요 과제 중 하나로 떠올랐던 것도 이 같은 맥락에서였다. 삼성전자 또한 HBM에 MUF 적용을 시도했지만, 검토 수준에 그치고 최종적으로는 NCF를 유지하는 쪽으로 가닥을 잡았다. NCF를 MUF로 변경하려면 장비 등 상당한 변화를 줘야 하는데 현 시장 상황상 공정 전환이 사실상 불가능한 탓이다. .

반도체 업계 관계자는 “삼성이 NCF에서 MUF로 소재를 전환하고 이에 최적화된 공정 환경을 구축하려면 최소 1년 이상 걸린다”면서 “치열한 HBM 시장 쟁탈전이 진행되는 상황에서 1년은 시장을 포기하겠다는 것과 다름없다”고 밝혔다. 빠른 양산 전략으로 시장을 맹추격해야 하는 상황에서 HBM 핵심 기술을 바꾸는 건 오히려 독배가 될 수 있다는 것이다. 갑작스레 기술을 바꿀 바에 기존의 NCF 성능을 고도화하는 게 더 현실성 높다는 게 삼성전자의 판단이다.

삼성전자는 그 대신 시스템 반도체 패키징에 MUF를 적용할 방침이다. 3D 반도체 패키징 기술이 확산되면서 시스템 반도체도 수직 적층을 위한 접합 소재가 필요해졌는데, 여기에 NCF뿐 아니라 MUF까지 적용하겠단 것이다. 시스템 반도체 패키징은 HBM과 달리 SK하이닉스와 직접 경쟁하지 않는 데다 시장 공략을 위한 다양한 시도가 필요해 상대적으로 새로운 시도를 이어가는 데 부담이 덜하다. 이에 대해 업계 관계자는 “현재 시스템 반도체에 MUF 소재를 적용하는 초기 단계 연구가 진행되고 있다”며 “삼성의 독자적인 MUF 소재를 개발 및 도입하려는 전략”이라고 전했다.

당면 과제는 수율, “삼성 수율 10~20% 수준”

삼성전자의 당면 과제는 수율이다. HBM은 D램을 수직으로 쌓아 저장 용량과 속도를 획기적으로 개선한 반도체인데, 일반 D램과 비교해 최대 6배 비싸지만 기술 난이도가 높아 기본적으로 수율이 낮을 수밖에 없다. 통상 일반 D램의 수율은 80~90%대인데 비해, HBM의 수율은 최대치까지 끌어올려야 60% 선이다. HBM을 10개 만들면 그중 4개를 버려야 한단 의미다.

문제는 삼성전자의 HBM3의 경우 수율이 이보다 더 낮다는 것이다. 외신 등에 따르면 SK하이닉스의 HBM3 수율이 60~70% 선일 때 삼성전자의 HBM3 수율은 10~20% 수준에 불과하다. 이토록 차이가 큰 데엔 공정 방법의 차이의 영향이 적지 않을 것으로 업계는 보고 있다. 액체 접착제를 D램 사이에 넣어 굳히는 방식인 MR-MUF에 비해 여러 접착제를 합친 테이프를 만들어 D램에 붙여 녹이는 NCF는 수율 문제에서 자유롭기 힘들단 것이다. 이 같은 상황에서 삼성전자가 NCF 고도화를 제대로 이뤄낼 수 있을지 여부는 미지수라는 게 업계의 대체적인 평가다.

발열도 삼성전자의 발목을 잡는다. 삼성전자 HBM이 경쟁사 대비 발열에 취약하다는 건 이전부터 꾸준히 지적되던 사안 중 하나다. 특히 지난해 10월엔 엔비디아 측에 HBM3 납품 계약을 요청했으나 제품 품질이 기준을 넘지 못했단 이유로 사실상 퇴짜를 맞은 바도 있다. 반도체 업계 관계자에 따르면 당시 엔비디아 측은 “삼성전자의 HBM3 제품은 아직 수율이나 발열 부분에서 퀄리티를 맞추지 못했다”며 “샘플 제품이 테스트를 통과하지 못한 만큼 납품을 받기는 어렵다”고 언급했다. 반면 SK하이닉스는 3세대 HBM 제품부터 MR-MUF 기술을 도입하면서 발열 이슈에서 다소 자유로워졌다. 삼성전자 입장에서 MUF가 거듭 아쉬워지는 대목이다.

출구전략 짜는 삼성, LG화학과 손잡았다

다만 삼성전자는 NCF를 이어가는 상황 속에서도 충분한 출구전략을 짜나가는 모양새다. 특히 LG화학과 손잡고 NCF 고도화에 나선 점이 눈에 띈다. 앞서 지난 2월 삼성전자와 LG화학은 HBM 발열을 최소화하고 기존보다 얇은 NCF를 개발하기 위해 힘을 합치겠다고 밝혔다. 핵심 소재를 강화함과 동시에 핵심 소재에 대한 일본 의존도를 낮춤으로써 공급망 안정화를 이루겠단 취지다. 삼성이 단순 공급망 확대에 그치지 않고 차세대 제품을 LG화학과 공동 개발하는 점도 주목된다. 발열을 개선하고 보다 얇게 만들어 HBM 높이를 낮추려는 삼성의 개발 의지가 단적으로 드러난 셈이다.

HBM에 대한 수요는 점차 늘어나는 추세다. 엔비디아뿐 아니라 인텔과 AMD, 신생 AI 반도체 기업 등이 AI 업계에 속속 진입하기 시작하면서 AI 반도체용 HBM의 수요가 폭발적으로 늘어난 것이다. 이에 삼성전자는 올해 HBM 생산 능력을 지난해 대비 2.5배 늘리기로 결정하기도 했다. NCF 고도화가 삼성전자의 미래 전략에 중요한 판도가 되리란 시장 전망이 나오는 이유다.

관건은 삼성전자가 LG화학과 시너지를 낼 수 있을지 여부다. 2023년 기준 삼성전자는 HBM 제품 시장 점유율을 50% 이상 유지하는 등 SK하이닉스와 비교해도 크게 뒤처지지 않는 경쟁력을 보여준 바 있다. 그러나 극한의 수율 및 발열 문제를 차후에도 해결하지 못한다면 엔비디아 사례처럼 ‘거부’당하는 일도 점차 늘어날 수밖에 없다. 삼성전자가 LG화학과의 협업 아래 경쟁사와 차별화되는 소재 기술을 새로이 찾아낼 수 있을지 업계의 관심이 모인다.