‘탈엔비디아’ 본격화한 빅테크들, AI 선도해 온 엔비디아 ‘철옹성’ 뚫을 수 있을까

엔비디아 의존도 높은 AI 산업계, 일제히 '탈엔비디아' 나섰다
손 맞잡은 구글·퀄컴·삼성, UXL 재단 꾸려 '쿠다' 플랫폼 대항 
엔비디아 '철옹성' 여전, 신제품 출시 통해 기업 간 간극 벌리기도

애플이 자사의 AI(인공지능) 모델을 구글의 프로세스에서 학습했다고 밝히며 ‘탈엔비디아’를 본격화했다. 다른 빅테크 기업들도 엔비디아 독점 구조를 벗어나기 위해 부단히 노력하는 모습이다. 엔비디아에 AI 업계 전반이 의존하는 양상이 이어지면서 가격 부담이 급증했기 때문이다. 다만 시장에선 완전한 탈엔비디아가 현실화하기 위해선 상당한 시간이 소요될 것으로 보고 있다. 그간 엔비디아가 구축해 온 반도체 인프라의 ‘철옹성’이 막강한 탓이다.

애플, 자사 AI 훈련에 구글 TPU 활용

29일(현지 시각) CNBC에 따르면 애플은 최근 두 번째 기술 문서를 발표하고 자사의 AI 훈련에 구글의 자체 개발 텐서 프로세싱 유닛(TPU)을 활용했다고 밝혔다. 이에 대해 애플은 “이 시스템(TPU)을 통해 AFM 온디바이스와 AFM 서버, 그리고 더 큰 모델들을 효율적으로 확장할 수 있도록 학습했다”고 설명했다. 애플이 AI 기술을 개발하는 데 구글을 파트너로 삼은 건 탈엔비디아 노선을 강화하겠단 취지로 풀이된다.

그간 엔비디아는 하이엔드 AI 트레이닝 칩 시장을 80% 이상 장악해 왔다. 오픈AI와 마이크로소프트(MS), 앤스로픽은 모두 엔비디아 그래픽처리장치(GPU)를 사용하고 있으며, 구글과 메타, 오라클, 테슬라 등 다른 기술 기업도 AI 시스템과 서비스 구축을 위해 엔비디아 GPU를 채택할 정도다.

문제는 AI 시장이 커지면서 엔비디아의 GPU 공급이 수요를 따라가지 못하고 있단 점이다. 게다가 수요가 폭발적으로 증가하면서 가격도 크게 늘었다. 업계에 따르면 현재 엔비디아의 GPU 가격은 3만~4만 달러(약 4,000만~5,500만원) 선에 달하는 것으로 알려졌다. 빅테크 기업 입장에서도 부담이 클 수밖에 없다.

‘탈엔비디아’ 기조 확산, 관련 프로젝트에 40억 달러 유입

상황이 이렇다 보니 애플 외 다른 빅테크 기업들도 탈엔비디아 흐름에 편승하는 모양새다. 우선 구글과 퀄컴, 삼성 등은 엔비디아의 독점적 시장에서 탈피하기 위해 손을 맞잡았다. 로이터통신에 따르면 지난 3월 이들 기업은 컨소시엄 ‘UXL 재단’을 꾸려 쿠다(CUDA) 플랫폼에 대항하는 오픈 소스 프로젝트를 구상했다. 쿠다는 AI 개발자가 프로그래밍을 할 때 필수로 사용해야 하는 도구지만, 쿠다로 만든 프로그램은 오로지 엔비디아의 GPU에서만 돌아가는 구조로 돼 있다. AI 시장에 ‘쿠다 생태계’가 형성되면서 엔비디아 GPU의 시장 점유율이 높아질 수밖에 없는 구조가 짜여 있는 셈이다.

이에 UXL재단은 쿠다 플랫폼에 대항해 여러 유형의 AI 가속 칩을 지원하는 소프트웨어 및 툴들을 개발하고 있다. 칩과 하드웨어에 상관없이 어떤 기기에서도 돌아가는 소프트웨어를 오픈 소스 방식으로 제공하겠단 게 이들의 최종 목표다. 이를 위해 UXL의 기술운영위원회는 올해 말까지 기술 사양을 확정하고 기술적 세부 사항을 구축할 계획이다. 향후 아마존웹서비스(AWS), MS 등 클라우드 업체와 다른 칩 개발 업체들과도 협력을 확대한다는 방침이다.

인텔도 탈엔비디아를 목표로 움직이고 있다. 지난해 10월 ‘메테오라이크’ 코어 울트라 칩을 활용해 PC에서 로컬로 실행되는 온디바이스 AI 개발 지원 ‘AI PC 프로그램’을 발표한 게 대표적인 사례다. AMD은 자사 칩에 최적화된 고성능 AI 모델 생성용 개방형 소프트웨어를 구축하기 위해 ‘노드닷 AI’를 본격 인수하기도 했고, 지난해 8월엔 스타트업 ‘모듈라’가 쿠다 대안 소프트웨어를 개발한다고 밝혀 무려 1억 달러(약 1,340억원)에 달하는 투자를 받은 바도 있다.

글로벌 투자 전문 연구기관 피치북에 따르면 엔비디아 소프트웨어에 도전하는 93개 프로젝트에 유입된 자금은 총 40억 달러(약 5조4,000억원) 규모 이상이다. 특히 쿠다를 겨냥한 스타트업들은 지난해에만 20억 달러(약 2조7,000억원) 이상의 자금을 유치했다. 관련 업계가 탈엔비디아에 얼마나 열성적인지 확인할 수 있는 지점이다.

엔비디아 중심으로 설계된 반도체 인프라, “당장 뚫기는 어려워”

다만 업계가 실제 탈엔비디아를 이루기까지는 적잖은 시간이 소요될 것으로 전망된다. 엔비디아 제품의 성능이 압도적으로 뛰어난 데다 현재 AI 소프트웨어도 대부분 엔비디아 반도체를 기반으로 설계돼 있어서다. 실제 글로벌 시장조사업체 테크인사이트에 따르면 엔비디아의 데이터센터용 AI 가속기 점유율은 지난해 기준 98%에 달한다. AI 개발자들이 쿠다를 사용해 온 지도 10년이 넘었다. 그만큼 AI 생태계에 엔비디아의 존재감이 크단 의미다.

엔비디아가 AI 반도체 분야의 압도적인 지배력을 이용해 메모리반도체 기업이나 파운드리 업체에 막강한 영향력을 끼치고 있단 점도 문제다. 업계 관계자는 “TSMC의 첨단 미세공정 시스템반도체 및 패키징 생산 능력을 선점하거나 SK하이닉스와 삼성전자의 HBM(고대역폭메모리반도체) 물량을 확보하는 데 유리한 건 당연히 엔비디아 측”이라며 “반도체 협력사들 역시 이미 엔비디아를 최대 고객사로 인식하며 적극적으로 수요 대응 능력을 키우고 있다”고 설명했다. 엔비디아가 자사를 주축으로 한 인프라를 구축해 온 만큼 다른 기업들이 엔비디아의 영역을 침범하기 어려울 수밖에 없단 것이다.

엔비디아가 신제품을 잇달아 출시하며 타 기업과의 간극을 공격적으로 벌리고 있는 점도 부담이다. 엔비디아는 앞서 지난해 11월 기존 A100 모델보다 2배 많은 용량과 2.4배 많은 대역폭을 제공하는 ‘HGX H200’를 출시한다고 발표한 바 있다. H200 텐서코어 GPU와 141GB 메모리의 HBM3E가 탑재된 HGX H200는 메타 오픈소스 ‘라마2’ 기준으로 H100보다 추론 속도가 2배가량 빠르다. 엔비디아의 철옹성이 더욱 견고해지고 있다는 뜻이다. 결국 빅테크 기업들이 완전한 의미의 탈엔비디아를 이루기 위해선 상당한 시간과 비용을 들이는 게 불가피할 것으로 전망된다.