이 기사는 2025년 06월 25일 09시12분 thebell에 표출된 기사입니다

글로벌 클라우드 서비스 사업자(CSP)들은 AI 인프라 투자 비용을 낮추기 위해 AI 반도체 개발에 열중이다. 해마다 수십만 개에 달하는 GPU를 구매하면서 발생하는 천문학적인 비용을 줄이고 자사 워크로드에 최적화된 칩을 통해 성능과 효율을 동시에 확보하려는 전략이다.

이에 따라 엔비디아의 AI 반도체 시장 점유율이 점차 하락할 것이라는 전망도 꾸준히 제기되고 있다. 다만 엔비디아는 CSP들의 AI 반도체 개발에도 자사의 과점이 지속될 것이라고 자신했다. 엔비디아의 AI 반도체 발전 속도와 NVLINK로 대표되는 인터커넥트 기술을 따라잡을 수 없을 거라는 이유에서다.

◇글로벌 CSP, 자사 워크로드 '특화' AI 반도체 개발

글로벌 CSP들이 자체 AI 반도체 개발에 속도를 내는 이유는 매년 천문학적인 수준의 GPU 구매 비용이 발생하기 때문이다. 글로벌시장조사업체 옴디아에 따르면 마이크로소프트(MS)는 지난해 H100 GPU를 약 48만5000개 구매했다. 메타는 22만4000개, 아마존과 구글은 각각 19만6000개, 16만9000개를 확보한 것으로 집계됐다.

CSP 중 가장 자체 칩 적용에 적극적인 기업은 구글이다. 구글은 TPU를 자사 서버에 광범위하게 도입하고 있다. 또 올해 4월 열린 구글 클라우드에서는 7세대 텐서처리장치(TPU) 아이언우드(Ironwood)를 공개하기도 했다. 이전 모델 대비 성능이 10배 이상 개선된 제품으로 챗봇, 코드, 미디어 콘텐츠 생성 등 응용처에 적용될 예정이다.

전력 효율성과 용량도 대폭 개선해다. 아이언우드는 지난해 공개된 6세대 TPU '트릴리움' 대비 전력 성능이 2배 높다고 구글 클라우드는 전했다. 아이언우드의 고대역폭메모리(HBM) 용량은 트릴리움 대비 6배 크다.


AWS는 AI 반도체 전략을 학습용 칩 트레이니움(Trainium) 중심으로 재편하고 있다. 추론용 칩 인퍼런시아(Inferentia) 프로젝트는 중단하고 관련 리소스를 트레이니엄 프로젝트에 집중한다는 방침이다.

트레이니움은 AWS가 대규모 언어 모델(LLM) 학습을 위해 설계한 반도체다. 엔비디아 AI 반도체 대비 뛰어난 가격 대비 성능 확보를 목표로 한다.

지난해 말 발표한 트레이니움3는 이전 세대 제품 대비 2배 향상되고 효율성은 40% 높아진 것이 특징이다. AWS는 이 제품을 활용해 엔비디아 의존도를 낮춘다는 목표다. 올해 말까지 개발을 목표하고 있는 것으로 전해진다.

메타는 브로드컴과 협력해 자체 AI 칩 ‘MTIA’를 개발했다. 추론 및 학습에 모두 대응 가능한 구조로 특정 워크로드에서 GPU 대비 높은 비용 효율성을 목표로 한다. 이외에도 메타는 자체 AI 반도체 개발 역량 강화를 위해 국내 AI 반도체 스타트업 퓨리오사AI 인수를 타진한 바 있다. 검증된 칩 설계 능력을 보유한 회사를 확보해 단기간에 설계 역량을 끌어올리려는 전략이었다.

다만 이는 최종적으로 불발됐다. 퓨리오사AI가 경영권 해외 매각 대신 레니게이드 등 자체 AI 반도체 개발 및 양산을 추진하기로 결정하면서다.

◇엔비디아, AI 반도체 '과점' 자신

다만 젠슨 황 엔비디아 CEO는 CSP들의 ASIC 개발이 무위에 그칠 것이라고 전망했다. 그는 6월 중순 프랑스 파리에서 열린 비바 테크놀로지(VivaTech)' 간담회회에서 "결국 대부분 기업들은 자체 칩 개발 프로젝트를 포기하게 될 것"이라고 전망헀다.

황 CEO는 CSP들이 엔비디아의 AI 반도체를 사용할 수밖에 없는 이유로 자사 칩의 발전 속도를 꼽았다. 그러면서 경쟁사와 CSP들이 이 속도를 따라잡는 것은 불가능하고 비용면에서 경쟁이 어려울 것이라고 자신했다.

또한 칩 간 연결을 담당하는 네트워킹 기술 역시 엔비디아가 넘어서기 어려운 장벽이라고 지적했다. 엔비디아는 NVLink라는 독자적 인터커넥트 기술을 통해 GPU 간 초고속 데이터 전송을 가능케 하는데 이를 기반으로 수십 개의 GPU를 하나의 거대한 가상 칩처럼 동작시킬 수 있다.

팹리스 업계 관계자는 "엔비디아가 앞으로도 상당수 시장을 점령할 것으로는 보인다"며 "다만 이전처럼 모든 워크로드에서 절대적인 우위를 점하지는 못할 것"이라고 설명했다. 이어 "현재 CSP들과 AI 반도체 스타트업들은 특정 워크로드에서 엔비디아보다 더 효율적인 성능을 낼 수 있는 칩 설계에 집중하고 있다"고 덧붙였다.