크리스티아노 아몬 퀄컴 CEO가 6G 비전을 제시했다.

[디지털데일리 김문기 기자] AI 반도체 시장이 빠르게 재편되고 있다.

엔비디아가 장악한 AI 학습(Training) 시장의 독주에 균열이 생기기 시작했고, AMD가 정면에서 추격하는 사이 퀄컴이 ‘추론(Inference)’ 중심의 새로운 시장을 열고 있다. AI 산업의 핵심 동력인 데이터센터용 반도체 시장이 ‘훈련의 엔비디아, 균형의 AMD, 생태계 방점의 인텔, 효율의 퀄컴’이라는 4강 구도로 재편되는 분위기다.

젠슨 황 엔비디아 CEO는 7일(현지시간) CES 2025가 개최된 미국 라스베이거스 퐁텐블루에서 미디어 Q&A를 연 자리에서 ‘프로젝트 디지츠(NVIDIA Project DIGITS)’를 직접 공개했다.

엔비디아는 여전히 절대 강자다. GPU 기반의 ‘호퍼(Hopper)’와 ‘블랙웰(Blackwell)’ 아키텍처는 AI 모델 학습의 표준으로 자리 잡았다. 세계 데이터센터 AI 칩 시장의 90% 이상이 엔비디아 제품으로 채워져 있다.

젠슨 황 엔비디아 CEO는 “AI 시대의 새로운 산업혁명은 이미 시작됐다”며 AI 공장(AI Factory) 전략을 강조하고 있다. 그는 데이터센터를 'AI 제품을 생산하는 새로운 제조라인'으로 정의하며, 클라우드 사업자와의 장기 계약을 통해 GPU 리소스를 독점적으로 공급하고 있다. 다만, 엔비디아의 높은 칩 가격과 전력 소비는 기업들의 부담으로 이어지고 있다. 이미 많은 기업이 AI를 얼마나 강력하게 학습시킬 수 있느냐보다 얼마나 효율적으로 운영할 수 있느냐에 대한 고민이 크다.

리사 수 AMD CEO는 12일(현지시간) 미국 새너제이 컨벤션 센터에서 개최한 ‘어드밴싱 AI 2025(AAI 2025)’ 행사에서 AI 생태계 주도권 강화를 위한 총체적 비전을 공개했다.

이 틈새를 노린 곳이 AMD다. 리사 수 CEO는 MI300 시리즈를 앞세워 엔비디아의 영역으로 정면 진입했다. GPU와 CPU를 결합한 APU 설계와 HBM3 메모리 통합 패키징을 통해 대규모 모델 학습 속도를 높였고, ‘ROCm’이라는 오픈 프레임워크를 통해 엔비디아 CUDA의 폐쇄적 생태계에 균열을 내고 있다. AMD는 AI 학습 성능에서 엔비디아와의 격차를 절반 이하로 줄였다고 자신감을 보이기도 했다.

마이크로소프트, 오라클, 메타 등 글로벌 기업들이 MI300 기반 서버 도입을 검토 중이지만, 여전히 개발자 생태계의 깊이에서는 엔비디아와 거리가 있다. 업계에서는 AMD는 엔비디아의 방식을 가장 닮은 도전자라는 평가가 나온다.

립부 탄 인텔 CEO가 미국 애리조나주 챈들러에 위치한 인텔 오코틸로 캠퍼스 밖에서 인텔 코어 울트라 시리즈 3(코드명 팬서 레이크)용 CPU 타일 웨이퍼를 들고 있다. [사진=인텔]

인텔은 ‘통합 생태계’를 내세워 장기전을 준비하고 있다. 데이터센터용 AI 가속기 ‘가우디3(Gaudi3)’를 중심으로 클라우드 협력을 강화하는 동시에, 자체 파운드리(IFS)를 통해 엔비디아와 AMD의 공급망을 우회하려는 전략도 병행 중이다. 학습·추론을 넘어 AI 컴퓨팅 전반을 포괄하는 생태계 중심 전략을 내세우고 있다.

이와 달리 퀄컴은 ‘학습’이 아닌 ‘추론’에 집중했다. 이미 훈련된 대형 언어모델(LLM)을 실행하고, 실제 서비스에 적용하는 과정에서 필요한 효율적 연산 구조를 겨냥했다. 퀄컴이 공개한 ‘AI200’과 ‘AI250’ 칩이 그 결과다. AI200은 카드당 768GB의 LPDDR 메모리를 탑재하고, 액체 냉각과 PCIe 확장성을 지원한다. GPU 대비 전력당 연산 효율이 최대 두 배 높다는 게 퀄컴의 설명이다.

퀄컴 두르가 말라디 부사장은 “AI200과 AI250은 AI 인퍼런스의 정의를 다시 쓰는 솔루션”이라며 “탁월한 효율성과 비용 구조를 갖춘 새로운 랙스케일 AI 시대를 열 것”이라고 말했다.

퀄컴은 사우디아라비아의 AI 인프라 기업 휴메인(HUMAIN)과 협력해 2026년부터 200메가와트 규모의 AI 데이터센터를 운영할 계획이다. 엔비디아 GPU 중심의 데이터센터 구조와 달리, 이 프로젝트는 퀄컴의 AI200·AI250 칩을 중심으로 구성된다.

지난 9월 개최된 스냅드래곤 테크 서밋 2025에서 휴메인 타렉 아민 CEO는 “퀄컴의 AI 기술력은 사우디가 AI 허브로 도약하는 데 핵심적인 역할을 할 것”이라며 “엣지부터 클라우드까지 완전한 AI 인프라를 구축할 것”이라고 밝혔다. 크리스티아노 아몬 퀄컴 CEO는 “우리는 AI를 다시 민주화하려 한다”며 “AI가 특정 기업의 독점 기술이 아닌, 모든 산업의 기본 인프라가 되도록 하겠다”고 말했다.

한편, 엔비디아가 훈련 시장을, AMD가 균형 전략으로 그 중간을, 그리고 퀄컴이 추론 시장을 맡으며 AI 반도체 산업은 처음으로 ‘역할 분화’가 나타나고 있다. AI 학습과 추론의 경계가 명확해지는 가운데, 전력 효율과 총소유비용(TCO)이 경쟁의 새로운 기준으로 부상 중이다.