인공지능(AI) 인프라 시장의 스포트라이트가 엔비디아 GPU와 SK하이닉스·삼성전자의 고대역폭메모리(HBM)에 쏠린 사이, 시스템 전체의 척추이자 혈관 역할을 하는 중앙처리장치(CPU) 공급망에 기형적인 병목이 발생하고 있습니다. 거대언어모델(LLM) 학습 중심에서 자율 에이전트와 실시간 추론 시대로 패러다임이 전환되면서 호스트 CPU 수요가 급증한 반면, TSMC 선단 공정 슬롯 부족과 고다층 FC-BGA 기판 쇼티지가 겹쳐 글로벌 하드웨어 생태계가 2차 충격에 직면했습니다. 이에 <디지털데일리>는 일선 반도체 소부장 현장의 경고와 글로벌 빅테크 수장들의 분석을 바탕으로, 하반기 IT 산업 전반을 강타할 'CPU 대란'의 구조적 원인과 시장 파급 효과, 그리고 K-반도체의 기회 요인을 심층 진단합니다. [편집자주]

리사 수(Lisa Su) AMD CEO가 23일(현지 시각) 미국 샌프란시스코 모스콘 웨스트에서 열린 '어드벤싱 AI(Advancing AI) 2026' 프레스 브리핑 Q&A 세션에서 차세대 AI 인프라 '헬리오스'의 구체적인 출하 일정, 글로벌 빅테크 파트너십 세부 내용, 그리고 시장 일각의 경쟁 구도 우려에 대한 명확한 비전을 제시했다. [사진=AMD]

[디지털데일리 김문기기자] “시장은 온통 고대역폭메모리(HBM) 가격 폭등과 엔비디아 그래픽처리장치(GPU) 수급난만 이야기하고 있지만, 현장의 진짜 위기는 따로 있다. 올해 하반기 서버와 PC 공급망에서 반드시 ‘CPU 대란’이 터진다.”

최근 국내 반도체 소부장 기업 간담회 현장에서 터져 나온 한 대표의 직설적인 경고다. 그동안 전 세계 테크 시장의 시선은 거대언어모델(LLM)을 학습시키기 위한 GPU 확보와 이를 보좌하는 HBM 메모리의 가격 추이에만 쏠려 있었다. 그러나 시스템 전체의 척추이자 신경망을 제어하는 중앙처리장치(CPU) 공급망에 기형적인 병목이 발생하면서, 2026년 하반기 글로벌 하드웨어 생태계가 예상치 못한 쇼크에 빠질 수 있다.

이러한 위기감은 일선 소부장 현장의 우려에 그치지 않는다. 팹리스, IDM, 파운드리, 완제품 서버 OEM, 네트워크 반도체에 이르기까지 글로벌 테크 생태계를 이끄는 핵심 리더들 역시 공식 석상에서 연이어 ‘CPU 공급 절벽’과 ‘아키텍처의 역전’을 경고하고 나섰기 때문이다.

6월 2일 '컴퓨텍스 2026' 기조연설 후 질의응답 세션에서 답하는 립부 탄 인텔 최고경영자

◆ 리사 수·립부 탄·르네 하스… "에이전틱 AI가 촉발한 아키텍처 역전"

하반기 CPU 품귀 현상을 촉발한 근본적인 배경은 인공지능 패러다임이 학습(Training)에서 실시간 추론 및 자율 에이전트(Agentic AI)로 급격히 전환된 데 있다.

단순히 방대한 텍스트 데이터를 학습시키던 초기 LLM 단계에서는 병렬 연산에 특화된 GPU가 전체 작업을 주도하고 CPU는 보조 역할에 머물렀다. 데이터센터 서버 랙을 구성할 때도 통상 ‘GPU 4~8개당 호스트 CPU 1개’ 비율이면 충분했다.

그러나 인공지능이 스스로 판단하고, 외부 도구(API)를 호출하며, 다단계 업무를 자율적으로 조율하는 ‘에이전틱 AI’ 단계로 진화하면서 계산 공식이 뒤집혔다. 여러 AI 모델 간의 작업 우선순위를 정하고, 시스템 메모리를 실시간으로 관리하며, 복잡한 로직을 처리하는 ‘오케스트레이션(Orchestration)’ 연산이 전적으로 CPU의 몫으로 넘어왔기 때문이다.

리사 수(Lisa Su) AMD CEO는 최근 실적 컨퍼런스콜에서 에이전틱 AI가 촉발한 호스트 CPU 수요 폭증을 공식화했다. 그는 “에이전틱 AI 환경이 본격화되면서 데이터센터 내 CPU와 GPU의 탑재 비율이 '1:1' 수준으로 급격히 좁혀지고 있다. 에이전트 AI가 인프라에 요구하는 연산 구조 변화로 인해 2030년 서버용 CPU 시장 규모(TAM)는 당초 예상의 2배인 1,200억 달러(약 165조원) 이상으로 폭증할 것이다”라고 강조했다.

립부 탄(Lip-Bu Tan) 인텔 최고경영자(CEO)도 대만 '컴퓨텍스 2026' 기조연설에서 에이전틱 AI 시대의 핵심 두뇌로 CPU를 전면에 내세웠다. 그는 “인공지능 에이전트가 다단계 작업을 수행하고 파일과 도구를 호출할 때 발생하는 지연 시간(Latency)의 최대 89%가 CPU 단에서 결정된다. GPU 중심 클러스터에서 호스트 CPU의 처리 능력이 전체 AI 시스템의 성패를 가르는 절대적 요소가 됐다"고 진단했다.

르네 하스(Rene Haas) Arm CEO 역시 컴퓨텍스 현장에서 젠슨 황 엔비디아 CEO와 함께 무대에 올라 CPU 공급 부족을 경고했다. 그는 “에이전틱 AI 애플리케이션이 확산되면서 CPU 수요가 당초 업계가 예상했던 것보다 훨씬 가파르게 치솟고 있다. 이제 CPU는 단순한 보조 장치가 아니라 AI 인프라의 전력과 성능을 결정하는 가장 치열한 격전지다”라고 예고했다.

또한 데이비드 진스너(David Zinsner) 인텔 CFO도 최근 실적 발표에서 “서버용 제온(Xeon) CPU 수요 폭증으로 심각한 공급 제약 상황에 직면했다”고 털어놓으며, 급증하는 데이터센터 물량을 맞추기 위해 일반 소비자용 PC 웨이퍼 캐파까지 조정하고 있음을 시인했다.

젠슨 황 엔비디아 최고경영자(CEO)가 6월8일 서울 중구 신라호텔에서 열린 '엔비디아 코리아 AI 에코시스템 리셉션'에 참석해 기자들의 질의에 응답하고 있다. [사진=배태용 기자]

◆ 젠슨 황·웨이저자… "두뇌 짝 맞추기와 3나노 병목"

이같은 우려는 지속적으로 제기되고 있는 상태다.

젠슨 황(Jensen Huang) 엔비디아 CEO는 차세대 AI 아키텍처 루빈(Rubin)에 자체 설계한 서버용 CPU 베라(Vera)를 결합하는 동시에, x86 진영의 최신 제온 6 프로세서를 호스트 CPU로 직접 낙점했다. GPU 단독 판매에 머물지 않고 CPU와의 1:1 결합을 강조하는 것은, 호스트 CPU가 데이터를 병목 없이 밀어 넣어주지 못하면 수억 원짜리 GPU 가속기도 무용지물이 된다는 사실을 알기 때문이다.

웨이저자(C.C. Wei) TSMC CEO는 폭발하는 CPU 수요를 뒷받침해야 할 파운드리 라인의 물리적 한계를 직격했다. 그는 “인공지능 수요가 전단부(Front-end) 첨단 웨이퍼와 후단부(Back-end) 첨단 패키징 라인을 가리지 않고 집어삼키고 있다. 3나노 등 첨단 노드의 극심한 공급 부족 현상은 2027년까지 지속될 것”이라고 내다봤다.

애플의 차세대 모바일 AP와 엔비디아의 AI 가속기 물량이 TSMC 3나노(N3) 선단 라인을 독점하면서, 인텔과 AMD가 배정받을 수 있는 x86 CPU용 웨이퍼 슬롯이 후순위로 밀리는 것 역시 이같은 주장을 뒷받침한다.

실제 서버를 조립해 데이터센터에 납품하는 기업이나 통신 반도체 수장들 역시도 위기가 현실화되고 있다는 반응이다.

안토니오 네리(Antonio Neri) HPE CEO는 실적 발표에서 AI 프로젝트 폭증에 따른 부품 수급난을 언급하며 “부품 가격 상승 압박을 완제품 가격에 전가(Cost Pass-Through)할 수밖에 없는 구조적 수급 불균형이 이어지고 있다”고 밝혔다.

또한 마이클 델(Michael Dell) 델 테크놀로지스 CEO에 따르면 델은 주요 서버와 워크스테이션 라인업의 납기가 기존 2~3주에서 최장 24주 이상으로 폭증하자, 지난 3월 말 전 제품군에 대해 약 17%의 전격적인 가격 인상을 단행했다. 인텔과 AMD 서버 CPU의 배정 물량이 완판되면서 완제품 출하가 막히는 사태가 벌어졌기 때문이다.

맷 머피(Matt Murphy) 마벨 테크놀로지 CEO는 최근 개최된 '식스 파이브 서밋(The Six Five Summit 2026)' 기조연설에서 “AI 인프라 시장이 1단계를 지나면서 이제 연산뿐만 아니라 호스트 CPU와 메모리를 잇는 연결성과 CXL 인프라가 새로운 병목으로 떠올랐다”고 지적했다.

웨이저자(C.C. Wei) TSMC 회장(오른쪽)과 만난 최태원 SK그룹 회장. [사진=SK하이닉스]

글로벌 시장조사업체 트렌드포스와 투자은행 키뱅크에 따르면 인텔과 AMD는 이미 올해 서버용 CPU 가용 생산 물량을 사실상 완판했다. 평균 10~20%의 가격 인상도 단행했다.

결과적으로 올해 하반기 글로벌 시장은 '에이전트 AI 전환에 따른 CPU 수요 폭증 → 1:1 역전 및 납기 지연 → TSMC 3나노 파운드리 슬롯 병목'이라는 악순환을 낳을 수 있다. 즉, HBM과 GPU라는 글로벌 주요 화두에 가려져 있던 CPU가 시스템 전체의 셧다운을 위협하는 하반기 최대의 뇌관으로 부상할 가능성이 크다.