엔비디아가 헌정한 Korea's Next Industrial Revolution 유튜브 영상 캡쳐

[디지털데일리 김문기 기자] 26만 장의 GPU를 들여올 예정인 우리나라는 엔비디아라는 거대한 생태계에 편입될 가능성이 커졌다.

한때 그래픽 카드로 출발했던 엔비디아는 불과 10년 만에 인공지능 시대의 질서를 설계하는 대표적 기업으로 성장했다. 데이터는 자본으로, 연산은 화폐로 바뀌는 시대가 도래한 셈이다. 그 화폐를 찍어내고 유통량을 조절하는 마치 중앙은행의 역할을 하는 곳이 바로 엔비디아라 볼 수 있다.

엔비디아의 힘은 단순한 칩의 성능에서 나오지 않는다. 젠슨 황 엔비디아 CEO는 GPU를 그래픽 연산기에서 범용 병렬처리기로 재정의했고, 그 위에 CUDA라는 언어를 세웠다. 처음엔 개발자를 위한 도구에 불과했지만, 지금은 AI 산업 전체가 CUDA를 중심으로 돌아간다는 점을 의심할 수 없다.

6일 업계 전문가는 이에 대해 "기준에 따라 다르게 읽힐 수는 있으나 결과적으로 엔비디아의 흐름을 막을 수 없기 때문에 기술 종속화는 일종의 딜레마일수밖에 없다"라며 "국가적으로도 그간 세워놓은 계획들을 다시 정비할 수 있어야 하며 전력과 AI 인력, 생태계 측면에서 만반의 준비가 필요하다"고 말했다.

또 다른 업계 전문가는 "데이터센터가 구축되면 전반적으로 3년 내외 주기로 교체 작업이 병행돼야 하기 때문에 그에 따른 유지보수 및 가격 리스크에 대해 예민하게 반응해야 한다"라며 "요점은 공급과 구축이 아니라 이를 통해 생성될 생태계를 주도할 수 있는 AI 주권을 어떻게 만들어가는가에 있다"고 설명했다.

젠슨 황 엔비디아 최고경영자(CEO)가 SK하이닉스 부스로 이동하는 도중 받은 사인 요청에 응하고 있는 모습

◆ AI 중앙은행 '엔비디아'

스타트업 또는 빅테크라 할지라도 챗GPT와 클로드, 하이퍼클로바X까지 결국 같은 문법 위에 서 있다. GPU는 팔리는 제품이지만 CUDA는 회전하는 통화인 셈이다. 이 과정에서 엔비디아는 하드웨어를 팔고 소프트웨어를 묶었으며, 드라이버와 프레임워크, 클라우드 서비스까지 한 줄로 이어 붙였다. AI 개발자가 코드를 올리고 모델을 학습할 때, 데이터센터가 돌아갈 때, 그 이익은 다시 엔비디아로 돌아간다고 해석할 수도 있다.

이를 두고 영국 이코노미스트는 'AI의 새로운 경제에서 엔비디아는 연산 화폐를 주조하고 중앙은행처럼 그 유통량을 조절한다'고 표현했다. 지난 3월 파이낸셜타임스의 경우에는 '엔비디아의 영향력은 유동성을 조절하는 중앙은행과 같다'는 동일 해석을 내놨다. 엔비디아가 칩 제조사가 아니라 금융기관처럼 산업의 속도를 조절하고 있다는 뜻이었다.

사실상 실제 상황이 벌어졌다. TSMC는 엔비디아 전용 4나노 공정을 배정했고 삼성전자는 HBM3E 메모리를 블랙웰 아키텍처에 맞춰 공급한다. 네덜란드의 ASML, 일본의 포토레지스트, 미국의 서버 제조사까지 엔비디아의 로드맵에 맞춰 움직이고 있다.

과정 속에서 GPU를 해석한다면 하나의 자산으로 분류할 수 있다. 자금이 모이면 GPU를 사고 GPU를 확보한 기업이 연산력을 지배한다. AI 기업들은 GPU를 화폐처럼 사 모으고 국가가 이를 기반으로 산업 전략을 세운다. GPU는 물리적 장비이자 연산의 통화이며 그 유동량을 조절하는 존재가 엔비디아라고 볼 수 있다.

젠슨 황 엔비디아 CEO가 SK하이닉스 부스를 찾아 현장 관계자들과 만나고 있는 모습 [ⓒ공동취재기자단]

◆ 가장 빠른 편입·되돌아올 리스크·출구전략 준비

이 구조는 국가 전략까지 바꿔 놓았다. 미국과 유럽은 엔비디아 협력 없이는 초대형 모델을 학습시키지 못하고 중국은 수출 통제에 맞서 어센드(Ascend)와 캠브리콘(Cambricon)을 내세워 독자 칩을 지원하고 있다. 일본은 정부 예산으로 엔비디아 클러스터를 구축하며 AI 경쟁의 속도를 맞추려 안간힘을 쓰고 있다.

한국은 이 질서 안에서 가장 빠르게 움직였다. 정부와 대기업이 동시에 엔비디아 생태계에 올라탔고, 2024년 이후 대부분의 AI 클러스터가 H100과 GH200, 블랙웰로 전환됐다.

삼성은 ‘엔비디아 인증 데이터센터’를 도입했고, SK텔레콤은 엔비디아와 손잡고 ‘AI 팩토리 코리아’를 추진했다. 네이버는 6만 장 규모의 GPU로 하이퍼클로바X 후속 모델을 학습했고, LG와 현대차는 각각 멀티모달 AI와 자율주행용 클라우드를 준비하고 있다.

다만, 빠른 편입은 효율을 만들었지만, 동시에 자율성을 좁혔다. CUDA와 cuDNN 중심의 구조가 고착되면서, 국산 NPU나 AMD·인텔 GPU를 시험하기조차 어려워졌다. 국가 예산이 투입된 AI 컴퓨팅센터조차 엔비디아 드라이버와 툴체인에 전적으로 의존하고 있다. GPU의 교체 주기와 가격, 업데이트 일정까지 모두 엔비디아의 로드맵에 맞춰 돌아간다.

한국은 세계에서 가장 빠르게 엔비디아 생태계에 편입된 나라이고, 그만큼 리스크도 먼저 체감할 나라다. 속도와 효율이라는 명분 아래 구축된 인프라가 장기적으로는 의존의 덫이 될 수 있다. GPU 확보가 산업 경쟁력의 상징이지만 자율적 연산 체계를 확보하지 못한다면 AI 주권은 언제든 외부의 변동에 흔들릴 수 있다.

젠슨 황 CEO는 'GPU는 새로운 공장'이라고 설명했다. GPU는 데이터를 원재료로 AI 모델을 제품으로 만들어내는 디지털 제조시설이다. 문제는 공장의 주인이 엔비디아라는데 있다.

산업의 속도를 결정짓는 스위치를 쥔 자가 결국 세계의 방향을 제어한다면 한국이 진정한 AI 강국으로 남기 위해 필요한 것은 GPU의 수량이 아니라 독립적인 연산 체계와 표준을 세우는 능력이다.

엔비디아는 AI 인프라의 중앙은행이고 GPU는 그들이 발행한 연산 통화다. GPU 확보 경쟁은 국가 간 통화전쟁이며 접근권이 기술 주권을 결정한다. 한국은 가장 빠르게 그 질서 안에 들어왔고 이제는 그만큼 빠르게 빠져나올 길을 찾아야 한다.

KT클라우드 ‘가산 AI 데이터센터’ 전경 [ⓒ KT클라우드]

◆ AI 생태계 주권 챙겨야

엔비디아 중심 구조의 본질은 ‘지배’가 아니라 ‘표준’이다.

한국이 대비해야 할 것은 단순히 GPU의 국산화가 아니라, 표준을 바꿀 수 있는 자립 능력이다. GPU를 직접 설계하는 것보다 더 중요한 것은 그 위에 올라갈 소프트웨어와 생태계를 국내에서 완결할 수 있는 체계를 세우는 일이라는 게 전문가들의 진단이다.

지금처럼 모든 AI 모델의 학습이 CUDA 기반으로 설계된다면 국산 칩이 나오더라도 제대로 작동하지 못할 수도 있다. 즉, 기술 자립의 핵심은 하드웨어가 아니라 생태계의 주권에 있다.

정부가 추진 중인 ‘K-클라우드 프로젝트’와 ‘AI 반도체 고도화 전략’은 그 출발점이 될 수 있다. 하지만 이 정책이 진짜 효과를 내려면 단순한 장비 구매 예산이 아니라 국가 차원의 오픈소스 인프라 정책으로 옮겨가야 한다.

엔비디아의 CUDA가 폐쇄형이라면, 우리는 오히려 공개형 생태계를 키워야 할 수도 있다. 파이토치(PyTorch), ROCm, oneAPI, 트리톤(Triton)과 같은 범용 프레임워크를 정부 주도의 연구 인프라로 지원하고, 국내 연구자와 개발자가 자유롭게 사용할 수 있는 ‘공개형 연산 레이어’를 만드는 게 중요하다는게 업계 전문가들의 지적이다.

정부가 데이터와 모델을 개방했던 것처럼 컴퓨팅 계층의 개방이 필요하다. 그래야만 기업이 국산 가속기를 써도 성능과 생산성의 손실이 최소화된다고 덧붙였다.

하드웨어 경쟁보다 이종 연산 체계의 운용 능력을 길러야 한다는 지적도 따른다. 엔비디아에 전적으로 최적화된 구조에서 벗어나, GPU·NPU·ASIC을 혼합해 운영하는 멀티 아키텍처 데이터센터를 구축해야 한다.

실례로 리벨리온, 퓨리오사AI, 대기업 R&D 조직이 참여해 ‘혼합형 연산 자립 테스트베드’를 만드는 방식이다. 이런 구조가 확립되면 특정 벤더가 공급을 조절하더라도 운영체계 자체는 흔들리지 않는다. 한국이 전력망을 이중화하듯이 AI 인프라 역시 이중화해야 한다.

기술 인력 문제도 중요하다. 지금 국내 AI 인력의 상당수는 CUDA 생태계에 익숙한 개발자들이다. 이들은 AI 모델링에는 능숙하지만 새로운 하드웨어나 프레임워크에는 상대적으로 약하다. 국산 칩을 만들어도 이를 활용할 인재가 없으면 생태계는 정착하지 않는다.

대학·연구소·기업이 연합해 차세대 NPU·FPGA 프로그래밍 교육 과정을 개설하고 소프트웨어 엔지니어에게 ‘하드웨어 독립형 코드’를 작성할 수 있는 역량을 길러야 한다. 기술 자립은 결국 AI 인력 확보에도 맞닿아 있다.

정책적 관점에서 정부는 AI 인프라를 전력·통신과 같은 기반시설로 인식해야 한다. GPU를 수입해 데이터센터에 배치하는 것은 단기적인 투자지만 그것이 국가 연구·행정·산업 전반을 떠받치는 기반이 된 순간 더 이상 단순한 민간 자산이 아닐 수 있기 때문이다.

외부 공급망이 흔들릴 때 즉시 대체할 수 있는 비상 시나리오를 준비하고 공공기관부터 국산 가속기를 실증하며 행정망의 일부를 오픈소스 기반으로 이전하는 실험이 필요하다. 전력망에 백업 발전소가 있듯 AI 연산망에도 자국형 예비 네트워크가 있어야 한다.

한국은 AI 인프라의 선두주자지만 지금의 속도는 의존과 자립 사이의 경계선 위에 있다. GPU는 단기적으로 혁신을 만들지만 장기적으로는 의존을 낳는다. 엔비디아의 생태계 안에서 성장한 만큼, 이제는 그 경계를 넘을 준비를 해야 한다.