7월 14일 서울 더플라자 호텔에서 열린 '2026 K-NPU 테크웨이브' 행사에서 최정진 삼성SDS 그룹장이 '삼성클라우드플랫폼(SCP)의 NPUaaS가 여는 초고효율 AI 서비스'를 주제로 발표하고 있다.[사진=박재현기자]

[디지털데일리 박재현기자] 삼성SDS가 삼성클라우드플랫폼(SCP)에서 GPU와 NPU를 동시에 제공하는 국내 첫 서비스를 선보인다. 퓨리오사AI의 2세대 AI가속기 '레니게이드(RNGD)' 기반 NPU as a Service(NPUaaS)를 오는 16일 출시한다. 워크로드 특성에 맞춰 GPU 풀과 NPU 풀 중 더 빠르고 저렴한 쪽을 자동 선택하는 '지능형 추론 라우팅' 기능도 함께 담았다.

14일 서울 더플라자호텔에서 열린 'K-NPU 테크웨이브' 행사에서 최정진 삼성SDS 그룹장은 '삼성클라우드플랫폼(SCP)의 NPUaaS가 여는 초고효율 AI 서비스'를 주제로 발표를 진행했다.

SCP는 현재 엔비디아 GPU 3종을 서비스 중이다. 여기에 RNGD 기반 NPU가 더해지면서 GPU와 NPU를 한 클라우드 안에서 동시에 쓸 수 있게 됐다. 고객은 VM 방식으로 1·2·4·8장 단위 가상 서버를 이용하거나, 클러스터 또는 완전관리형·서버리스 방식으로 GPU와 NPU를 함께 활용할 수 있다.

핵심은 지능형 추론 라우팅이다. 추론 요청이 들어오면 GPU 풀과 NPU 풀 중 어느 쪽이 더 빠르고 비용 효율적인지 시스템이 자동으로 판단해 처리한다.

고객이 NPUaaS를 직접 신청해 컴퓨팅 자원을 쓰는 방식뿐 아니라, 워크로드를 던지기만 하면 내부적으로 GPU와 NPU 중 최적의 경로를 골라 결과를 돌려주는 구조다.

NPU 자원 확장 계획도 밝혔다. 지난 3월 엔비디아 B300을 GPU 서비스로 출시한 데 이어, 퓨리오사AI와의 기술 협력을 통해 NPU 자원도 계속 늘려간다는 방침이다.

국자원 대구센터 내 범정부 초거대 AI 공통기반사업에서 GPU 자원이 부족할 경우, 동탄 데이터센터에서 GPU뿐 아니라 NPU까지 함께 버스팅해 공공기관에 제공하는 방안도 협의 중이라고 밝혔다.

해남 솔라시도에 구축할 한국 AI컴퓨팅센터(AICC) 역시 GPU와 NPU를 함께 구축해 국가기관과 기업에 서비스할 계획이다.

삼성SDS는 NPU를 포함한 AI 인프라 경쟁력의 배경으로 자체 데이터센터 역량을 들었다. 최근 완공한 동탄 데이터센터의 전력사용효율(PUE)은 1.19로, 앞서 지은 수원센터(1.5)보다 개선됐다. 이 데이터센터에 엔비디아 DSX 플랫폼을 적용하고 기존 데이터센터관리시스템(DCIM)과 AI 에이전트를 연동해 온도·전력을 자동 제어하는 기술도 갖췄다.

파트너 생태계도 NPU 확장의 축이다. 엔비디아뿐 아니라 퓨리오사AI, 프렌들리AI, 베슬AI 등과 협력해 반도체부터 인프라, 솔루션까지 아우르는 생태계를 구축한다는 방침이다.

고객 사례로는 2029년 완공 예정인 구미 AI데이터센터, 2028년 완공 예정인 한국 AICC와 함께 업스테이지, 과학기술정보통신부, 삼성 관계사, 행정안전부, 고용노동부 등을 제시했다.

최 그룹장은 "파트너 생태계와 함께 고객의 AX가 최적화된 비용과 설계로 성공할 수 있도록 뒷받침하겠다"고 말했다.