김재원 엘리스그룹 대표가 4월15일 서울 강남구 본사에서 열린 'Elice IMPACT 2026' 기자간담회에서 AI 풀스택 전략을 발표하고 있다. [사진=구아현기자]

[디지털데일리 구아현기자] 엘리스그룹이 이동형 모듈러 데이터센터(PMDC)를 앞세워 AI 인프라 공급을 본격화한다. 에이전트(AI Agent) 전환 시대 급증하는 그래픽처리장치(GPU) 수요를 선점하겠다는 목표다.

엘리스그룹은 15일 서울 강남구 본사에서 기자간담회를 열고 클라우드·솔루션·모델·교육을 아우르는 'AI 풀스택' 전략을 공개했다.

김재원 엘리스그룹 대표는 "에이전트 확산으로 추론 수요가 폭발하면서 AI 인프라가 기업 경쟁의 병목이 되고 있다"며 "PMDC 인프라부터 직접 구축한 클라우드 가상화 소프트웨어(ECI)까지 GPU를 실제 서비스에 활용하는 풀스택 역량을 제공할 것"이라고 말했다.

엘리스그룹은 5년 전부터 PMDC를 자체 구축해왔다. 2021년 A100, 2023년 H100, 올해 B200 수냉식까지 도입했다. 현재 10개 이상의 PMDC를 운영 중이다. 컨테이너 기반이어서 일반 데이터센터보다 구축 속도가 빠르다. 부지 조성·모듈 제작·IT 장비 설치 등 20여 개 작업을 동시에 진행해 3~4개월 내 구축이 가능하다. 김 대표는 "소프트웨어 테스트까지 포함해도 4개월이면 서비스 개시가 가능하다"고 설명했다.

이 같은 구축 이력을 바탕으로 엘리스그룹은 현재 엔비디아 차세대 GPU '베라 루빈 NVL72' 지원을 위한 설계를 완료했다. 베라 루빈은 랙당 230kW의 고전력을 요구하는 최상위 AI 가속 플랫폼이다. 젠슨 황 엔비디아 최고경영자(CEO)가 올해 초 CES 2026 기조연설에서 공개한 이 제품은 시스템 전체가 45도 온수로 100% 액체 냉각된다.

엘리스그룹도 GPU 반도체가 40도에서 충분히 운영 가능하다는 점에서 온수냉각 방식을 적용한다. GPU가 80~100도까지 올라가더라도 40도의 따뜻한 물로 냉각이 가능하다. 별도 냉동기 없이 운영이 가능해 비용 효율도 높다. 김 대표는 "고하중·고전력 환경에 대응 가능한 모듈형 설계를 완료한 상태"라고 설명했다.

클러스터링 설계 역량도 확보했다. 김 대표는 "엔비디아 B300 기준 최대 1만368장 규모의 GPU를 클러스터링할 수 있는 설계 역량도 확보했다"며 "GPU를 묶은 단일 서버들을 연결해 가상 단계에서 1만 장 클러스터링까지 검증을 완료했다"고 말했다.

네트워크 클러스터링 방식도 바꿔 비용을 절감했다. 엔비디아 전용 고가 인피니밴드 방식에서 오픈 표준인 이더넷(RoCEv2) 방식으로 전환했다. 아리스타네트웍스와 협력해 구현한 이더넷 클러스터링은 인피니밴드 대비 전송 속도가 7~9% 빠르면서도 비용 효율성이 높다. 이더넷 기반 1만장 규모의 GPU 클러스터링 소프트웨어 개발도 완료했다.

'GPU 스팟 요금제'도 공식 출시했다. 유휴 GPU 자원을 온디맨드 요금 대비 최대 50% 수준으로 제공하는 방식이다. 김 대표는 "장기약정·온디맨드·스팟 3종 과금 모델을 모두 갖춘 국내 유일 CSP가 됐다"며 "에이전트 시대에는 단기 집중 연산 수요가 많아 스팟 인스턴스 활용도가 높을 것"이라고 말했다.

◆ 국산 AI 생태계 자립 강조… "클라우드도 혁신 기업 키워야"

인프라 확장과 함께 파트너십도 속도를 내고 있다. 엘리스그룹은 보안 분야에서 안랩과 차세대 데이터센터 네트워크 보안 협력을, 전력·냉각 분야에서 슈나이더 일렉트릭과 MOU를 체결했다. 에너지 분야에서는 스탠다드에너지와 전력 안정성 협력을 논의 중이며 네트워크 분야에서는 아리스타네트웍스, LG유플러스와 각각 MOU를 맺었다.

또한 한국과학기술정보연구원(KISTI)과 국가데이터교환노드(NDeX) 및 AI 네트워크, 마키나락스와 ECI 기반 국방 및 산업 AI 전환, LG유플러스와 대규모 네트워크 및 데이터센터 운영 역량 강화 측면의 협력을 진행한다.

이날 김 대표는 국산 AI 인프라 전체에 대한 지원 확대도 필요하다고 강조했다. 그는 "미국과 유럽에서는 창업 10년도 안 된 크루소, 코어위브 같은 기업들이 AI 인프라 수요에 힘입어 빠르게 성장하고 있다"며 "정부가 국산 NPU와 AI 모델뿐 아니라 국산 클라우드를 포함한 AI 밸류체인 전체를 골고루 지원해야 한다"고 말했다. 이어 "국내에서도 혁신 기업이 자라야 클라우드 생태계가 발전할 수 있다"고 덧붙였다.

엘리스그룹은 교육 영역에서도 AI 전환(AX) 전략을 병행한다. 2015년 AI 기반 교육 실습 플랫폼으로 출발한 엘리스그룹은 10년간 쌓아온 교육 데이터와 클라우드 운영 노하우를 바탕으로 AI 인프라 기업으로 확장해왔다. AI 문서 분석 솔루션 '헬피 비전'과 기업·기관 전용 생성형 AI 솔루션 'AI헬피챗'을 통해 인프라에서 솔루션·교육까지 이어지는 풀스택 생태계를 구성하고 있다.

김 대표는 "처음부터 클라우드 환경에서 실습할 수 있는 솔루션을 만들면서 시작했다"며 "국산 기술로 완성한 차세대 AI 인프라를 통해 국내 AI 생태계의 자립도를 높이겠다"고 강조했다.