통신*방송

KT, 국산 AI 반도체·LLM 통합한 'NPU LLM 스테이션' 출시

디지털데일리 발행일 2026-08-19 09:52:26
  • 가
  • 가
정혜승 기자

[사진=KT]

[디지털데일리 정혜승기자] KT가 국산 인공지능(AI) 반도체와 국산 언어모델(LLM)을 한 서버에 통합한 기업용 소버린 AI 어플라이언스를 출시했다. AI 어플라이언스는 하드웨어와 소프트웨어가 결합된 완제품형 장치다.

KT는 KT 신경망처리장치(NPU) LLM 스테이션을 선보였다. 이는 국내 AI 반도체 기업 리벨리온의 NPU 아톰맥스(ATOM-MAX)에 KT의 독자 개발 LLM '믿음 K 2.5 Pro', 운영 API 플랫폼까지 탑재한 일체형 제품이다.

아톰맥스는 추론에 특화된 국산 NPU다. KT는 공인 시험을 통해 동급 GPU 대비 높은 처리 성능과 전력 효율을 검증받은 제품이라고 설명했다. 아톰맥스에 쓰인 '믿음 K 2.5 Pro'는 고난도 추론과 에이전트 활용에 강점을 가진 KT 독자 모델이다.

KT NPU LLM 스테이션의 가장 큰 특징은 보안이다. 제품은 고객사 내부에 설치되며 모든 데이터와 AI 연산이 사내에서만 처리된다. 망분리 등 관련 규제와 강력한 보안 필요성으로 해외 생성형 AI를 도입하지 못했던 공공·국방·제약·제조·금융 등 규제 산업의 AX 전환에 사용될 수 다.

도입 부담이 낮은 것도 장점이다. 서버·AI 모델·플랫폼이 통합된 완제품형 장치여서 별도 구축 과정 없이 설치 당일부터 사내 문서 기반 질의응답(RAG) 등 AI 기능을 바로 사용할 수 있다. 추론 특화 NPU를 채택해 동급 GPU 서버 대비 전력 효율이 높고 업계 표준 API를 제공해 기업이 기존에 쓰던 AI 서비스의 접속 정보만 바꾸면 코드 수정 없이 호환해 사용할 수 있다.

KT는 "향후 회의록 작성, 코딩 지원, 업무 자동화 에이전트 'K-Claw(가칭)' 등 KT가 개발한 AI 에이전트를 순차 탑재하고 에이전트 전문 개발사와 협력해 고객 맞춤형 구축 사업으로 확장할 방침"이라고 밝다.

Copyright ⓒ 디지털데일리. 무단전재 및 재배포 금지
정혜승 기자
jhs@ddaily.co.kr
기자의 전체기사 보기 기자의 전체기사 보기

이 기사와 관련된 기사

디지털데일리가 직접 편집한 뉴스 채널

당신이 좋아할 만한 뉴스

많이 본 기사

연재기사

실시간 추천 뉴스