9월 8일 서울 코엑스에서 열린 삼성SDS 리얼 서밋 2026에서 이원미 그룹장이 'AX 전환을 위한 파트너: 공공의 내일을 여는 AI 풀스택'을 주제로 발표하고 있다.[사진=박재현기자]

[디지털데일리 박재현기자] "정부 부처 및 공공기관들의 성공적인 인공지능 전환(AX)을 위해선 데이터를 어디에 둘 것인가, 무엇으로 앞설 것인가, 어떻게 멈추지 않게 할 것인가 등 3가지를 고민해야 한다."

이원미 삼성SDS 그룹장은 8일 서울 코엑스에서 열린 '리얼 서밋 2026' 공공세션에서 공공기관 AI 전환(AX)의 3대 과제를 짚으며 이 같이 강조했다.

◆ 데이터·인프라·안정성…삼성SDS가 던진 세 가지 질문

공공기관의 현장 데이터는 대부분 외부 반출이 제한된다. 국가 시설과 센서에서 나오는 데이터인 만큼 유출 위험이 크다.

이러한 환경에서 AI를 구현하기 위해 삼성SDS는 프라이빗 5G 전용망과 엣지 AI 서버를 해법으로 제시했다. 현장 데이터를 외부망과 물리적으로 분리하고, 즉시 판단이 필요한 연산은 엣지에서 처리한 뒤 전용선으로 AI 데이터센터에 축적하는 방식이다.

데이터 저장은 클라우드 보안인증(CSAP) 상등급 인증을 받은 삼성클라우드플랫폼(SCP)이 맡는다. SCP는 대구 국가정보자원관리원 센터에도 구축돼 있다. 기밀(C)·민감(S)·개방(O)로 이뤄진 국정원의 N2SF 등급 체계 가운데, C등급에 해당하는 데이터를 SCP에 보관할 수 있다는 설명이다. S등급 데이터는 SCP를 포함해 더 폭넓은 클라우드 환경에서 활용할 수 있다. 외부 공개가 가능한 일반 데이터는 상등급 인증 민간 클라우드나 공공 전용 클라우드에서 서비스한다.

두 번째 과제는 AI 인프라다. 공공기관은 국가 데이터를 민간 범용 AI에 맡길 수 없어 별도 학습 인프라가 필요하다. 그러나 기관마다 GPU를 따로 확보하면 중복 투자 부담이 커진다.

삼성SDS는 SCP를 통해 GPU를 쓴 만큼만 비용을 내는 서비스형으로 제공한다. 엔비디아 B300 기반 GPU 서비스를 국내 처음 도입했고, 리벨리온·퓨리오사AI 등 국산 AI 반도체 기반 NPU 서비스도 상용화했다. 여기에 머신러닝 학습 파이프라인과 AI 플랫폼 패브릭스를 연동해 기관이 인프라부터 서비스까지 한 번에 쓸 수 있도록 했다.

중장기 공급은 국가 AI 컴퓨팅센터가 맡는다. 삼성SDS는 과학기술정보통신부와 합작해 지난 7월 전남 해남 솔라시도에서 착공했고, 2029년 서비스 개시가 목표다. 초기 GPU 규모는 5만장이며 수요 증가에 따라 확대한다는 계획이다. 네이버클라우드, 카카오, KT 등이 컨소시엄에 참여했다.

세 번째는 서비스 중단 방지다. 지난해 10월 국가정보자원관리원 대전센터 화재 이후 정부는 재해복구(DR) 체계 강화를 요구해왔다. 삼성SDS는 SCP의 멀티AZ·멀티리전 액티브-액티브 구성으로 대응한다. 물리적으로 분리된 두 개 이상 센터가 동시에 서비스를 처리하고, 데이터베이스와 스토리지는 동기화 복제로 관리한다.

◆ 민원 처리 20분→15초…패브릭스 실적 사례 잇따라

이어 이상현 삼성SDS AI사업팀 프로는 이어진 세션에서 AI 플랫폼 패브릭스(FabriX)의 실제 적용 사례를 공개했다. 패브릭스가 공공에 공급되는 방식은 두 가지다. 하나는 행정안전부가 주관하는 범정부 AI 공통기반이고, 다른 하나는 기관 내부에 직접 설치하는 방식이다.

9월 8일 서울 코엑스에서 열린 삼성SDS 리얼 서밋 2026에서 이상현 프로가 '패브릭스로 실현하는 공공 부문 혁신 사례' 발표를 진행하고 있다.[사진=박재현기자]

범정부 AI 공통기반은 중앙부처와 지자체가 AI 자원을 공동으로 쓰는 체계다. 지난해 하반기 착수해 올해 3월 정식 운영에 들어갔고, 대구센터의 SCP 위에서 패브릭스가 구동된다. 기관들은 GPU를 직접 확보할 필요 없이 테넌트 단위로 접속해 LLM을 호출하고, 에이전트 빌더로 필요한 기능을 직접 만들 수 있다.

대표적으로 국무총리비서실 AI 민원서포터는 공통기반 도입 효과가 가장 뚜렷하게 드러난 사례다. 주 1000~2000건씩 접수되는 민원을 담당자가 직접 읽고 분류해 건당 20~30분이 걸렸다. 지금은 에이전트가 원문 요약과 관련 법령 추출, 쟁점 정리, 담당 부처 분류를 한 번에 처리하고 사람은 결과를 검토만 한다. 건당 처리 시간은 15초~1분으로 줄었다.

법제처는 지난 7월 14일 'AI 법령비서'를 전 공무원 대상으로 개시했다. 대법원 판례 6만건, 법령·행정규칙 24만건, 시도 자치법규 5만건을 지식베이스로 구성했다. 향후 736만건의 법령 정보를 추가해 2027년 정식 오픈할 계획이다.

두 사례 모두 전문 개발자가 아닌 공무원이 노코드 에이전트 빌더로 직접 만들었다. 이상현 프로는 컨설팅과 예산 편성, 사업 발주, 개발, 검수로 이어지던 기존 절차 없이 서비스를 구현한 사례라고 설명했다.

대국민 서비스에도 적용됐다. 정부24 AI 민원서비스는 지난 3월부터 6월까지 시범 운영을 거쳐 누적 이용자 2800만명, 질의 3000만건을 기록했다. 행정용어를 몰라도 자연어로 검색할 수 있고 50여종의 민원·발급 서비스에 응답한다.

한국철도공사의 경우 삼성SDS 패브릭스 환경에서 개념검증(POC)을 진행했다. 기상특보 전파 업무에 에이전트를 적용해 발령부터 유관부서 전파까지 30분 걸리던 시간을 3분으로 단축했다. 담당자 승인을 거치는 휴먼인더루프(HITL) 방식으로 안정성을 확보했다. 이 과제는 현업 직원이 직접 지식을 구성하고 프롬프트를 작성해 에이전트를 만들었다.

삼성SDS는 공통기반을 쓰기 어려운 기관을 위해 설치형도 제공하고 있다. 기관 IDC에 패브릭스를 직접 설치해 내부 데이터와 연계하는 방식이다.

한 공공기관은 데이터 외부 유출을 원천 차단하기 위해 내부 데이터센터에 빅데이터 플랫폼과 생성형 AI 플랫폼을 함께 구축했다. 지난달 29일 기준 패브릭스 이용을 신청한 기관은 47곳이다.

한편, 삼성SDS는 패브릭스 고도화 방향도 공유했다. 이상현 프로에 따르면, 패브릭스의 다음 버전은 에이전트 거버넌스에 초점이 맞춰질 예정이다. 여러 부서가 만든 에이전트를 한 곳에서 관리하는 '에이전트 거버넌스', 개인 에이전트를 조직 자산으로 등록해 공유하는 'AI 마켓플레이스', 모든 AI 서비스에 접근하는 단일 진입점 'AI 워크스페이스' 기능이 담긴다.