변현창 한국레드햇 상무가 10일 서울 영등포구 콘래드호텔에서 열린 '한국레드햇 금융 오찬 세미나'에서 <AI 실험을 서비스로 연결해주는 통합 플랫폼>을 주제로 발표하고 있다.

[디지털데일리 이나연기자] 생성형 인공지능(AI)과 에이전트 기반 애플리케이션이 생산성 도구로 주목 받으며 금융 산업에서 변화의 바람이 불고 있다. 금융권이 AI 서비스 경쟁력을 확보하려면 단순한 기술 도입이 아니라, AI 서비스를 담을 수 있는 클라우드 네이티브 플랫폼 전략이 병행돼야 한다는 업계 진단이 나온다.

변현창 한국레드햇 상무는 10일 서울 영등포구 콘래드호텔에서 열린 '한국레드햇 금융 오찬 세미나'에서 "AI 실험을 실제 서비스로 연결하기 위한 플랫폼이 필수"라며 "오픈시프트 기반의 쿠버네티스 플랫폼은 복잡한 AI 워크로드를 감당하고, 빠른 배포와 안정적 운영을 모두 만족시킬 수 있다"고 밝혔다.

지난 10년간 클라우드 네이티브는 애플리케이션, 데이터베이스, 배치 작업, 데이터 과학 등 다양한 워크로드 요구 사항을 충족해 왔다. 하지만 새로운 AI 워크로드는 실험 중심의 반복적 개발과 복잡한 통합을 요구하면서 기존 시스템 문법과 전혀 다른 방식으로 동작한다.

AI 개발 과정을 보면 모델 성능 향상에 국한하지 않고, 데이터 수집·모델 서빙·그래픽처리장치(GPU) 스케줄링 등 전체 파이프라인 자동화로 확장되는 추세다. 레드햇은 자사 오픈시프트 기반의 개방형 하이브리드 AI 및 머신러닝(ML) 플랫폼인 '레드햇 오픈시프트 AI'를 제공하고 있다. 이를 통해 기업들이 머신러닝 운영(MLOps) 환경에서 실험, 학습, 추론까지 통합할 수 있도록 지원한다.

AI 기반 금융 서비스는 기존 앱 방식에서 벗어나 음성이나 텍스트 기반 '에이전트'와의 상호작용으로 진화 중이다. 변현창 상무는 "앞으로 고객은 은행 앱을 누르지 않고, '챗GPT' 같은 에이전트와 대화하며 금융 업무를 처리할 것"이라며 "여기에 필요한 인프라가 바로 클라우드 네이티브 환경"이라고 말했다.

[ⓒ 한국레드햇]

레드햇은 AI 서비스 구현에 필요한 GPU 자원의 효율적 활용 방안도 제시한다. 오픈시프트 기반의 쿠버네티스 환경에서는 GPU 공유·격리·스케줄링을 유연하게 관리할 수 있어, 실시간 추론이나 대규모 모델 학습에서도 성능과 비용을 조절할 수 있다.

실제 금융 사례에서 AI 모델이 다루는 업무는 '외화 계좌 개설' 같은 단순 요청을 넘어, 신원 인증부터 상품 추천, 최적 계좌 개설까지 자동화된 실행 계획을 요구한다. 레드햇은 에이전트 투 에이전트(A2A)와 모델 컨텍스트 프로토콜(MCP) 기반 구조를 제안하며 목적 기반의 응용프로그램 인터페이스(API) 조율 구조를 소개했다.

변 상무는 "AI 에이전트가 고객의 의도를 파악하고 여러 백엔드 시스템과 통합적으로 상호작용하기 위해서는 통합 관리 플랫폼이 필요하다"며 "쿠버네티스는 이러한 통합 환경을 구축하는 데 사실상 유일한 선택지"라고 강조했다.

레드햇이 제시한 AI 플랫폼 로드맵은 ▲오픈시프트 AI를 통한 개발 및 추론 통합 ▲MLOps 환경 자동화 ▲GPU 최적화 ▲에이전트 기반 인터페이스 구축 등으로 구성된다. 이는 금융권이 요구하는 고신뢰·고복잡도 AI 환경을 만족시키기 위한 전략이다.

향후 AI는 업무 도메인별로 특화된 에이전트가 분산 배치되는 구조로 진화할 전망이다. 변 상무는 "고객관리, 수신, 외환, 인증 등 각 영역에서 지능형 에이전트가 마이크로서비스처럼 작동할 것"이라며 "클라우드 네이티브 구조 없이는 이 같은 분산형 에이전트 체계를 실현할 수 없다"고 전했다.

변현창 한국레드햇 상무가 10일 서울 영등포구 콘래드호텔에서 열린 '한국레드햇 금융 오찬 세미나'에서 <AI 실험을 서비스로 연결해주는 통합 플랫폼>을 주제로 발표하고 있다. 사진은 행사장 전경.