디지털데일리의 경제 미디어 ‘딜라이트닷넷’이 올해로 창간 17주년을 맞이했다. 17주년 창간 특집 기획으로 단순 기술 도입을 넘어 실질적 성과를 창출하는 ‘대한민국 AX(인공지능 전환)’의 조건을 집중 조망한다. 특히 헬스케어(의료)·금융·제조 등 버티컬 AI 현장과 핵심 인프라 경쟁을 짚어보고, 규제·보안·거버넌스·ROI 등 산업 현장의 지속 가능한 생존 해법을 다각도로 분석한다. 아울러 업무 동반자로 진화한 2026년 AI 생태계 속에서 기업의 구체적인 실행 전략을 모색해본다. <편집자>

인공지능으로 제작한 이미지.

[디지털데일리 김남규기자] 금융회사는 매일 판단한다. 이 고객에게 돈을 빌려줘도 되는지, 얼마의 금리를 적용할지, 어떤 금융상품이 적합한지, 보험을 인수할 수 있는지, 특정 거래가 이상 징후에 해당하는지를 끊임없이 결정한다.

그동안 인공지능(AI)은 이런 판단에 필요한 정보를 찾아주는 보조수단에 가까웠다. 고객 질문에 답하고 규정을 검색하거나 문서를 요약하는 역할이 중심이었다.

이제 경계가 달라지고 있다. 생성형 AI와 AI 에이전트가 결합하면서 AI는 정보 제공을 넘어 분석과 심사, 추천, 위험관리 등 금융의 판단 과정 자체로 들어오기 시작했다. 사람이 자료를 찾고 분석해 시스템에 입력한 뒤 승인과 실행으로 이어가던 업무도 AI가 연속적으로 지원하는 구조로 바뀌고 있다.

은행권에서는 기업여신과 자산관리(WM), 고객상담, 내부통제 등으로 AI 활용 범위가 넓어지고 있다. 증권업계는 투자정보 분석과 자산관리, 보험업계는 언더라이팅과 보험금 심사, 보험사기 탐지 등에 AI를 접목하고 있다.

금융 AI 경쟁의 무게중심이 ‘누가 더 좋은 챗봇을 만들었느냐’에서 ‘누가 금융회사의 업무와 판단 구조를 AI에 맞게 다시 설계하느냐’로 옮겨가고 있는 셈이다.

동시에 새로운 과제도 생겼다. 대출이 거절됐을 때 AI가 왜 그런 판단을 내렸는지 설명할 수 있는지, 잘못된 상품을 추천하거나 거래를 실행했다면 누가 책임질지, 고객의 자산·신용·거래정보를 어디까지 AI에 맡겨도 되는지에 대한 답이 필요해졌다.

금융 AX의 성패가 생산성뿐 아니라 설명가능성과 소비자 보호, 책임, 데이터 거버넌스를 얼마나 정교하게 설계하느냐에 달린 이유다.

◆‘검색창’에서 ‘디지털 동료’로…금융업무 다시 짠다

국내 금융권에서 생성형 AI가 가장 먼저 확산한 곳은 임직원 업무지원과 고객상담이다. 직원이 방대한 금융상품과 규정, 시장 정보를 직접 찾는 대신 AI가 질문의 의도를 파악하고 필요한 내용을 검색·요약하는 방식이다.

KB국민은행의 금융상담 에이전트는 생성형 AI에 은행 내부 업무지식을 결합해 영업점 직원에게 필요한 정보를 제공한다. 은행 분석 결과 수신과 가계여신 등 주요 업무에서 직원의 정보탐색 시간이 기존보다 평균 70.2% 줄었다.

신한금융은 AI 에이전트를 조직 단위로 확대하고 있다. 15개 계열사 590개 본부에서 업무 특성에 맞는 AI 에이전트를 구축하는 전략이다. 신한은행 개인여신심사부의 ‘AI 심사위키’는 영업점 문의 대응을 지원하고, 금융결제부의 ‘IB딜 관리 에이전트’는 관련 업무를 돕는다.

우리은행은 기업여신과 자산관리, 내부통제, 고객상담, 업무자동화 등 5개 영역 29개 핵심 업무에 175개 이상의 AI 에이전트 도입을 추진하고 있다. 기업여신에서는 상담 준비부터 신청, 심사, 실행, 사후관리까지 약 50개 업무 단계 가운데 20개를 AI 중심으로 재설계해 연간 약 5만시간을 줄이는 것이 목표다.

AI가 단순 업무지원에서 금융의 핵심 판단 영역으로 들어가는 움직임도 빨라지고 있다.

하나은행은 AI를 신용평가모형 개발에 적용해 데이터 전처리와 변수 선택, 모형 개발 등을 자동화했다. 통상 3개월가량 걸리던 모형 재학습·조정 주기를 최단 5일 이내로 줄였다. NH농협은행도 대규모언어모델(LLM)을 활용한 기술평가보고서 자동 작성과 대출심사 의사결정 지원체계 구축을 추진하고 있다.

증권업에서는 AI가 투자정보 검색을 넘어 분석과 투자 판단을 보조하는 방향으로 진화하고 있다. 키움증권은 LG AI연구원, 런던증권거래소그룹(LSEG)과 금융 AI 에이전트 개발을 추진 중이다. 보험에서도 언더라이팅과 보험금 지급 심사, 자동차사고 과실비율 산정, 보험사기 탐지 등에 AI 활용이 확대되고 있다.

공통점은 기존 업무에 AI 프로그램 하나를 덧붙이는 데 그치지 않는다는 점이다. 반복적인 정보검색과 문서 작성은 AI가 맡고, 사람은 고객 상담과 현장 실사, 복잡한 예외상황처럼 경험과 전문성이 필요한 판단에 집중하는 방향으로 역할을 다시 나누고 있다.

금융 AX가 단순한 기술 도입이 아니라 업무 프로세스 자체를 재설계하는 문제로 바뀌고 있는 것이다.

◆대출 거절도, 투자 추천도 AI가 한다면…‘판단’의 책임은 누구

AI가 금융의 판단 영역으로 깊숙이 들어갈수록 위험도 커진다.

금융에서 AI의 판단은 소비자의 경제적 이해와 직결된다. 신용평가는 대출 승인과 한도, 금리로 이어지고, 보험의 위험평가는 가입 가능 여부와 보험료를 좌우한다. 자산관리 AI의 추천은 실제 투자손익에 영향을 줄 수 있다.

특히 AI가 과거 금융거래와 신용 데이터를 학습하는 과정에서 특정 연령이나 직업, 거주지역 등과 관련된 편향을 함께 받아들일 가능성이 있다. 겉으로는 중립적인 알고리즘이라도 특정 고객군에 반복적으로 불리한 판단을 내릴 수 있다는 의미다.

대출이 거절됐는데 금융회사가 “AI가 그렇게 판단했다”고만 답할 수도 없다. 어떤 정보가 판단에 영향을 미쳤는지, 잘못된 정보가 사용되지는 않았는지 설명하고 소비자가 필요하면 이의를 제기할 수 있어야 한다.

AI의 설명가능성이 단순한 기술 문제가 아니라 금융소비자 보호의 문제인 이유다.

AI 에이전트가 실제 행동까지 수행하기 시작하면 책임 문제는 더 복잡해진다. 기존 생성형 AI는 잘못된 답변을 내놓더라도 사람이 확인한 뒤 업무를 처리했지만 AI 에이전트는 여러 시스템을 연결해 다음 작업까지 수행할 수 있다.

향후 송금이나 결제, 투자상품 매매까지 AI가 수행한다면 ‘권한 위임’의 범위도 정해야 한다. 이용자의 의도와 다른 거래가 실행됐을 경우 금융회사와 AI 사업자, 이용자 가운데 누가 책임질지도 새로운 쟁점이다.

현행 금융법제가 사람이나 법인이 거래를 결정하고 IT 시스템은 이를 처리한다는 전제 위에서 만들어졌다면, AI 에이전트는 이 경계를 흐리고 있다.

금융 AI의 안전 문제 역시 ‘AI가 틀릴 수 있다’는 수준을 넘어 ‘AI에게 어디까지 판단과 행동의 권한을 줄 것인가’라는 문제로 이동하고 있다.

◆‘똑똑한 AI’보다 ‘통제할 수 있는 AI’…금융 AX의 승부처

금융당국도 AI 활용을 막기보다 안전하게 사용할 수 있는 통제체계를 만드는 방향으로 규율을 바꾸고 있다.

지난 6월 시행된 ‘금융분야 인공지능 가이드라인’은 거버넌스·합법성·보조수단성·신뢰성·금융안정성·신의성실·보안성 등 7대 원칙을 제시했다.

핵심은 AI를 금융업무의 ‘보조수단’으로 두고 최종 의사결정과 책임은 임직원이 맡도록 한 것이다. 금융회사는 경영진의 역할과 책임을 정하고 AI 관련 의사결정기구와 전담조직을 갖추는 한편 데이터 품질과 공정성, 편향 등을 관리해야 한다.

AI가 예상하지 못한 행동을 할 경우 가동을 중단할 수 있는 비상정지장치와 백업모형도 요구된다. 외부 AI 모델이나 클라우드를 이용하면 제3자 IT 리스크까지 관리해야 한다.

금융 AI 확산을 가로막았던 제도적 장벽은 낮아지고 있다. 금융당국은 생성형 AI를 혁신금융서비스로 지정해 외부 AI 활용의 길을 열었고, 지난 4월부터 보안 위험이 낮은 단순 모델 변경은 재지정 없이 서면 확인만으로 서비스를 출시할 수 있도록 절차를 간소화했다.

망분리 규제 완화도 이어지고 있다. 이달에는 보안 목적 AI 활용을 위한 2차 망분리 규제 긴급완화 대상을 기존 49개사에서 75개사로 확대했다.

제도적 문턱이 낮아질수록 데이터 관리의 중요성은 오히려 커진다.

맞춤형 상담과 심사, 자산관리 서비스를 위해서는 고객의 소득과 자산, 신용도, 결제·투자 내역 등 다양한 데이터가 필요하지만 이들은 금융회사가 보유한 가장 민감한 개인정보이기도 하다. AI에 더 많은 데이터를 연결할수록 서비스는 정교해질 수 있지만 개인정보 침해와 정보유출 위험도 커질 수 있다.

따라서 금융 AI 시대의 경쟁력은 단순히 데이터를 많이 확보하는 데 있지 않다. 필요한 데이터를 안전하게 활용하고 AI가 어떤 판단을 내렸는지 기록하며, 문제가 발생했을 때 사람이 개입해 멈출 수 있는 통제체계를 갖추는 것이 중요하다.

금융의 본질은 신뢰다. AI가 사람보다 빠르게 수많은 자료를 읽고 변수를 분석할 수 있다고 해서 금융의 판단까지 그대로 맡길 수 있는 것은 아니다.

AI를 얼마나 많이 사용하는가보다 AI와 사람이 어떻게 판단을 나누고, 그 결과를 소비자에게 설명하며, 잘못됐을 때 누가 책임질지를 설계하는 것이 금융 AX의 다음 경쟁이 될 전망이다.

금융의 판단 구조를 바꾸는 AI 시대의 승부처는 ‘가장 똑똑한 AI’를 갖는 것이 아니라 ‘가장 믿고 맡길 수 있는 AI’를 만드는 데 있다.