[디지털데일리 이안나 기자] 인공지능(AI)은 이미 기업 혁신의 상징이 됐지만 상당수 기업은 여전히 실험 단계에 머물러 있다. 9일 서울 여의도 한국IBM 본사에서 열린 기자간담회에서 IBM은 그 이유를 “기업 고유 데이터를 활용하기 위한 전략의 부재”라고 진단했다.

이수정 한국IBM 사장은 “AI 도입은 기술 문제가 아니라 데이터 전략의 문제”라며 “기업이 가진 가장 중요한 자산이자 AI 성과를 좌우하는 요소가 바로 고유 데이터”라고 말했다.

IBM 조사에 따르면 최고경영자(CEO)들이 생성형 AI 성과 창출의 핵심 요소로 가장 많이 꼽은 항목 역시 ‘기업 고유 데이터 활용’이었다. 그러나 실제로 AI 학습에 사용되는 엔터프라이즈 데이터는 전체의 1% 수준에 그치는 것으로 나타났다. 글로벌 최고데이터책임자(CDO) 가운데 26%, 국내는 13~14%만이 “우리 기업의 데이터 역량이 AI 활용에 준비돼 있다”고 답했다. 이는 데이터 전략의 필요성을 인지하고 있으면서도 실행은 뒷받침되지 않는 현실을 보여준다.

이 사장은 데이터가 단순 저장물이 아니라 ‘비즈니스 성과를 창출하는 자산’으로 전환돼야 한다고 강조했다. 기업 데이터의 90%를 차지하는 비정형 데이터는 인사이트의 원천이지만 대부분 관리 체계가 없어 AI가 활용할 수 있는 형태로 정제되지 않은 상태다. 이 사장은 “AI가 기업 전체를 혁신하려면 데이터가 정확성·최신성·신뢰성을 갖춘 ‘AI 레디 데이터’ 형태로 준비돼야 한다”고 말했다.

데이터 전략은 수집에 머물러서도 안 된다. CIO·CTO·CISO 등이 함께 참여하는 전사적 운영 체계가 뒷받침돼야 하고 데이터 접근·보안·거버넌스를 기업 전체 기준으로 정비해야 한다는 설명이다. 국내 기업이 AI 프로젝트에서 가장 많이 멈추는 지점도 바로 이 부분이다.

이 사장은 “부서 간 책임 소재가 불명확해 데이터를 공유하지 않는 경우가 많다”며 “CDO가 실질적 권한을 갖고 데이터와 비즈니스 목표를 연계해야 병목이 해소된다”고 했다.

홍규표 한국IBM 데이터 플랫폼 테크 세일즈 부장은 ‘AI 레디 데이터’ 요건을 품질·거버넌스·통합·비정형 데이터 관리로 정리했다. 그는 “기업 데이터의 90%가 비정형 데이터지만 정제된 형태로 AI가 활용할 수 있는 데이터는 극히 일부분”이라며 “PDF·문서·이미지 등 비정형 데이터를 자동으로 스캔·추출·정형화·벡터화하는 과정이 AI 혁신 속도를 결정한다”고 설명했다.

올해 6월 인수한 데이터스택스 기술도 IBM 전략 핵심으로 소개됐다. 카산드라 기반 실시간 데이터 처리와 벡터 DB 역량, 오픈소스 에이전트 프레임워크 ‘랭플로우’가 왓슨x 플랫폼과 통합되면서 정형·반정형·비정형 전 영역을 단일 아키텍처에서 다루는 구성이 가능해졌다는 설명이다. 홍 부장은 “IBM은 정형 DB부터 비정형 처리까지 전 범위를 포괄하는 플랫폼을 제공할 수 있다”고 말했다.

이수정 사장은 “AI 시대의 경쟁력은 결국 데이터가 결정한다”며 “데이터를 자산으로 관리하고 비즈니스 KPI와 연결하고 확장 가능한 구조와 거버넌스를 마련하지 않으면 AI 투자는 성과로 이어지기 어렵다”고 강조했다. 그는 “AI 혁신은 데이터에서 시작해 데이터로 완성된다”고 덧붙였다.