티맥스티베로 김만호 전무가 'AI 서비스 구현을 위한 DBMS 구축 전략'을 주제로 발표하고 있다.

[디지털데일리 이상일기자] "AI 서비스는 출발이 데이터베이스다. 이를 관리하는 DBMS는 각 레이어마다 필요한 데이터 속성이 달라 이를 고려한 접근이 필요하다. 결국 정형, 비정형, 반정형 데이터에 대응하는 각각의 DB를 융합해 어떻게 활용할 지에 대한 고민이 필요한 셈이다."

과학기술정보통신부와 정보통신산업진흥원, <디지털데일리>가 공동 주최하는 ‘오픈 테크넷 서밋 2025’가 9월 23일 서울 양재 엘타워에서 열렸다. 올해 주제는 ‘개방형 AI x Everything-as-Code 기반 인프라 혁신’으로, 국내외 주요 기업과 기관이 참여해 최신 AI·오픈소스 전략과 실제 사례를 공유했다.

이 자리에서 티맥스티베로 김만호 전무는 ‘AI 서비스 구현을 위한 DBMS 구축 전략’을 주제로 발표에 나섰다. 그는 AI 서비스가 본질적으로 모델(Model), 데이터(Data), 컴퓨팅(Computing)의 조합으로 구성되며, 데이터 중심적(Data-Centric) 접근이 중·소규모 특화 서비스에서 더욱 유효하다고 강조했다.

김 전무는 AI 응용 분야에서 벡터DB(Vector DB)의 중요성을 짚었다. 그는 “키워드 매칭이 아니라 ‘뜻이 비슷한’ 콘텐츠를 찾아주는 검색 서비스가 이미 상용화되고 있다”며, 파인콘(Pinecone), 위아베이트(Weaviate), 큐드란트(Qdrant) 등 오픈소스 솔루션을 활용하면 방대한 비정형 데이터를 효율적으로 검색할 수 있다고 설명했다.

이어 “질문을 벡터DB에 입력해 관련 문서를 추출하고, 이를 LLM 프롬프트에 삽입해 정답을 생성하는 구조는 콜센터 FAQ, 법률 상담, 개발자 지원봇 등에서 생산성을 크게 높일 수 있다”고 덧붙였다.

그는 또 벡터DB의 활용 사례로 “넷플릭스형 추천 시스템 구현이나 사진을 올려 비슷한 상품을 찾는 서비스, 스크린샷으로 에러 메시지 관련 문서를 탐색하는 서비스”를 제시했다. 더 나아가 금융 사기 탐지, 제조 불량 판정, 사이버 보안 이상 탐지 등에서도 벡터 임베딩 기반 분석이 도입되고 있다고 강조했다.

하지만 김 전무는 벡터DB의 한계도 분명히 짚었다. 그는 "우선 한글 파일 등 모든 파일을 벡터화 할 필요는 없다. 기업의 정제된 데이터 문서는 그룹웨어에 담겨 있다. 정제된 데이터만 임베딩해야 하고 모든데이터를 다룰 필요는 없다는 말이다. 즉 AI 서비스를 위해선 데이터의 성격과 규모를 정의하고 접근해야 한다"고 설명했다.

김만호 전무는 “또, 벡터DB는 대규모·고차원 데이터에서는 검색 속도 저하 문제가 있고, 인덱스별 메모리와 정확도 간의 트레이드오프가 존재한다”며 “자원 경합으로 트랜잭션 성능이 떨어지는 경우가 많다”고 지적했다. 이에 대해 “RDBMS와 벡터DB 인스턴스를 분리해 운영하거나, HNSW·IVFFlat 같은 인덱스 튜닝, GPU 가속을 활용해야 한다”고 해결책을 제시했다.

김 전무는 또한 DBMS 자체가 AI 친화적 구조를 갖춰야 한다고 주장했다. 그는 “AI-Ready DBMS는 단순한 저장소가 아니라 추출·변환·적재(ETL) 과정에서 AI 모델 입력으로 적합한 데이터를 준비하는 허브가 돼야 한다”며 “데이터 전처리 자동화, 다양한 정형·비정형 데이터 복합 처리, 외부 프레임워크와의 유연한 연동이 필수”라고 설명했다.

발표 말미에 그는 AI 서비스 인프라 전체 아키텍처를 제시했다. 데이터 수집과 품질 관리, 벡터와 정형 데이터를 다루는 저장 계층, GPU 기반 연산 자원 관리, MLOps 플랫폼을 통한 모델 생명주기 관리, 그리고 추론 결과를 사용자 서비스로 연결하는 애플리케이션 계층까지 단계별 구조를 설명하며 “DBMS는 이제 단순한 저장소가 아니라 AI 서비스를 구현하기 위한 핵심 플랫폼으로 재정의돼야 한다”고 강조했다.