일반

[현장] "에이전트로 더 똑똑하고 더 쉽게"... 진화하는 AI 비즈니스 트렌드

이건한 기자

[디지털데일리 이건한 기자] 올해 AI 업계의 주요 비즈니스 키워드는 '에이전트(Agent, 조력자)'다. 단순 질의응답 AI를 넘어 고도의 추론과 의사결정을 지원하는 에이전트부터 기업의 효율적인 에이전트 개발 및 활용을 지원하는 서비스까지, 신개념 에이전트 비즈니스 모델이 시장의 이목을 끄는 시기다. 14일부터 16일까지 서울 코엑스에서 개최되는 'AI 엑스포 코리아 2025' 현장에서도 눈에 띄는 AI 에이전트 비즈니스 기업들을 만나볼 수 있었다.

14일 서울 코엑스에서 개최된 AI 엑스포 코리아 2025에는 첫날부터 많은 관람객이 몰렸다. 사진은 개막 30분 전부터 입장권 발급을 위해 긴 줄이 늘어선 모습.
14일 서울 코엑스에서 개최된 AI 엑스포 코리아 2025에는 첫날부터 많은 관람객이 몰렸다. 사진은 개막 30분 전부터 입장권 발급을 위해 긴 줄이 늘어선 모습.

앨리비 – '비즈니스 에이전트'

리걸(법률) AI 전문기업 BHSN은 이번 행사에서 핵심 브랜드인 '앨리비(Allibee)'를 사명 대신 전면에 세우고, 방문객에게 앨리비의 '계약관리솔루션'과 '비즈니스 에이전트' 체험 기회를 제공 중이다. 기업 운영 및 비즈니스 전반에 필요한 각종 법률 자문, 문제 해결 과정을 효율화하고 싶은 모든 기업이 주요 타깃이다.

특히 눈길을 끄는 건 'AI 법무팀' 역할을 제공하는 비즈니스 에이전트였다. 기업 운영, 인사, 서비스, 비즈니스 등 광범위한 영역에서 법률 검토가 필요한 모든 사안에 대해 실시간 질의응답을 지원한다.

초기에는 팩트 위주의 '짧은 답변' 중심이었으나, 올해는 AI 업계 트렌드인 '추론' 기능을 대폭 강화한 '정밀검색' 기능으로 활용도가 크게 높아졌다. 우선 '대량주문이라 할인된 가격으로 견적 제출 후, 원사업자가 주문량을 임의로 줄일 수 있는지?' 같은 복잡한 주문에 대해서도 정확한 이해, 의도 파악 기반의 답변 제공이 가능하다. 또한 사실 여부가 중요한 법률 AI의 특성상 근거 법령과 판례 데이터도 상세히 제공해 신뢰도 또한 높다.

무엇보다 사내 법무팀과의 소통 및 업무처리 효율도 크게 향상된다. 사용자는 비즈니스 에이전트를 통해 '법률적 최종 판단' 직전까지의 모든 정보를 즉석에서 받아볼 수 있기 때문에, 해당 정보만 법무팀에 제공하면 된다. 법무팀은 비즈니스 에이전트가 도출한 답변의 사실 여부, 출처 체크를 통한 신뢰도 여부만 확인 후 최종 판단을 내리면 되므로 검토에 수일 이상 걸리던 일이 대폭 간소화된다.

앨리비는 나아가 심층 보고서인 '딥리서치' 기능을 비즈니스 에이전트에 추가하고, 계약관리솔루션 역시 현장에서 요구되는 더 다양한 형태의 계약서를 지원 대상에 포함함으로써 기업 운영 전반에 필수적인 법률 에이전트 기업으로 거듭난다는 계획이다.

앨리비 비즈니스 에이전트를 소개하는 원보람 BHSN 최고사업책임자(CBO)
앨리비 비즈니스 에이전트를 소개하는 원보람 BHSN 최고사업책임자(CBO)
현장에 설치된 앨리비 비즈니스 에이전트 데모 中
현장에 설치된 앨리비 비즈니스 에이전트 데모 中

올거나이즈 – '에이전트 RAG'

기업용 올인원 LLM '알리(Alli)' 서비스 기업인 '올거나이즈'는 이번 행사에서 자사의 '에이전트 RAG(검색증강생성)' 알리기에 집중하고 있다. RAG는 범용 LLM이 사전학습하지 못한 특정 도메인 데이터, 또는 기업 내부 데이터를 LLM에 제공하는 '사전' 개념으로 지난해부터 업계에 널리 쓰이는 기술이다. 그러나 RAG의 내부 구조, 설계 역량에 따라 성능이 천차만별이고 '모호한 질문에는 답을 잘하지 못한다'는 등의 한계 또한 지적되어 왔다. 이에 올거나이즈는 사용자와 LLM 사이에도 에이전트를 도입하여 RAG 성능 극대화를 도울 수 있다는 설명이다.

기존 'RAG+LLM' 구조의 AI 시스템은 사용자가 질문하면 크게 검색(Retrieve, 질문에 적합한 지식소스 중심), 증강(프롬프트), 답변 생성(LLM) 과정을 거친다. 이때 RAG의 효율을 극대화하려면 사용자가 가급적 세밀하고 구체적인 질문을 입력해야 한다. 에이전트 RAG는 바로 이 단계에서 AI가 사용자 대신 '질문 의도와 목표 분석', '핵심 정보 보충을 위한 역질문', '관련 기능 및 함수 호출 계획' 등을 구체화함으로써, 최상의 프롬프트를 LLM에 넘기는 역할을 담당하게 된다.

즉, '더 나은 질문'이 '더 좋은 답변'을 만든다는 대화형 AI의 전제에 따라 에이전트가 보이지 않는 곳에서 사용자의 질문을 더 나은 질문으로 업그레이드하는 솔루션이라는 의미다. 올거나이즈에 따르면 이런 RAG 에이전트 솔루션의 비즈니스 타깃은 기존의 공공과 금융을 넘어, AI 에이전트로 업무를 효율화하고 싶은 모든 기업으로 확장되는 중이다.

올거나이즈 부스에 설치된 에이전트 RAG 소개 패널
올거나이즈 부스에 설치된 에이전트 RAG 소개 패널

베슬에이아이 – '멀티 에이전트 오케스트레이션'

기업의 LLM 설계 및 운영 최적화(LLMops) 전문기업 베슬에이아이는 이번 AI 엑스포에서 '멀티LLM부터 AI 에이전트까지'를 주제로 제시했다. 부스에서 특히 눈길을 끈 아이템은 '멀티 에이전트 오케스트레이션' 기술이다. 현재 AI 업계에서 오케스트레이션(Orchestration)은 특정 서비스 구현에 단일 LLM이 아닌, 요구사항 별로 가장 효율적인 LLM을 복수로 활용하는 기법으로 통한다. 베슬에이아이는 이 개념을 AI 에이전트 개념까지 확대, 관련 비즈니스 선점 기회를 노리고 있다.

현재 AI 에이전트는 1~2개의 단일 기능에 특화된 형태로 세분화되어 개발되는 것이 일반적이다. 이때, 잘 만들어진 에이전트를 수요 서비스에 맞춰 연결하면 고도로 자동화된 AI 서비스 개발도 한층 용이해진다는 것이 멀티 AI 에이전트 오케스트레이션에 대한 기대 효과다. 가령 '채용 프로세스 자동화'를 원할 경우 '이력서 검토 에이전트', '면접 스케줄링 에이전트', '인터뷰 안내메일 발송 에이전트', '일정 초대 에이전트' 등을 조합해 볼 수 있다는 이야기다.

최근 이 같은 AI 에이전트 모델 오케스트레이션을 뒷받침하는 'A2A' 프로토콜도 주목받고 있다. AI 에이전트 간 직접 통신을 지원하는 기술이다. 현재 베슬에이아이가 개발 중인 솔루션의 목표도 사용자의 AI 에이전트 개발 및 호출, 통합 과정을 하나의 플랫폼에서 가장 손쉽게 진행할 수 있는 환경을 구축하는 것이다. 구체적인 도입 시나리오는 베슬에이아이 부스에서 관계자 시연을 받아볼 수 있다.

베슬에이아이 부스에서 시연 중인 멀티 에이전트 오케스트레이션 데모
베슬에이아이 부스에서 시연 중인 멀티 에이전트 오케스트레이션 데모

이건한 기자
sugyo@ddaily.co.kr
기자의 전체기사 보기 기자의 전체기사 보기
디지털데일리가 직접 편집한 뉴스 채널