[사진=ETRI]

[디지털데일리 백지영기자] 국내 연구진이 복잡한 장기 작업을 스스로 계획하고 수행하는 계층형 인공지능(AI) 에이전트 기술을 개발했다. 환각 현상을 줄이고 작업 성공률을 기존 대비 두 배 가까이 높인 기술로, 로봇이나 가상 에이전트의 장기 임무 수행에 활용될 것으로 기대된다.

한국전자통신연구원(ETRI)은 복잡하고 긴 절차가 필요한 작업을 스스로 하위 목표로 나누어 수행하는 계층적 작업 계획 AI 기술 ‘리액트리(ReAcTree)’를 개발하고, 이를 AI 에이전트 분야 세계 최고 권위 학술대회인 AAMAS 2026에서 발표한다고 12일 밝혔다.

이번 기술은 대형언어모델(LLM)이 단순 텍스트 생성 수준을 넘어 로봇이나 가상 에이전트가 실제 생활 속 복잡한 임무를 안정적으로 수행할 수 있도록 한 점에서 의미가 있다.

최근 LLM은 뛰어난 언어 이해와 추론 능력을 보여주고 있지만 요리나 청소처럼 여러 단계가 순차적으로 이어지는 장기 작업을 수행하는 데에는 한계를 보여왔다. 기존 방식은 모든 절차를 하나의 긴 흐름으로 처리하기 때문에 단계가 길어질수록 앞선 지시를 잊거나 엉뚱한 행동을 하는 환각 현상이 자주 발생했다.

ETRI 연구진은 이러한 문제를 해결하기 위해 ‘계층적 에이전트 트리 구조’를 도입한 리액트리를 개발했다. 이는 기업 조직도와 유사한 구조로, 상위 에이전트가 전체 목표를 관리하고 하위 에이전트에게 세부 임무를 분배하는 방식이다.

예를 들어 “감자 슬라이스를 익혀 냉장고에 넣어라”는 명령이 주어지면 리액트리는 이를 하나의 작업으로 처리하지 않고 ‘식칼 찾기’, ‘감자 자르기’, ‘전자레인지로 데우기’, ‘냉장고 보관’ 등 여러 하위 목표로 분해해 각각 수행한다.

기존 AI가 중간 단계인 감자 데우기 과정을 생략하는 등 논리적 오류를 범하는 경우가 있었던 반면, 리액트리는 이러한 단계별 수행을 통해 임무를 안정적으로 완수했다. 물건을 찾는 상황에서도 각 방을 순차적으로 탐색하는 하위 목표를 스스로 생성해 높은 확률로 목표물을 찾는 것으로 나타났다.

연구진은 에이전트의 실행 능력을 높이기 위해 두 가지 기억 체계를 결합했다. 과거 성공 경험을 저장했다가 유사 상황에서 활용하는 ‘일화 메모리(Episodic Memory)’와 현재 환경 정보를 모든 에이전트가 공유하는 ‘작업 메모리(Working Memory)’다.

예를 들어 “냉장고에 주스가 있다”는 정보는 작업 메모리를 통해 모든 에이전트가 즉시 공유하고, 과거 성공적인 탐색 경험은 일화 메모리를 통해 다시 활용하는 방식이다.

기술 성능은 ETRI가 개발한 언어 중심 절차 생성 AI 벤치마크 ‘LoTA-Bench’를 기반으로 가상 가정환경 데이터셋 ALFRED와 WAH-NL에서 검증됐다. 시야가 제한된 환경에서 진행된 실험에서도 세계 최고 수준의 작업 성공률을 기록했다.

720억(72B) 파라미터 언어모델을 사용한 기존 방식(ReAct)의 임무 성공률이 31%였던 반면, 리액트리는 61%를 기록하며 약 두 배 가까운 성능 향상을 보였다.

또한 70억(7B) 파라미터 규모의 소형 언어모델에 리액트리를 적용한 경우에도 기존 대형 모델보다 높은 성공률(37%)을 기록했다. 이는 상대적으로 적은 컴퓨팅 자원으로도 대형 모델 수준의 성능을 구현할 수 있음을 보여주는 결과로 평가된다.

김도형 ETRI 소셜로보틱스연구실장은 “리액트리는 복잡한 절차를 논리적으로 분해하고 에이전트 간 협업을 통해 불확실한 환경에서도 유연하게 대응할 수 있는 기술”이라며 “앞으로 환각 현상을 더욱 줄이고 에이전트가 사람에게 질문을 통해 불확실성을 해소하는 기능까지 추가해 실생활에 적용 가능한 수준으로 고도화할 계획”이라고 말했다.

한편 이번 연구는 과학기술정보통신부와 정보통신기획평가원(IITP)이 지원하는 ‘자율행동체의 복합작업 자율 수행을 위한 임무 수행 절차 생성 기술 개발’ 사업과 ‘스스로 불확실성을 자각하며 질문하면서 성장하는 에이전트 기술 개발’ 사업의 일환으로 수행됐다.