17일 용산 그랜드하얏트서울에서 열린 GPA(Global Privacy Assembly) 현장에서 관계자들이 패널토론을 하고 있다. (왼쪽부터) 임용 서울대 교수, 존 에드워드 영국 정보위원회(ICO) 위원장, 줄스 폴로네스키 미래프라이버시포럼 CEO, 케이트 샬렛 구글LLC 글로벌 프라이버시 디렉터, 김유철 LG AI연구원 전략 부문장. [ⓒGPA서울]

[디지털데일리 김보민기자] 인공지능(AI) 에이전트가 더 많은 데이터를 수집할 경우 프라이버시가 침해된다는 경고가 이어진 가운데, 사전에 안전장치를 확보하는 것이 중요하다는 의견이 나왔다.

김유철 LG AI연구원 전략 부문장은 17일 용산 그랜드하얏트서울에서 열린 'GPA(Global Privacy Assembly) 2025' 패널 토론에서 "AI 에이전트가 진화하면서 더 많은 잠재력이 생기고 있지만, 동시에 사용자의 개인정보를 보호하는 의무 또한 가져야 한다"고 밝혔다.

AI 에이전트는 단순 번역이나 조사 작업을 넘어, 인터넷과 데이터베이스(DB)에서 정보를 가져오고 과제를 세분화한 뒤 실행할 줄 아는 단계로 진화하고 있다. 다만 일각에서는 AI 에이전트가 더 많은 데이터에 접근할 수 있게 된다면, 그만큼 프라이버시를 침해할 가능성이 커진다는 평가가 나온다.

이와 관련해 김 부문장은 "에이전틱 AI가 데이터를 수집하는 방식은, 비(非) 에이전트와 다르다"고 강조했다. 이어 "전통적인 시스템을 예시로 보면, 미리 설정된 영역 안에서 정적 데이터셋을 활용하고 학습데이터를 받아 배치를 하면 새로운 데이터를 추구하지 않는다"며 "명시적으로 프롬프트를 주지 않는 한, 추천 시스템에서 사용자의 행동 이력 데이터를 기반으로 분석하지 새로운 데이터를 수집해야 한다고 생각하지 않는다"고 설명했다.

그렇다면 에이전틱 AI는 어떠할까. 김 부문장은 "에이전틱은 자율적으로, 여러 출처로부터 데이터를 받고 이를 기반으로 의사결정을 내린다"며 "인간의 개입 없이 AI가 동적으로 데이터를 실시간 수집할 수 있다는 의미"라고 부연했다.

김 부문장은 "여기에서 프라이버시 이슈가 생긴다"며 "(정보 공유) 동의 미관리 등이 대표적"이라고 강조했다. 그러면서 "이러한 위협요인(리스크)을 인지하고, 설계 단계에서부터 프라이버시 보호를 접목하는 것이 중요하다"고 말했다.

AI 에이전트를 적용한 서비스를 추진할 경우, 사전에 안전장치를 갖추는 것이 중요하다는 의미다. 이날 패널토론에 참여한 존 에드워드 영국 정보위원회(ICO) 위원장은 "가장 중요한 것은 투명성"이라며 "AI 파운데이션에서도, 애플리케이션에서도 투명성을 요구하고 지키는 것이 중요하다"고 강조했다. 이어 "데이터 수집 최소 원칙을 통해 의사결정 체계에 있어 개인의 권리를 존중해야 한다고 생각한다"며 "기존의 제도적인 틀에서 에이전틱 AI를 어떻게 적용할지 고민할 때"라고 덧붙였다.

AI 에이전트가 다양해지고 있고, 활용 범위를 파악하는 것이 쉽지 않아질 수 있다는 우려도 나온다. 이와 관련해 에드워드 위원장은 "가장 큰 도전과제는 우리가 (AI 에이전트를) 어떻게 통제할 것인가에 대한 답을 찾는 것"이라며 "에이전트는 이미 많은 API에 연동돼 있고 자율성을 갖고 돌아다니게 될 것"이라고 내다봤다. 이어 "이 과정에서 책임성을 부여하는 것이 중요하다"고 제언했다.