"에이전틱 인공지능(AI)은 이제 우리 삶의 일부가 됐다. 단순히 AI 어시스턴트나 챗봇을 시험해 보는 단계이든, 이미 특권 엑세스 권한을 보유한 자율 에이전트를 실제 운영 환경에서 사용하고 있는 단계이든 상관없다. 지금 바로 이를 안전하게 보호해야할 때다."

맷 코헨 사이버아크 최고경영자(CEO)는 위와 같은 말을 시작으로 '에이전틱 AI의 새로운 영역 확보: AI 에이전트를 위한 신원(아이덴티티) 보안 필수 요건'이라는 주제로 온라인 이벤트 기조연설을 시작했다. 업계 전문가 수천명이 참여한 이 온라인 이벤트에서는 오늘날 엔터프라이즈 기술에서 가장 중요한 변화 중 하나인 자율 AI 에이전트 부상에 대해 논의했다.

이러한 AI 시스템은 이미 업무 방식을 혁신하고 있다. 워크플로우를 간소화하고 의사 결정을 가속화하며 효율성을 극대화하고 있다. 하지만 동시에 기업 내부에 전례 없는 공격 표면을 만들어내고 있기도 하다.그리고 모든 세션에서 한 가지 분명한 메시지가 전달됐다. 바로 AI 에이전트는 새로운 유형의 아이덴티티이며, 이를 보호하기 위해 새 접근 방식이 필요하다는 것이다.

에이전틱 AI, 개념에서 벗어나 실용화로 나아가는 중

이 같은 비전은 빠르게 현실화되고 있다. 코헨은 "우리는 에이전트형 AI 혁명 전환점에 서 있다"고 언급했다.다양한 산업 분야 기업들이 이제 AI 에이전트를 일상적인 워크플로우에 통합하고 있고, 그 결과 혁신과 의사결정 속도를 가속화하고 있다. 실제로 100명 이상 금융 및 소프트웨어 보안 분야 리더들을 대상으로 한 설문조사 데이터에 따르면 기업 약 40%는 AI 에이전트를 도입했고 이 수치는 3년 안에 약 두 배로 증가할 전망이다.이미 가시적인 성과를 나타내고 있다는 점을 고려할 때 이는 놀랄만한 일은 아니다.

한 글로벌 은행은 기존 시스템 현대화 시간을 50%나 단축했다. 한 식료품 소매업체는 스마트해진 추천 시스템을 통해 매출이 10% 증가했다. 한 소매 은행은 신용 위험 메모 자동화를 통해 애널리스트 생산성을 최대 60%까지 향상시켰다.

에이전틱 AI가 상당한 가치를 제공하고 있음에도 불구하고 정보보호최고책임자(CISO)들은 어려운 문제를 직면하고 있다. 코헨은 "보안 책임자들은 어떤 에이전트가 존재하는지, 어떻게 데이터에 접근하는지, 그리고 문제가 발생할 경우 에이전트를 차단할 수 있는 기능에 대한 가시성을 원한다"라고 언급했다.

전례 없는 수준으로 위험 증가

혁신이 빠르게 진행되는 가운데 새로운 위험 유형이 등장하고 있으며, 보안팀은 더 이상 현재 상태를 유지할만한 여유가 없다.

베누 샤스트리 사이버아크 플랫폼 및 AI 솔루션 제품 마케팅 수석 디렉터는 이를 다음과 같이 설명했다. 에이전틱 AI는 추론과 자율성을 기반으로 작동하는 새로운 유형의 아이덴티티다. 이들은 비결정적(Non-deterministic) 시스템이기 때문에 정적 권한 부여(Static Permissions)나 수동 검토(Manual Reviews) 같은 기존 보안 조치로는 대응할 수 없다.

보안팀은 이러한 변화에 주목하고 있다. CISO 3분의 2는 에이전틱 AI를 랜섬웨어와 내부자 위협보다 더 중요한 3대 사이버 위험으로 꼽았다. 그러나 이처럼 자율 시스템이 가져오는 위험성을 인지하고 있음에도 불구하고, 설문 조사에 참여한 기업 중 동적 권한 부여 또는 위험 등록 시스템을 대규모로 구현한 기업은 10% 미만에 불과했다.

한 CISO는 연구원들에게 "에이전틱 AI는 아이덴티티, 민감 데이터, 자동화된 작업에 동시에 영향을 미친다"며 "어떤 침해든 다른 위협보다 빠르게 확산되고 광범위하게 영향을 끼칠 수 있다"고 말했다.

새로운 위협 환경 등장

다른 세션에서 라비 라자로비츠 사이버아크랩 사이버 연구 부문 부사장은 기업에 자율성이 도입될 때 노출 위험이 얼마나 빠르게 증가하는지를 보여줬다.

사이버아크랩 테스트에서 데이터베이스 레코드에 숨겨진 프롬프트 주입 공격으로 인해 금융 서비스 에이전트가 민감한 데이터를 노출하고, 승인되지 않은 청구서를 발행하도록 조작했다. 이는 모델컨텍스트프로토콜(MCP) 연결을 오염시키는 방식으로 이루어졌다.

에이전트가 툴 및 데이터에 연결하는 방식을 표준화하기 위해 앤트로픽에서 도입한 새로운 프레임워크인 MCP는 AI 에이전트를 위한 애플리케이션프로그래밍인터페이스(API) 같은 역할을 빠르게 수행하고 있다. MCP는 앤트로픽이 에이전트가 툴과 데이터를 연결하는 방식을 표준화하기 위해 도입한 새로운 프레임워크로, AI 에이전트를 위한 API로 빠르게 부상하고 있다.

하지만 라자로비츠 말처럼 이 프레임워크가 항상 기대만큼 좋은 것은 아니다. (MCP는) 연결을 더 쉽게 만들어주지만, 에이전트 수가 증가한 만큼 위협 행위자들이 접근 권한을 악용할 수 있는 수많은 기회를 열어주는 것과 같다. 또한 AI 에이전트에 대한 아이덴티티 중심 제어 필요성을 드러내면서 침해의 잠재적인 영향 범위를 확대한다.

아이덴티티 보안이 AI 에이전트 보안의 새 기반인 이유

조직은 에이전트를 특권 계정으로 취급해 인간과 머신에 사용되는 검증된 가드레일을 적용할 수 있지만 AI 에이전트는 규모·속도·영향력 수준에서 작동된다. 이 같은 제어는 아이덴티티 보안 핵심 요소이며, 에이전트 속도를 늦추기 위한 것이 아닌 혁신이 정해진 범위 내에서 이루어지도록 경계를 설정하는 데 도움을 준다.

셰이 사퍼 사이버아크 머신 아이덴티티 솔루션 부문 부사장은 "AI 에이전트는 정의상 특권 계정"이라며 "에이전트는 특권적이고 과도한 권한으로 민감한 리소스에 접근할 수 있다"고 말했다. 이어 "에이전트가 상호 작용하기 전에 제어를 적용해야 한다"고 강조했다.

AI 에이전트 보안, 현재 준비 상태

많은 기업들이 다양한 기능에 걸쳐 에이전트를 시범 운영하거나 배포하고 있지만, 동적이고 상황 인식이 가능한 제어 기능을 구현한 기업은 많지 않다.

이러한 격차의 원인은 무엇일까? 여전히 많은 기업들이 보안 관점에서 에이전트를 어떻게 다뤄야 할지 고민하고 있다. 에이전트가 민감한 리소스에 접근하더라도 이러한 자율 시스템은 여전히 ​​에이전트를 호출하는 사람과 동일한 접근 권한과 권한을 부여받고 있다. 하지만 기업 내 모든 구성원, 즉 AI 에이전트에게도 독특(유니크)하고 검증 가능한 아이덴티티가 필요하다.

일부 팀은 공격 표면을 기하급수적으로 증가시키는 상시 권한을 AI 에이전트에 부여하지 않으면서 실시간으로 의도를 해석할 수 있는 적응형 권한 부여 모델을 구축하는 복잡성 때문에 어려움을 겪고 있다. 그러나 자율성이 높아질수록 이러한 기능은 필수 불가결해진다.

AI 에이전트 보안을 강화하기 위한 다음 단계

이번 행사에서 사이버아크는 혁신을 제약하지 않으면서도 제어를 우선시하도록 설계된 업계 최초 보안 AI 에이전트 솔루션을 선공개했다. 간단하게 설명하면 다음과 같다.

1. 먼저 발견 및 가시성 확보에 집중

환경 내에서 운영되는 모든 에이전트를 파악하고, 각 에이전트 기능, 접근 권한, 소유자, 그리고 관련 위험 요소를 분석해야 한다. 이러한 정보를 기존 아이덴티티 플랫폼과 통합하면 섀도우 AI를 효과적으로 차단할 수 있다.

2. 에이전트를 권한 있는 머신 아이덴티티로 관리

정의된 엔드-투-엔드 라이프사이클 프로세스를 통해 온보딩, 모니터링, 해체 등 사람과 머신 아이덴티티에 적용하는 것과 동일한 수준의 엄격한 관리를 에이전트에도 적용해야 한다.

3. 기존 아이덴티티 프로그램 확장

새로운 자율 디지털 인력에 맞춰 제로 스탠딩 권한, 적시 접근, 지속적인 거버넌스를 확장해야 한다.

<기고와 칼럼은 본지 편집 방향과 무관합니다.>