기사 이해를 돕기 위한 이미지 [사진=픽사베이]

[디지털데일리 김보민기자] 사이버 공격 판도가 자율 인공지능(AI)으로 재편될 가능성이 점쳐지기 시작했다.

21일 팔로알토네트웍스 위협인텔리전스 연구팀 유닛42가 발간한 '2026 글로벌 사고 대응 보고서'에 따르면 인공지능(AI) 기술은 사이버 공격 속도를 높이는 역할을 하고 있다. 유닛42는 "완전 자율 에이전트 공격은 신흥 역량"이라며 "머지않아 인간 보안 담당자 혼자 감당할 수 없는 속도로 진화할 것"이라고 밝혔다.

유닛42는 AI 기반 사이버 공격이 방어 전략을 전면 재설계할 수준은 아니라고 선을 그으면서도 AI가 작성한 악성코드나 명령 제어 목적으로 대규모언어모델(LLM) 및 모델컨텍스트프로토콜(MCP) 서버를 호출하는 악성코드 활용 사례가 등장했다고 밝혔다.

'토큰 재킹' 피해 현상도 증가한 것으로 나타났다. 이는 탈취한 자격 증명을 악용해 클라우드 AI 서비스 및 LLM API 토큰에 무단 접근하는 수법으로, 피해자에게 무단 컴퓨팅 청구 비용을 발생시킬 수 있다. 유닛42는 최근 탈취한 토큰으로 자체 악성 모델을 훈련한 사례도 확인했다고 강조했다. 향후 공격자는 새로운 공격 벡터 생성하기보다 취약점 발견, 악성코드 개발, 침입 등 기존 단계를 최적화하는 데 AI 채택을 확대할 전망이다.

이 같은 경고는 글로벌 보안 업계에 잇따라 제기되고 있다. 일례로 체크포인트소프트웨어테크놀로지스도 이달 보고서를 통해 AI가 수천 개 명령어를 직접 생성할 뿐만 아니라 실행을 결단하는 단계에 이르렀다고 평가했다.

대표적인 예로, 멕시코 정부기관 9곳이 뚫린 한 해킹 사건에서는 공격자 1명이 2가지 상용 AI 도구를 동시에 활용했다. 이 공격자는 '클로드 코드'를 이용해 네트워크에 침투할 방법을 탐색했고, 'GPT-4.1'을 이용해 탈취한 데이터를 분석하고 후속 작업을 지시했다. 이 과정에서 AI는 스스로 악성 행위를 실행했다. 총 34번의 공격 세션이 실행되는 동안, AI가 직접 실행한 명령어는 5300여건이었다.

체크포인트는 첨단(프론티어) AI 모델이 고도화되면서 이를 악용할 수 있는 수준 또한 높아졌다고 설명했다. 로템 핀켈스타인 체크포인트리서치 부문 부사장은 "프론티어 AI 모델은 공격을 수행하는 데 많은 준비가 필요하지 않다"며 "공격 방법을 연구하는 단계부터 취약점(익스플로잇)을 악용하고 공격을 실행하기까지 아주 약간의 단서(맥락)만 던져주면 된다"고 부연했다. 자율 AI 공격을 '먼 미래의 일'이라고 평가했던 지난해 업계 분위기와 대조되는 평가다.

한편 유닛42는 자율 에이전트 공격이 인간 방어자 처리 속도를 능가할 것으로 전망하며 방어 체계를 개선해야 한다고 제언했다. 보안 전략 무게 중심을 탐지 및 대응 모델에서 예방 통제 중심으로 이동하고 실시간 방어 체계를 구축해야 한다는 취지다.