AI가 설계하는 공격 시나리오가 현실화되면서 사이버 보안의 판도가 뒤바뀌고 있다. 디지털데일리는 6회에 걸쳐 [미토스 충격] 기획기사를 통해 정부부터 산업 현장까지의 전방위적 대응 태세를 살피고, AI 위협 시대에 한국 보안 생태계가 나아가야 할 이정표를 제시한다.[편집자]

[사진=나노바나나프로2 생성 이미지]

[디지털데일리 구아현기자] "대형언어모델(LLM)을 가져다 쓰는 서비스 회사들이 '관계없다'고 느끼는 건 당연합니다. 하지만 그게 문제입니다. 공격은 결국 그 서비스를 쓰는 고객 데이터를 향해 날아옵니다."

앤트로픽 미토스 충격이 글로벌을 뒤흔드는 가운데 국내 AI 업계 대부분은 "우리는 서비스사라 직접 관계없다"는 반응을 보이고 있다. 전문가들은 이 무감각한 반응 자체가 더 위험하다고 경고한다. 감흥이 없는 사이 이미 고객 데이터가 위험에 노출될 수 있다는 것이다.

◆ "직접 관계 없다"는 국내 AI 서비스사… "공급망 뚫리면 고객 데이터까지 털린다"

미토스 공개 이후 복수의 국내 LLM·AI 업체 관계자들은 "우리는 서비스사라 직접 관계없다"는 반응을 보였다. 미토스는 미국 중심 프로젝트고, 국내에서 직접 사용하는 것도 아니니 우리 사업과는 거리가 멀다는 논리다.

하지만 전문가들은 이러한 인식 자체가 더 위험하다고 경고한다. 국내 AI 서비스 회사들이 운영하는 웹서버·데이터베이스·AI 프레임워크는 전부 오픈소스 기반이기 때문이다. 미토스가 그 오픈소스에서 취약점을 찾아내면 결국 해당 서비스를 이용하는 고객 데이터까지 위험에 노출되는 구조다.

신정규 래블업 대표는 "서비스 회사들은 오픈소스를 가져다 쓰는 구조라 공급망 보안 이슈를 직접 체감하기 어렵다"며 "내가 만든 코드가 아무리 안전해도 가져다 쓴 오픈소스가 뚫리면 서비스가 뚫리고 공격은 결국 그 서비스를 쓰는 고객 데이터를 향해 날아온다"고 경고했다. 이어 "미토스가 공개되지 않았음에도 관련 뉴스 효과로 기존 AI 모델을 활용한 해킹 시도가 이미 급증하고 있다"며 "보안 뉴스에 앞으로 끊임없이 등장할 것"이라고 전망했다.

일각에서는 이번 사태가 이미 예견된 위협이었다는 지적도 나온다. 한 AI 업계 관계자는 "AI가 해킹에 활용될 수 있다는 가능성은 이미 오래전부터 충분히 예견돼 왔다"며 "예측하지 못한 것이 문제가 아니라 예측하고도 움직이지 않았던 것이 더 큰 문제"라고 강조했다.

미토스가 기존 AI와 결정적으로 다른 점은 능력이 갑자기 뛰어난 게 아니라 해킹 성공률이 비약적으로 높아졌다는 점이다. 기존 AI 모델은 해킹 시도 실패율이 높아 방어 측이 패턴을 파악하고 침입탐지시스템(IDS)으로 차단할 수 있었다. 하지만 미토스는 방어 측이 감지·차단하기 전에 먼저 성공해버리는 구조다.

전문가들은 미토스 보고서가 공개한 두 가지 핵심 중 기존 모델이 풀지 못했던 해킹 문제 해결보다 동일한 해킹에 드는 시도 횟수의 비약적 감소를 더 심각한 위협으로 보고 있다. 시도 횟수 감소는 전반적인 모든 보안 체계에 영향을 미치기 때문이다.

이원태 국민대 교수(국가AI전략위 보안 특별위원장)는 "AI 보안은 기존 경계 방어식 보안으로는 대응할 수 없는 새로운 차원의 문제"라며 "AI가 보안 헛점을 찾아내고 메우는 순환구조가 시작되면서 사람이 보안 패치를 배포하는 속도는 이미 무의미한 단계에 들어섰다"고 진단했다.

한 AI 업체 CTO도 "AI가 보안 헛점을 찾아내고, AI가 그 헛점을 메우는 순환구조가 시작되면서 사람이 보안패치를 배포하는 속도는 무의미한 상태에 들어섰다"며 "국가적 단위에서 기간망과 전략자산의 취약점을 찾는 AI 무기화 단계에 진입했다"고 분석했다.

◆ "정부·금융 시스템 붕괴 가능"… 민간 단독 대응 한계

문제는 뚜렷한 대책도, 이를 대응할 AI 모델도 나오지 않았다는 점이다. 과기정통부는 지난 14일 통신 3사·네이버·카카오 등 주요 기업 CISO와 릴레이 현안점검회의를 개최하고, 15일에는 국내 주요 정보보호기업·주요 기업 40개사 CISO와 간담회를 열었지만 구체적 실행 방안은 나오지 않았다.

이 회의에 참석한 한 관계자는 "대책 회의를 했지만 아직 나온 이야기가 없다"며 "큰일 났다는 얘기뿐"이라고 말했다. 이어 "기술적으로 대응 준비가 전혀 안 돼 있다"며 "정부 기관이나 금융 산업 전체가 완전히 붕괴될 수도 있는 상황"이라고 위기감을 드러냈다.

민간 기업이 개별적으로 대응해봤자 구조적 한계가 있다는 지적도 이어졌다. 단기적으로는 앤트로픽과의 정부 차원 협력이 필요하다는 목소리도 나온다. 이 관계자는 "단기적으로는 앤트로픽 도움을 받아야 한다"며 "국가 전체 인프라를 커버하려면 정부가 나서야 한다"고 말했다.

업계 전문가들은 이번 사태의 본질이 단순한 보안 위협을 넘어 AI 보안 패권의 빅테크 독점 문제라고 진단한다.

다른 AI 기업 CTO는 "글로벌 취약점 정보와 방어 모델에 대한 접근이 글로벌 빅테크에 종속되는 위험 상태"라며 "안보 문제를 용병에 의지해야 하는 안보종속 상황과 흡사하다"고 말했다.

국제적 AI 안전 규범과 표준화 수립 이슈가 빅테크 기업 논리로 퇴색되면서 국가 간 협력도 기대하기 어려워졌다는 지적이다. 그는 "앤트로픽은 자사 모델의 압도적 성능을 표현하는 마케팅 전략인 동시에 AI 안전과 보안에 대한 빅테크로서의 독점적 지위를 강화하려는 포석"이라고 분석했다.