크리스 차우리(Chris Ciauri) 앤트로픽 인터내셔널 총괄이 6월17일 서울 여의도 콘래드 호텔에서 열린 앤트로픽 서울 오피스 론칭 기자간담회에서 발표하고 있다. [사진=디지털데일리 구아현기자]

[디지털데일리 오병훈기자] 정부가 글로벌 인공지능(AI) 기업 앤트로픽과 AI 안전성 확보 및 사이버보안 분야 협력에 나선다. 오픈AI, 구글 딥마인드에 이어 앤트로픽까지 협력망에 포함하면서 AI 인프라·모델·연구·안전 분야를 아우르는 글로벌 AI 협업 벨트를 넓히는 모습이다.

과학기술정보통신부는 글로벌 AI 연구개발 기업 앤트로픽과 AI 안전성 확보 및 사이버보안 분야 협력을 위한 업무협약(MoU)을 체결했다고 18일 밝혔다.

과기정통부는 이번 MoU를 통해 앤트로픽과 AI 기반 사이버 공격·방어 영향 분석, 한국어 맥락에서의 AI 모델 안전성 및 오남용 위험 평가, 자율형 AI 에이전트에 대한 레드팀 평가 등을 추진한다.

레드팀 평가는 실제 공격자 관점에서 AI 시스템의 취약점이나 오남용 가능성을 찾아내는 검증 절차다. AI가 단순 질의응답 도구를 넘어 업무를 대신 수행하는 에이전트 형태로 발전하고 있는 만큼, 모델 성능뿐 아니라 안전성 검증 체계가 핵심 과제로 떠오르고 있다는 판단으로 풀이된다.

이번 협약은 배경훈 부총리 겸 과기정통부 장관이 지난 2월 ‘2026 인도 AI 영향 정상회의’ 참석을 계기로 다리오 아모데이 앤트로픽 최고경영자(CEO)와 만나 논의했던 협력 방안의 후속 조치로 추진됐다. 당시 논의가 실제 MoU 체결로 이어지면서 양측 협력이 AI 안전과 보안 분야에서 구체화된 셈이다.

특히 이번 협약과 맞물려 앤트로픽은 17일 한국사무소를 정식 개소했다. 앤트로픽은 일본, 인도, 호주에 이어 한국을 아시아 시장 핵심 전략 거점으로 삼는다는 계획이다. 한국이 반도체, 클라우드, 통신, 제조 등 AI 활용 기반 산업을 두루 갖춘 시장이라는 점에서 글로벌 AI 기업의 아시아태평양 전략 내 중요성이 커지고 있다는 분석이 나온다.

정부 입장에서도 이번 협약은 글로벌 AI 빅테크 협력망을 한층 확장했다는 의미가 있다. 과기정통부는 AI 인프라 분야의 엔비디아, 프론티어 모델 분야의 오픈AI, 연구 역량을 보유한 구글 딥마인드와 협력해 왔다. 여기에 안전성과 신뢰성 중심 AI 개발을 강조해 온 앤트로픽까지 더하면서 AI 기술 개발부터 인프라, 안전, 보안까지 협력 범위를 넓히게 됐다.

사이버보안 분야에서는 금융 분야 등을 포함해 AI 취약점 발굴, 사이버 위협 관련 전문 지식과 정보 공유를 확대하기로 했다. 생성형 AI가 악성코드 제작, 취약점 탐색, 피싱 자동화 등 공격 수단으로 악용될 가능성이 커지는 동시에 방어 자동화와 위협 탐지에도 활용될 수 있는 만큼, 글로벌 모델 기업과의 정보 공유 체계가 중요해지고 있다는 설명이다.

크리스 차우리 앤트로픽 글로벌 총괄은 “한국은 아시아태평양 지역에서 앤트로픽의 중요한 시장 중 하나로, 이번 MoU 체결은 한국에서의 장기적인 협력 토대를 마련한다는 점에서 큰 의미가 있다”며 “안전하고 책임감 있는 AI 개발이라는 가치를 공유하는 정부 기관과 함께하는 것은 앤트로픽 운영 방식의 핵심”이라고 말했다. 이어 “한국 AI 생태계와 함께 이 파트너십을 더욱 발전시켜 나가기를 기대한다”고 강조했다.