국내외 보안 시장에서 주목한 인공지능(AI) 소식을 전합니다. AI 기술을 악용한 최신 위협부터, AI 기술을 활용한 보안 전략까지 우리가 주목해야 할 쟁점을 소개합니다. AI 보안 시대를 준비하고 있다면, 디지털데일리 'AI 가드'를 살펴보세요. <편집자주>

[디지털데일리 김보민기자] 인공지능(AI) 시대가 도래하면서, 주요 재료인 '데이터'를 보호하기 위한 주요국의 시각이 두 갈래로 나뉘기 시작했다. 한쪽에서는 AI 혁신에 중점을 두고 규제를 완화하는 반면, 다른 한쪽에서는 새롭게 등장할 위협을 경계하며 예방에 무게를 두고 있다. AI 규제가 기술 발전과 보호를 가를 딜레마로 자리잡은 모습이다.

이러한 고민은 지난 16일 서울 용산에서 열린 글로벌프라이버시총회(GPA)에서도 확인할 수 있었다. 존 에드워드 영국 정보위원회(ICO) 위원장은 당시 패널토론에서 "전 세계 데이터를 활용해 AI 모델을 학습시키는 시대가 왔고, 당국은 프라이버시를 지키기 위해 데이터 활용을 규제해야 하는 상황에 놓였다"며 "그러나 지나친 규제로 경제적 이익과 기회를 놓칠 수 있다는 두려움도 있어, 신중한 접근이 필요하다"고 밝혔다.

AI 시대 데이터 활용에 대한 규제가 딜레마인 이유는 간단하다. 데이터가 AI 발전의 원천이면서 동시에 개인 프라이버시와 안전, 인권까지 위협할 요소이기 때문이다. '혁신'을 강조하는 국가는 AI 성능을 높이기 위해 개인정보, 의료, 금융, 공공데이터까지 학습할 필요성을 이야기한다. 규제가 과하면 데이터 접근이 어려워진다는 시각도 있다. 반면 '보호'를 강조하는 국가는 개인정보 침해, 차별적 알고리즘, 감시 사회 등 부작용을 우려하고 있다.

혁신과 보호에 대한 시각은 국가별 경제 구조와 주안점에 따라 갈리고 있다. 규제가 국가 경쟁력을 저해할 수 있다고 보고 민간 자율 규제와 사후 제재를 선호하는 곳은 '혁신'에, 기술 격차를 법과 윤리로 보완할 필요가 있는 곳은 '보호'에 집중하는 분위기다. 미국과 유럽연합(EU)의 사례가 대표적이다.

현재 미국은 AI 혁신에 집중하는 대표 국가다. 미국은 트럼프 2기 행정부가 출범한 이후, AI 발전에 초점을 둔 정책을 펼치고 있다. 그 일환으로 올해 1월, 향후 4년에 걸쳐 AI 인프라에 최대 5000억달러를 투자하는 '스타게이트 프로젝트'를 공표했다. 해당 프로젝트는 오픈AI, 소프트뱅크, 오라클 등 민간 합작법인인 스타게이트를 설립해 미국 전역에 20개의 데이터센터를 구축하는 내용을 담고 있다. 이외 국가AI연구자원(NAIRR)을 통해 국가 공유 연구 인프라를 마련하는 안도 추진하고 있다.

이처럼 혁신과 경쟁을 우선으로 삼되, 리스크 관리는 병행 수단으로 보는 성향이 강해지고 있다. 줄리 블리 하버드이노베이션랩 담당 및 전 마이크로소프트(MS) 규제 부문 부사장은 "미국은 연방정부 차원에서 강력하게 AI 혁신을 주도하고 있고, 필요에 따라 행정명령을 내리고 있다"면서 "다만 최근에는 AI 규제에 대한 관심이 줄어들고 있다"고 전했다. 특히 바이든에서 트럼프 행정부로 정권이 바뀐 것이 주효하다고 평가했다. 브릴 담당은 "일부 행정명령 중, 이전 행정부에 나온 것이 철회된 사례도 있다"며 "연방정부 차원에서 규제보다 활성화 노력이 크다"고 평가했다.

반면 EU는 예방과 원칙 기반의 AI 발전을 강조하고 있다. 특히 데이터 거버넌스 측면에서 가장 활발히 규제 활동을 추진하는 지역으로 꼽힌다. EU가 발표한 AI 액트(AI Act)의 경우, 고위험 AI 시스템을 대상으로 학습·검증·테스트 데이터셋이 품질 기준을 충족하도록 하고 있다. 아울러 데이터 수집 과정부터 라벨링, 정제, 오류 개선, 데이터 공백 등을 확인하도록 하고 있다. 특정 개인정보를 이용해야 하는 경우에는 편향성을 탐지하는 경우로 목적을 한정하도록 했다.

추후에도 역내 국가별 AI 데이터 거버넌스를 살펴볼 가이드를 공개할 방침이다. 마리 로 드니 프랑스 국가정보자유위원회(CNIL) 위원장은 GPA 현장에서 "EU는 데이터 이용과 재이용을 활성화하되, 그 과정에서 개인정보보호를 강화하고 새로운 규제와 법령을 내놓고 있다"며 "EU 위원회는 AI 정의를 담은 권고안과 가이드라인을 발표했고, 추후 안전장치에 대한 범위를 정한 다른 출간물을 준비 중"이라고 예고했다. 또한 "일반 개인정보보호법(GDPR)과 AI와 관련해 조항을 다시 한번 재정의할 예정"이라고 말했다.

한국은 미국과 EU가 추진하고 있는 정책과 비교했을 때, 그 중간 지점에서 규제를 완화하려는 움직임을 보이고 있다. 대표적으로 최근 이재명 대통령이 주재한 '제1차 핵심 규제 합리화 전략회의'에서, AI 3대 강국을 위한 데이터 활용 규제 합리화 방안이 논의됐다. 현장에서는 생성형 AI 등장으로 광범위한 데이터 활용이 중요해졌고, 모호한 법적 기준으로 발생하는 저작물 데이터 활용의 제약이 커지고 있다는 점이 지적됐다. 그 일환으로 올해 11월까지 공정 이용 가이드라인을 마련해, 저작권자가 불명확한 데이터 활용의 불확실성을 완화하고 법정 개정을 추진하자는 개선 방안이 나왔다.

전문가들은 혁신과 보호라는 선택지 속 '무조건적으로 옳다'고 말할 답은 없다고 입을 모은다. 대신 하나의 선택지에 집중할 경우, 다른 선택지에 대한 보완 정책이 필요하다고 말하고 있다. 사이먼 체스터맨 국립싱가포르대학교 학과장은 "혁신의 환경은 너무나 빠르고, 이에 버금가는 거대 위협요인(리스크)이 있다는 점을 간과해서는 안 된다"며 "주요국은 국제 네트워크를 기반으로 글로벌 접근법에 대한 논의를 이어가야 하고, 민간 테크기업의 활약도 중요할 것"이라고 제언했다.

한편 AI 시대 데이터 보호 방안에 대한 국제 논의는 앞으로도 '뜨거운 감자'가 될 전망이다. 한국 개인정보보호위원회를 비롯한 20개 개인정보 감독기구는 이달 'AI 혁신을 위한 프라이버시' 공동 선언문을 통해 이러한 의지를 시사했다. 선언문에는 AI가 인류의 이익, 과학, 경제 전반에서 막대한 기회를 제공하지만 동시에 데이터와 개인정보보호에 위험을 제기한다는 내용이 담겼다. AI 개발과 배포에 필요한 데이터 처리 과정을 중심으로 법적 불확실성을 줄이고 동시에 혁신을 위한 공간을 마련할 것을 주문했다.