고학수 개인정보보호위원회 위원장이 16일 용산 그랜드하얏트서울에서 열린 GPA(Global Privacy Assembly) 총회에서 이재명 대통령의 축사를 대독하고 있다.

[디지털데일리 김보민기자] 이재명 대통령이 안전한 인공지능(AI) 시대를 맞이하기 위해 전 세계 국가와 협력을 강화해야 한다고 강조했다. 특히 주요국이 AI 데이터 활용에 대한 규제와 정책을 발표하고 있는 만큼, 한국도 국제 논의에 가교 역할을 하겠다는 의지를 표했다.

이 대통령은 16일 용산 그랜드하얏트서울에서 열린 'GPA(Global Privacy Assembly) 총회'에서 고학수 개인정보보호위원회(이하 개인정보위) 위원장이 대독한 축사에서 이렇게 밝혔다.

이 대통령은 "지금 전 세계는 인류 역사상 가장 급격한 기술 변혁의 시대를 맞이했다"며 "AI이 미래 먹거리와 국가 경쟁력을 좌우하는 시대이지만 그 이면에는 데이터 오남용, 개인정보 침해 등의 위협 요인 또한 상존한다"고 말했다.

특히 AI의 필수 재료인 데이터를 주목해야 한다고 강조했다. 이 대통령은 "AI를 활용한 데이터의 무분별한 활용은 기술에 대한 국민의 신뢰뿐만 아니라 그 나라의 경제와 사회 근간을 위협할 수 있다"고 경고했다.

이러한 흐름을 고려했을 때, 국제 차원의 논의가 본격화될 때가 왔다는 점도 강조했다. 이 대통령은 "세계 각국은 AI 발전이 불러일으키고 있는 유례없는 변화에 대비하기 위해 AI 안전을 논의하는 노력을 이어가고 있다"며 "개별 국가 차원의 대응만으로 분명 한계가 있고, 이제 전 세계적인 공동 대응 방안을 마련해야 한다"고 밝혔다.

올해 GPA총회에는 한국, 미국, 유럽연합(EU), 영국, 프랑스, 독일, 일본 등 95개국 148개 개인정보 감독기관이 참여한다. 아시아에서 GPA총회가 열리는 것은 홍콩에 이어 한국이 두 번째다. 올해 주제는 '일상화된 AI 시대 개인정보 이슈'로, AI와 개인정보 및 데이터 보호에 대한 최신 화두가 다뤄질 예정이다.

이 대통령은 "(GPA총회에서) 나눈 여러분의 지혜와 연대가 AI를 활용하는 전 세계 국민의 편익을 증진시키고, 자유와 권리를 지키는 방향으로 이어지기를 바란다"며 "대한민국 역시, 여러분의 가장 적극적인 협력자이자 동반자로 힘을 보태겠다"고 약속했다.

고학수 개인정보보호위원회 위원장 [ⓒ개인정보보호위원회]

한편 고학수 개인정보위 위원장은 축사를 통해 AI 기술의 새로운 위협을 살펴보고, 신기술 활용법에 대한 논의가 본격화될 것으로 전망했다. 고 위원장은 "최근 AI 에이전트 등 새로운 AI 기술이 발달하며, 우리 삶 전반의 편익을 높일 것으로 기대되고 있다"며 "하지만 혁신의 속도가 빨라질수록 그 이면의 부작용을 어떻게 관리하고 최소화할지가 혁신의 성패를 좌우한다"고 밝혔다.

그러면서 "AI 에이전트 맥락에서 보면, 기술의 발전이 검색형에서 기억형으로 나아가 멀티 에이전트로 진화하고 복수 에이전트 간 상호작용도 비약적으로 증대할 것"이라며 "이 과정에서 개인정보가 여러 단계 공유 및 전달되며 발생하는 취약점과 이용자 통제권 약화 등은 에이전트 AI 기술의 새로운 리스크(Risk)로 부상할 것"이라고 예상했다.

한국만의 고민이 아니라는 점도 강조했다. 고 위원장은 "AI가 가진 전방위적, 초국경적, 동시다발적 특성으로 인해 이러한 도전과제를 개별 국가가 해결하기엔 명백한 한계가 있다"며 "한국은 이번 총회를 계기로 협력을 촉진하는 플랫폼이자 가교 역할을 수행하겠다"고 다짐했다.