[사진=챗GPT 홈페이지]

[디지털데일리 김보민기자] 생성형 인공지능(AI) 사용량이 늘었지만 개인정보 보호에 대한 인식은 여전히 저조하다는 조사 결과가 나왔다.

글로벌 사이버보안 기업 노드VPN은 AI 도구가 국내 업무 환경에 자리 잡으면서 개인정보 보호 환경에 위험이 커지고 있다고 28일 밝혔다.

노드VPN이 지난해 진행한 국가개인정보테스트(NPT) 데이터 분석에 따르면 한국인 92%는 업무에서 AI를 사용할 때 고려해야 할 개인정보 보호 요소를 인식하지 못하고 있는 것으로 나타났다.

챗GPT, 코파일럿 등 생성형 AI 도구는 업무 생산성을 높이는 수단으로 확산되고 있다. 그러나 이 과정에서 개인정보나 업무 관련 데이터가 노출되는 사례가 증가하고 있고 데이터 저장 및 활용 방식에 대한 인식은 부족한 상황이다.

이 같은 위험은 업무 환경에만 국한되지 않는다. 같은 조사에 따르면 한국인 45%는 딥페이크, 음성 복제 등 AI 기술을 활용한 사기를 구별하지 못하는 것으로 나타났다. AI 기술이 텍스트 생성 단계를 넘어 실제 인물과 구분하기 어려운 영상과 음성까지 구현할 수 있게 되면서 사기 수법은 정교해지고 있다.

노드VPN 기존 연구 결과도 이러한 우려를 뒷받침한다. 조사에 따르면 전 세계적으로 최근 2년간 3명 중 1명은 온라인 사기를 경험했으며, 이 가운데 49%는 금전적 피해를 입은 것으로 나타났다. AI 기술이 사이버 범죄에 활용되면서 이전보다 적은 기술적 지식만으로도 고도화된 사기가 가능해졌고, 올해에도 AI 기반 공격이 주요 사이버 보안 위협으로 부상하고 있다.

노드VPN은 AI시대 개인정보 노출 위험을 줄이기 위해, 기술 자체보다 사용 과정에서 판단과 기본 보안 원칙이 중요하다고 강조했다. 회사 기밀 및 고객 정보 입력 금지, AI 대화 내용 기록·저장 가능성 인지, AI 사용 정책 사전 확인, 금전 정보 요청 경계, AI 생성 음성과 영상에 대한 신뢰 지양, 보안 소프트웨어 최신 상태 유지 등 보안 습관을 갖출 것을 권고했다.

마리우스 브리에디스(Marijus Briedis) 노드VPN 최고기술책임자(CTO) 는 "AI 도구는 기록되고 분석될 수 있으며 향후 모델 학습에 활용될 가능성도 있다"고 말했다. 이어 "직원들이 고객 정보나 내부 전략, 개인정보를 무심코 AI에 입력할 경우 자신도 인식하지 못한 보안 취약점이 발생할 수 있다"고 경고했다.