EU 깃발. [사진=연합뉴스]

[디지털데일리 김문기기자] 유럽연합(EU)이 인공지능(AI) 시스템으로 생성되거나 조작된 콘텐츠의 식별을 의무화하는 인공지능법(AI Act)의 세부 투명성 규제 조항을 전격 시행했다.

2일(현지시간) 유럽연합 집행위원회(EC)는 인공지능 기술의 급격한 발전에 따른 가짜 뉴스, 사기, 명의 도용 등 소비자 기만 리스크를 차단하기 위해 인공지능법 제50조에 따른 투명성 의무를 가동했다.

이에 따라 생성형 인공지능 제공자와 배포자는 사용자가 인공지능 시스템과 직접 소통하거나 인공지능이 생성한 콘텐츠에 노출될 때 이를 명확히 인지할 수 있는 조치를 취해야 한다. 특히 ▲실제 인물·사물·장소를 모방한 딥페이크(Deepfake) 이미지 및 오디오·영상 ▲감정 인식 및 생체 인식 분류 도구 ▲인간의 편집 거침 없이 공공의 이익을 위해 게시되는 인공지능 생성 텍스트 등은 식별 가능한 표지와 기계 읽기 가능한 워터마크 삽입이 의무화된다.

집행위원회는 기업들의 규제 준수를 지원하기 위해 세부 가이드라인을 출간했으며, 빅테크 등 190여개 기업 및 기관이 서명한 자율 준수 규약(Code of Practice)을 함께 공개했다. 이번 투명성 의무를 위반할 경우 일반 기업은 최대 1500만유로(약 225억원) 또는 전 세계 연간 매출액의 3% 중 높은 금액의 과징금이 부과될 수 있으며, 유럽연합 기관의 경우 최대 75만유로(약 11억원)의 과징금을 물게 된다. 다만 중소기업과 신생기업에 대해서는 사업 규모를 고려한 비례성 원칙이 적용된다.

유럽연합 집행위원회 관계자는 "새로운 투명성 의무는 이용자가 인공지능과의 상호작용 여부를 명확히 인지하고 정보 오남용이나 기만 행위로부터 스스로를 보호할 수 있도록 돕기 위한 조치"라며 "유럽연합 단일 시장 내에서 신뢰할 수 있는 인공지능 혁신과 수용을 촉진하는 핵심 기반이 될 것"이라고 말했다.