[사진=안철수 의원실]

[디지털데일리 오병훈기자] 생성형 인공지능(AI) 결과물 표시의무를 AI 모델 개발사와 이를 활용해 최종 서비스를 제공하는 사업자 역할에 따라 구분하는 법안이 발의됐다.

AI 모델·응용프로그램인터페이스(API)·생성엔진을 개발하는 사업자는 국제 기술표준과 연동되는 ‘기계판독 방식’으로 AI 생성 사실을 표시하고 이를 활용해 앱·플랫폼·콘텐츠 서비스를 제공하는 사업자는 이용자가 직접 인식할 수 있는 방식으로 표시하도록 하자는 취지다.

안철수 의원(국민의힘)은 이 같은 내용을 담은 ‘인공지능 발전과 신뢰 기반 조성 등에 관한 기본법 일부개정법률안(AI기본법)’을 대표발의했다고 27일 밝혔다.

현행 AI기본법 제31조 제2항은 인공지능사업자가 생성형 AI 또는 이를 이용한 제품·서비스를 제공하는 경우 결과물이 생성형 AI에 의해 만들어졌다는 사실을 표시하도록 규정하고 있다.

그러나 실제 AI 산업에서는 기반 모델과 API 생성엔진을 개발·공급하는 ‘인공지능개발사업자’와 이를 활용해 이용자에게 앱·플랫폼·콘텐츠 서비스 등을 제공하는 ‘인공지능이용사업자’의 역할이 나뉜다.

안 의원은 현행법이 두 사업자의 역할 차이를 구분하지 않고 동일한 표시의무를 부과해, 각 사업자가 어느 단계에서 어떤 방식으로 의무를 이행해야 하는지 불분명하다고 지적했다.

예컨대 AI 모델 개발사는 생성 결과물에 국제표준과 호환되는 메타데이터 등 기술적 표시를 넣을 수 있다. 하지만 해당 모델을 사용하는 수십 개 앱의 화면 구성이나 이용자 안내 문구까지 직접 통제하기는 어렵다.

모델 개발사에 이용자 화면의 표시까지 책임지도록 할 경우 서비스 사업자별로 별도 개발과 계약을 진행하고, 표시의무에 대한 책임 범위를 일일이 조정해야 한다는 것이 안 의원 측 설명이다.

반대로 국내외 여러 AI 모델을 활용하는 스타트업이나 플랫폼 사업자가 모델 내부의 기계판독 표시까지 직접 구현해야 할 경우에도 부담이 커질 수 있다. 사용하는 모델마다 기술 방식과 국제표준이 다를 수 있어 사업자가 별도의 시스템을 중복 개발해야 하기 때문이다.

모델 개발사와 서비스 사업자가 같은 표시 기능을 각각 구축하거나, 표시가 누락되는 등 문제가 발생했을 때 계약상 책임을 서로 떠넘길 가능성도 있다는 지적이다.

개정안은 이러한 문제를 해결하기 위해 AI기본법 제31조 제2항에 표시 방식에 관한 두 가지 기준을 신설한다.

먼저 인공지능개발사업자는 생성형 AI 결과물에 기계가 판독할 수 있고 국제적으로 통용되는 기술표준과 상호 운용될 수 있는 방식으로 표시해야 한다.

인공지능이용사업자는 앱이나 플랫폼 화면 등에서 이용자가 해당 결과물이 AI에 의해 생성됐다는 사실을 명확하게 인식할 수 있는 방식으로 표시해야 한다.

핵심은 AI 생성물의 표시의무 자체를 없애거나 축소하는 것이 아니라, 생성 기술을 공급하는 개발사업자와 이용자에게 최종 서비스를 제공하는 이용사업자의 책임을 산업 구조에 맞게 나누는 데 있다.

모델 개발사는 AI 생성 사실을 확인할 수 있는 기술 정보를 결과물에 남기고, 서비스 사업자는 이를 실제 이용자가 확인할 수 있도록 전달하는 방식이다.

안 의원은 이를 통해 기업이 표시의무 이행을 위해 동일한 기능을 중복 개발하는 비용을 줄이고 개발사와 이용사업자 사이 계약상 책임 범위도 보다 명확하게 정할 수 있을 것으로 보고 있다.

표시의무 위반이 발생했을 때 어떤 사업자가 어느 단계의 책임을 부담해야 하는지를 구분해 법적 불확실성을 낮추겠다는 취지도 담겼다.

개발사업자에게 적용되는 기계판독 표시가 국제적으로 통용되는 기술표준과 상호 운용될 수 있어야 한다는 점도 법안에 명시됐다. 국내 AI 모델과 서비스가 해외 시스템에서도 생성물 정보를 확인할 수 있도록 표시 방식의 국제 정합성을 확보하려는 것이다.

개정안은 공포 후 1년이 지난 날부터 시행된다. 개정된 표시 방식은 법 시행 이후 생성형 AI 또는 이를 활용한 제품·서비스를 제공하는 경우부터 적용된다.

안 의원은 “AI 모델을 개발하는 기업에 앱 화면의 표시까지 책임지게 하고, 앱을 제공하는 기업에 모델 내부의 기술표준까지 구현하도록 요구하면 하나의 표시의무를 양측에 중복해 부담시키는 결과가 된다”고 말했다.

이어 “이번 개정안을 통해 기업은 불필요한 중복 개발비용과 법적 불확실성을 줄이고, 이용자는 AI 생성물이라는 사실을 더욱 명확하게 확인할 수 있게 될 것”이라고 강조했다.

한편 안 의원은 앞서 21대 국회에서 ‘인공지능 책임 및 규제법안’을 대표발의했으며, 22대 국회에서는 1호 법안으로 ‘인공지능 산업 육성 및 신뢰 확보에 관한 법률안’을 발의했다.