인공지능(AI)이 산업과 일상 전반으로 빠르게 확산하면서 국회의 입법 움직임도 AI기본법을 넘어 산업·저작권·노동·개인정보·딥페이크 등 개별 영역으로 세분화되고 있다. 국회는 최근 22대 후반기 원 구성을 마무리 지었다. 그간 계류돼 있던 AI 관련 법안에 대한 상임위원회별 심사도 본격화될 전망이다. <디지털데일리>가 22대 국회에 발의·계류된 AI 관련 법안을 전수 분석해 입법 현황과 주요 쟁점, 산업별 규제·지원 방향을 살펴본다.<편집자>

[사진=챗GPT로 생성한 이미지]

[디지털데일리 오병훈기자] 인공지능(AI) 산업의 기본적인 진흥·규제 원칙을 담은 AI기본법이 시행된 지 불과 반년 만에 국회에서 대대적인 보완 작업이 진행되고 있다. ‘고영향AI’ 이용자의 설명요구권부터 AI 에이전트의 권한 통제, 생성형AI 표시의무, 공공기관 AI 보안까지 현행법에서 구체적으로 다루지 않은 영역을 겨냥한 개정안이 잇따라 발의되면서다.

5일 <디지털데일리>가 국회 의안정보시스템 자료를 분석한 결과 현재 별도로 심사를 받고 있는 ‘인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(AI기본법)’ 일부개정안은 19건이다. 이 가운데 7건은 과학기술정보방송통신위원회(과방위) 전체회의를 거쳐 법안심사소위원회에 회부됐고 나머지 12건은 과방위 회부 후 전체회의 상정을 기다리고 있다.

올해 1월 시행된 AI기본법은 고영향AI 사업자의 위험관리와 인간 감독, 생성형AI 결과물 표시, 대규모 AI 모델의 안전성 확보 등 기본 규율을 마련했다. 그러나 기술 발전 속도가 법 제정 당시 예상보다 빨라지면서 ‘AI 에이전트’처럼 기존 법에 명시적으로 규정되지 않은 기술이 확산됐다.

실제 사업 현장에서는 AI 모델 개발사와 AI 서비스사의 책임을 어떻게 나눌 것인지 등 새로운 문제가 나타났다. 국회에서 쏟아지고 있는 19개 개정안은 이 같은 제도적 빈틈을 방증하는 지표이기도 하다.

◆‘기본법’ 대상 개정안 19개 뜯어보니…대체로 규제 취지 ‘권리보호·투명성·AI 에이전트’

현재 발의된 개정안은 크게 ▲이용자·기본권 보호 ▲생성형AI 투명성 ▲AI 에이전트·보안 ▲데이터 활용 ▲AI 확산에 따른 사회적 대응으로 나눠볼 수 있다.

가장 먼저 법안소위 논의까지 도달한 법안들은 ‘이용자 보호’를 강화하는 취지 개정안이 주를 이룬다. 최민희 의원(더불어민주당)안은 고영향AI 이용자가 결과에 대한 설명을 요구할 수 있도록 했다. 이용자 보호 업무 평가와 AI분쟁조정위원회까지 도입하는 내용이다.

이훈기 의원안(더불어민주당)은 기본권 침해 위험이 큰 AI를 별도의 ‘금지된 AI’로 규정하는 방향을 제시했다. 정춘생 의원(조국혁신당)안은 의료·법률·금융 등 전문 분야에서 AI의 답변이 전문가 판단을 대체할 수 없다는 사실을 고지·표시하도록 하고 청소년을 보호하는 규정을 추가했다.

생성형AI 표시의무도 다시 세분화되고 있다. 이상휘 의원(국민의힘)안은 AI 생성물 표시를 훼손·위조·변조하는 행위를 금지하고 과태료를 부과하도록 했다. 김대식 의원(국민의힘)안은 가시적 표시뿐 아니라 기계가 읽을 수 있는 방식의 표시까지 규율하려는 내용이다.

안철수 의원(국민의힘)안은 표시의무의 책임주체를 나눴다. AI 모델·API 등을 만드는 ‘개발사업자’는 국제표준과 호환되는 기계판독 방식으로 표시하고 이를 이용해 앱·플랫폼·콘텐츠 서비스를 제공하는 ‘이용사업자’는 최종 이용자가 알아볼 수 있는 방식으로 표시하도록 하는 내용이다.

현행법이 개발사와 서비스사를 구분하지 않고 같은 표시의무를 지우면서 발생할 수 있는 중복 개발비용과 계약상 책임 불확실성을 줄이겠다는 취지다.

최근 개정안에서 가장 눈에 띄는 변화는 ‘AI 에이전트’가 법률의 영역으로 들어오기 시작했다는 점이다.

김현 의원(더불어민주당)안은 사람 개별 지시 없이 스스로 계획·추론하고 외부 프로그램이나 시스템을 이용해 작업하는 AI 에이전트의 권한 범위와 위험평가, 인간의 감독체계를 규정하는 내용을 담았다. 또 채현일 의원(더불어민주당)은 공공기관이 AI를 사용할 경우 사전 보안심사와 접근권한 통제, 데이터 외부전송 차단, 로그 기록 등을 의무화하는 내용을 담고 있다.

종합해보면 개정안 방향은 대체로 AI기본법에 담지 못했던 규제 영역을 계속 추가하는 세분화에 가까운 것으로 분석된다. AI기본법이 원칙을 제시했다면 국회가 실제 이용 과정에서 발생하는 권리·보안·데이터·책임 문제를 조문 단위로 채워 넣기 시작한 셈이다.

◆업계 “중복규제보다 책임·면책 명확화 시급”

문제는 AI기본법에 규제를 덧댈수록 이미 존재하는 다른 법률과 규율 범위가 겹칠 가능성도 커진다는 점이다.

생성형AI 결과물 표시 관련 법만 하더라도 AI기본법뿐 아니라 ▲‘정보통신망법’의 AI생성물 및 딥페이크 표시·유통 규제 ▲‘저작권법’ AI 저작물·학습 규정 ▲‘게임산업법’상 생성형AI 표시 규정 등이 동시에 논의되고 있다. 채용·인사 분야 조항도 ▲개인정보보호법 자동화된 의사결정 ▲채용절차법 등 기존 AI 규정과 중복될 수 있다는 것이 업계 분석이다.

각 법률 정책목적은 다르다. 하지만 AI 서비스에 여러 법률이 동시에 적용될 경우 기업 입장에서는 어느 규정을 우선 적용해야 하는지 판단하는 비용이 커질 수 있다. 특히 위험평가·기록·설명·표시처럼 비슷한 목적 의무가 법마다 별도 입법되면 각종 행정 절차를 반복해야 할 가능성이 커진다는 것이 업계 지적이다.

과학기술정보통신부가 지난 3월 산업계·학계·시민사회가 참여하는 ‘AI기본법 제도개선 연구반’을 별도로 출범시킨 것도 중복 규제 문제와 무관하지 않다. 시행령 마련 과정에서 나온 의견 가운데 이해관계자 간 추가 논의나 법률·시행령 개정이 필요한 사안을 장기적으로 검토하기 위해서다.

연구반에 참여 중인 업계 관계자는 “AI기본법에서 생성물 표시의무를 두고 산업계와 전문가들이 계속 논의하고 있는데 다른 법률에서 이보다 더 강한 표시·관리 의무가 별도로 통과되는 상황을 가장 우려하고 있다”며 “결국 같은 사안을 여러 법에서 규율하는 중복규제 문제가 생길 수 있다”고 말했다.

그는 “AI 플랫폼 사업자가 유통되는 모든 콘텐츠를 관리·감독하고 표시 여부를 확인해 임시조치나 차단까지 하도록 요구하는 것은 현실적으로 이행하기 어려운 측면이 있다”며 “규제를 추가하기 전에 AI기본법과 개별법 사이 역할을 어떻게 나눌 것인지부터 정리해야 한다”고 강조했다.

업계에서 반복적으로 요구하는 부분도 ‘새 규제를 더 만들 것인가’보다 ‘누가 어디까지 책임질 것인가’를 명확히 해달라는 데 가깝다. AI를 적극 활용하려는 기업 입장에서 책임과 함께 면책 기준을 명확히 해주는 것이 중요하다.

개정안이 대체로 규제 성격 조항을 품고 있는 만큼 그 반대가 되는 진흥 법안도 균형감 있게 필요하다는 목소리도 나온다. 특히 AI의 활용에 대한 규제만 추가될 경우 실질적인 확산은 어려울 수 있으니, 책임 범위를 명확하게 함과 동시에 면책 기준도 설정해야 한다는 의견이다.

일각에서는 그 시작점으로 공공 AI 서비스 등 정책 사업에 대한 면책을 명문화하고 구체화하는 것이라는 의견도 나온다.

한 정책 전문가는 “공공기관이 AI를 도입했다가 기대한 성과가 나오지 않거나 사고가 발생할 경우 어느 수준까지 담당자와 공급기업 책임으로 볼 것인지 구체적인 기준이 필요하다”며 “AI 활용을 장려하면서 실패에 대한 책임만 강하게 남아 있을 경우 발주기관이 새로운 서비스를 선택하기 어렵다”고 말했다.