[Ⓒ 챗GPT 생성]

[IT전문 미디어 블로그=딜라이트닷넷] EU집행위원회가 고위험 인공지능(AI) 시스템의 중대한 사고보고에 관한 가이드라인 초안 의견 수렴에 들어갔다.

20일 한국인터넷진흥원(KISA)에 따르면 이번 조치는 지난 2024년 8월부터 단계적으로 발효된 AI법의 후속조치다. AI법의 제73조에는 EU시장에 출시된 고위험 AI 시스템의 제공자는 중대한 사고가 발생한 경우, 해당 사고가 발생한 회원국의 시장 감시 당국에 보고하도록 규정하고 있다. 이에 따라 가이드라인 초안 및 사고보고 양식을 발표하고, 대중들의 의견을 받기 시작한 것이다. 해당 조항에 따른 사고보고 의무는 2026년 8월2일부터 발효될 예정이다.

가이드라인 초안은 중대한 사고에 관한 정의 및 AI 시스템 제공자 등 행위자별 의무를 구체적으로 검토하도록 했다. 또한 행정 정보, AI 시스템 정보, 사고 정보, 제공자 분석, 일반 의견 등으로 구성된 중대한 사고보고에 관한 양식을 담고 있다.

EU AI법에 정의된 중대한 사고란 사람의 사망·건강에 중대한 피해, 주요기반시설의 관리·운영에 대한 심각하고 회복 불가능한 장애, 기본권 보호를 위한 EU 법률상 의무 위반, 재산·환경에 대한 중대한 피해 중 어느 하나를 직·간접적으로 초래하는 AI 시스템의 사고 또는 오작동을 일컫는다.

행위자별 의무도 규정했다. 고위험 AI 시스템 제공자의 경우, 중대한 사고가 발생했을 경우 해당 사고를 15일 이내에, 광범위한 침해 또는 주요기반시설의 관리·운영에 심각한 장애를 초래한 경우 즉시, 늦어도 사고 인지 후 2일 이내에, 인명 사망 사고의 경우 즉시 그리고 늦어도 사고 인지 후 10일 이내에 보고하도록 했다.

고위험 AI 시스템 배포자 역시 중대한 사고를 확인했을 때 즉시 제공자에게 통보한 후 수입업자 또는 유통업자 및 관련 시장 감시 당국에 보고하도록 규정했다.

시장 감시 당국의 역할도 담았다. 이들은 시장 감시 및 제품 준수에 관한 규정 제19조에 규정된 바에 따라 중대한 사고보고를 받은 날로부터 7일 이내에 적절한 조치를 이행해야 한다.

보고 양식의 경우, 행정정보, AI 시스템 정보, 사고 정보, 제공자 분석 등의 내용을 담도록 했다.

한국인터넷진흥원은 해당 가이드라인 초안이 EU AI법 제73조에 명시된 고위험 AI 시스템의 중대한 사고보고 의무를 구체적으로 검토해 중대한 사고에 관한 정의 분석, AI시스템 제공자 등 행위자별 의무, 사고보고 관련 기타 EU 규정 간 정합성 등에 관한 자세한 설명을 제시했다고 설명했다.

특히 EU 집행위원회는 중대한 사고보고의 목적이 시장 감시 당국의 조기 경보 체계 구축, AI 시스템의 제공자 및 배포자의 책임 강화, 사고 발생 시 시장 감시 당국의 적시 시정조치 보장 등에 있음을 강조했다.

중대한 사고보고 가이드라인 등에 대한 의견 수렴은 11월7일까지 진행하며, EU 집행위원회는 피드백을 반영해 고위험 AI 시스템의 중대한 사고보고에 관한 최종 가이드라인과 보고 양식을 확정할 예정이다.

한편 국내에서는 AI 기본법 제32조에 따라 AI 사업자가 AI 관련 안전사고를 모니터링·대응하는 위험관리 체계를 구축하도록 규정하고 있다. AI 안전사고 안내·통지 등을 구체화하는 하위 법령 및 AI 안전성 확보 가이드라인 초안 등을 마련했다.

해당 초안은 AI 사업자가 안전사고 발생 시 실제 영향을 받는 사용자, 고개 등에게 사고 개요 등을 알리고, 중대한 AI 안전사고가 발생한 경우 사고 발생일로부터 7일 이내에 과기정통부 장관에게 안전성 확보 조치 사항을 제출하도록 권고한다는 내용을 담고 있다.