온라인 환경이 일상의 중심이 된 오늘날 소셜 네트워크 서비스(SNS)는 소통의 창구이자 정보의 보고인 동시에 각종 유해 콘텐츠와 고도화된 범죄가 도사리는 위험한 놀이터가 되기도 합니다. 특히 판단력이 성숙하지 않은 청소년을 대상으로 한 스캠(신용사기)과 그루밍 성범죄 등이 기승을 부리면서 플랫폼 기업의 사회적 책임과 보호 시스템 구축이 그 어느 때보다 절실한 상황입니다. <디지털데일리>는 전 세계가 안전한 인터넷 세상을 만들기 위해 노력하는 '안전한 인터넷의 날(2월10일)'을 맞아 기업과 사회의 온라인 안전망을 조명하는 '세이프-네트워크'를 준비했습니다. <편집자 주>

[디지털데일리 채성오기자] "저품질·반복형 AI 콘텐츠 확산을 방치하지 않겠다."

지난 1월21일(미국 현지시간) 닐 모한 유튜브 최고경영자(CEO)는 연례 메시지를 통해 이와 같이 밝혔다. 닐 모한 CEO는 이른 바 '인공지능(AI) 슬롭(찌꺼기)'을 올해 최우선 과제로 제시했는 데 이는 AI 기술이 고도화되면서 급증한 스팸·사기성 채널 확산을 막아 플랫폼 신뢰도를 높이겠다는 의도로 풀이된다.

◆스팸·기만행위·사기 채널 비중 급증…"구독자·조회 수 상관 없이 폐쇄"=9일 '구글 투명성 보고서'에 따르면 유튜브 커뮤니티 가이드 시정 조치 결과 지난해 3분기 연간 누적 기준 1246만248개 채널이 폐쇄됐다. 해당 기간 삭제된 동영상 건 수는 3216만5705건으로 집계됐다.

현재 유튜브는 '커뮤니티 가이드'에 따라 관련 기준을 위반할 경우 유튜브 채널 및 영상을 폐쇄(삭제) 조치하고 있다. 90일 내에 커뮤니티 가이드 위반 경고가 3회 누적되거나 심각한 악용 사례(약탈적 행동 등)가 1회 적발될 경우가 여기에 해당한다. 또한 가이드를 위반하는 데 전적인 의도가 있다고 판단돼도 채널 폐쇄 조치가 진행되는데 스팸 계정이 대표적인 사례다.

특히 지난해의 경우 3분기 들어 채널 폐쇄 규모가 급증했다. 지난해 1분기 289만7659개였던 폐쇄 채널 수는 같은 해 2분기 210만5778개로 줄었지만 3분기 745만6811개로 대폭 증가했다. 지난해 3분기 폐쇄된 채널의 92.7%는 '스팸·기만행위·사기' 항목에 해당되는데 이는 같은 해 1·2분기(각각 81.8%·76%)와 비교하면 큰 폭으로 증가한 수치다.

닐 모한 CEO가 언급한 AI 슬롭은 이런 대량의 스팸 채널을 지칭하는 용어로 풀이된다. 실제로 유튜브는 AI 슬롭을 줄이기 위해 지난해부터 AI 기반 실시간 모니터링 강도를 높였고 과거 분기 대비 관련 삭제 수치가 비약적으로 증가한 것으로 분석된다. 이는 단순히 플랫폼의 질적 저하를 넘어 이용자들이 자극적이고 왜곡된 정보에 무분별하게 노출되는 것을 원천 차단하겠다는 계산이다.

최근 미국 IT 매체들의 보도에 의하면, 지난 1월 들어 AI 슬롭 채널 중 16곳의 영상이 비공개 처리되거나 채널이 삭제됐다. 해당 AI 슬롭 채널은 미국 동영상 플랫폼 '캡윙'이 지난해 11월 조사한 100여곳 채널에 포함된 곳으로 누적 조회 수만 47억회에 달한다.

총 구독자와 연간 추정수익만 3500만명과 1000만달러(약 146억원)로 추정되지만 구체적인 삭제 사유는 알려지지 않았다. 유튜브가 AI 활용 자체를 금하는 것은 아니지만 특정 프로그램을 통해 자동 생성된 콘텐츠나 대량 복제된 영상들이 다수 존재할 것으로 예상된다.

◆"과도한 필터링, 창작 생태계 독 된다"…부작용 우려도=다만 일각에서는 유튜브의 AI 기반 필터링 강화 정책이 창작 생태계를 위협할 수 있다는 우려의 목소리도 높아지고 있다. 지난해 말부터 국내외 유명 연예인과 셀러브리티(유명인) 채널이 명확한 이유 없이 '유해 콘텐츠'나 '스팸'으로 분류돼 갑작스럽게 정지되는 사례가 빈번하게 발생했기 때문이다.

실제로 지난해 3분기까지 연간 1200만여개 채널이 폐쇄되는 과정에서 정교하지 못한 AI 필터링이 정상적인 콘텐츠까지 무분별하게 잡아내는 '과잉 규제' 문제가 수면 위로 떠올랐다. 채널 정지 이후 진행되는 이의 신청 과정마저 AI가 처리하면서 창작자들은 구체적인 위반 사유도 모른 채 불과 몇 분 만에 거절 통보를 받는 '블랙박스식 운영'에 고통받는 모습이다.

지난 1월에는 배우 최다니엘의 개인 유튜브 채널이 해킹된 후 유튜브 커뮤니티 가이드 위반에 따라 삭제됐다. 이에 앞서 리듬체조 선수 출신 손연재를 비롯해 김성은·한혜진 등 유명인들의 유튜브 채널도 커뮤니티 가이드 위반으로 인해 삭제 조치된 바 있다.

이처럼 해킹 등 타의로 인해 의도치 않게 커뮤니티 가이드를 위반한 사례도 있지만 이의신청을 해도 받아들여지지 않아 수익 창출이 중단되거나 삭제되는 경우도 비일비재한 것으로 알려졌다. 일례로 제보자와 직접 통화하거나 사연을 제보받아 더빙을 통해 공포 관련 콘텐츠를 제공했던 '괴들남 공포이야기' 채널은 지난 1월 유튜브로부터 갑작스런 수익 창출 중단 통보를 받은 것으로 알려졌다.

유튜브 측은 "자동화 시스템과 검토자가 검토한 결과 의미 있는 교육적 가치나 다른 가치를 제공하지 않은 채 조회 수를 높이기 위해 대량 제작 혹은 반복된느 것으로 보이는 콘텐츠"라고 수익 창출 중단 배경 만을 밝힌 채 어떤 영상이 커뮤니티 가이드를 위반했는 지에 대해서는 공개하지 않은 것으로 전해졌다. 채널 운영진은 제작 과정 등을 담은 자료를 첨부해 이의신청에 나섰지만 유튜브 측은 구체적인 설명 없이 90일 후 재신청하라는 입장을 밝힌 것으로 알려졌다.

전문가들은 유튜브가 유해물 확산을 막는다는 명분 아래 독점적 지위를 이용해 표현의 자유를 위축시키고 AI 판단에만 의존해 창작자 생존권을 위협하는 것 아니냐고 지적했다.

IT업계의 한 관계자는 "유튜브가 진정한 디지털 메트로폴리스로 거듭나기 위해서는 AI 효율성 뒤에 숨는 대신 인간적인 검토 시스템을 강화해야 한다"며 "정책의 투명성을 확보해 보호와 검열 사이의 균형을 잡아야 할 것"이라고 분석했다.