틱톡 TAC 내부에 마련된 모더레이션 워크스테이션 입구. [사진=채성오기자]

[디지털데일리 채성오기자] 틱톡이 인공지능(AI) 생성 콘텐츠에 대한 라벨링과 워터마크를 확대하고, 이용자가 AI 콘텐츠를 이해하고 노출 수준까지 직접 조절할 수 있도록 관련 정책을 강화한다.

단순히 AI 사용 여부를 표시하는 데 그치지 않고 교육과 이용자 선택권, 유해 콘텐츠 차단을 함께 묶어 플랫폼 신뢰도를 높이겠다는 구상이다.

14일 진행된 '틱톡, 더 나은 AI 투명성과 리터러시 아시아태평양 지역 온라인 브리핑'에서 틱톡 측은 "현재까지 30억개 이상의 영상을 AI 생성 콘텐츠로 표시했다"며 "하루 1억개가 넘는 콘텐츠가 올라오는 만큼 수동 검토가 아닌 시스템 차원의 투명성 장치가 필요하다"고 밝혔다.

틱톡은 크리에이터의 자율 표시와 탐지 기술, 콘텐츠 출처·편집 이력을 확인하는 C2PA(콘텐츠 출처 및 진위를 위한 연합) 표준과 자체 개발한 비가시성 워터마크를 함께 활용하고 있다.

비가시성 워터마크는 영상이나 이미지 내부에 암호화 정보를 심어 다른 플랫폼으로 이동하거나 재편집된 뒤에도 틱톡 AI 도구로 제작됐는지 추적하는 방식이다. 2024년 동영상 플랫폼 최초로 C2PA를 도입한 데 이어 운영위원회에도 참여해 업계 공통 표준 확산에 나선다.

AI 교육도 확대한다. 지난해 200만달러(약 29억8540만원)로 시작한 'AI 리터러시 기금'을 400만달러(약 59억6920만원)로 늘리고, 전문가와 크리에이터가 제작한 교육 콘텐츠를 모은 인앱 'AI 리터러시 허브'를 오는 8월부터 전 세계 시장에 제공한다. 관련 교육 콘텐츠는 현재까지 2억회 이상의 조회수를 기록했다.

이용자는 '주제 관리' 기능을 통해 추천 피드에서 AI 생성 콘텐츠를 얼마나 볼 지에 대해서도 조절할 수 있다. 틱톡은 정치·시사, 금융 조언, 의료, 역사적 참사 등 공공 신뢰나 안전에 영향을 줄 수 있는 분야에서 AI 스팸 계정을 찾아내는 탐지 시스템도 고도화한다. 틱톡은 올해 1분기에만 가짜 계정 8600만개 이상을 삭제한 것으로 전해졌다.

창작적 AI 활용과 스팸 계정의 구분 기준에 대해서는 "특정 이용자층보다 공공 신뢰와 안전을 해칠 수 있는 주제, 반복적으로 저가치 콘텐츠를 게시하는 행태에 초점을 맞춘다"고 설명했다.

또한 틱톡 측은 "사실적인 AI 생성 콘텐츠에는 예외 없이 라벨을 붙여야 하며 표시가 없으면 틱톡이 직접 적용한다"며 "AI 리터러시는 어느 한 플랫폼이나 정책, 표준만으로 해결할 수 없는 만큼 이용자가 AI 사용 여부를 알아보고 내용을 이해하며 자신의 경험에서 AI의 역할을 선택할 수 있도록 해야 한다"고 전했다.