아마존, 애플, 구글(알파벳), 메타(옛 페이스북), 마이크로소프트, 테슬라 등 미국 중심의 빅테크(Big Tech) 기업들은 지금 이 시간에도 기술패권 경쟁을 위해 천문학적인 투자와 창의적인 실험을 감행하고 있습니다. <디지털데일리>는 빅테크로 불리는 기술 기업들의 근황과 비전을 소개하고, 한국 시장에서의 공존과 경쟁을 다양한 각도에서 들여다 봅니다. <편집자 주>

[ⓒ 연합뉴스]

글로벌 사회관계망서비스(SNS) 플랫폼들이 아동·청소년 대상 온라인 성착취 및 유해 콘텐츠에 대한 대응이 미흡하다는 이유로 법적·사회적 비판에 직면하고 있다. 이에 따라 주요 소셜미디어들은 보다 선제적인 기술적 조치 마련에 나서는 분위기다.

3일(현지시간) 엑스(X·구 트위터)는 아동 성착취물이 업로드된 후 9일간 방치하고 삭제 및 신고 조치를 지연한 혐의로 미국 연방법원에서 과실 책임을 묻는 재판을 받게 됐다. 문제의 영상은 당시 13세였던 피해자들이 협박에 의해 촬영한 것으로, 16만건 이상 조회된 뒤에야 삭제됐으며, 이후 아동실종 및 착취센터(NCMEC)에 신고됐다.

미 연방법원은 엑스가 해당 콘텐츠를 실질적으로 인지하고도 즉각적인 조치를 취하지 않았다는 점에서 온라인 플랫폼에 면책을 부여하는 연방 통신품위법 제230조의 적용이 어렵다고 판단했다. 해당 조항은 이용자가 게시한 콘텐츠(글, 사진, 동영상 등)에 대해 플랫폼 운영자의 법적 책임을 제한하는 내용을 담고 있다.

인스타그램 청소년 계정 업데이트. [ⓒ 메타]

이처럼 온라인 플랫폼의 아동 보호 책임이 점점 더 강조되는 가운데, 메타 또한 지속적으로 인스타그램의 구조가 아동 관련 콘텐츠를 성인 사용자에게 노출시켜 성범죄를 유발할 수 있다는 지적을 받아왔다. 월스트리트저널은 2023년 인스타그램 알고리즘이 아동 이미지 중심 계정을 성인 이용자에게 추천하고 있으며, 이로 인해 아동 성착취물 거래 네트워크가 형성됐다는 조사 결과를 보도한 바 있다.

이에 메타는 지난달 24일 아동 이미지를 주로 포함한 계정이 ‘의심스러운 성인’ 사용자에게 추천되지 않도록 인스타그램 알고리즘을 조정하겠다고 발표했다. 여기서 ‘의심스러운 성인’은 10대 사용자에게 차단당한 이력이 있는 계정 등을 의미하며, 이들과 아동 콘텐츠 계정 간의 검색 결과 및 댓글 노출도 제한된다.

인스타그램은 이날 청소년 계정의 다이렉트 메시지(DM) 기능에도 안전장치를 강화했다고 발표했다. 10대 사용자는 상대 계정의 인스타그램 가입 시점을 채팅창 상단에서 확인할 수 있으며, 신고·차단 기능도 보다 빠르게 이용할 수 있도록 인터페이스를 개선했다.

틱톡 자녀 계정 업데이트. [ⓒ 틱톡]

틱톡(TikTok) 역시 청소년 보호 문제로 논란에 휩싸였다. 지난달 11일 미국 주정부는 틱톡이 알고리즘과 인터페이스를 통해 미성년자의 과도한 이용을 유도하고 정신 건강에 악영향을 미친다며 소송을 제기했으나, 틱톡 측의 기각 요청은 받아들여지지 않았다. 주정부는 틱톡이 광고 노출과 전자상거래 유도, 틱톡샵 이용 확대를 위해 플랫폼을 ‘중독성 있는 구조’로 설계했다고 주장했다.

틱톡은 이에 대해 “청소년 계정에는 강력한 보호 기능이 적용되고 있다”고 반박했다. 실제로 지난 30일 틱톡은 ‘신뢰와 안전(Trust & Safety)’ 온라인 브리핑을 통해 아동·청소년 보호를 위한 기능 업데이트를 대거 발표했다.

가장 주목받는 변화는 부모와 자녀가 함께 계정을 관리할 수 있는 ‘세이프티 페어링(Safety Pairing)’ 기능의 고도화다. 이를 통해 부모는 자녀의 콘텐츠 업로드 알림을 실시간으로 받을 수 있으며, 팔로잉 목록, 관심 주제, 다운로드 설정 등을 직접 관리할 수 있다. 또 콘텐츠 신고 알림 기능이 전 세계적으로 확대되는 등 보호 조치가 강화되고 있다.

아담 프레서 틱톡 글로벌 운영 및 신뢰와 안전 총괄은 “틱톡은 청소년, 가족, 크리에이터, 커뮤니티 모두가 신뢰할 수 있는 플랫폼 환경을 제공하기 위해 지속적으로 안전 기능을 고도화하고 있다”고 밝혔다.

그러나 전문가들은 여전히 플랫폼의 알고리즘 설계와 콘텐츠 노출 구조 자체가 아동 성범죄의 통로가 될 수 있다는 점에서, 사전적·기술적 통제력과 알고리즘 투명성 강화가 필수적이라고 지적하고 있다.

정보기술(IT) 업계 관계자는 “기술의 발전 속도에 비해 아동 보호 시스템이 뒤처지고 있는 것이 현실”이라며 “플랫폼의 자발적인 조치뿐 아니라, 강력한 규제와 투명성 확보가 병행돼야 한다”고 강조했다.