얼굴 이어 말투까지 분석...인스타그램, 사용자 나이 판정 AI 믿을 수 있나?

신제인 2022.06.28 17:51:11

-얼굴인식 AI, 여자와 어두운 피부 오차↑
-게시물 AI 모니터링...글 내용, 말투로 나이 판별
[디지털데일리 신제인 기자] 최근 인스타그램이 사용자의 연령 확인을 위해 얼굴인식 인공지능(AI) 도구를 연구하고 있다고 알려진 가운데, 해당 시스템의 신빙성도 도마 위에 올랐다. 

기술전문매체 더 버지는 인스타그램이 요티(Yoti)가 개발한 AI 도구를 테스트하고 있다고 전하며, 해당 시스템의 연령별 평균 오차 수치를 공개했다. 

해당 자료에 따르면, 여성과 어두운 피부인 경우 오차가 다소 높아지는 경향이 나타났다. 그러나 사용자의 나이에 대해 대략적인 가이드라인을 잡아 줄 경우에는, 거의 정확한 진단을 내렸다. 

더 버지에 따르면, 요티는 이미 영국 정부와 독일 디지털 규제 당국에 의해 사용이 승인된 만큼 나이 추정 기술의 정확성을 입증 받았다. 

다만 해당 시스템이 인스타그램의 사용 연령 규제를 위해 적합한 방식인지에 대한 논란은 지속되는 상황이다. 일각에서는 미성년자 사용자가 나이 든 지인의 얼굴을 이용할 수도 있지 않겠냐는 우려도 나왔다. 

실제로 인스타그램은 계정 가입을 위해 만 13세가 되어야 한다는 약관을 공식적으로 내놓고 있음에도 그 규정을 지키려는 노력은 거의 기울이지 않는다는 지적을 받고 있다. 

이 같은 지적에 인스타그램은 2019년 가입 시 생년월일을 기입하는 절차를 도입했지만, 여전히 그 진위여부를 일일이 판정하진 않는다. 

현재 인스타그램은 10대 사용자가 만 18세 이상임을 증명할 경우에만 한정해, 신분증 제출을 요구하는 등 증빙 자료를 확인하고 있다. AI를 이용한 얼굴 분석 도입은 신분증 확인보다 편리하게 나이를 판별하겠다는 의지로 해석된다. 

이외에도 인스타그램은 AI 게시물 모니터링 기능을 확대 도입한다는 방침이다. 인스타그램 측은 2019년부터 AI를 이용한 게시물 모니터링 자동화 시스템을 활성화하고 있다고 전했다. 이 시스템은 사용자의 생일 게시물, 친구 그룹의 나이를 모니터링한다. 

즉, 스스로 20세라고 주장하는 사용자가 “17세 생일을 축하한다”고 게시하거나 상호 팔로워 나이가 대부분 미성년일때, 해당 계정이 자동으로 걸러지고 나이 확인이 한번 더 요청되는 방식이다. 


최근에는 여기에 언어분석 데이터를 보강해, 사용자의 게시글 말투로도 성인 여부를 판별하는 테스트를 함께 진행중이다. 

이 과정에서 AI가 얼마나 정확하게 반영될 수 있을지 여부는 확실하지 않다. 실제로 최근 마이크로소프트는 표정으로 기분을 읽는 AI가 오류와 편견을 범한다는 이유로 서비스 중지를 알린 바 있다.