유재연 국가인공지능위원회 사회 분과장이 9월8일 서울스퀘어에서 열린 국가AI전략위 출범 1주년 성과보고회 기자간담회에서 발표하고 있다. [사진=디지털데일리 오병훈기자]

[디지털데일리 오병훈기자] 청소년 이용자가 빠르게 늘고 있는 인공지능(AI) 캐릭터챗 서비스를 둘러싸고 선정성과 과몰입 우려가 제기되는 가운데 국가인공지능전략위원회가 기술 자체보다는 서비스가 청소년에게 미치는 영향을 중심으로 판단할 필요가 있다는 입장을 밝혔다.

영상이나 게임 등 기존 콘텐츠처럼 이용 연령과 유해성 등을 기준으로 살펴보되 이용자와 끊임없이 대화하면서 관계를 형성하는 AI 특유의 ‘의인화’와 ‘아첨’ 성향에 대응할 추가적인 안전장치도 필요하다는 것이다.

하정우 국가AI전략위원회 상근부위원장은 8일 서울스퀘어에서 열린 국가AI전략위 출범 1주년 성과보고회 기자간담회에서 캐릭터챗의 청소년 과몰입과 선정성 문제에 대한 질문을 받고 “AI라는 점을 빼고 판단하는 것도 하나의 기준이 되지 않을까 싶다”고 말했다.

국내에서는 스캐터랩 ‘제타(zeta)’와 뤼튼테크놀로지스 ‘크랙(Crack)’ 등이 대표적인 AI 캐릭터챗 서비스로 꼽힌다.

실제 뤼튼의 경우 이날 크랙의 청소년 보호 정책 강화 방안을 내놨다. 청소년 이용시간을 하루 최대 3시간으로 두고 이를 넘기려면 보호자 인증과 동의를 받도록 할 예정이다. 월 결제액도 10만원을 상한으로 정하고 초과 결제 때 보호자 동의를 요구한다.

하 부위원장은 이런 서비스에 AI가 적용됐다는 사실 그 자체를 규제 기준으로 삼아서는 안 된다는 취지로 설명했다. ‘AI 서비스냐 아니냐’보다 해당 콘텐츠와 상호작용이 실제 아동·청소년에게 어떤 영향을 주느냐를 중심에 두고 보호 기준을 마련해야 한다는 시각이다.

그는 “뒷단에 AI가 있으니까 훨씬 더 잘 만들 수 있었겠지만, AI 서비스라는 관점보다 이 서비스를 만들었을 때 아이들에게 끼치는 영향을 기준으로는 우리가 판단했을 것”이라며 “비디오 등급 같은 것도 비슷한 개념의 기준으로 판단하는 것이 맞지 않나 싶다”고 덧붙였다.

국가AI전략위 사회분과는 기존 콘텐츠와 달리 AI가 갖는 고유한 위험성도 함께 살펴야 한다고 강조했다.

유재연 국가AI전략위 사회분과장은 “캐릭터챗이 사람에게 영향을 미치고 특히 어린이와 청소년에게 영향을 미친다는 관점에서 봤을 때 분명히 주의해야 할 점들이 있다”고 말했다.

특히 장시간 대화를 통해 AI를 실제 사람처럼 받아들이거나 AI의 답변에 정서적으로 의존할 가능성을 문제로 들었다.

유 분과장은 “과몰입이 벌어지지 않도록 하고 인간이 주도적으로, 주체성을 가지고 AI를 활용할 수 있도록 만드는 관련 교육이나 장치가 분명히 필요하다”고 강조했다.