[ⓒ엔씨AI]

[디지털데일리 이학범기자] 엔씨AI는 자체 개발한 인공지능(AI) 안전성 기술 '세이프가드(Safeguard)'를 엔씨소프트의 고객 상담 챗봇 '앤써(NCER)'에 적용했다고 30일 밝혔다. 엔씨AI에 따르면 국내 AI 기업 가운데 종합적인 안전성 관리 체계를 상용 서비스에 도입한 것은 이번이 처음이다.

엔씨AI의 세이프가드 기술은 레드팀, 블루팀, 퍼플팀으로 구성된 삼중 보안 구조를 기반으로 한다. 레드팀은 새로운 공격 패턴을 연구하고, 블루팀은 이에 대응하는 방어책을 마련한다. 퍼플팀은 두 팀의 결과를 종합해 정책에 반영하는 순환 구조로 설계됐다.

또한 엔씨AI는 엔씨소프트 퍼블리싱코디네이션 센터와 협력해 게임업계의 특성을 반영한 '챗봇 네거티브 규제 정책'을 수립했다고 밝혔다. 해당 정책에는 게임 서비스 관련 부적절한 내용, 유료 재화 편법, 금지 행위 등이 포함돼 일반적인 AI 안전성 기준보다 강화된 보안 체계가 적용된 점이 특징이다.

세이프가드가 적용된 엔써는 차별·혐오·외설·욕설 등 국제 벤치마크에서 제시하는 차단 기준을 충족하는 동시에, 게임 이용 환경에 특화된 안전 기능을 갖췄다. 회사 측은 실시간 대화 환경에서도 위험 상황을 즉각 탐지·차단할 수 있음을 입증했다고 설명했다.

엔씨AI는 지난 2022년부터 엔씨 AI 윤리 프레임워크를 운영하며 데이터 보호, 사회적 편향 방지, 투명성이라는 3가지 핵심 가치를 중심에 두고 AI 윤리 경영을 실천해왔다. '리니지W'와 '리니지2M'에서는 13개 언어의 광고 패턴을 탐지하고 차단하는 스팸 필터링 시스템을 도입해 게임 내 채팅 환경의 건전성을 유지하는데 사용 중이다.

향후에는 텍스트 분석을 넘어 이미지와 영상까지 검증할 수 있는 비전-언어 모델(VLM) 기반 멀티모달 안전 기술로 확장할 계획이다. 엔씨AI는 현재 정부 주관 '독자 AI 파운데이션 모델' 프로젝트의 주관사로서 국내 연구기관 및 산업계와 협력해 국가 차원의 AI 안전성 표준 마련에도 참여하고 있다.

이연수 엔씨AI 대표는 "이번 세이프가드 기술 적용은 엔씨AI가 AI 안전성 분야에서 기술적 우위를 확보하고, 책임감 있는 AI 개발 기업으로서의 위치를 공고히 하는 중요한 출발점"이라며, "앞으로도 기술 독립과 산업 실증, 글로벌 공헌을 동시에 실현하는 대한민국 AI 전문 기업으로서의 소명을 다할 것"이라고 전했다.