[디지털데일리 이나연기자] 인공지능(AI) 기술이 급격하게 발전 확산하면서 ▲할루시네이션(환각·허위 정보 생성) ▲저작권 문제 ▲선정적 대화 악용이 AI 산업 신뢰와 지속 가능성을 확보하기 위한 핵심 과제로 부상했다. 이들 요소는 AI 서비스를 제공할 때 장벽으로 꼽히는 만큼, 기업별 대응 방안이 향후 시장 우위를 가르는 기준이 될 전망이다.

최근 국내외 주요 AI 기업은 각사 서비스 신뢰를 높기 위한 정책들을 채택하고 있다. 신뢰성과 안전성 저하의 주요 원인이 되는 할루시네이션은 AI가 사실과 다른 정보를 그럴듯하게 만드는 현상을 말한다.

업계 분석에 따르면 미국 오픈AI와 중국 딥시크 등 AI 기업들의 최신 모델에서도 할루시네이션 발생률이 적게는 30~50%에 이르는 것으로 나타났다. 기업들은 고품질 데이터를 엄선해 AI 모델 학습에 활용하고, 프롬프트(텍스트 명령어) 설계를 개선하며, 검증 단계를 재정비하는 등 방법을 병행하고 있다.

차세대 표준으로 확산 중인 검색증강생성(RAG) 경우, 거대언어모델(LLM)과 검색 시스템을 결합한 접근 방식이다. 외부 데이터베이스나 지식 베이스에서 필요한 정보를 검색하고 이를 LLM과 결합해 정교한 응답을 생성해 답변 정확도와 실시간성을 강화할 수 있다.

RAG은 구글 딥마인드, 마이크로소프트, 오픈AI, 앤트로픽, 코히어 등 해외 빅테크(거대 기술 기업)뿐만 아니라 삼성SDS와 코난테크놀로지, LG AI연구원, 솔트룩스, 스켈터랩스 등 국내 기업들 사이에서 빠지지 않는 핵심 기술이다.

'AI 시대 석유'라고 불리는 데이터는 저작권 보호 문제에서 자유로울 수 없다는 숙제가 있다. 기업들은 AI 데이터 전문 판매처(플랫폼)에서 필요한 데이터를 정식 구매하는 데서 나아가 저작권자와 직접적인 협업을 꾀하고 있다.

네이버는 자사 LLM인 '하이퍼클로바X'를 학습할 때 뉴스 콘텐츠를 사용할 수 있다는 근거 규정을 두었지만, 언론계에서 뉴스 무단 활용 의혹과 저작권 침해 소송 등이 잇따랐다. 회사 측은 해당 규정을 지우는 식으로 약관을 개정하고 지난달에는 종합 미디어 기업 브릴리언트 코리아와 업무 협약도 맺었다.

네이버가 AI 기술 솔루션을 제공하면 브릴리언트 코리아는 AI 서비스를 위한 콘텐츠 제공에 협력하는 구조다. 브릴리언트 코리아는 경제지 머니투데이와 통신사 뉴스1, 뉴시스, 경제방송 MTN 등을 보유하고 있다. 업계에서는 국가 차원에서 AI 기업들이 합법적으로 데이터를 확보할 수 있는 각종 지원책과 법안이 필요하다는 목소리가 꾸준하다.

본격적인 수익화에 시동을 건 서비스 형태인 'AI 에이전트(비서)'는 일반 이용자 향 기준 선정적인 대화 악용 등이 지속 지적된다. 업계는 기술·운영적 조치를 통해 사전 예방과 사후 대책에 나서는 모습이다. 일례로, 콘텐츠 필터링 시스템은 선정적이거나 불법적인 내용 등 민감한 주제 대화를 사전에 차단한다. 실시간 모니터링과 위험 사용자 경고·차단, 계정 정지 등도 이뤄진다.

다만 이같은 조치는 모든 상황에 대응하지 못한다는 한계가 있다. 국내 스타트업 스캐터랩이 2020년 12월 출시한 AI 챗봇 '이루다'는 AI 대상 성희롱 논란과 혐오·차별 발언으로 논란의 중심에 섰고, 출시 20일만에 서비스가 전면 중단됐다. 당시 이용자들은 필터링을 우회하는 방식으로 성적 대화를 유도하는 등 이루다를 악의적으로 활용하면서 사태가 커졌다.

소프트웨어정책연구소(SPRi)는 '2024년 국내외 인공지능 산업 동향 연구'에서 올해 이후 AI 기술의 윤리적 활용을 보장하기 위한 글로벌 규제와 통합된 표준이 본격적으로 시행되리라 내다봤다.

연구소는 "공공과 민간 부문 협력을 중심으로 AI 거버넌스가 성숙할 것"이라며 "기술적 측면에서는 편향을 줄이고 공정성을 강화하기 위한 AI 알고리즘 투명화와 검증이 일반화될 것"이라고 말했다. 이어 "AI 개발 초기 단계부터 윤리적 기준을 반영하는 '윤리 중심 설계' 접근법이 확산할 것으로 보인다"고 전했다.