[취재수첩] AI 학습위한 개인정보 수집·활용, ‘이루다’가 던진 숙제

2021.01.12 11:31:31 / 이종현 bell@ddaily.co.kr

관련기사
피할 수 없는 '이루다' 논란··· AI 윤리·개인정보 활용 딜레마

[디지털데일리 이종현기자] 인공지능(AI) 챗봇 서비스 ‘이루다’ 문제가 일파만파 커지고 있다. 일부에서 꾸준히 제기되고 있던 AI 윤리에 대한 문제가 대중에게 각인됨에 따라 이에 대한 고민도 깊어질 것으로 보인다.

당초 이루다에 대한 주요 논쟁은 ‘AI를 대상으로 한 성희롱’ 논란이었다. 이것이 동성애 및 인종 차별 등의 ‘AI 편향성’을 비롯해 개개인의 주소 및 계좌정보 등의 ‘개인정보 유출’ 논란으로 확산된 것.

이루다를 대상으로 하는 성희롱 논란은 일부 남성 중심의 커뮤니티를 중심으로 ‘이루다 성노예 만드는법’ 등이 등장하면서 확산됐다. n번방 등으로 민감해진 성 관련 문제인 만큼 다수 매체가 해당 이슈를 다루면서 ‘젠더 이슈’로 비화됐다.

젠더 이슈가 됨에 따라 여성 중심의 커뮤니티에서 이뤄지는 알페스(Real Person Slash)와 비교하며 “2D 인권 챙길 시간에 알페스나 공론화해라”는 비판이 제기됐다.

하지만 이와 같은 비교는 다소 잘못된 접근법이다. 알페스가 심각한 성범죄인 것은 사실이나 이는 개개인의 활동이다. 제품화된 이루다에 대한 비판과는 온도차가 있을 수밖에 없다.

소모적인 젠더 이슈를 떼고 본다면, 이루다의 사례는 우리 사회에 큰 숙제를 던질 것으로 예상된다.

AI 편향성 논란은 꾸준히 제기됐다. 지난 2016년 마이크로소프트(MS)가 출시한 AI 챗봇 서비스 ‘테이(Tay)’가 대표적 예다. 일부 사용자가 테이에게 인종 차별 발언을 쏟아내며 이를 학습시켰고, 결국 테이는 홀로코스트(나치에 의한 유대인 학살)가 조작된 것이라는 등의 답변을 내놓게 됐다.

AI는 결국 어떤 데이터를 학습시키느냐에 따라 달라진다. 가령 이루다가 가진 편향성은 우리 사회에 존재하는 인식이다. AI가 사악해서 나쁜 표현을 하는 것이 아니다. 해당 책임을 온전히 AI에 가하는 것은 부당하다는 지적이 제기되는 이유다.

이와 같은 AI 편향성 논란이 도덕성에 대한 이슈라면, 이루다의 개인정보 활용 및 유출 논란은 보다 치명적이다.

AI는 우리 일상과 떼놓을 수 없는 관계가 됐다. 이런 AI가 학습을 통해 민감한 데이터를 무작위로 학습하고, 이를 제3자에게 제공한다면 미치는 영향력은 예상하기 어려울 정도다. AI 스피커를 사용 중인 이들은 AI 스피커 앞에서 ‘말조심’을 해야 한다.

AI를 떼고 보더라도, 기업이 과도하게 개인정보를 수집·활용한다는 비판을 피하기 어려울 것으로 예상된다. 이루다의 개발사인 스캐터랩은 개인정보 취급방침을 통해 ‘신규 서비스 개발 및 맞춤 서비스 제공’이라는 항목을 바탕으로 이루다 개발에 ‘연애의과학’ 대화 데이터를 활용했다는 입장이지만 이는 받아들여지기 어렵다는 것이 학계 지적이다.

이루다의 개인정보 활용·유출 논란은 데이터 활용과 AI를 강조하던 정부, 산업계의 방침에도 제동이 걸릴 수 있는 심각한 사건이다. 대중들이 바란 AI는 삶을 편하게 만들어주는 것이지, 광범위하게 데이터를 수집·활용하며 해를 끼치는 터미네이터의 ‘스카이넷’이 아니기 때문이다.

개인정보보호법에서는 매출액의 3%라는 징벌적 처벌을 두고 있다. 다만 이 처벌이 스캐터랩 입장에서는 다행이다. 스타트업이기 때문에 만약 과징금이 부과되더라도 그 액수가 크지는 않을 터다. 만약 대기업에서 유사한 문제가 발생했다면 기업 운영에 타격이 갈 수도 있었을 것이다.

AI는 피할 수 없는 흐름이다. 이제 첫발을 내딛는 AI 산업계이니만큼 과도한 규제는 피해야 한다. 하지만 산업 성장이라는 명목하에 마냥 손 놓을 수도 없다.

때마침 한국인터넷진흥원(KISA)의 신임 원장으로 AI 윤리·개인정보 전문가가 취임했다. 정보보호에 치중된 역할을 수행하던 KISA에 전문성이 없는 낙하산 인사라는 비판이 제기됐으나 이루다 사건으로 야기될 문제를 깊이 있게 들여다볼 수 있다는 긍정론도 고개를 들고 있다.

이루다 사건을 계기로, 소모적인 논쟁이 아닌 미래 지향적인 논의가 이어질 것을 기대한다.

<이종현 기자>bell@ddaily.co.kr



네이버 뉴스스탠드에서 디지털데일리 뉴스를 만나보세요.
뉴스스탠드


  • IT언론의 새로운 대안-디지털데일리
    Copyright ⓒ 디지털데일리. 무단전재 및 재배포 금지
 
[이지크로] 안전하고 믿을 수 있는 에스크로
  • 동영상
  • 포토뉴스
11번가, 라방으로 ‘갤럭시S21’ 16억원치 팔… 11번가, 라방으로 ‘갤럭시S21’ 16억원치 팔…
  • 11번가, 라방으로 ‘갤럭시S21’ 16억원치 팔…
  • SK 사회적기업‧장애인표준사업장, ‘행복로…
  • 삼성전자, 세탁기도 살균…‘그랑데 통버블’…
  • 삼성전자 ‘갤럭시S21’ 21일까지 예판…무…