d라이브러리

인공지능(AI) 스타트업 ‘스캐터랩’이 개발한 대화형 AI ‘이루다’가 혐오 및 개인정보 유출 논란으로 폐기 수순에 들어갔다. 스캐터랩은 이루다가 학습한 데이터베이스(DB)와 딥러닝 모델을 폐기하겠다고 1월 15일 밝혔다.

이루다는 지난해 12월 23일 페이스북 메신저를 기반으로 출시된 AI 챗봇 서비스다. 스캐터랩은 2016년 출시한 연애 분석 앱 ‘연애의 과학’으로 수집한 카카오톡 데이터 약 100억 건 중 1억 건을 이루다의 딥러닝 재료로 사용했다. 

이루다는 자연스러운 대화 기능으로 인기를 끌었으나, 악성 이용자들에게 성적 도구 취급을 당하는 한편, 동성애와 장애인, 여성에 대한 차별 발언을 쏟아내 사회적 논란을 일으켰다. 

전문가들은 데이터에는 편향성이 존재할 수밖에 없으므로 AI 개발 과정에서 적절한 장치가 필요하다는 입장이다.  

조성배 연세대 인공지능대학원장(컴퓨터과학과 교수)은 “전 세계 연구자들이 딥러닝에 쓰이는 데이터를 전처리하거나, 딥러닝 모델을 만들 때 편향적인 데이터를 거를 수 있게 하거나, 완성된 딥러닝 모델을 평가해서 보정하는 등 공정한 AI를 만들기 위해 다양한 방법을 시도하고 있다”며 “수학적 기법에 의해 자동으로 만들어지는 AI를 윤리적으로 완벽하게 만드는 건 쉬운 일이 아닌 만큼 효율적인 (학습) 방법을 찾아나가는 중”이라고 덧붙였다.