d라이브러리

인공지능(AI)이 현실의 편견마저 학습하고 있는 것으로 드러났다. 조이 부올람위니 미국 매사추세츠공대(MIT) 미디어랩 연구원은 2월 23일 미국 뉴욕에서 열린 ‘기계학습연구학회’에서 얼굴인식 AI가 피부색이 어두워질수록 오차율이 높다고 밝혔다.

연구팀은 미국의 마이크로소프트, IBM, 중국의 메그비 등 3사의 AI 얼굴인식 시스템을 이용해 사진 1270장을 분석했다. 백인 남성의 경우 3사 모두 오차율이 1% 미만으로 낮았지만, 백인 여성은 7%, 흑인 남성은 12%로 나타났다. 흑인 여성의 경우 오차율은 최대 35%였다. 3사 모두 백인보다 흑인이, 남성보다는 여성의 오차율이 더 높았다.

연구팀은 논문에서 “인공지능에 사용하는 데이터가 백인과 남성을 중심으로 구성돼 있다”며 “현실 세계의 편견과 차별이 인공지능에까지 영향을 미치지 않도록 경계해야 할 것”이라고 강조했다.

Proceedings of Machine Learning Research 81:1–15, 2018