d라이브러리

생성 인공지능(AI)의 발전으로 이제 AI로 만든 얼굴은 진짜 인간의 얼굴과 구분하기 힘들 정도로 비슷해졌다. 2023년 11월 13일, 에이미 다웰 호주 국립대 의대 심리학과 교수팀은 국제학술지 ‘심리과학’에 AI로 만들어진 얼굴이 진짜 얼굴보다 더 현실적으로 인식된다는 연구 결과를 발표했다. ^{doi: 10.1177/09567976231207095}

연구팀은 실험에 참가한 백인 124명에게 실제 사람의 얼굴 사진 50개와 AI로 만든 얼굴 이미지 50개를 보고 무엇이 진짜 사람의 얼굴인지 가려내달라고 요청했다. 그 결과, AI로 만든 백인 얼굴 이미지를 실제 사람으로 인식할 확률은 65.9%로, 실제 백인의 얼굴 사진을 사람이라 인식할 확률인 51.1%보다 14.8%p나 높았다. 반면 백인이 아닌 다른 인종의 경우, AI 얼굴과 실제 얼굴 사이의 인식률 차이가 크지 않았다. 다웰 교수는 이 결과에 대해 보도자료에서 “AI 알고리즘이 주로 백인의 사진을 통해 훈련됐기 때문”이라고 분석했다.

나아가 연구팀은 사람들이 왜 AI 얼굴을 실제 사람으로 착각하는지 알아보기 위해, 실험 참가자들에게 실제 사람의 얼굴을 가려내는 과정에서 어떤 특징을 살펴봤는지 물었다. 이를 통해 참가자들이 ‘피부가 매끄러운가’ ‘사진 속 사람이 눈을 맞추고 있는가’ 등 14가지 범주의 특징을 관찰한다고 결론 내렸다.

연구팀은 이 14가지 특징 중 ‘얼굴의 비율이 맞는가’ ‘친숙한가’ ‘기억에 남는 얼굴인가’라는 세 가지 특성이 AI 얼굴 이미지를 더욱 실제 사람처럼 느끼게 하는 데 일조한다고 분석했다. 생성 AI의 경우 이전에 모은 얼굴 빅데이터를 기반으로 평균적인 얼굴 이미지를 만든다. 그런데 위 세 가지 특징은 생성 AI로 만들어진 ‘평균적인 느낌의 얼굴’에서 특히 강조되기 때문에 사람들을 속게 만든다는 것이다.

연구팀은 진짜보다 더 진짜 같은 AI 얼굴이 “잘못된 정보 확산과 신원 도용에 심각한 영향을 미칠 수 있으므로 조치가 취해져야 한다”고 주장했다. 다웰 교수는 “인간이 더 이상 AI 얼굴을 가려낼 수 없으므로, AI 사기꾼을 정확하게 식별할 수 있는 도구가 필요하다”며 “큰 문제가 생기기 전에 AI 기술의 투명성이 높아져야 한다”고 말했다.