어떤 사진이 실제 사람이고, 어떤 사진이 인공지능(AI)이 만든 사람일까요? 아래 6개 얼굴 중 진짜 사람의 얼굴은 몇 번인지 골라 보세요.
진짜 얼굴과 가짜 얼굴, 구분할 수 있을까?
딥페이크는 인공지능(AI)을 활용해 진짜 같은 가짜 콘텐츠를 만드는 기술이에요. 세상에 없던 얼굴을 만들어 낼 수 있고, 유명인의 사진 몇 장만으로 실제로는 하지 않은 말과 행동을 하는 모습을 꾸며낼 수도 있지요. 그런데 AI로 만든 얼굴이 진짜인지 가짜인지 구분하기는 점점 어려워지고 있습니다. 심지어는 AI가 만든 얼굴이 실제 사람 얼굴보다 더 진짜처럼 보이는 경우도 있지요.
지난해 11월, 호주국립대학교 에이미 다웰 교수팀은 AI로 만들어진 얼굴이 실제 사람의 얼굴보다 더 현실적으로 인식된다는 연구 결과를 발표했어요. 연구팀은 실험 참가자 124명에게 AI가 생성한 얼굴 사진 50장과 실제 사람 사진 50장을 보여줬어요. 그 결과, AI로 만든 얼굴을 실제 사람으로 인식할 확률은 65.9%로, 진짜 사람의 얼굴을 실제 인간으로 인식할 확률보다 14.8% 높았지요. 에이미 다웰 교수는 “AI가 만든 얼굴을 구별하기 어렵기 때문에 이를 정확하게 가려낼 수 있는 도구가 필요하다”고 말했습니다.
딥페이크, 선거의 방해꾼?
올해는 전 세계 76개국에서 선거가 치러지는 선거의 해입니다. 우리나라도 4월 10일 국회의원을 뽑는 선거가 예정돼 있죠. 그런데 선거를 앞두고 AI로 만든 영상, 이미지, 음성을 통해 거짓 정보가 퍼지는 사례가 점점 늘고 있습니다.
미국에서는 지난해 3월, 도널드 트럼프 전 미국 대통령이 경찰에 체포된 모습을 담은 가짜 사진이 소셜 미디어를 통해 널리 퍼졌어요. 사진을 처음 올린 미국인 엘리엇 히긴스는 이미지 생성 AI인 미드저니를 통해 사진을 제작했다고 밝혔습니다. 하지만 일부 사람들은 이 가짜 사진을 실제 사진으로 착각하고 ‘트럼프가 경찰에 체포됐다’는 글과 함께 공유해 혼란을 일으켰지요.
지난 1월 22일에는 미국 뉴햄프셔주의 유권자 2만 5000명에게 조 바이든 미국 대통령의 목소리로 ‘투표하지 말라’는 전화가 걸려 왔습니다. 이는 바이든 대통령의 목소리를 AI로 복제해 만든 가짜 음성으로, 평소 바이든 대통령의 말씨와 억양까지 그대로 닮아 있었죠. 2022년 4월에는 러시아와 전쟁 중인 볼로디미르 젤렌스키 우크라이나 대통령이 러시아에 항복을 선언하는 가짜 영상이 유포되기도 했습니다. 두 사건 모두 누가, 왜 가짜 음성을 만들어 유포했는지는 아직 밝혀지지 않았어요.
AI로 세상에 없던 가상의 인물을 만들어 가짜 뉴스를 퍼뜨리는 사례도 있어요. 지난해 3월 베네수엘라 국영 방송국 VTV는 베네수엘라를 홍보하기 위해 AI로 만든 가짜 앵커를 내세워 거짓 정보를 퍼뜨렸습니다. 소프트웨어정책연구소 안성원 실장은 “선거와 관련한 딥페이크는 유권자들에게 혼란을 주고 선거 결과에 영향을 미칠 수 있어 기술적, 법적 대응이 필요하다”고 말했습니다.
