앞으로 딥페이크는 점점 정교해질 거야. 하지만 나 명탐정 매추리에겐 동료 탐정이 있지. 딥페이크의 특징을 학습한 인공지능 탐정이 가짜 영상을 찾아내면 영상이 멀리 퍼지는 걸 막을 수 있거든.
인공지능이 만들고 인공지능이 잡아낸다
딥페이크가 점점 정교해지면서 딥페이크를 가려내는 탐지 기술도 진화하고 있어요. 딥페이크 탐지 기술 역시 인공지능(AI)을 활용합니다. 2022년 미국의 반도체 기업 인텔은 탐지 AI ‘페이크캐처’를 공개했어요. 심장이 박동하며 혈액을 내보내면, 피부 색깔이 미묘하게 변합니다. 페이크캐처는 조작된 영상 속 사람 얼굴의 피부색 변화를 추적한 뒤 실제 영상과 비교해 가며 실시간으로 딥페이크 유무를 분석하죠. 영상을 화소 단위로 분석해 96%의 정확도로 영상이 진짜인지 가짜인지 판단한답니다.
입 모양을 단서로 딥페이크를 가려내는 AI도 있습니다. 2020년, 미국 UC버클리 외 공동 연구팀은 딥페이크 영상 속 인물의 입 모양과 소리 간의 미세한 불일치를 81%의 정확도로 감지하는 AI를 개발했어요. 이 AI는 B(ㅂ), M(ㅁ), P(ㅍ)처럼 발음할 때 입술이 서로 닿는 순음을 감지해 입 모양이 말소리를 잘 따라가는지 확인해요.
딥페이크를 감별하기 위한 기술이 개발되고 있지만, 전문가들은 기술적 대응에는 한계가 있을 것이라고 지적합니다. 딥페이크를 생성하는 새로운 기법이 끊임없이 나타나고 있기 때문이죠. 안성원 실장은 “생성 AI를 나쁘게 쓰는 사례를 막기 위한 제도가 필요하다”고 말했습니다.
딥페이크 선거 게시물 129건 적발?!
우리나라는 지난해 말 공직선거법을 개정해 딥페이크를 이용한 선거 운동을 금지했습니다. 누구든지 선거일 90일 전부터는 선거 운동을 위해 딥페이크 영상 또는 이미지, 음성을 제작하거나 유포할 수 없지요. 1월 29일부터 2월 16일까지 19일간 중앙선거관리위원회는 딥페이크를 이용한 불법 선거 운동 행위를 129건 찾아냈습니다. 영상에서 특정 정치인의 입 모양을 바꿔 다른 말을 하는 것처럼 보이게 하는 영상이 대부분이었어요.
중앙선거관리위원회 사이버조사과 손욱 주무관은 “실제 영상에 가짜 음성만 입혀 놓고 자막을 넣은 영상도 있는데, 이런 건 세심하게 보지 않으면 헷갈릴 수 있어 주의해야 한다”고 말했습니다.
생성형 AI가 학습할 데이터에 눈에 보이지 않는 표시를 붙여 딥페이크를 감별하는 ‘워터마크’ 방식도 주목받고 있어요. 지난해 유럽연합은 세계 최초로 AI 콘텐츠에 워터마크를 의무화하는 법안을 통과시켰습니다. 중앙선거관리위원회 손욱 주무관은 “딥페이크로 의심되는 영상을 볼 때는 공식적인 출처를 찾아 보고 검증하는 습관을 들이는 것이 좋다”고 말했답니다.
