동생에게 방금 전화가 왔어. 협박을 받고 있으니, 돈을 보내달라고 그러네. 그럼, 돈을 바로 보내줘야 하지 않을까? 동생에게 온 전화라도 동생이 아닐 수 있다는 사실, 알고 있어?

▲셔터스톡

전화 속 목소리, 가짜일 수 있다

가족이 아프거나 위기에 처했다는 전화를 받았다고 생각해 보세요. 전화기 너머로 들린 소리가 분명 가족의 목소리와 똑같았지만, 알고 보니 가족이 아니라 가짜 목소리였다면 어떨 것 같나요? 전화로 상대방을 속여서 돈을 빼내는 보이스 피싱 범죄 수법이 점점 교묘해지고 있어요. 목소리를 흉내 내는 ‘딥보이스(Deep Voice)’라는 기술이 등장했기 때문이에요.

딥보이스는 사람의 목소리를 복제해 원하는 대로 말할 수 있는 인공지능(AI) 기술이에요. 누군가의 목소리를 10초 정도 녹음하면 AI가 그 사람의 말투와 억양, 숨소리를 학습해 따라 할 수 있어요. 통역하거나 장애인의 음성을 대체할 때, 그리고 애니메이션 더빙을 할 때 사용하기 위해 개발된 기술이지만 범죄에 악용될 수도 있어요.

딥보이스를 악용해 발생한 범죄 피해 사례도 있어요. 2023년 캐나다에서는 딥보이스로 아들의 목소리를 따라 한 범죄자에게 속아 우리나라 돈으로 약 2000만 원을 보내 피해를 본 사람이 있었어요. 우리나라에서도 2024년 딥보이스를 이용해 동생의 목소리를 흉내 낸 범죄자에게 속아 3500만 원을 보낸 피해자가 있었습니다. 지난 5월 미국 연방수사국(FBI)은 고위 관료를 사칭하는 딥보이스 범죄 피해가 커지고 있다며 미국 공무원들에게 주의하라고 경고하기도 했습니다.

▲CHATGPT

딥보이스, 마음을 파고든다

우리가 딥보이스 범죄에 쉽게 넘어가는 이유는 AI가 목소리를 완벽하게 복제하기 때문이에요. AI는 사람의 감정이 섞인 말투와 억양, 심지어 말버릇까지 따라 할 수 있어요. 전화 통화로 이를 들은 사람은 가족이나 지인이라고 믿게 되지요. 낯선 사람이 전화를 걸어올 때는 의심을 할 수 있지만 익숙한 목소리를 들으면 조금 더 신뢰하고 내용을 듣게 됩니다.

딥보이스는 탐지가 어렵다는 문제도 있어요. AI로 만들어진 목소리는 일반적인 보이스 피싱을 차단하는 애플리케이션이나 시스템으로도 잡아내기 어렵습니다. 보안 전문가들도 진짜 목소리와 가짜 목소리를 듣고 구분하기 쉽지 않아요.

딥보이스는 보이스 피싱뿐 아니라 가짜 뉴스에도 악용될 수 있어요. 유명인의 목소리를 복제해 실제로는 하지 않은 허위 인터뷰를 만들거나, 연예인이 욕설이나 성희롱 발언을 한 것처럼 조작하는 영상을 만들 수 있습니다. 이러한 콘텐츠를 본 사람들은 목소리만 듣고 믿을 수 있습니다. 누군가의 명예를 훼손하고 사회에 혼란을 일으키게 되지요.

딥보이스로 인한 피해를 막으려면 우선 돈을 요구하는 등의 전화를 받았을 때 목소리만 듣고 믿기보다는 영상통화로 얼굴을 확인하거나, 가족만 아는 암호 질문으로 본인이 건 전화가 맞는지 다시 한번 확인하는 습관이 필요해요. 그러기 위해서는 가족과 평소에 서로만 답할 수 있는 질문이나 규칙을 정해두는 준비를 해 두면 좋지요.

다음으로 자신의 목소리를 온라인에 많이 노출하지 않도록 주의해야 해요. 범죄자들은 피해자의 가족과 친구, 동료의 목소리를 수집한 뒤 딥보이스 범죄에 활용하기 때문이에요. 소셜미디어나 유튜브에 올린 우리의 일상이 담긴 영상, 전화 통화 등 우리가 무심코 남긴 목소리도 딥보이스 범죄에 쓰일 수 있는 거예요.

마지막으로 ‘지금 당장 돈을 보내야 한다’는 말을 하면서 긴급한 상황임을 너무 강조한다면 오히려 의심하고 한발 물러날 필요가 있어요. 피해자가 의심하고 고민할 시간을 제한해 잘못된 선택을 하도록 유도하는 수법일 수 있기 때문입니다.

딥보이스가 범죄에 교묘히 악용되는 것처럼 AI는 우리를 도와주는 친구가 될 수도, 경계하지 않고 쓰면 위험한 도구가 될 수도 있어요. AI 사용법을 올바르게 배우고 똑똑하게 사용하는 디지털 시민이 돼 보세요! 우리가 주의하고 미리 대비한다면 범죄도 예방할 수 있습니다.

▲유튜브 채널 <KBS뉴스 전북> 영상 캡처

우수 미션 참가자를 소개합니다! 황은찬(ju0**)

셰어런팅, 단점을 극복하려면?

셰어런팅은 아이의 성장 과정을 기록할 수 있지만, 아이의 의사와 상관 없이 개인 정보가 공개된다는 단점이 있어요. 소셜 미디어에 사진을 올릴 때 얼굴을 스티커로 가리고 이름을 숨기고, 사진 공유 대상을 제한하면 단점을 줄일 수 있어요. 또 어린이에게 최대한 허락을 받고 사진을 올릴 필요가 있어요.

당첨자는 9월 1일까지 robyne98@donga.com으로 이름, 주소, 전화번호를 보내 주세요. 선물을 보내 드려요!