"엄마, 나 마약 카트텔에 납치됐어"... 딸 목소리 복제한 AI에 속아 5,400달러 멕시코 송금

최근 캘리포니아주 마르티네즈(Martinez)에서 인공지능(AI)을 활용한 정교한 보이스피싱 범죄가 발생해 당국이 주의를 당부하고 나섰다.

피해자인 데버라 델 마스트로(Deborah Del Mastro) 씨는 AI로 복제된 딸의 울음 섞인 목소리에 속아 거액을 송금했다.

5시간 동안 이어진 악몽

ABC 7 뉴스 베이 에어리어, 빗디펜더 핫포시큐리티(Bitdefender Hotforsecurity), 12뉴스 (애리조나) 등에 따르면, 델 마스트로 씨는 낯선 번호로부터 걸려온 전화를 받았다.

수화기 너머로는 멕시코 마약 카르텔에 납치되었다고 주장하는 남성의 목소리와 함께, 겁에 질려 울부짖는 딸의 목소리가 들려왔다.

사기범들은 약 5시간 동안 전화를 끊지 못하게 하며, 피해자가 이성적인 판단을 하지 못하도록 긴박한 상황을 계속 연출했다.

딸을 안전하게 풀어주겠다는 범인의 지시에 따라 델 마스트로 씨는 총 5,400달러를 여러 차례에 걸쳐 멕시코로 송금했다.

이후 마스트로 씨는 딸을 만나기로 한 장소에 도착했지만 아무도 없자, 뒤늦게 딸에게 직접 전화를 걸어 직장에서 무사히 근무 중임을 확인했다.

그제야 그녀는 이것이 AI 음성 복제 사기였음을 깨달았다.

현재 경찰은 해당 사건을 접수하고 본격적인 수사에 착수했다.

왜 속았나? '3초'면 충분한 AI 기술

보안 전문가들은 범죄자들이 SNS나 일상적인 통화에서 추출한 몇 초 분량의 음성만으로도 실제와 거의 구별할 수 없는 목소리를 만들어낼 수 있다고 경고한다.

범인들은 '납치', '교통사고', '병원 긴급 수술' 등 극도로 감정적인 상황을 설정해 피해자의 판단력을 흐리게 한다.

생성형 AI 기술이 발전하면서, 이제는 복잡한 범죄 조직이 아니더라도 소규모 사기꾼들이 적은 비용으로 고도의 사기 행각을 벌일 수 있게 되었다.

FBI와 사기 대응 단체들은 이와 같은 피해를 막기 위해 다음과 같이 권고한다.

가족 구성원만 알고 있는 특별한 확인 문구(암호)를 정해두어, 위급 상황 시 실제 상황인지 사기인지 확인하는 것이 필요하다.

금전 송금을 요구하거나 긴박함을 조성하는 전화를 받으면, 일단 전화를 끊고 가족이나 지인의 원래 번호로 직접 연락해 안전 여부를 확인해야 한다.

소셜미디어에 가족의 목소리나 모습이 담긴 영상을 무분별하게 올리는 것을 지양해야 한다. 개인정보 노출을 최소화하는 것이 범죄에 덜 악용 당하는 길이다.