Teknologi kecerdasan buatan yang berkembang pesat telah menghancurkan batasan antara realitas dan fiksi, memberikan para penjahat siber alat kloning suara yang sangat meyakinkan untuk mencuri dari orang-orang dengan meniru orang-orang terkasih.
AS, Suarathailand- Liz Benz masih percaya suara penelepon yang tampak cemas itu adalah suara putranya -- nada, pengucapan, dan intonasinya semuanya cocok dengan putranya yang berusia 16 tahun.
Namun itu adalah klon AI, menjadikan ibu asal Amerika ini korban lain dari gelombang penipuan peniruan suara yang semakin meningkat.
Teknologi kecerdasan buatan yang berkembang pesat telah menghancurkan batasan antara realitas dan fiksi, memberikan para penjahat siber alat kloning suara yang sangat meyakinkan untuk mencuri dari orang-orang dengan meniru orang-orang terkasih.
Benz yang tinggal di Buffalo tersentak dari sofanya oleh panggilan dari nomor yang tidak dikenal. Di ujung telepon terdengar seseorang yang suaranya seperti putranya, Fred, meminta bantuan.
Ia diberitahu bahwa teman Fred telah ditembak dan dibunuh, dan putranya – yang sedang menonton pertandingan sepak bola lokal – disandera.
Akhirnya, sebuah swafoto dari Fred yang tersenyum di pertandingan tersebut membawanya kembali ke kenyataan: panggilan itu, ia sadari, adalah penipuan yang rumit.
"Tidak ada yang bisa mempersiapkan saya untuk mendengar suara putra saya, dan tidak ada yang bisa meyakinkan saya bahwa ini adalah penipuan sampai saya melihat putra saya dengan mata kepala sendiri," kata Benz kepada AFP, suaranya bergetar.
"Itu adalah 20 menit yang penuh teror."
Siapa pun Bisa Melakukannya
Pihak berwenang AS dan advokat konsumen semakin memperingatkan tentang penipuan yang dibangun di sekitar peniruan anggota keluarga.
FBI mengatakan pada bulan April bahwa warga Amerika kehilangan lebih dari $893 juta tahun lalu karena tipuan yang didukung AI, termasuk penipuan kloning suara.
Pencarian internet sederhana dapat menampilkan berbagai aplikasi kloning suara, banyak yang tersedia secara gratis, yang menciptakan replika AI yang realistis menggunakan sampel kecil -- terkadang hanya beberapa detik -- dari suara asli seseorang.
"Dulu agak sulit untuk membuat hal-hal ini. Sekarang siapa pun dapat melakukannya dalam hitungan detik," kata Brian Long, kepala eksekutif Adaptive Security, sebuah perusahaan yang menawarkan pelatihan tentang perlindungan penipuan AI.
"Satu orang di ruangan dengan keyboard dapat menciptakan penyerang dalam jumlah tak terbatas," kata Long kepada AFP, menambahkan bahwa alat AI dapat membangun seluruh skrip dari cuplikan audio yang diambil dari media sosial atau rekaman pesan suara.
Kisah Benz menyoroti skrip yang familiar: panggilan yang sarat emosi yang konon berasal dari orang terkasih yang sedang dalam kesulitan -- ditangkap, mengalami kecelakaan mobil, atau terlibat dalam kejahatan -- yang membutuhkan uang.
Kemudian para penipu biasanya menambah tekanan, menambahkan suara yang mengaku sebagai pengacara, petugas pengadilan, atau teller bank -- sejumlah karakter fiktif dalam panggilan yang kacau dan terdengar mendesak.
Banyak penipuan darurat keluarga bahkan tidak memerlukan klon suara yang sempurna.
"Suara yang tampak cemas yang mengatakan 'ibu, tolong saya' atau 'ayah, saya mengalami kecelakaan' mungkin hanya perlu terdengar meyakinkan selama beberapa detik," kata Amit Gupta, wakil presiden manajemen produk di perusahaan keamanan siber Pindrop, kepada AFP.
"Tujuannya bukan replikasi suara yang sempurna. Tujuannya adalah menciptakan ketidakpastian emosional dan urgensi yang cukup sehingga korban bertindak sebelum memverifikasi."
Sejak mempublikasikan kisahnya, Benz mengatakan dia telah menerima banyak pesan dari korban lain, banyak di antaranya memilih untuk tetap anonim karena rasa malu yang melekat.
Orang lanjut usia sangat rentan, dengan para ahli memperingatkan meningkatnya kasus "penipuan kakek-nenek."
FBI mengatakan warga Amerika berusia di atas 60 tahun melaporkan kerugian lebih dari $7,7 miliar tahun lalu, peningkatan signifikan dibandingkan tahun 2024.
"Mereka adalah para profesional, dan ketika mereka menghubungi orang melalui telepon, mereka berurusan dengan amatir," kata pengacara Philadelphia Gary Schildhorn, yang menghadapi serangan serupa pada tahun 2020.
Seperti Benz, ia kemudian bermitra dengan Adaptive Security untuk meningkatkan kesadaran publik tentang ancaman tersebut.
Pada tahun 2023, Schildhorn bersaksi di hadapan Senat AS tentang pengalamannya dengan panggilan penipuan di mana suara yang meniru putranya, Brett, mengklaim bahwa ia perlu membayar uang jaminan setelah penangkapan karena mengemudi dalam keadaan mabuk.
Panggilan itu membuat Schildhorn, yang kini berusia 73 tahun, bergegas ke banknya.
"Ketika saya sampai di bank, telepon saya berdering. Itu putra saya," katanya kepada AFP. "Dia bilang, 'Anda telah ditipu,'" kata Schildhorn.
"Saya berkata, 'Brett, saya akan bersumpah sampai mati bahwa itu suaramu, itu intonasimu, itu kata-kata yang biasa kau gunakan. Tidak ada aksen. Itu kau di telepon.'"
