AI telah digunakan untuk meningkatkan efektivitas penipuan di seluruh Asia Pasifik, khususnya melalui video deepfake.
Meta, Suarathailand- Meta telah merilis Laporan Ancaman Adversarial terbaru yang menguraikan upaya skala besar untuk memerangi penipuan daring di seluruh wilayah Asia-Pasifik (APAC) dan mengatasi ancaman yang semakin meningkat dari aktivitas kriminal yang didukung AI, sambil bekerja sama erat dengan lembaga penegak hukum di berbagai negara.
Dalam wawancara Zoom eksklusif dengan Bangkok Post dari Amerika Serikat, David Agranovich, Direktur Kebijakan Keamanan Meta, mengatakan laporan dua tahunan perusahaan tersebut menyoroti perkembangan global utama dalam penipuan, operasi pengaruh, dan penyalahgunaan yang semakin didorong oleh kecerdasan buatan.
Fokus utama laporan ini adalah pembongkaran jaringan kriminal, banyak yang berasal dari Kamboja, yang menyamar sebagai pejabat pemerintah dan polisi untuk menipu korban di seluruh APAC, termasuk Australia, Indonesia, Filipina, Thailand, dan Vietnam.
Laporan tersebut juga menggarisbawahi peningkatan skala dan kecanggihan jaringan penipuan lintas batas di kawasan ini. Menurut Meta, operasi telah berkembang secara signifikan baik dalam ukuran maupun kompleksitas, dengan para penjahat semakin berupaya mengalihkan korban ke aplikasi pesan terenkripsi dan saluran pembayaran alternatif. Mereka menggunakan identitas curian atau palsu yang dirancang agar tampak kredibel secara lokal, sambil meningkatkan skala operasi mereka melalui panduan terprogram dan otomatisasi.
Agranovich mengatakan taktik semacam itu secara konsisten diamati di Australia, Singapura, dan India, di mana penipuan peniruan identitas dan penipuan investasi tetap menjadi ancaman yang paling sering dilaporkan.
AI telah digunakan untuk meningkatkan efektivitas penipuan di seluruh APAC, khususnya melalui video deepfake yang menampilkan kemiripan tokoh publik -- tren yang paling menonjol di Australia dan India -- bersamaan dengan personalisasi massal dalam menjangkau korban.
"Meskipun Meta menanggapi dengan sistem deteksi perilaku canggih dan peringatan percakapan mencurigakan, kami juga telah menerapkan langkah-langkah keamanan AI baru, termasuk Llama Firewall dan kerangka kerja Aturan Dua untuk agen AI, untuk melindungi orang-orang yang menggunakan layanan kami," kata Bapak Agranovich.
Ia menambahkan bahwa Meta telah mendukung penangkapan oleh polisi Singapura yang terkait dengan jaringan penipuan terorganisir sebagai bagian dari kerja sama yang lebih luas dengan lembaga penegak hukum regional. Perusahaan tersebut juga telah mengundang hampir 500.000 tokoh publik untuk mendaftar dalam program pengenalan wajah Meta untuk mengurangi peniruan identitas, masalah yang sangat umum terjadi di Australia, Singapura, dan India.
Pada saat yang sama, Meta telah menghapus sejumlah besar akun palsu dan bekerja sama dengan lembaga penegak hukum, lembaga keuangan, dan mitra lintas sektor melalui inisiatif seperti Satuan Tugas Pusat Penipuan Departemen Kehakiman AS.
Antara Januari dan Oktober, Meta menghapus lebih dari 6.400 akun dan halaman Facebook karena melanggar kebijakan terkait penipuan, kejahatan, dan individu atau organisasi berbahaya, kata Bapak Agranovich. Jaringan tersebut berasal dari Kamboja dan meniru pejabat pemerintah dan polisi dari Amerika Serikat, Australia, Indonesia, Filipina, Thailand, dan Vietnam.
"Investigasi ini merupakan upaya untuk mengganggu jaringan kriminal, dengan fokus khusus pada skema yang disebut 'pemulihan' atau 'penipuan ulang' yang meniru pihak berwenang," katanya. "Penipuan ini menargetkan pengguna yang telah menjadi korban, dengan janji palsu untuk memulihkan dana yang hilang."
Laporan tersebut menyatakan bahwa para penjahat di Indonesia, Filipina, Thailand, dan Vietnam menggunakan logo dan materi yang dirancang agar tampak resmi, termasuk lambang, lencana, dan gambar petugas berseragam. Dalam beberapa kasus, mereka menggunakan nama-nama yang terdengar berwibawa tetapi fiktif seperti "Layanan Investigasi Kejahatan Siber" atau "Aliansi Anti Penipuan".
Kelompok-kelompok tersebut memposting secara publik atau bergabung dengan grup Facebook dan forum online tempat para korban mencari bantuan, kemudian membujuk mereka untuk memindahkan percakapan ke aplikasi obrolan dan mengenakan berbagai biaya dengan dalih investigasi atau pengembalian dana, yang tidak pernah terwujud./Bangkok Post
