Seorang orang tua mengatakan putrinya yang berusia 14 tahun datang kepadanya "menangis histeris" setelah menemukan foto telanjangnya yang dibuat dengan AI beredar di antara teman-temannya.
Washington, Suarathailand- Suaranya diwarnai kemarahan, seorang ibu Amerika khawatir tentang masa depan putrinya yang masih remaja, salah satu dari puluhan gadis yang menjadi sasaran skandal pornografi yang menggunakan AI yang mengguncang sekolah AS.
Kontroversi yang melanda Lancaster Country Day School di Pennsylvania tahun lalu menyoroti situasi normal baru bagi murid dan pendidik yang berjuang untuk mengimbangi maraknya alat kecerdasan buatan yang murah dan mudah didapat yang telah memfasilitasi deepfake hiperrealistis.
Seorang orang tua, yang berbicara kepada AFP dengan syarat anonim, mengatakan putrinya yang berusia 14 tahun datang kepadanya "menangis histeris" musim panas lalu setelah menemukan foto telanjangnya yang dibuat dengan AI beredar di antara teman-temannya.
"Apa konsekuensinya bagi jangka panjangnya?" kata sang ibu, menyuarakan kekhawatiran bahwa gambar yang dimanipulasi itu dapat muncul kembali ketika putrinya mendaftar ke perguruan tinggi, mulai berkencan, atau memasuki pasar kerja.
"Anda tidak dapat mengatakan bahwa itu palsu."
Beberapa tuduhan -- termasuk pelecehan seksual terhadap anak-anak dan kepemilikan pornografi anak -- diajukan bulan lalu terhadap dua remaja laki-laki yang menurut pihak berwenang telah membuat gambar-gambar tersebut.
Penyelidik menemukan 347 gambar dan video yang memengaruhi total 60 korban, sebagian besar dari mereka adalah siswi di sekolah swasta, di aplikasi perpesanan Discord.
Semuanya kecuali satu berusia di bawah 18 tahun.
'Mengkhawatirkan'
Skandal tersebut merupakan yang terbaru dalam gelombang insiden serupa di sekolah-sekolah di seluruh negara bagian AS -- dari California hingga New Jersey -- yang menyebabkan peringatan dari FBI tahun lalu bahwa materi pelecehan seksual anak tersebut, termasuk gambar realistis yang dihasilkan AI, adalah ilegal.
"Munculnya AI generatif telah bertabrakan dengan masalah lama di sekolah: tindakan berbagi gambar intim tanpa persetujuan," kata Alexandra Reeve Givens, kepala eksekutif lembaga nirlaba Center for Democracy & Technology (CDT).
"Di era digital, anak-anak sangat membutuhkan dukungan untuk menghadapi pelecehan yang dimungkinkan oleh teknologi."
Survei CDT terhadap sekolah umum September lalu menemukan 15 persen siswa dan 11 persen guru mengetahui setidaknya satu "deepfake yang menggambarkan seseorang yang terkait dengan sekolah mereka secara eksplisit atau intim secara seksual."
Gambar yang tidak disetujui tersebut dapat menyebabkan pelecehan, perundungan, atau pemerasan, terkadang menyebabkan konsekuensi kesehatan mental yang menghancurkan.
Ibu yang berbicara kepada AFP mengatakan bahwa dia mengetahui korban yang tidak masuk sekolah, mengalami kesulitan makan, atau memerlukan perhatian medis dan konseling untuk mengatasi cobaan tersebut.
Dia mengatakan bahwa dia dan orang tua lainnya yang dibawa ke kantor detektif untuk memeriksa deepfake tersebut terkejut menemukan gambar cetak yang ditumpuk setinggi "satu setengah kaki".
"Saya harus melihat foto putri saya," katanya.
"Jika seseorang melihat, mereka akan mengira itu asli, jadi itu lebih merusak."
'Eksploitasi'
Para pelaku yang diduga, yang namanya belum dirilis, dituduh mengambil gambar dari media sosial, mengubahnya menggunakan aplikasi AI, dan membagikannya di Discord.
Sang ibu mengatakan kepada AFP bahwa foto palsu putrinya sebagian besar diubah dari foto publik di halaman Instagram sekolah serta tangkapan layar panggilan FaceTime.
Pencarian daring sederhana memunculkan lusinan aplikasi dan situs web yang memungkinkan pengguna membuat "deepnude," melepas pakaian secara digital, atau menempelkan wajah tertentu ke gambar porno.
"Meskipun hasilnya mungkin tidak serealistis atau semenarik hasil rekayasa profesional, layanan ini berarti bahwa tidak diperlukan keterampilan teknis untuk menghasilkan konten deepfake," Roberta Duffield, direktur intelijen di Blackbird.AI, mengatakan kepada AFP.
Hanya segelintir negara bagian AS yang telah mengesahkan undang-undang untuk menangani deepfake yang eksplisit secara seksual, termasuk Pennsylvania pada akhir tahun lalu.
Kepemimpinan puncak di sekolah Pennsylvania itu mengundurkan diri setelah orang tua korban mengajukan gugatan hukum yang menuduh administrasi sekolah gagal melaporkan aktivitas tersebut ketika mereka pertama kali diberitahu tentang hal itu pada akhir tahun 2023.
Peneliti mengatakan sekolah tidak siap untuk mengatasi ancaman teknologi AI yang berkembang pesat, sebagian karena hukum masih berupaya mengejar ketertinggalan.
"Gadis-gadis di bawah umur semakin menjadi sasaran eksploitasi deepfake dari teman-teman, kolega, dan teman sekelas sekolah mereka," kata Duffield.
"Otoritas pendidikan harus segera mengembangkan kebijakan yang jelas dan komprehensif terkait penggunaan AI dan teknologi digital."
