Internet Watch Foundation mengatakan bahwa gambar pelecehan seksual anak yang dihasilkan AI telah berkembang dengan kecepatan yang “menakutkan”.
Suarathailand- Chatbot kecerdasan buatan (AI) milik Elon Musk, Grok, mengatakan “kelalaian dalam pengamanan” menyebabkan pembuatan gambar-gambar seksual anak di bawah umur yang diunggahnya ke situs media sosial X.
Grok disorot publik setelah membuat gambar-gambar anak di bawah umur dengan pakaian minim sebagai respons terhadap permintaan pengguna selama beberapa hari terakhir.
“Kami telah mengidentifikasi kelalaian dalam pengamanan dan sedang segera memperbaikinya,” tulis Grok pada hari Jumat, menambahkan bahwa materi pelecehan seksual anak adalah “ilegal dan dilarang.”
Munculnya alat kecerdasan buatan (AI) yang dapat menghasilkan gambar-gambar realistis anak di bawah umur tanpa busana menyoroti tantangan moderasi konten dan sistem keamanan yang dibangun ke dalam model bahasa besar penghasil gambar.
Bahkan alat yang mengklaim memiliki pengaman pun dapat dimanipulasi, memungkinkan proliferasi materi yang telah membuat para pendukung keselamatan anak khawatir.
Internet Watch Foundation, sebuah organisasi nirlaba yang mengidentifikasi materi pelecehan seksual anak secara daring, melaporkan peningkatan 400% dalam citra yang dihasilkan AI tersebut dalam enam bulan pertama tahun 2025.
XAI telah memposisikan Grok sebagai lebih permisif daripada model AI arus utama lainnya, dan musim panas lalu memperkenalkan fitur yang disebut "Spicy Mode" yang mengizinkan ketelanjangan sebagian orang dewasa dan konten yang bersifat seksual.
Layanan tersebut melarang pornografi yang melibatkan kemiripan orang sungguhan dan konten seksual yang melibatkan anak di bawah umur, yang ilegal untuk dibuat atau didistribusikan.
Perwakilan dari xAI, perusahaan yang mengembangkan Grok dan menjalankan X, tidak segera menanggapi permintaan komentar.
Seiring dengan semakin populernya pembuatan gambar AI, perusahaan-perusahaan terkemuka di balik alat-alat tersebut telah merilis kebijakan tentang penggambaran anak di bawah umur.
OpenAI melarang materi apa pun yang menseksualisasi anak di bawah usia 18 tahun dan melarang pengguna mana pun yang mencoba menghasilkan atau mengunggah materi tersebut.
Google memiliki kebijakan serupa yang melarang “gambar yang dimodifikasi dari anak di bawah umur yang dapat diidentifikasi yang terlibat dalam perilaku seksual eksplisit.”
Black Forest Labs, sebuah perusahaan rintisan AI yang sebelumnya bekerja dengan X, termasuk di antara banyak perusahaan AI generatif yang mengatakan bahwa mereka menyaring gambar pelecehan dan eksploitasi anak dari kumpulan data yang digunakan untuk melatih model AI.
Pada tahun 2023, para peneliti menemukan bahwa kumpulan data publik besar yang digunakan untuk membangun generator gambar AI populer berisi setidaknya 1.008 contoh materi pelecehan seksual anak.
Banyak perusahaan telah menghadapi kritik karena gagal melindungi anak di bawah umur dari konten seksual.
Meta Platforms Inc mengatakan pada musim panas lalu bahwa mereka memperbarui kebijakannya setelah laporan Reuters menemukan bahwa aturan internal perusahaan memungkinkan chatbot mereka untuk melakukan percakapan romantis dan sensual dengan anak-anak.
Internet Watch Foundation mengatakan bahwa gambar pelecehan seksual anak yang dihasilkan AI telah berkembang dengan kecepatan yang “menakutkan”, dengan materi yang menjadi lebih realistis dan ekstrem.
Dalam banyak kasus, alat AI digunakan untuk secara digital menghilangkan pakaian dari seorang anak atau remaja untuk menciptakan gambar yang diseksualisasi, kata lembaga pengawas tersebut. Bangkok Post
