Menteri Indonesia mengatakan deepfake merupakan ‘pelanggaran serius terhadap hak asasi manusia, martabat, dan keamanan warga negara’ secara online.
Jakarta, Suarathailand- Indonesia menjadi negara pertama di dunia yang memblokir chatbot Grok milik Elon Musk karena risiko konten pornografi palsu yang dihasilkan AI.
Menteri Komunikasi dan Urusan Digital Indonesia mengatakan pada hari Sabtu bahwa “praktik deepfake seksual tanpa persetujuan” merupakan “pelanggaran serius terhadap hak asasi manusia, martabat, dan keamanan warga negara di ruang digital”.
“Untuk melindungi perempuan, anak-anak, dan masyarakat dari risiko konten pornografi palsu yang dihasilkan menggunakan teknologi kecerdasan buatan, pemerintah… telah memblokir sementara akses ke aplikasi Grok,” kata Meutya Hafid dalam sebuah pernyataan.
Langkah ini dilakukan sehari setelah Grok membatasi fitur pembuatan dan pengeditan gambar di platform media sosial X milik Musk hanya untuk pelanggan berbayar sebagai upaya untuk meredam kritik yang meningkat terhadap deepfake.
Musk telah diancam dengan denda karena beberapa negara secara terbuka menentang Grok, yang memungkinkan pengguna untuk mengubah gambar online untuk menghilangkan pakaian subjek.
Miliarder itu mengatakan siapa pun yang menggunakan Grok untuk membuat konten ilegal akan menghadapi konsekuensi yang sama seperti mengunggah materi tersebut secara langsung.
Namun, pejabat Eropa dan aktivis teknologi mengecam langkah minggu ini untuk membatasi fitur alat AI tersebut hanya untuk pelanggan berbayar di X, dengan mengatakan bahwa langkah itu gagal mengatasi kekhawatiran mereka.
Kantor Perdana Menteri Inggris Keir Starmer menyebut tindakan itu "menghina" para korban dan "bukan solusi".
"Itu hanya mengubah fitur AI yang memungkinkan pembuatan gambar ilegal menjadi layanan premium," kata juru bicara Downing Street pada hari Jumat. "Itu menghina para korban misogini dan kekerasan seksual."
Kementerian Komunikasi dan Digital Indonesia mengatakan pada hari Sabtu bahwa mereka memanggil pejabat X untuk membahas masalah tersebut.
Negara yang berpenduduk 285 juta jiwa ini memiliki aturan ketat yang melarang berbagi konten yang dianggap cabul secara online.
