Bengio adalah seorang profesor di Universitas Montreal yang memenangkan Turing Award tahun 2018—penghargaan yang setara dengan Nobel di bidang komputasi—bersama dengan Geoffrey Hinton, sosok yang dikenal luas sebagai "bapak AI."
Kanada, Suarathailand- Ilmuwan komputer asal Kanada yang dianggap sebagai salah satu pendiri AI, Yoshua Bengio, mengatakan kepada AFP bahwa umat manusia "mulai kehilangan kendali" atas teknologi tersebut dan dunia memerlukan mekanisme pengamanan yang serupa dengan aturan pengendalian senjata nuklir.
Kekhawatiran mengenai bahaya AI telah meningkat dalam beberapa minggu terakhir, seiring dengan mundurnya sejumlah karyawan dari perusahaan-perusahaan besar yang memperingatkan adanya potensi ancaman eksistensial bagi kehidupan manusia jika laju kemajuan teknologi tidak dibatasi.
Bengio adalah seorang profesor di Universitas Montreal yang memenangkan Turing Award tahun 2018—penghargaan yang setara dengan Nobel di bidang komputasi—bersama dengan Geoffrey Hinton, sosok yang dikenal luas sebagai "bapak AI."
Bagi Bengio, "ada alasan mengapa perusahaan-perusahaan mengatakan bahwa perkembangan ini terlalu cepat dan kita mulai kehilangan kendali."
"Orang-orang seperti saya sudah menduga hal ini sejak lama," ujar pria berusia 62 tahun itu kepada AFP pada hari Selasa, seraya menambahkan bahwa diskusi mengenai keamanan AI selama ini belum cukup memadai.
Kekhawatiran meluas muncul setelah OpenAI mengungkapkan bahwa sekelompok agen AI—program yang mampu bertindak secara mandiri—telah melakukan pembobolan tanpa izin terhadap platform sumber terbuka (open-source) Hugging Face pada bulan Juli.
Tindakan otonom semacam itu merupakan ancaman utama, kata Bengio, seraya memperingatkan akan situasi di mana agen AI "memiliki kemampuan untuk menembus pertahanan keamanan siber dan menyusup ke perusahaan mana pun."
Memanipulasi Perilaku Manusia
Tahun lalu, Bengio mendirikan organisasi nirlaba LawZero, yang bertujuan menciptakan bentuk baru AI canggih yang "dirancang agar dapat dipercaya dan aman."
LawZero mendapatkan pendanaan sebesar 300 juta dolar Kanada (216 juta dolar AS) pada hari Rabu, yang berasal dari kontribusi bersama pemerintah Kanada dan Jerman—dua negara yang telah meluncurkan berbagai upaya kerja sama di bidang AI.
Berbicara kepada AFP sehari sebelum pengumuman tersebut, Bengio mengatakan bahwa masyarakat perlu menyadari risiko-risiko yang mungkin terjadi di masa depan.
Agen AI dapat mengembangkan "kemampuan untuk menjalin hubungan personal dan membujuk manusia agar bertindak sesuai keinginan AI, meskipun tindakan tersebut belum tentu bermanfaat bagi kita semua," sebuah kemampuan yang dapat membawa dampak luas bagi demokrasi, ujarnya.
Dalam jangka panjang, "AI bahkan mungkin tidak lagi membutuhkan manusia untuk melakukan tindakan nyata di dunia fisik," tambahnya. Dalam skenario tersebut, "salah satu kemungkinan ekstremnya adalah kehancuran umat manusia," ia memperingatkan.
"Itu memang hal yang ekstrem," akunya, namun ia mencatat bahwa seandainya sistem perbankan lumpuh pun, "hal itu tetaplah masalah yang sangat, sangat serius."
Tantangan Internasional
Perusahaan-perusahaan AI terbesar di dunia—OpenAI, Anthropic, dan Google—telah mulai berupaya membentuk badan standarisasi; sebuah kolaborasi yang tampaknya mengakui kekhawatiran publik bahwa persaingan antarperusahaan dan antarnegara dapat mengesampingkan aspek keselamatan.
Bagi Bengio, mengendalikan laju perkembangan AI merupakan "tantangan internasional, mirip dengan bagaimana senjata nuklir menjadi tantangan internasional."
"Jadi, komunitas internasional perlu memahami kekuatan yang kita hadirkan ke dunia ini; hal itu harus dikelola dan diatur melalui berbagai lembaga, perjanjian, serta mekanisme pengamanan yang demokratis."
"Masyarakat membutuhkan waktu untuk menerapkan langkah-langkah yang diperlukan," ujar Bengio.
Namun, kemauan politik di kalangan pemerintah negara-negara utama tampak tidak merata.
Pada hari Senin, Presiden AS Donald Trump menepis peringatan mengenai risiko AI dengan menyebutnya sebagai "hoaks."
Akan tetapi, terdapat keterbukaan yang lebih besar untuk bertindak di Uni Eropa; Presiden Komisi Eropa Ursula von der Leyen pada hari Rabu menyatakan akan mengundang laboratorium-laboratorium AI terbesar dunia untuk berdiskusi mengenai "bagaimana kita dapat mendukung upaya industri yang sedang berjalan dalam mengatur laju pengembangan teknologi terdepan ini."
Mark Carney—yang turut hadir dalam pidato di Strasbourg tersebut—telah berulang kali berbicara mengenai kerja sama dengan Uni Eropa terkait keselamatan AI.
Bengio menegaskan bahwa seluruh perusahaan wajib mematuhi aturan pembatasan AI di masa mendatang, khususnya perusahaan-perusahaan yang berbasis di AS yang selama ini mendominasi sektor tersebut.
Ia menyatakan bahwa tindakan segera sangatlah diperlukan, namun ia juga mengungkapkan optimisme bahwa "kita dapat membantu membawa dunia menuju kondisi yang lebih selaras dengan nilai-nilai demokrasi dan prinsip pembagian kekuasaan."
