Ahli Peringatkan AI Bisa Musnahkan Manusia, Ini Penjelasannya
Jakarta, CNBC Indonesia - Peringatan keras dari para peneliti kecerdasan buatan (AI) bahwa teknologi mutakhir ini berpotensi memusnahkan umat manusia membuat banyak orang khawatir.Â
Mengutip Bangkok Post, Sabtu (12/09/2026), ancaman ini telah lama disuarakan oleh ratusan ilmuwan dan tokoh industri AI. Pada tahun 2023, mereka menandatangani pernyataan risiko kepunahan akibat AI dan mendesak agar isu ini ditangani seserius pandemi atau perang nuklir.
Profesor Ilmu Komputer dari University of California Berkeley, Stuart Russell, memperingatkan bahwa AI yang tidak terkendali dapat menggunakan robot untuk menyintesis dan menyebarkan patogen baru, atau memanipulasi manusia untuk memulai perang nuklir dengan meretas sistem peringatan dini.
"Kita kurang cerdas dibandingkan AI yang super cerdas. Jika Anda bertanya kepada simpanse bagaimana manusia dapat memusnahkan mereka, mereka mungkin tidak akan bisa memberi semua jawaban yang benar," paparnya.
Russell menekankan bahwa meski ketakutan tersebut belum berlaku untuk sistem AI saat ini, teknologi yang terus berkembang dapat mengambil tindakan mematikan di luar pemahaman manusia, seperti menghilangkan oksigen dari atmosfer bumi secara tiba-tiba.
"Dalam satu atau dua tahun ke depan saya pikir risikonya lebih tinggi dari penyalahgunaan oleh manusia, (seperti serangan teror berbasis AI)," tambahnya.
Balapan Berbahaya Perusahaan AI
Mantan peneliti perusahaan AI Anthropic dan OpenAI, Jacob Coxon, baru-baru ini mengundurkan diri dan menuduh perusahaan-perusahaan tersebut sedang memperjudikan nyawa manusia demi memenangkan perlombaan teknologi.
Anthropic bahkan telah menghapus janji dari piagam keselamatan mereka untuk menghentikan pengembangan jika gagal mengendalikan risiko, dengan dalih takut didominasi oleh pesaing yang kurang berhati-hati.
"Orang-orang yang membangun AI dengan sungguh-sungguh percaya bahwa AI dapat membunuh kita semua pada akhir dekade ini," ucapnya.
Ketakutan ini kian memuncak setelah teknologi OpenAI yang beroperasi tanpa pengawasan manusia dilaporkan berhasil meretas Hugging Face, sebuah repositori model AI. Eksekutif Keselamatan Anthropic, Evan Hubinger, bahkan memperkirakan risiko kepunahan manusia mencapai lebih dari 10% pada dekade berikutnya.
"Kami benar-benar sangat percaya bahwa AI dapat membunuh semua manusia!" tegasnya.
Regulasi Tertahan Ambisi
Menanggapi ramalan kiamat tersebut, Profesor Komputasi di UNSW Canberra, Hussein Abbass, menilai bahwa prediksi persentase itu sama sekali tidak ilmiah dan situasi saat ini masih bisa dikendalikan dengan pendekatan regulasi yang tangkas.
Beberapa pihak skeptis bahkan menilai peringatan mengerikan ini sengaja diembuskan untuk membuat AI tampak sangat kuat guna menarik investasi besar, mengingat Anthropic dan OpenAI diperkirakan akan segera melantai di bursa (go public).
Pihak lain berpendapat bahwa fokus pada kepunahan justru mengalihkan perhatian dari masalah yang lebih mendesak di depan mata, seperti gelombang PHK dan diskriminasi mesin terhadap kelompok minoritas.
Meski demikian, desakan pembatasan mulai bergulir. Pada bulan Juli lalu, lebih dari 1.000 pekerja teknologi mendesak Washington untuk mendukung perlambatan terkoordinasi dalam pengembangan sistem AI yang paling canggih. OpenAI pun sempat menghentikan pelatihan model terbarunya selama dua minggu pada bulan Agustus sebelum melanjutkannya di bawah kontrol yang lebih ketat.
Di sisi lain, AS sejauh ini masih menentang regulasi global karena khawatir akan menghambat inovasi di sektor tersebut. Namun, kemampuan peretasan model terbaru yang belum pernah terjadi sebelumnya telah memaksa Washington menunda perilisan produk Anthropic dan OpenAI atas dasar keamanan nasional.
Merespons dinamika ini, Presiden Donald Trump memberikan pandangan kehati-hatiannya terkait kompetisi geopolitik.
"Kami tidak ingin membatasi mereka di mana tiba-tiba kami berada di urutan kedua setelah China," katanya.
Melihat kebuntuan regulasi dan ambisi yang terus berjalan ini, Russell mendesak pemerintah untuk segera menetapkan rezim perizinan ketat untuk AI, setara dengan standar keamanan di sektor penerbangan, medis, atau pasokan air.
"Mungkin butuh bencana berskala Chernobyl agar pemerintah mau bertindak. Mungkin pada suatu saat pemerintah akan ingat bahwa para pemilih mereka lebih memilih untuk tidak mati," pungkasnya.
(hsy/hsy) [Gambas:Video CNBC]