AI Sudah Mengkhawatirkan, Penciptanya Sendiri Sekarang Ketakutan
Jakarta, CNBC Indonesia - Raksasa kecerdasan buatan (Artificial Intelligence/AI) mulai mengubah pandangan mereka terhadap teknologi yang mereka ciptakan sendiri. Sejumlah perusahaan kini secara terbuka mulai menyuarakan kekhawatiran mendalam terkait risiko eksistensial AI di masa depan.
Kepala Kebijakan Global OpenAI, Cris Lehane, mengungkapkan bahwa perusahaannya saat ini tengah menjalin kerja sama erat dengan para kompetitor utamanya, seperti Anthropic dan Alphabet, guna membahas standar keamanan AI. Diskusi intensif tersebut bahkan telah berlangsung selama beberapa pekan terakhir.
"Lebih baik mencoba bekerja sama untuk memprioritaskan keselamatan," ujar Lehane, dikutip dari Reuters, Rabu (16/9/2026).
Lehane juga menegaskan bahwa OpenAI siap memberikan dukungan penuh terhadap regulasi pemerintah yang bertujuan untuk menekan dan mengurangi berbagai risiko negatif akibat perkembangan AI di hadapan para anggota parlemen.
Para Bos Teknologi Mulai Ketakutan
Selama beberapa waktu terakhir, gelombang peringatan dari para tokoh penting di industri teknologi terus mengalir. CEO Anthropic, Dario Amodei, sempat menyerukan agar laju pengembangan AI tingkat lanjut diperlambat melalui sebuah esai berjudul "We Must Pace the Frontier".
Menurut Amodei, laju kemajuan AI melesat jauh lebih cepat sejak musim panas 2026 ini, terutama karena sistem AI kini terus menerus menunjukkan kemampuan mandiri dalam menciptakan generasi AI berikutnya yang lebih canggih.
Seruan tersebut turut didukung oleh CEO OpenAI, Sam Altman. Altman menyatakan bahwa perusahaannya berniat mengadopsi usulan Anthropic untuk melibatkan para evaluator independen yang diberi hak akses setara dengan karyawan internal demi memastikan aspek keamanan.
Jauh sebelum tren kekhawatiran ini merebak, Altman sebenarnya sudah pernah mengingatkan potensi bahaya serupa pada 2015 silam lewat esainya yang berjudul "Machine Intelligence, Part 1". Saat itu, ia memperingatkan bahwa ancaman terbesar dari teknologi ini adalah ketika kecerdasan mesin benar-benar melampaui kapasitas kontrol manusia.
Senada dengan para pemimpin industri lainnya, bos SpaceX dan xAI, Elon Musk, turut menyatakan dukungannya terhadap pandangan Dario Amodei. Sebelumnya, pada tahun 2023 lalu, Musk bahkan sempat mendukung petisi dari lembaga nirlaba Future of Life Institute yang mendesak penghentian sementara pengembangan AI selama enam bulan.
Langkah drastis tersebut dinilai penting untuk memberikan ruang bagi dunia internasional dalam menyusun mekanisme pengamanan (safety guardrails) yang matang sebelum teknologi AI berkembang di luar kendali.
(fab/fab) [Gambas:Video CNBC]