Alasan AI Tak Mungkin Direm Meski Bisa Bikin Manusia Punah
Jakarta, CNBC Indonesia - Laju pengembangan kecerdasan buatan (Artificial Intelligence / AI) dinilai sulit dibendung meski teknologi tersebut menyimpan risiko ekstrem, termasuk potensi mengancam keberlangsungan umat manusia.
Perbedaan kepentingan antarperusahaan menjadi salah satu alasan utama mengapa upaya untuk mengerem pengembangan AI dinilai tidak realistis.
CEO Palo Alto Networks, Nikesh Arora, mengatakan bahwa setiap perusahaan memiliki pendekatan yang berbeda dalam mengembangkan AI. Oleh karena itu, tidak semua pemain industri akan bersedia memperlambat laju inovasi teknologinya.
"Saya rasa tidak semua orang akan mengatur kecepatannya sendiri," ujar Arora, dikutip dari CNBC International, Jumat (25/9/2026).
Pernyataan tersebut mengemuka di tengah perdebatan sengit mengenai risiko AI. Sebelumnya, seorang peneliti dari Anthropic menyebutkan adanya kemungkinan 10% bahwa AI dapat memusnahkan seluruh manusia. CEO Anthropic, Dario Amodei, bahkan sempat menyerukan agar industri teknologi memperlambat peningkatan kemampuan model AI.
Sejumlah tokoh teknologi terkemuka, termasuk CEO OpenAI Sam Altman, CEO SpaceX Elon Musk, dan Bos Google DeepMind Demis Hassabis-sempat menyatakan dukungan terhadap gagasan tersebut.
Namun, Arora menilai upaya untuk mengatur atau memperlambat laju pengembangan AI adalah hal yang tidak realistis. Menurutnya, sebagian perusahaan pasti akan tetap ngotot mengembangkan teknologi AI di garis terdepan.
"Saya pikir kemungkinan besar beberapa pihak akan bergerak lebih cepat, dan Anda akan tetap memiliki pihak-pihak yang mengembangkan teknologi di garis terdepan. Artinya, kita seharusnya tidak mencoba menghentikan mereka yang berada di garis depan karena merekalah yang paling bertanggung jawab," jelas Arora.
Ia menegaskan, perusahaan seharusnya tidak merilis produk AI ke publik apabila belum yakin sepenuhnya bahwa teknologi tersebut aman. Arora juga mempertanyakan bagaimana industri dapat menciptakan mekanisme yang efektif untuk mengukur atau mengatur kecepatan pengembangan AI itu sendiri.
Meski mengakui adanya potensi risiko AI terhadap eksistensi manusia, Arora menilai probabilitas 10% bagi AI untuk memusnahkan umat manusia adalah angka yang sangat kecil.
"Saya pikir probabilitasnya kecil, sangat kecil, dan tugas kita adalah memastikan kita membangun perlindungan, keamanan, dan keselamatan yang diperlukan agar model-model ini digunakan untuk hal yang benar," tuturnya.
Pandangan Arora ini sejalan dengan sikap CEO Nvidia, Jensen Huang. Menurut Huang, para pengembang AI wajib memastikan bahwa produk mereka telah diuji secara ketat dan terbukti aman sebelum resmi dirilis ke pasaran.
Perdebatan global ini turut mencakup urgensi kerja sama antarnegara. Sebelumnya, Amodei mengusulkan adanya koordinasi global terkait pengembangan AI, termasuk menjalin kerja sama dengan China. Kendati demikian, Arora menilai koordinasi semacam itu tidak mudah diwujudkan akibat perbedaan pandangan di antara para politisi dan pelaku industri di Amerika Serikat.
"Saya pikir langkah pertama adalah mencapai semacam kesamaan visi mengenai apa yang sebenarnya kita inginkan sebelum mulai membicarakan bagaimana cara mengoordinasikannya dengan pihak lain," tegas Arora.
(fab/fab) [Gambas:Video CNBC]