Bos-Bos Raksasa Teknologi Sudah Satu Suara, Teriak AI Harus Direm
Jakarta, CNBC Indonesia - Seruan untuk membatasi pengembangan kecerdasan buatan (artificial intelligence/AI) kian terdengar kencang. Terbaru, CEO Microsoft Satya Nadella menyatakan bahwa pengembangan AI perlu dilengkapi dengan rem darurat.
Ia menegaskan bahwa sistem AI harus dibangun dengan pengamanan serta kontrol independen. Selain itu, perlu ada wewenang bagi pihak terkait untuk menghentikan sementara atau mematikan model AI di tengah tugas yang sedang berjalan.
"Kita perlu melengkapi model nondeterministik dengan desain sistem deterministik yang kuat, kontrol manusia, dan prosedur operasi yang andal, serta menetapkan standar industri saat standar yang ada tidak memadai," jelasnya dalam unggahan di platform X, dikutip dari CNBC International, Selasa (13/10/2026).
Nadella juga menyampaikan bahwa sistem AI perlu dirancang dengan prinsip keteramatan (observability). Hal ini mencakup keragaman model, jejak tindakan model yang mudah dibaca manusia, pengujian sistem secara berkelanjutan, kontrol independen dan kemampuan audit, penahanan risiko, hingga pengungkapan insiden.
"Sistem superintelijen yang dapat dipercaya bukanlah sistem dengan model yang paling tepercaya, melainkan sistem yang membuat kita paling tidak bergantung atau menaruh kepercayaan buta pada model tersebut," kata Nadella.
Sebelumnya, CEO Anthropic Dario Amodei juga telah menyerukan besarnya risiko AI yang perlu diatasi bersama oleh pemerintah dan perusahaan. Ucapan tersebut didukung oleh bos OpenAI Sam Altman serta Elon Musk yang memimpin xAI.
Seorang peneliti yang telah keluar dari Anthropic bahkan memperingatkan pentingnya memperlambat laju kemajuan AI. Jika tidak dilakukan, ia memprediksi hal itu dapat membawa manusia ke ambang kepunahan.
"Jika tidak memperlambat laju kemajuan saat ini, kemungkinan besar kita akan mati dalam waktu dekat," ujarnya.
Kendati alarm risiko AI telah dinyalakan oleh para petinggi teknologi, Presiden Amerika Serikat (AS) Donald Trump justru bersikap sebaliknya. Ia menepis risiko AI dan terus mendorong AS untuk tetap unggul mendahului China.
(fab/fab) [Gambas:Video CNBC]