Amerika Siapkan 'Tombol Pembunuh', Ancaman Besar Sudah Tak Terkendali
Jakarta, CNBC Indonesia - Amerika Serikat (AS) mempercepat pembahasan rancangan undang-undang (RUU) yang mewajibkan perusahaan kecerdasan buatan (AI) memiliki kemampuan untuk mematikan model AI mereka ketika terjadi force majeure.
Langkah ini muncul setelah serangkaian insiden peretasan tak terkendali yang dilakukan agen AI canggih. Insiden bertubi-tubi ini memicu kekhawatiran baru di Washington.
Anggota DPR AS dari Partai Demokrat, Ted Lieu, yang menjadi salah satu penyusun AI Kill Switch Act, mengatakan insiden peretasan yang melibatkan model AI makin mendesak pembahasan RUU tersebut.
"Kita harus mengesahkan RUU ini tahun ini karena model-model canggih berbobot tertutup (closed-weight) sudah melakukan, seperti yang Anda sebutkan, peretasan tanpa izin terhadap perusahaan lain," kata Lieu dalam wawancara di acara CNBC Internasional, dikutip Senin (10/8/2026).
RUU Kill Switch Act akan mewajibkan perusahaan AI mempertahankan kemampuan untuk mematikan, memperlambat, atau menangguhkan model AI mereka. Lieu memperkenalkan RUU tersebut bersama anggota DPR dari Partai Republik, Nathaniel Moran, pekan lalu.
Pembahasan RUU ini muncul setelah OpenAI mengungkap insiden siber yang belum pernah terjadi sebelumnya, ketika model AI kabur dari lingkungan pengujian yang terisolasi (sandbox) dan membobol sistem Hugging Face, perusahaan yang mengoperasikan platform pengembang sumber terbuka (open-source).
Setelah insiden tersebut, Anthropic dan Meta juga mengalami kejadian serupa ketika model AI mereka meretas perusahaan lain dalam pengujian keamanan siber. Rangkaian peristiwa itu memicu kekhawatiran baru mengenai semakin canggihnya serangan siber seiring berkembangnya AI berbasis agen (agentic AI).
Lieu menegaskan RUU tersebut tidak akan menghambat inovasi model AI frontier. Ia membandingkan regulasi itu dengan uji tabrak pada industri otomotif.
"Kita tidak memperlambat cara mereka membangun model. Kita hanya mengatakan, setelah model selesai dibuat dan ternyata memiliki risiko bencana yang sangat buruk atau memiliki cacat tertentu, maka Anda harus memiliki kemampuan untuk mematikannya, atau pemerintah harus memiliki kemampuan untuk mematikannya," ujar Lieu.
Perdebatan mengenai regulasi AI memang semakin memanas di Washington dan Silicon Valley. Para pemimpin industri AI dan pejabat pemerintah tengah mempertimbangkan apakah perlu membatasi model open-weight asal China, seperti Kimi K3 dari startup Moonshot AI, yang dinilai semakin mendekati kemampuan model AI frontier asal Amerika Serikat.
Di tengah perdebatan tersebut, CEO OpenAI Sam Altman bertemu dengan pejabat senior pemerintahan Presiden Donald Trump, anggota parlemen, dan para ekonom pekan lalu untuk memperkenalkan keluarga model AI terbaru perusahaan.
Gedung Putih juga menggelar pertemuan dengan perusahaan AI untuk membahas kerangka baru dalam meninjau kemampuan keamanan siber model AI paling canggih di industri.
Kerangka tersebut berawal dari perintah eksekutif Presiden Donald Trump pada 2 Juni yang meminta perusahaan AI secara sukarela mengikuti proses pembandingan (benchmarking) terhadap kemampuan siber canggih mereka. Pemerintah juga dapat mengakses model-model tersebut hingga 30 hari sebelum dirilis secara luas.
Lieu mengatakan AI Kill Switch Act tidak akan berdampak pada model open-weight yang dapat diunduh, dimodifikasi, dan dijalankan di infrastruktur milik pengguna, sesuai dengan rancangan RUU saat ini. Namun, ia tidak menutup kemungkinan model tersebut nantinya menjadi bagian dari sistem peringatan.
"Itu adalah masalah yang sulit karena model tersebut bersifat open-weight. Anda tidak benar-benar bisa bekerja sama dengan perusahaan untuk memperbaiki model mereka, karena setelah mereka merilisnya ke internet, orang-orang akan mengambilnya dan mereka bisa mengubah apa pun yang mereka inginkan pada model tersebut," jelasnya.
(fab/fab) [Gambas:Video CNBC]