Bos AI Panik, Bilang Ciptaannya Bisa Kuasai Internet 6-12 Bulan Lagi
Jakarta, CNBC Indonesia - CEO Anthropic Dario Amodei memperingatkan perkembangan kecerdasan buatan (AI) yang makin cepat membuat risiko besar. Ia bahkan khawatir sekumpulan agen AI atau swarm mampu mengambil alih seluruh internet hanya dalam waktu 6-12 bulan ke depan.
Kekhawatiran itu disampaikan Amodei dalam esai yang bertajuk We Must Pace the Frontier yang dibagikan melalui X pada Sabtu (12/9).
Ia menyerukan perusahaan AI untuk memperlambat laju peningkatan kemampuan model AI agar tersedia lebih banyak waktu untuk mengantisipasi risiko penyalahgunaan teknologi tersebut.
"Kita harus memperlambat laju peningkatan kemampuan model AI. Kemajuan akan tetap terlihat cepat, dan kita harus menggunakan waktu yang kita dapatkan dengan bijak," tulis Amodei dalam esai tersebut, dikutip dari Reuters, Kamis (17/9/2026).
Menurut dia, percepatan kemampuan AI saat ini sudah menimbulkan kekhawatiran serius. Terlebih, sejumlah model AI telah terbukti mampu meretas sistem eksternal dalam berbagai pengujian keamanan.
"Mengingat laju perkembangan kemampuan AI yang semakin cepat, kekhawatiran saya adalah dalam 6-12 bulan, segerombolan (AI) seperti itu bisa mampu mengambil alih seluruh internet, yang berpotensi menyebabkan kerusakan senilai ratusan miliar dolar," kata Amodei.
Anthropic sendiri sebelumnya mengungkap kasus lain ketika model AI-nya meretas sistem eksternal. Pada Juli lalu, sejumlah model Claude milik perusahaan dilaporkan meretas sistem tiga perusahaan dalam pengujian keamanan siber.
Kekhawatiran terhadap kemampuan AI juga meningkat setelah peneliti Anthropic Jacob Coxon mengundurkan diri. Ia menyebut orang-orang yang membangun AI secara serius meyakini teknologi tersebut berpotensi membunuh semua umat manusia pada akhir dekade ini.
Amodei menegaskan seruannya bukan untuk menghentikan pelatihan model atau kemajuan teknologi AI. Ia ingin perusahaan memberikan waktu yang cukup untuk menyelaraskan dan mengamankan model sebelum kemampuan tersebut terus ditingkatkan, serta melibatkan evaluator independen untuk memastikan langkah pengamanan berjalan.
Ia mengusulkan tiga langkah, termasuk kehadiran evaluator pihak ketiga secara permanen di perusahaan AI terdepan. Para evaluator tersebut akan mendapat akses terhadap alat dan proses penilaian risiko internal yang relevan.
Seruan itu muncul ketika tekanan untuk mengendalikan risiko AI meningkat, sementara industri juga menghadapi dorongan kuat untuk terus mengembangkan teknologi. OpenAI dan Anthropic, misalnya, tengah bersiap melakukan penawaran umum perdana saham atau IPO.
Setiap kemampuan AI baru dapat membantu perusahaan menarik pendanaan, membenarkan investasi infrastruktur, hingga memperkuat prospek IPO.
Amodei mengatakan perusahaan AI seharusnya bekerja sama secara sukarela untuk menetapkan standar keamanan. Menurut dia, koordinasi diperlukan agar perusahaan dapat melakukan riset keselamatan dan membangun pengamanan tanpa kehilangan posisi dalam persaingan.
Namun, ia menilai perlambatan pengembangan AI di negara demokrasi tetap harus memperhitungkan persaingan dengan China. Amodei mengatakan keunggulan AI China dapat menimbulkan risiko bagi keamanan nasional Amerika Serikat.
"Pengaturan laju di negara-negara demokrasi akan dibatasi oleh keunggulan yang dimiliki perusahaan-perusahaan AS atas rezim otoriter, terutama Partai Komunis China," tulisnya.
Amodei juga menyerukan penguatan kontrol terhadap chip AI canggih, model distillation, serta pencurian model weights untuk mencegah China mempersempit kesenjangan kemampuan AI.
"Saya percaya semua perusahaan AI terdepan harus bermitra dengan pemerintah untuk memformalkan gagasan tentang evaluator permanen yang ditempatkan di dalam perusahaan, guna mencegah dan mendokumentasikan insiden keselarasan internal seperti yang terjadi dalam beberapa bulan terakhir, serta menerapkan regulasi yang menjaga keseimbangan antara kemampuan dan keselamatan," tulis Amodei.
(dem/dem) [Gambas:Video CNBC]