Dua Raja AI Akhirnya Akur, Elon Musk Mendadak 'Nimbrung'
Jakarta, CNBC Indonesia - CEO Anthropic Dario Amodei meminta industri agar kecerdasan buatan (AI) 'menginjak rem' dengan memperlambat laju pengembangan model AI frontier. Pengembangan model frontier adalah istilah yang digunakan untuk pengembangan AI paling canggih untuk fungsi dan kemampuan yang belum pernah ada sebelumnya.
Ia menilai pengembangan AI tetap penting, tetapi risiko yang menyertainya sudah cukup serius sehingga perusahaan dan pemerintah membutuhkan waktu untuk mengantisipasinya.
Amodei menyampaikan pandangan tersebut dalam esai berjudul We Must Pace the Frontier yang diterbitkan pada Sabtu. Ia mengusulkan tiga langkah, yakni pemantauan independen terhadap model AI selama proses pengembangan, regulasi di tingkat industri, serta aturan global.
Seruan tersebut mendapat dukungan dari dua tokoh besar industri AI yang menjadi rival Anthropic, yakni CEO OpenAI Sam Altman dan pendiri xAI Elon Musk.
"Saya setuju dengan Dario bahwa kita perlu mengatur laju pengembangan frontier," tulis Altman di X. Ia juga menyebut keberadaan evaluator independen sebagai ide yang bagus.
Altman kembali menyoroti risiko keselamatan AI dalam wawancara dengan Fortune. Ia mengatakan standar keamanan saat ini belum berada pada tahap yang cukup untuk mendorong kemampuan AI jauh lebih tinggi. Menurutnya, kemungkinan munculnya AI yang berada di luar kendali manusia juga benar-benar mungkin terjadi.
Musk juga menyatakan dukungannya. Pendiri perusahaan pembuat Grok tersebut menilai Amodei "benar".
Kekhawatiran soal risiko AI meningkat seiring kemampuan model yang semakin kuat. Peneliti AI yang pernah bekerja di Anthropic, Jacob Coxon, bahkan mengatakan bahwa jika perkembangan AI terus melaju dengan kecepatan saat ini, ada kemungkinan besar manusia menghadapi kepunahan dalam waktu dekat, demikian dikutip dari BBC, Senin (14/9/2026).
Coxon mengatakan orang-orang yang bekerja di perusahaan AI benar-benar ketakutan dan khawatir terhadap nasib umat manusia dalam dua tahun ke depan. Menurutnya, bukan berlebihan jika orang-orang yang mendirikan perusahaan AI dan membangun teknologinya melihat kemungkinan terjadinya kepunahan manusia.
Dalam esainya, Amodei menegaskan bahwa perlambatan bukan berarti menghentikan pengembangan model AI. Ia mendorong perusahaan membangun AI dengan kecepatan yang seimbang agar keamanan tetap terjaga tanpa menghilangkan manfaat teknologi tersebut.
"Ini bukan berarti menghentikan pelatihan model atau kemajuan teknis, tetapi memastikan perusahaan meluangkan waktu yang memadai untuk menyelaraskan dan mengamankan model mereka, serta evaluator pihak ketiga mengonfirmasi hal tersebut," kata Amodei.
Ia mengatakan Anthropic akan menerapkan pendekatan tersebut secara sepihak dan meminta pemerintah mewajibkan perusahaan AI frontier lainnya mengikuti langkah serupa.
Amodei juga menyadari regulasi pemerintah bisa tertinggal dari perkembangan teknologi. Karena itu, ia meminta perusahaan AI secara sukarela bekerja sama menetapkan standar keamanan sambil pemerintah menyusun regulasi.
Menurut Amodei, tambahan waktu satu hingga dua tahun untuk memperkuat keamanan AI dapat mengurangi risiko secara signifikan sebelum model mencapai tingkat kemampuan yang kritis.
"Jika memperlambat laju pengembangan memberi kita tambahan satu atau dua tahun sebelum model mencapai tingkat kemampuan kritis, dan kita menggunakan waktu tersebut untuk memajukan alignment, kita dapat sangat mengurangi risiko terjadinya sesuatu yang benar-benar buruk," ujarnya.
Namun, Amodei menilai perlambatan harus dilakukan secara terkoordinasi agar Amerika Serikat tidak kehilangan keunggulan dalam persaingan AI, khususnya terhadap China. Ia juga mendorong pemerintah AS membatasi penjualan chip AI perusahaan Amerika ke China dan mencegah transfer teknologi tersebut ke negara-negara otoriter.
Coxon menilai upaya tersebut bahkan perlu melibatkan China. Menurutnya, diperlukan semacam perlambatan yang terkoordinasi antara AS dan China untuk mencegah perlombaan AI dalam skala internasional.
Risiko keamanan siber menjadi salah satu alasan utama kekhawatiran tersebut. Anthropic sebelumnya menahan model Mythos untuk penggunaan publik setelah model itu dilaporkan mampu keluar secara mandiri dari lingkungan pengujian atau sandbox.
OpenAI juga sempat menghentikan sejumlah aspek pengembangan model Astra karena mempertimbangkan risiko keamanan siber. Dalam perkembangan lain, agen OpenAI dilaporkan sempat meretas target eksternal yang tidak diperintahkan untuk diserang.
Amodei mengatakan agen OpenAI tersebut pada dasarnya "bertindak seperti sebuah kelompok yang sangat fanatik dan berdedikasi".
Seruan Amodei kemudian memicu beragam tanggapan di industri. CEO platform AI Hugging Face Clement Delangue mengatakan akan meluncurkan Open Alignment Initiative untuk menjadi bagian dari evaluator yang bekerja secara langsung dalam pengujian keamanan AI.
Namun, tidak semua pihak melihat gagasan perlambatan sebagai langkah murni untuk keselamatan. Investor Chamath Palihapitiya menilai seruan tersebut berpotensi memperkuat kendali Anthropic atas teknologi AI.
"Dario menyampaikan alasan untuk menghentikan open source dan memusatkan kekuatan teknologi serta ekonomi yang sangat besar pada Anthropic," tulis Palihapitiya.
(dem/dem) [Gambas:Video CNBC]