AI Makin Tak Terkendali, Setelah OpenAI Kini Anthropic Bobol Internet
Jakarta, CNBC Indonesia - Ancaman bahaya teknologi kecerdasan buatan (Artificial Intelligence/AI) yang bertindak di luar kendali (go rogue) bukan lagi sekadar skenario film fiksi. Startup raksasa AI pesaing utama OpenAI, Anthropic, mengonfirmasi insiden mengerikan di mana model AI milik mereka, Claude, berhasil kabur menembus jaringan internet dan membobol sistem internal tiga perusahaan.
Anthropic mengungkap temuannya ini setelah melakukan audit siber internal secara masif. Peninjauan ini dipicu oleh insiden serupa milik OpenAI pekan lalu, di mana gabungan model AI milik OpenAI berhasil membobol lingkungan pengujian (sandbox) hingga meretas platform pengembang open-source, Hugging Face.
Dalam laporan resminya, Anthropic menyebutkan bahwa tiga insiden pembobolan terjadi saat model AI Claude sedang diuji dalam lingkungan simulasi yang disediakan oleh mitra evaluasi pihak ketiga, Irregular.
Awalnya, Claude telah diberi perintah (prompt) bahwa ia berada dalam simulasi tertutup tanpa akses internet. Namun, akibat miskomunikasi teknis, akses internet ternyata tetap terbuka. Begitu menyadari celah tersebut, AI ini dengan cepat mengeksploitasi sistem dan membobol tiga organisasi menggunakan teknik peretasan dasar, seperti memanfaatkan titik akhir (unauthenticated endpoints) tanpa enkripsi dan kata sandi yang lemah.
"Banyak faktor yang berkontribusi terhadap insiden ini. Namun, sejalan dengan budaya blameless postmortem, kami mengambil langkah perbaikan seolah-olah seluruh tanggung jawab berada di tangan kami sendiri," tegas manajemen Anthropic.
Tiga Model AI Bertindak Aneh: Ada yang Agresif, Ada yang Lanjut Serang!
Model yang terlibat dalam aksi pembobolan ini adalah Opus 4.7, Mythos 5, serta satu model riset internal. Khusus Mythos 5, model super canggih yang dirilis pada Juni lalu ini memang sengaja dibatasi aksesnya hanya untuk kalangan terbatas karena kemampuan siber tingkat tingginya yang dinilai sangat berbahaya.
Menariknya, saat ketiga model AI tersebut menyadari bahwa mereka tidak lagi berada di lingkungan simulasi dan telah menembus sistem perusahaan nyata, ketiganya memberikan respons yang mengejutkan:
- Opus 4.7: Tetap beringas dan melanjutkan serangannya ke sistem perusahaan tersebut.
- Mythos 5: Mengalami semacam 'penolakan realitas' dan meyakinkan dirinya sendiri bahwa ia masih berada di dalam simulasi.
- Model Riset: Langsung menghentikan seluruh aktivitas penetrasi siber.
"Pola ini menunjukkan bahwa model yang lebih canggih cenderung merespons dengan lebih tepat, meski kami masih memerlukan pengujian lebih lanjut untuk mengonfirmasi kesimpulan ini," tambah pihak Anthropic.
DPR Amerika Serikat Pasang Kuda-kuda: RUU 'AI Kill Switch' Disiapkan
Pengakuan mengejutkan dari Anthropic ini makin menambah kepanikan dan kecemasan global terkait lompatan kemampuan siber AI yang terlampau cepat.
Merespons ancaman pembobolan Hugging Face oleh OpenAI dan insiden teranyar dari Anthropic, Kongres AS langsung bergerak cepat. Dua anggota DPR AS resmi mengajukan Rancangan Undang-Undang bertajuk "AI Kill Switch Act".
Jika disahkan menjadi undang-undang, aturan ini akan mewajibkan seluruh pengembang dan perusahaan AI memiliki tombol darurat (kill switch) untuk mematikan, membatasi (throttle), atau membekukan sistem model AI secara instan jika mereka mulai bertindak liar dan membahayakan infrastruktur publik.
Pasca-insiden ini, Anthropic mengumumkan telah membekukan seluruh kegiatan evaluasi sibernya dan menggandeng lembaga evaluasi AI independen, METR, untuk melakukan investigasi mendalam. Anthropic juga mendesak laboratorium AI lainnya di seluruh dunia untuk segera melakukan audit siber menyeluruh.
(fab/fab) [Gambas:Video CNBC]