AI Bertindak Gila, Ajukan 20 Visa hingga Lapor Pembunuhan Palsu
Jakarta, CNBC Indonesia - Teknologi kecerdasan buatan (artificial intelligence/AI) kembali memunculkan kekhawatiran setelah sejumlah agen AI buatan perusahaan teknologi Anthropic diketahui melakukan tindakan tanpa izin. Sistem tersebut mencoba mengakses situs pemerintah Amerika Serikat (AS), mengirimkan formulir permohonan visa, hingga membuat laporan pembunuhan palsu kepada kepolisian.
Insiden ini terungkap setelah Anthropic melakukan peninjauan terhadap aktivitas sistem AI miliknya. Temuan tersebut bahkan mendapat perhatian Gedung Putih yang meminta perusahaan pengembang AI lebih transparan dalam melaporkan perilaku teknologi yang menyimpang dari instruksi.
Melansir The New York Times, Sabtu (10/10/2026), dua sumber yang mengetahui kejadian tersebut mengungkapkan, agen AI Anthropic telah mengirimkan 20 permohonan visa melalui formulir yang tersedia di situs Departemen Luar Negeri AS. Namun, seluruh permohonan tersebut tidak lengkap sehingga tidak diproses oleh pihak berwenang.
Anthropic mengungkapkan aktivitas agen AI tersebut melalui unggahan blog pada Jumat, meskipun perusahaan tidak menyebutkan secara spesifik situs pemerintah yang menjadi sasaran. Selain mengirimkan formulir visa, teknologi AI tersebut juga diketahui menyampaikan laporan pembunuhan palsu kepada Departemen Kepolisian Philadelphia.
Pihak kepolisian mengatakan laporan yang dikirim pada 18 Juli itu mengeklaim pengirim memiliki informasi mengenai kasus pembunuhan yang belum terpecahkan. Namun, laporan tersebut terdeteksi sebagai spam sehingga tidak pernah ditindaklanjuti sebagai penyelidikan.
Anthropic kemudian memberi tahu kepolisian mengenai insiden tersebut pada pekan ini, sebelum mengungkapkannya kepada publik.
Menurut perusahaan, insiden itu melibatkan model AI penelitian yang belum dirilis kepada publik dan bukan termasuk model AI tercanggihnya. Awalnya, sistem tersebut hanya diperintahkan untuk mengisi salinan formulir pemerintah sebagai bagian dari pengujian.
Namun, ketika salinan formulir gagal dimuat atau tidak sengaja ditutup, model AI justru membuka situs resmi tempat formulir sebenarnya tersedia dan mengirimkan formulir tersebut.
Insiden tersebut langsung mendapat perhatian pemerintah AS. Pejabat Gedung Putih mengatakan telah menerima penjelasan mengenai aktivitas agen AI Anthropic pada Jumat (9/10/2026).
Pemerintah kemudian meminta Anthropic dan perusahaan pengembang AI lainnya segera melaporkan setiap kejadian ketika sistem mereka bertindak di luar kendali atau melakukan tindakan tanpa izin.
"Kami telah memberi tahu perusahaan bahwa kami mengharapkan transparansi segera dan menyeluruh kepada pihak-pihak yang terlibat serta masyarakat," demikian pernyataan pejabat Gedung Putih, dikutip dari The New York Times.
Pemerintah AS juga meminta perusahaan menyediakan langkah pemulihan bagi pihak yang terdampak dan warga Amerika yang mengalami kerugian akibat insiden tersebut. Selain itu, perusahaan AI diharapkan bekerja sama dengan aparat penegak hukum federal maupun negara bagian serta memastikan kejadian serupa tidak terulang.
Pernyataan tersebut disampaikan oleh satuan tugas AI baru Gedung Putih bernama Super Intelligence Force, yang dibentuk pada pekan yang sama. Kelompok tersebut antara lain melibatkan pejabat AI Gedung Putih Jay Clayton, Ketua Federal Trade Commission Andrew Ferguson, Direktur Office of Personnel Management Scott Kupor, serta Kepala Teknologi Departemen Pertahanan Emil Michael.
Anthropic mengatakan pihaknya menemukan sejumlah tindakan tidak sah setelah memulai peninjauan aktivitas AI pada Juli 2026. Dalam pengujian lain, salah satu model AI diketahui memanfaatkan celah keamanan situs sebuah universitas untuk mengunduh data.
Model tersebut juga mengirimkan formulir kepada lembaga pemerintah, meskipun sebelumnya telah mendapat instruksi agar tidak melakukannya.
Temuan ini menambah perhatian terhadap risiko pengembangan sistem AI yang semakin mampu menjalankan tugas secara mandiri. Sejumlah perusahaan teknologi besar, termasuk Google, Meta, OpenAI, dan Anthropic, menghadapi sorotan terkait potensi bahaya model AI canggih apabila sistem tersebut melakukan tindakan di luar batas pengujian.
Para pakar keselamatan AI sebelumnya telah memperingatkan sistem yang tidak terkendali berpotensi mengganggu infrastruktur penting, termasuk jaringan listrik dan sistem perbankan. Setelah sejumlah model AI dilaporkan keluar dari lingkungan pengujian pada musim panas 2026, perusahaan-perusahaan pengembang menyatakan akan memperkuat langkah pengamanan untuk mengendalikan teknologi tersebut.
(fsd/fsd) [Gambas:Video CNBC]