Peneliti MIT Peringatkan Petaka Besar, Jutaan Kematian 5 Tahun Lagi
Jakarta, CNBC Indonesia - Perkembangan teknologi kecerdasan buatan (AI) menciptakan dilema besar bagi para pengusaha yang mencari ladang 'cuan'. Di satu sisi, mereka terus-terusan berlomba memenangkan perlombaan AI untuk menguasai pasar.
Di sisi lain, AI telah membawa dampak buruk di berbagai sektor. Penyebaran disinformasi, krisis air-listrik, gelombang PHK, menjadi beberapa masalah serius yang sudah terlihat jelas.
Ada banyak dampak lain yang juga signifikan, tetapi lebih jarang digembar-gemborkan. Misalnya serangan siber yang makin canggih, pengembangan senjata militer canggih yang lebih mudah, serta dampak-dampak tak langsung lainnya.
Sebuah studi baru dari MIT FutureTech dan University of Queensland menawarkan cara untuk memetakan lanskap risiko tersebut. Dalam laporan bertajuk "Prioritization of Risks From Artificial Intelligence" (Prioritasi Risiko dari Kecerdasan Buatan), tim peneliti yang melibatkan Neil Thompson, ilmuwan riset utama di MIT Sloan School of Management, meminta 272 pakar AI internasional untuk mengevaluasi 24 risiko AI berdasarkan kemungkinan terjadi dan tingkat keparahannya.
Mereka juga mencatat sektor dan aktor mana yang paling rentan, serta siapa yang harus bertanggung jawab untuk mengatasi risiko tersebut.
Para pakar mengidentifikasi lima risiko utama yang paling berpotensi menimbulkan dampak paling parah dalam lima tahun ke depan. Masing-masing adalah munculnya kemampuan berbahaya (dangerous capabilities), tekanan persaingan, senjata dan serangan siber, pemusatan kekuasaan, serta informasi palsu.
Sektor informasi dan keuangan dinilai sangat rentan, dan orang-orang maupun organisasi yang paling rentan terhadap risiko tersebut sering kali tidak berada dalam posisi yang tepat untuk mengatasinya.
"Ada banyak sekali risiko AI," kata Peter Slattery, seorang ilmuwan riset di MIT FutureTech sekaligus salah satu penulis pendamping studi ini.
"Salah satu poin kunci di balik penelitian ini adalah mencoba memahami siapa yang perlu melakukan apa secara berbeda, dan dalam bentuk koordinasi seperti apa," ia menjelaskan.
Risiko Paling Parah
Studi ini menggunakan metode Delphi, yaitu proses penelitian terstruktur yang mengumpulkan penilaian para ahli melalui beberapa tahapan untuk mencapai kesepakatan dan memetakan titik perbedaan secara lebih jelas. Para peneliti menggunakan penilaian ahli tersebut untuk mengevaluasi risiko dalam horizon waktu lima tahun (2025 hingga 2030) di bawah dua skenario:
- Business as usual (kondisi tanpa perubahan kebijakan): Organisasi dan pemerintah melanjutkan pendekatan mereka saat ini.
- Pragmatic mitigation (mitigasi pragmatis): Organisasi dan pemerintah melakukan upaya hemat biaya (cost-effective) untuk mengurangi risiko AI.
Di bawah skenario business as usual, para ahli menilai bahwa 18 dari 24 domain risiko AI memiliki setidaknya 10% probabilitas memicu dampak katastrofik (bencana besar) dalam lima tahun ke depan. Hasil katastrofik didefinisikan sebagai kerugian yang mencakup potensi lebih dari 1 juta kematian, kerugian finansial lebih dari US$100 miliar (Rp1,8 triliun), atau kerusakan tak berwujud (intangible) setara skala peradaban.
Mitigasi pragmatis memang menurunkan estimasi tersebut, tetapi tidak menghilangkan risikonya secara total. Bahkan dengan upaya mitigasi yang efisien, para ahli menilai lima domain masih memiliki setidaknya 10% probabilitas memicu dampak katastrofik:
- Sistem AI yang memiliki kemampuan berbahaya (dangerous capabilities) - probabilitas 12%
- Senjata berteknologi AI, serangan siber, atau kemampuan bahaya massal lainnya - probabilitas 12%
- Kerusakan lingkungan - probabilitas 12%
- Ketimpangan sosial dan pengangguran - probabilitas 11%
- Pemusatan kekuasaan dan pembagian manfaat AI yang tidak adil - probabilitas 11%
Senjata berteknologi AI dan serangan siber menempati peringkat tinggi karena AI sangat cocok untuk tugas-tugas coding, pengenalan pola, serta sintesis informasi, jelas Slattery. Sebagian besar infrastruktur modern bergantung pada perangkat lunak, yang menyediakan celah serangan besar bagi sistem yang dapat membantu peretas mengidentifikasi kerentanan, menghasilkan kode, atau mempercepat aksi siber ofensif.
"AI sangat mumpuni untuk menyerang aspek-aspek masyarakat tersebut dan menimbulkan kerugian," kata Slattery. "Coding dan hacking adalah beberapa area di mana kita melihat pertumbuhan kemampuan AI yang paling cepat," ia menuturkan.
Dinamika Risiko Utama
- Kemampuan Berbahaya (Dangerous Capabilities): Cakupannya lebih luas. Meskipun aktor jahat dapat menggunakan sistem AI untuk merugikan, kemajuan pada sistem tersebut juga dapat mempermudah pelaksanaan tugas-tugas sulit dan berbahaya, seperti persuasi massa, pengawasan (surveillance), pembuatan deepfake, hingga membantu pembuatan senjata kimia atau biologi. "Ini adalah hal-hal yang sebelumnya bisa dilakukan, tetapi sekarang bisa dilakukan dengan jauh lebih mudah," kata Slattery.
- Dinamika Persaingan (Competitive Pressures): Bukan berupa satu bentuk penggunaan AI yang berbahaya, melainkan kondisi yang dapat memperparah risiko lainnya. Ketika perusahaan atau negara percaya bahwa AI akan memberikan keunggulan ekonomi atau strategis yang besar, mereka terdorong untuk bergerak cepat, mengabaikan batasan, atau kurang berinvestasi pada aspek keselamatan. "Ini adalah risiko instrumental yang menciptakan risiko-risiko lainnya," ujar Slattery.
Sektor Paling Terdampak dan Pihak yang Bertanggung Jawab
Studi ini menunjuk tiga sektor yang dinilai para ahli paling rentan terhadap risiko AI dalam lima tahun ke depan: informasi, keamanan nasional, dan keuangan. Para pemimpin di sektor-sektor ini harus memahami bahwa risiko yang mereka hadapi bersifat spesifik sesuai karakteristik masing-masing:
- Sektor Informasi: Risiko berkaitan erat dengan arus konten dan data, termasuk misinformasi, disinformasi, hilangnya privasi, manipulasi, serta terkikisnya kepercayaan terhadap apa yang dilihat dan dibaca publik.
- Keamanan Nasional: Kekhawatiran terbesar meliputi serangan siber, pengembangan senjata, pengawasan masif, serta penggunaan sistem AI canggih oleh pihak musuh (hostile actors).
- Keuangan: AI dapat memperbesar kejahatan penipuan (fraud), risiko siber, manipulasi pasar, pelanggaran privasi, dan kegagalan sistemik yang berdampak luas pada ekonomi.
Di seluruh sektor ini, AI membuat risiko yang ada saat ini lebih mudah diperbesar (scalable). Orang yang sebelumnya tidak bisa meretas kini dapat melakukan berbagai hal terkait peretasan, sementara mereka yang sudah ahli dapat bekerja lebih cepat, lebih baik, dan lebih mudah, jelas Slattery.
Para pakar menyatakan bahwa pengembang AI dan lembaga tata kelola (pemerintah serta regulator) memegang tanggung jawab utama untuk mengatasi risiko AI. Namun, pengguna sistem AI dan masyarakat terdampak adalah pihak yang paling rentan. Adanya ketidaksesuaian (misalignment) antara pihak yang bertanggung jawab dan pihak yang paling rentan menciptakan celah dalam pengambilan tindakan.
Langkah yang Harus Dilakukan Pemimpin Dunia
Slattery menegaskan bahwa penelitian ini tidak bertujuan memprediksi masa depan secara pasti, melainkan membantu para pemimpin berfokus pada risiko AI yang dinilai serius dan masuk akal dalam jangka pendek. "Kami tidak mengatakan hal-hal ini pasti akan terjadi," katanya.
"Kami mengatakan bahwa inilah hal-hal yang menurut para ahli perlu diperhatikan sekarang," ujarnya.
Bagi para pemimpin bisnis, risiko-risiko utama ini memunculkan dua pertanyaan mendesak:
- Apa yang bisa dilakukan oleh sistem AI yang semakin canggih saat ini?
- Apakah tekanan persaingan mendorong organisasi untuk menerapkan AI lebih cepat daripada kemampuan tata kelola mereka untuk memperbaruinya?
Kekhawatirannya adalah perusahaan, sektor industri, dan pemerintah merasa tertekan untuk bergerak cepat bahkan ketika risikonya belum dipahami sepenuhnya.
Hal itulah yang membuat temuan ini sangat berguna bagi para pemimpin bisnis, terutama mengingat banyak organisasi masih memperlakukan risiko AI sebatas masalah kepatuhan (compliance) atau ancaman masa depan yang masih jauh. Pemimpin harus mengevaluasi AI di tingkat proses bisnis: mencari tahu di mana AI dapat memberikan hasil investasi (ROI), di mana AI dapat mengubah ekosistem secara lebih luas, dan apakah AI dapat mengganggu produk atau layanan yang disediakan organisasi mereka.
Eksekutif harus mulai menyadari bahwa risiko AI bukanlah ancaman bisnis biasa. Slattery memperingatkan agar tidak meninggalkan apa yang sudah berjalan baik, tetapi pemimpin harus memperlakukan AI sebagai paradigma baru yang dapat menggantikan banyak tugas manusia, memunculkan kerentanan baru, serta menciptakan "peluang dan kerentanan di tingkat ekosistem dan masyarakat."
Penyesuaian ini juga tidak bisa dilakukan sekali saja. "Ini harus dilakukan secara berkesinambungan dan terus-menerus mulai dari sekarang, karena AI bergerak sangat cepat sehingga organisasi perlu jauh lebih responsif terhadap teknologi ini dibanding teknologi-teknologi sebelumnya," tutur Slattery.
Pesan besarnya adalah organisasi tidak perlu menunggu ramalan sempurna atau regulasi resmi sebelum bertindak. Mereka dapat memulai dengan memperhatikan potensi bahaya yang paling parah dan paling mungkin terjadi, serta memasukkan risiko AI ke dalam ruang diskusi tata kelola yang sudah ada terkait keamanan siber, privasi, keselamatan, dan keberlangsungan bisnis (business continuity).
Laporan "Prioritization of Risks From Artificial Intelligence" ditulis oleh 188 penulis pendamping, dengan tim riset inti yang terdiri dari Alexander K. Saeri, Jess Graham, Michael Noetel, Peter Slattery, dan Neil Thompson.
Penelitian ini merupakan bagian dari MIT AI Risk Initiative oleh laboratorium MIT FutureTech. MIT FutureTech adalah kelompok interdisipliner yang berafiliasi dengan MIT Sloan School of Management dan MIT Computer Science and Artificial Intelligence Lab yang mempelajari fondasi ekonomi dan teknis dari kemajuan komputasi.
MIT AI Risk Initiative bertujuan menyediakan data dan kerangka kerja otoritatif untuk membantu mengidentifikasi, memprioritaskan, dan mengelola risiko dari AI. Ini mencakup AI Risk Repository, sebuah basis data terbarukan berisi lebih dari 1.600 risiko AI yang dikelompokkan berdasarkan penyebab dan domain risiko, yang digunakan oleh pembuat kebijakan, teknolog, dan organisasi untuk merancang tata kelola AI.
(fab/fab) Add
as a preferred
source on Google [Gambas:Video CNBC]