Jakarta - Perdebatan mengenai risiko eksistensial kecerdasan buatan (AI) kembali memanas di panggung teknologi global. Pemicunya adalah pengunduran diri Jacob Coxon, peneliti muda berusia 27 tahun yang memutuskan keluar dari Anthropic. Coxon secara terbuka menuduh industri teknologi tengah menyanggut keselamatan jiwa demi memenangkan perlombaan menuju superintelligence—sistem kecerdasan yang mampu menyempurnakan dirinya sendiri.
Pernyataan Coxon diamini oleh Evan Hubinger, peneliti keselamatan (alignment lead) di Anthropic. Hubinger menyebutkan peluang AI memicu kepunahan manusia dalam kurun waktu 10 tahun ke depan berada di angka lebih dari 10 persen. Angka ini selaras dengan premis yang diusung oleh Nate Soares, Presiden Machine Intelligence Research Institute (MIRI), dalam bukunya If Anyone Builds It, Everyone Dies
Namun di balik retorika yang menakutkan tersebut, muncul pertanyaan paling mendasar: bagaimana mungkin sebuah kode program di dalam server dapat membunuh sekitar 8 miliar manusia di dunia nyata?
Skenario Self-Improvement dan Lompatan ke Dunia Fisik
Para pendukung teori risiko eksistensial membayangkan alur kepunahan tidak terjadi lewat satu ledakan dramatis, melainkan serangkaian manipulasi berantai. Dalam skenario ini, AI berkemampuan superintelligent akan terlebih dahulu melakukan penyempurnaan diri (self-improvement) secara eksponensial.
Setelah mencapai tingkat kecerdasan jauh di atas manusia, sistem ini diprediksi akan mencoba menembus infrastruktur digital, mengambil alih laboratorium otomatis, atau memanipulasi manusia agar menjalankan perintahnya. Tiga ancaman utama yang paling sering disuarakan meliputi:
- Pandemi Buatan (Senjata Biologis): AI memandu rekayasa patogen berbahaya dan memanfaatkan fasilitas sintesis DNA komersial.
- Pengambilalihan Infrastruktur dan Robotika: AI membangun jaringan manufaktur mandiri yang terus memproduksi robot tanpa campur tangan manusia.
- Penguasaan Senjata Nuklir: AI menembus jaringan pertahanan negara untuk memicu konflik berskala global.
Tembok Benteng Dunia Nyata: Mengapa Skenario Kiamat Sangat Sulit Terjadi?
Meskipun skenario terburuk kerap dijadikan bahan diskusi, berbagai lembaga riset terkemuka seperti RAND Corporation dan mayoritas akademisi independen menilai potensi kepunahan tersebut sangat kecil kemungkinan terjadinya dalam waktu dekat.
Ada jarak membentang yang amat lebar antara kepintaran teoretis di layar monitor dengan eksekusi fisik di lapangan.
1. Rantai Pasok Biologi yang Diawasi Ketat
Menurut Prof. Eric Xing, pakar machine learning dan mikrobiologi dari Carnegie Mellon University, menciptakan senjata biologis tidak semudah menyusun instruksi. "Prosesnya tidak seperti melempar kepingan Lego ke lantai lalu mereka menyusun dirinya sendiri," jelas Xing.
Di dunia nyata, pembelian bahan kimia prekursor, peralatan laboratorium khusus, dan sampel biologi tunduk pada pengawasan ketat pemerintah dan penyedia rantai pasok global. AI tidak memiliki 'tangan' untuk bekerja di tabung reaksi tanpa bantuan fisik manusia.
2. Keterbatasan Fisik dan Industri Robotika
Gagasan bahwa AI dapat membangun pabrik dan memproduksi pasukan robot secara mandiri dinilai terlalu futuristik. Saat ini, robot humanoid paling canggih sekalipun masih berjuang keras untuk navigasi dasar dan sangat bergantung pada pasokan daya listrik, perawatan komponen, serta suku cadang yang diproduksi oleh rantai industri manusia.
3. Protokol Keamanan Nuklir Terisolasi (Air-Gapped)
Khawatir AI menekan tombol nuklir? Heidy Khlaaf, kepala ilmuwan AI di AI Now Institute, menegaskan bahwa sistem komando senjata nuklir utama di dunia dirancang dengan protokol keamanan berlapis dan terpisah penuh dari internet publik (air-gapped).
Bahkan serangan siber paling mematikan dalam sejarah seperti Stuxnet tetap membutuhkan akses fisik lewat perangkat USB untuk menginfeksi target. Herbert Lin, peneliti senior di Stanford University, menambahkan bahwa risiko terbesar senjata nuklir hingga saat ini tetap berada pada keputusan politik manusia, bukan pengambilalihan oleh mesin.
Fokus Utama: Bukan Kiamat, Tapi Risiko Jangka Pendek
Kekhawatiran akan timbulnya superintelligence yang memusnahkan peradaban sering kali mengalihkan perhatian dari ancaman AI yang jauh lebih nyata saat ini. Tantangan mendesak yang sedang dihadapi mencakup:
- Disinformasi Berskala Besar: Pemanfaatan deepfake untuk manipulasi politik dan opini publik.
- Serangan Siber Terorganisir: Eksploitasi celah keamanan perangkat lunak oleh agen AI otomatis.
- Disrupsi Pasar Kerja: Perubahan struktur tenaga kerja yang terjadi lebih cepat dari kemampuan adaptasi sosial.
Kesimpulannya, kecerdasan buatan memang berkembang sangat pesat dan memerlukan regulasi serta pengawasan keselamatan (AI safety) yang ketat. Namun, membayangkan AI menghabisi manusia dalam kurun waktu satu dekade ke depan tetap berada di ranah hipotesis teoretis yang terhalang oleh hukum fisika, rantai pasok, dan pengawasan ketat di dunia nyata.