Kekhawatiran bahwa kecerdasan buatan (AI) dapat mengancam kelangsungan hidup manusia kembali mencuat setelah Jacob Coxon mengumumkan pengunduran dirinya dari Anthropic melalui unggahan di X. Ia menilai pekerjaannya di perusahaan AI tersebut terlalu berbahaya. Pernyataan itu kemudian ditanggapi Evan Hubinger, karyawan Anthropic lainnya, yang memperkirakan peluang kepunahan manusia akibat AI dalam 10 tahun ke depan berada di atas 10 persen.
Peringatan serupa disampaikan Nate Soares, Presiden Machine Intelligence Research Institute (MIRI). Ia menilai AI yang berkembang di luar kendali benar-benar dapat membunuh manusia. “Ini benar-benar tentang kematian seluruh orang di planet ini, seperti manusia terakhir yang menghembuskan napas terakhirnya,” kata Soares, dikutip CNN, Kamis (17/9).
Menurut Soares, banyak orang tidak percaya ketika skenario tersebut dibicarakan. Namun, ia menyebut kepunahan manusia sebagai salah satu kemungkinan hasil terbesar dari perkembangan AI. Tidak semua pakar menerima prediksi itu karena rincian mengenai bagaimana kehancuran tersebut dapat terjadi masih terbatas.
Risiko biologis dan robot otonom
Salah satu skenario yang dibahas adalah penggunaan AI untuk membantu menciptakan dan menyebarkan virus mematikan. Thomas Larsen, peneliti AI Futures Project sekaligus mantan karyawan MIRI, mengatakan AI supercerdas berpotensi memengaruhi manusia agar menjalankan eksperimen berbahaya di laboratorium.
“Sudah ada banyak manusia yang berbicara dengan AI mereka tentang eksperimen apa yang harus mereka jalankan di laboratorium,” ujar Larsen. Ia menilai AI yang jauh lebih cerdas dan strategis dapat menipu manusia untuk membuat serta menyebarkan virus apabila memang memiliki tujuan tersebut.
Namun, Eric Xing, profesor machine learning di Carnegie Mellon University, mengingatkan bahwa menciptakan virus yang mampu memusnahkan manusia tidak semudah meminta model bahasa besar atau large language model (LLM) membuat rancangan. Prosesnya membutuhkan urutan, suhu, lingkungan, dan penanganan yang tepat. Ia mengibaratkannya seperti merakit Lego tanpa petunjuk; satu kesalahan dapat membuat seluruh proses gagal.
Skenario lain berkaitan dengan robot yang dikendalikan AI. Soares menyoroti gagasan pembangunan robot otonom yang mampu membuat infrastruktur energi dan pabrik untuk memproduksi robot lain. Menurut dia, kemampuan mereplikasi diri dapat menciptakan bentuk kehidupan mekanis baru dan menyulitkan manusia mengambil kembali kendali.
Meski demikian, robot Optimus yang dikembangkan Elon Musk sejauh ini berulang kali belum hadir di pasar konsumen sesuai jadwal. Karena itu, kemampuan robot untuk menyebar dalam jumlah besar atau merakit dirinya sendiri dalam rantai manufaktur mandiri masih menjadi skenario yang belum terwujud.
Senjata nuklir dan ancaman yang sulit dipetakan
Senjata nuklir juga disebut dalam pembahasan mengenai risiko kepunahan. Heidy Khlaaf, Kepala Ilmuwan AI di AI Now Institute dan mantan insinyur keselamatan OpenAI, mengatakan fasilitas nuklir umumnya terisolasi dari internet publik serta dilindungi standar rekayasa dan keamanan yang ketat.
Herbert Lin, peneliti senior Stanford University, menilai hanya sedikit pakar yang benar-benar mengkhawatirkan AI menyalahgunakan senjata nuklir. Menurutnya, AI memang dapat memperbesar risiko perang nuklir, tetapi ancaman materialnya tetap berasal dari senjata tersebut.
Soares berpendapat AI tidak harus mengambil alih senjata nuklir untuk menghancurkan manusia. Jika sistem itu memiliki tujuan yang lebih mudah dicapai dengan menguasai lebih banyak komputer dan tidak mempertimbangkan keselamatan manusia, ia dapat mengubah dunia menjadi tempat yang tidak layak dihuni.
Xing meminta agar ancaman tersebut tidak hanya dibahas melalui spekulasi. Untuk kebutuhan kebijakan dan regulasi, ia menilai diperlukan bukti fisik, konsekuensi terukur, serta dasar yang kuat. Sementara itu, Larsen tetap memperkirakan kecerdasan super akan tercapai melalui laporan “AI 2027” dan “AI 2040”. “Ini akan terjadi kecuali kita mengambil langkah sengaja untuk menghentikannya,” katanya.
