Ilmuwan dan Mantan Karyawan Peringatkan Bahaya AI bagi Manusia
Jakarta, CNN Indonesia — Isu kecerdasan buatan (AI) yang berpotensi membawa kehancuran bagi umat manusia semakin santer dibicarakan oleh sejumlah karyawan dan mantan staf Anthropic, perusahaan teknologi di balik ciptaan Claude. Peringatan keras itu tidak bisa dianggap remeh, terutama setelah Jacob Coxon, mantan peneliti Anthropic dan OpenAI, mengungkapkan kekhawatirannya.
Potensi Kepunahan Manusia Akibat AI
Jacob Coxon melalui unggahannya di platform X dengan tegas menyatakan bahwa keberadaan AI dapat membawa umat manusia menuju kepunahan. Ia bahkan memilih untuk mundur dari perusahaan tersebut karena merasa teknologi yang dikembangkan Anthropic dan OpenAI bisa membahayakan nyawa manusia. Menurutnya, para pengembang AI yakin bahwa dalam waktu dekat, teknologi ini dapat melampaui kemampuan manusia dan bahkan meretas segalanya tanpa kendali.
“Jangan remehkan kekuatan teknologi ini. Dalam waktu dekat, sistem ini akan melampaui kemampuan manusia. AI akan sanggup meretas apa saja, merevolusi berbagai bidang secara instan, serta menguasai kekuatan dan sumber daya yang nyata,” tulis Jacob dalam cuitannya.
Perdebatan di Silicon Valley
Unggahan Jacob viral di X dan menciptakan perdebatan di Silicon Valley mengenai seberapa jauh AI dapat dikembangkan dan dikendalikan secara aman. Meskipun Anthropic dan OpenAI terus mengembangkan model AI yang canggih, sebagian peneliti justru memperingatkan agar riset ini dijalankan dengan lebih hati-hati.
Kekhawatiran utama adalah munculnya recursive self-improvement, di mana sistem AI mampu mengembangkan dirinya sendiri tanpa campur tangan manusia. Meski skenario ini belum jelas terjadi, namun perusahaan seperti Anthropic dan OpenAI menyampaikan bahwa pencegahannya sangat penting agar manusia tidak kehilangan kendali atas teknologi yang ada.
Kedua perusahaan dinilai kurang bertanggung jawab dalam perlombaan mencapai superintelligence yang bisa mengembangkan diri tanpa kendali. Hal ini menjadi fokus perhatian banyak pihak terutama karena potensi bahaya AI bagi umat manusia.
Perhatian terhadap potensi bahaya AI itu bukan hal baru dalam dunia riset. Pada tahun 2023, sejumlah tokoh industri teknologi seperti CEO OpenAI Sam Altman dan CEO Anthropic Dario Amodei, menandatangani pernyataan bersama menegaskan pentingnya menekan risiko kepunahan akibat AI. Hal ini dianggap setara dengan risiko global lainnya seperti pandemi dan perang nuklir.
