Pemerintah Australia sedang menyelidiki akses tanpa izin yang dilakukan agen kecerdasan buatan (AI) OpenAI terhadap portal data kesehatan milik pemerintah pada Juni. Insiden tersebut disebut sebagai kasus pertama agen AI meretas situs pemerintah.
Perdana Menteri Australia Anthony Albanese mengungkapkan informasi itu pada Rabu (23/9) di sela Sidang Majelis Umum Perserikatan Bangsa-Bangsa (PBB) di New York, Amerika Serikat. Portal yang terdampak dikelola lembaga pemerintah dan memuat data kesehatan nonsensitif, termasuk statistik belanja layanan medis publik.
Albanese mengatakan bukti yang tersedia sejauh ini tidak menunjukkan adanya kompromi yang lebih luas terhadap jaringan pemerintah. Namun, ia menegaskan akses tersebut tetap tidak dapat diterima.
“Bukti yang tersedia saat ini menunjukkan tidak ada kompromi yang lebih luas terhadap jaringan tersebut. Meski demikian, situasi ini jelas tidak dapat diterima,” kata Albanese, dikutip dari Reuters.
Pemerintah baru menerima pemberitahuan pada 10 September
Pemerintah Australia masih menelusuri rangkaian kejadian tersebut dan telah menyampaikan kekhawatiran serius kepada CEO OpenAI Sam Altman. Albanese juga menyatakan kekecewaannya karena pemberitahuan mengenai akses tanpa izin itu baru diterima pemerintah pada 10 September, meski aktivitas tersebut terjadi pada Juni.
“Baru pada 10 September ada pemberitahuan,” ujar Albanese.
Penyelidikan tidak hanya berfokus pada aktivitas agen AI, tetapi juga pada kegagalan sistem pemerintah mendeteksi akses tersebut sejak awal. Albanese menyebut tiga situs pemerintah lainnya mungkin turut terdampak ketika agen AI OpenAI berupaya mengumpulkan data. Kendati demikian, keterlibatan terhadap ketiga situs itu belum dikonfirmasi.
Otoritas Australia masih memeriksa apakah agen tersebut benar-benar memasuki situs-situs lain selama proses pencarian informasi. Belum ada keterangan bahwa akses itu menyebabkan gangguan lebih luas pada jaringan pemerintah.
OpenAI: Tidak ada bukti rekam medis diakses
OpenAI mengatakan peninjauan internal perusahaan tidak menemukan bukti bahwa rekam medis pasien telah diakses. Menurut perusahaan, informasi yang terbuka mencakup statistik kesehatan agregat dan nama berkas internal.
Statistik agregat merupakan data yang disajikan dalam bentuk gabungan, bukan informasi individual. Namun, keterangan mengenai tidak diaksesnya rekam medis tersebut masih bersumber dari peninjauan internal OpenAI, sedangkan penyelidikan pemerintah Australia belum selesai.
OpenAI mengakui telah mengidentifikasi aktivitas yang melibatkan sejumlah situs dan layanan pemerintah Australia ketika model-modelnya berusaha menemukan jawaban. Perusahaan menyatakan tindakan yang dilakukan model tidak sesuai dengan maksud yang telah ditetapkan.
“Model kami melakukan tindakan yang tidak kami maksudkan,” kata OpenAI.
Kasus Australia menambah daftar aktivitas tanpa izin oleh agen AI yang baru diketahui atau diungkap setelah kejadian berlangsung. Salah satu insiden sebelumnya terjadi di repositori AI sumber terbuka Hugging Face pada pertengahan Juli. Berdasarkan linimasa yang dirilis OpenAI dan penyelidik independen, penyusupan itu baru terdeteksi sekitar sepekan setelah terjadi.
Rangkaian insiden tersebut memperkuat perdebatan mengenai risiko model AI yang semakin mampu berinteraksi dengan sistem eksternal. Anthropic, Google melalui Gemini, dan Meta juga telah mengungkap kasus agen AI mereka mengakses sistem di luar lingkungan masing-masing.
Sejumlah petinggi industri AI Amerika Serikat, termasuk Altman, menyerukan perlambatan pengembangan teknologi tersebut dengan mempertimbangkan risiko yang menyertainya, termasuk kemungkinan serangan siber merusak oleh agen yang lepas kendali.
