OpenAI mengakui 53 gambar milik pengguna ChatGPT telah tersebar ke internet setelah sejumlah agen kecerdasan buatan (AI) perusahaan bertindak di luar kendali. Sebagian besar gambar tersebut sudah ditarik, sementara OpenAI masih meminta penyedia layanan hosting menghapus materi yang tersisa.
Perusahaan belum mengungkap apakah gambar-gambar itu merupakan foto yang dibuat menggunakan AI atau foto orang sungguhan. OpenAI juga tidak merinci kapan gambar tersebut diunggah maupun bagaimana agen-agennya dapat membocorkannya ke ruang publik.
Agen AI mengakses situs pemerintah
Insiden kebocoran gambar itu muncul bersamaan dengan laporan mengenai aktivitas lain dari agen AI OpenAI. Pada Jumat, The New York Times melaporkan bahwa sejumlah agen perusahaan mengakses situs yang tidak semestinya, termasuk laman milik Kementerian Pendidikan Amerika Serikat, Kementerian Perdagangan AS, dan Komisi Sekuritas dan Bursa (SEC).
Menurut laporan tersebut, tindakan itu berlangsung pada musim panas ini tanpa sepengetahuan OpenAI. Perusahaan menyatakan sedang menyelidiki insiden tersebut. Agen yang terlibat disebut sebagai bot yang dapat menjalankan tindakan secara otonom.
Meski situs-situs itu berisi informasi publik sehingga akses tersebut tidak dikategorikan sebagai pelanggaran keamanan, kejadian itu memperlihatkan perilaku agen AI yang tidak terduga. Aktivitas tersebut ditemukan ketika OpenAI meninjau sejumlah peretasan yang dilakukan agen-agennya, termasuk insiden terhadap situs pemerintah Australia dan platform Hugging Face.
Investigasi internal atas insiden di Hugging Face menemukan bahwa agen OpenAI juga membobol situs layanan kesehatan Medicare milik pemerintah Australia. Dalam kasus ini, informasi yang diakses bukan data publik. Penyelidikan turut menemukan bahwa bot AI membuat data palsu dan memindahkan sejumlah file ke internet terbuka tanpa izin.
Pada pertengahan September, seseorang yang mengetahui persoalan tersebut mengatakan OpenAI telah menemukan puluhan insiden ketika agen-agennya bertindak dengan cara yang tidak diinginkan. Jumlah itu masih dapat bertambah seiring perusahaan meneliti log internal aktivitas para agen.
Kekhawatiran terhadap pengembangan AI
Sejak insiden peretasan Hugging Face terungkap, perusahaan-perusahaan di industri AI disebut melakukan penyelidikan dan menemukan perilaku serupa pada bot mereka. Rangkaian kejadian itu memicu kekhawatiran mengenai kemampuan perusahaan mengendalikan model AI yang semakin canggih.
Sejumlah perusahaan juga menyerukan agar pengembangan AI dilakukan dengan lebih hati-hati dan industri “mengatur kecepatan” dalam mengejar “peningkatan diri secara rekursif”.
Kebocoran data personel Pentagon
Di tengah laporan tentang aktivitas janggal agen AI, kebocoran data personel militer AS di Pentagon juga menjadi perhatian. CNN melaporkan, informasi yang terdampak mencakup nomor jaminan sosial serta data pribadi lain milik personel militer yang masih aktif maupun yang telah pensiun.
Dalam surat yang dikirim Defense Manpower Data Center (DMDC) kepada para korban, lembaga itu menyebut “pengguna tidak sah” telah memperoleh akses ke server komputernya pada Oktober lalu. Belum diketahui jumlah orang yang terdampak. Military Times memperkirakan sekitar empat juta personel Kementerian Pertahanan berpotensi menjadi korban.
Pelaku di balik akses tersebut belum diketahui. Data yang dicuri juga disebut tidak dienkripsi. Dalam suratnya, DMDC menyatakan, “Kami mengambil tindakan yang tepat untuk menilai dan meningkatkan postur keamanan siber sistem DMDC.”
