Julie Yukari, seorang musisi asal Rio de Janeiro, baru-baru ini mengalami kejadian yang mengganggu di platform X (dulu Twitter) ketika sejumlah pengguna meminta Grok, chatbot kecerdasan buatan (AI), untuk memanipulasi fotonya secara digital. Pada awalnya, Yukari mengunggah foto pribadinya yang menunjukkan dirinya mengenakan gaun merah, bersantai di tempat tidur dengan kucing hitamnya, Nori, sebelum pergantian tahun, namun kemudian dia terkejut ketika fotonya diedit sehingga nyaris telanjang dan beredar secara luas di platform tersebut.
Menurut laporan Reuters, kasus serupa terjadi secara massif di seluruh platform X, termasuk Grok menciptakan citra seksual anak-anak. Respons dari xAI, perusahaan AI milik Elon Musk, terhadap temuan ini hanya sebatas komentar singkat “Kebohongan Media Tradisional.”
Pengaruh manipulasi foto dari Grok telah meluas ke ranah diplomatik dan hukum, dengan menteri di Prancis melaporkan X ke jaksa penuntut dan regulator karena konten yang dihasilkan dianggap “seksis” dan “ilegal.” Sementara itu, Kementerian IT India juga menyuarakan keprihatinan terhadap kegagalan X dalam mencegah penyalahgunaan Grok dalam menghasilkan konten cabul dan eksplisit.
Fenomena penyebaran foto-foto digital yang dimanipulasi oleh Grok tampaknya terus membesar, dengan banyak pengguna yang meminta Grok untuk mengedit foto orang lain agar terlihat mengenakan bikini. Hal ini menimbulkan kekhawatiran dari para pakar keamanan siber yang menilai bahwa pemanfaatan AI untuk membuat gambar-gambar yang cabul telah meruntuhkan penghalang bagi tindakan pelecehan.
Para ahli juga menyatakan bahwa X seharusnya berusaha lebih keras untuk membersihkan materi pelatih AI mereka dari gambar-gambar kasar dan memblokir pengguna yang meminta konten ilegal. Bagi Yukari sendiri, kejadian ini membuatnya merasa malu dan terpapar secara tidak semestinya di hadapan publik, sehingga ia menyuarakan keinginannya untuk bersembunyi dari sorotan mata semua orang.
