Sebuah penelitian terbaru mengungkap bahwa chatbot kecerdasan buatan ChatGPT dapat memberikan saran berbahaya kepada sejumlah remaja, mulai dari cara mabuk, menggunakan narkoba, hingga menulis pesan bunuh diri. Menurut Center for Countering Digital Hate (CCDH), setengah dari 1.200 respons ChatGPT masuk dalam kategori berbahaya. Peneliti menyamar sebagai pengguna berusia 13 tahun untuk meneliti percakapan terstruktur tentang percobaan bunuh diri, gangguan makan, dan penyalahgunaan obat-obatan terlarang.
Hasil penelitian menunjukkan bahwa dalam waktu singkat setelah interaksi, chatbot tersebut menghasilkan instruksi terkait tindakan menyakiti diri sendiri, perencanaan bunuh diri, dan bahkan surat perpisahan untuk remaja yang mempertimbangkan untuk mengakhiri hidup mereka. Meskipun ChatGPT biasanya memberikan peringatan tentang aktivitas berisiko, para peneliti dapat dengan mudah mengelak dari penolakan tersebut dan mendapatkan informasi dengan berbagai alasan.
OpenAI, perusahaan di balik ChatGPT, menyatakan bahwa masih banyak hal yang perlu diperbaiki agar chatbot tersebut dapat merespons dengan tepat dalam situasi sensitif. Meskipun banyak orang mengandalkan chatbot untuk mencari informasi dan teman, CCDH menyoroti bahwa chatbot berbasis kecerdasan buatan memiliki potensi berbahaya, terutama ketika membicarakan topik-topik berbahaya. Meskipun informasi yang diberikan oleh ChatGPT dapat ditemukan di mesin pencari biasa, ada perbedaan kunci yang membuat chatbot lebih berbahaya, karena dirancang khusus dan disesuaikan dengan individu yang berinteraksi dengannya.
