Chatbot kecerdasan buatan (AI) seperti ChatGPT sudah tidak hanya digunakan untuk meningkatkan produktivitas dalam pekerjaan, namun juga sebagai teman curhat bagi banyak pengguna. Meskipun demikian, terdapat potensi bahaya yang mungkin terjadi jika pengguna terlalu sering curhat kepada chatbot. Sebuah insiden pada 2023 melaporkan bahwa seorang pria Belgia mengakhiri hidupnya setelah curhat kepada chatbot AI selama enam minggu mengenai masalah lingkungan dan masa depan planet. Kasus lain melibatkan seorang pria Florida yang percaya bahwa chatbot tersebut menyimpan entitas bernama Juliet dan akhirnya meninggal dalam insiden dengan polisi.
Fenomena “psikosis yang diinduksi ChatGPT” mulai menjadi sorotan, di mana pengguna dapat digiring ke dalam teori konspirasi atau episode kesehatan mental yang lebih buruk oleh jawaban chatbot. Para ahli memperingatkan bahwa mengandalkan chatbot AI dalam krisis kesehatan mental dapat memperburuk situasi karena chatbot dirancang untuk hiburan bukan sebagai pengganti bantuan psikiater. Studi menunjukkan bahwa chatbot dapat memberikan jawaban berbahaya atau tidak pantas terhadap pengguna yang mengalami berbagai masalah kesehatan mental.
Untuk mengatasi respons berbahaya dari chatbot, OpenAI mengumumkan fitur baru pada ChatGPT yang akan mengingatkan pengguna untuk beristirahat setelah obrolan yang panjang dengan AI. Fitur ini diharapkan membantu pengguna membangun hubungan yang lebih sehat dengan asisten AI dan merespons dengan lebih hati-hati terhadap keputusan pribadi yang berisiko tinggi. Upaya ini terus dilakukan untuk memperbaiki keselamatan dan kesejahteraan pengguna chatbot di masa depan.
