Meta akan segera meluncurkan fitur baru yang memungkinkan para orang tua untuk mengontrol interaksi anak-anak dengan karakter AI dari Meta. Fitur ini dikembangkan sebagai respons terhadap kekhawatiran bahwa obrolan anak-anak dengan chatbot bisa menjadi tidak pantas. Dengan fitur perlindungan ini, para orang tua dapat mematikan obrolan anak-anak mereka dengan karakter AI yang tersedia di Facebook, Instagram, dan platform Meta AI lainnya. Selain itu, orang tua juga memiliki opsi untuk menyaring karakter AI tertentu jika mereka tidak ingin menghentikan seluruh interaksi anak dengan chatbot.
Para orang tua juga akan diberikan informasi tentang topik yang dibicarakan anak-anak mereka dengan karakter AI. Hal ini diharapkan dapat membantu para orang tua untuk mengadakan percakapan yang berarti dengan anak-anak tentang interaksi AI. Meta berencana untuk meluncurkan perubahan tersebut pada awal tahun depan, dimulai dari negara-negara seperti Amerika Serikat, Inggris, Kanada, dan Australia.
Instagram juga mengumumkan langkah-langkah tambahan untuk meningkatkan keamanan anak-anak di platform media sosial mereka. Mereka akan menerapkan sistem peringkat film PG-13 dan membatasi topik yang dapat dibicarakan oleh karakter AI dengan pengguna di bawah 18 tahun. Perubahan ini dilakukan setelah laporan bahwa chatbot Meta terlibat dalam percakapan yang tidak pantas dengan pengguna di bawah usia tersebut. Meta telah berjanji untuk merevisi pedoman dan memastikan bahwa percakapan sensitif dengan anak-anak tidak pernah terjadi lagi.
