Periskop.id - Meta Platforms akan mengirim peringatan kepada orang tua jika anak remaja mereka membahas bunuh diri atau cara melukai diri sendiri saat mengobrol dengan chatbot Meta AI. Kebijakan tersebut diumumkan perusahaan pada Kamis (16/7).
Langkah ini muncul di tengah sorotan regulator dan orang tua terhadap respons chatbot berbasis kecerdasan buatan saat berhadapan dengan remaja yang mengalami krisis mental. Tanggung jawab perusahaan AI dalam situasi semacam itu kini turut memengaruhi arah pengembangan dan pemasaran produk mereka.
Meta menjelaskan, sistem AI khusus telah dibangun untuk mendeteksi percakapan ketika seorang remaja secara jelas menyebut niat menyakiti diri sendiri. Sistem ini menjadi dasar sebelum notifikasi dikirim ke orang tua.
"Kami memahami betapa menyedihkannya peringatan ini bagi orang tua. Itulah mengapa, seiring kami terus meningkatkan sistem deteksi kami, semua obrolan yang ditandai oleh AI kami akan ditinjau secara manual sebelum peringatan dikirim," kata Meta dalam pernyataan yang dilansir TechCrunch, Jumat (17/7).
Peninjauan manual itu dilakukan sebagai penyaring tambahan sebelum sebuah kasus benar-benar dianggap layak dilaporkan ke orang tua. Meta menegaskan, jika niat atau kondisi remaja dalam percakapan masih ambigu, perusahaan tetap akan memilih pendekatan hati-hati dengan memberi tahu orang tua.
Pendekatan konservatif ini dipilih untuk meminimalkan risiko lolosnya kasus yang sebenarnya butuh perhatian orang tua, meski indikasi bahaya belum sepenuhnya jelas.
Peringatan tersebut saat ini sudah tersedia bagi orang tua yang menggunakan fitur Instagram Parental Supervision di Amerika Serikat, Inggris Raya, Australia, dan Kanada.
Meta menyebutkan, fitur ini rencananya akan diluncurkan secara global, termasuk Indonesia, pada akhir tahun ini.
Pembaruan tersebut melanjutkan sejumlah fitur keselamatan yang sebelumnya sudah diterapkan Meta. Sebelum kebijakan terbaru ini, perusahaan telah lebih dulu mengirim peringatan kepada orang tua ketika akun remaja berulang kali mencari istilah terkait bunuh diri atau tindakan menyakiti diri di Instagram.
"Kami merasa ini adalah langkah awal yang tepat. Kami akan terus memantau untuk memastikan bahwa pendekatan kami berada pada tingkat yang sesuai," kata Meta.
as a preferred 
Tinggalkan Komentar
Komentar