Jakartakita.com – Meta menghadirkan sejumlah fitur perlindungan baru untuk meningkatkan keamanan remaja saat menggunakan Meta AI. Salah satunya, orang tua akan menerima pemberitahuan jika percakapan anak mereka dengan Meta AI menunjukkan indikasi risiko bunuh diri atau tindakan melukai diri sendiri.
Fitur ini melengkapi sistem pengawasan orang tua (Parental Supervision) di Instagram. Selain mengirimkan notifikasi kepada orang tua, Meta AI juga akan mengarahkan remaja yang terindikasi mengalami krisis emosional untuk menghubungi layanan bantuan profesional atau berbicara dengan orang dewasa yang dipercaya.
Meta menjelaskan bahwa setiap percakapan yang terdeteksi berisiko akan melalui proses peninjauan manual sebelum notifikasi dikirimkan kepada orang tua.
“Peringatan ini bertujuan membantu orang tua memberikan dukungan kepada remaja ketika mereka menghadapi tekanan emosional,” tulis Meta dalam keterangannya.
Fitur tersebut saat ini telah tersedia bagi pengguna di Amerika Serikat, Inggris, Australia, dan Kanada, serta akan diperluas secara global pada akhir 2026.
Selain itu, Meta juga tengah mengembangkan sistem yang memungkinkan perusahaan menghubungi layanan darurat apabila AI mendeteksi adanya risiko bunuh diri yang bersifat mendesak, baik pada pengguna remaja maupun dewasa.
Untuk meningkatkan akurasi sistem, Meta menggandeng lebih dari 75 ahli kesehatan mental yang memberikan masukan terhadap cara Meta AI merespons percakapan mengenai bunuh diri dan tindakan melukai diri sendiri. AI kini dirancang untuk memvalidasi perasaan pengguna sekaligus mengarahkan mereka memperoleh bantuan yang sesuai.
Meta juga memperluas pengaturan Limited Content ke Meta AI. Dengan fitur ini, akun remaja secara otomatis akan mendapatkan pembatasan konten yang lebih ketat, termasuk mencegah AI merespons percakapan romantis, seksual, maupun topik sensitif lain yang tidak sesuai usia.
Langkah tersebut menjadi bagian dari upaya Meta menghadirkan pengalaman AI yang lebih aman bagi remaja sekaligus memberikan dukungan kepada orang tua dalam menjaga kesehatan mental anak di era kecerdasan buatan. (Risma)