Meta, yapay zekâ destekli sohbet asistanı Meta AI için genç kullanıcıların güvenliğini artıracak yeni önlemleri devreye almaya başladı. Özellikle çocuk ve gençlerin kendine zarar verme ya da intihar gibi hassas konularla ilgili sohbetler yapması durumunda ebeveynlere otomatik uyarı gönderilecek.
Şirket, bu adımla hem ailelerin daha erken haberdar olmasını hem de gerekli desteğin zamanında sağlanmasını amaçlıyor.
Riskli Sohbetlerde Ebeveynlere Bildirim Gidecek
Yeni sistem, Meta AI ile yapılan konuşmaları belirli güvenlik sinyalleri açısından analiz edecek. Eğer bir gencin intihar veya kendine zarar verme riski taşıdığı düşünülürse, ebeveynlere bildirim gönderilecek. Bildirimlerde ayrıca kriz destek hatları ve profesyonel yardım kaynaklarına yönlendiren bilgiler de yer alacak.
Meta, bu uyarıların yanlış alarm oluşturmaması için uzmanlarla birlikte geliştirilen güvenlik kriterlerinin kullanıldığını belirtiyor.
Yapay Zekâ Gençleri Yardım Almaya Teşvik Edecek
Meta AI, riskli ifadeler tespit ettiğinde yalnızca ebeveynleri bilgilendirmekle kalmayacak. Aynı zamanda kullanıcıya bir aile büyüğü, öğretmen, danışman veya güvendiği başka bir yetişkinle iletişime geçmesini önererek profesyonel destek almasını teşvik edecek.
Acil Durumlarda Yetkililer de Haberdar Edilebilecek
Meta'nın geliştirdiği sistem yalnızca gençlerle sınırlı değil. Şirket, herhangi bir kullanıcının ciddi intihar riski taşıdığına dair güçlü işaretler tespit edilmesi halinde gerekli durumlarda acil yardım ekiplerine bilgi verilmesini sağlayacak yeni bir güvenlik mekanizması üzerinde de çalışıyor.
Meta, benzer uygulamaların Facebook ve Instagram'da uzun süredir kullanıldığını ve bugüne kadar binlerce olası vakada sağlık ekiplerinin harekete geçmesine katkı sağladığını ifade ediyor.
Genç Kullanıcılara Yaşa Uygun Yanıtlar Verilecek
Meta AI, 18 yaş altındaki kullanıcılar için daha güvenli bir sohbet deneyimi sunacak şekilde yapılandırılıyor. Sistem; cinsel içerikler, romantik yönlendirmeler, alkol gibi yaşa uygun olmayan konularda sohbet etmeyecek ve kullanıcıları daha güvenli içeriklere yönlendirecek.
Ayrıca ebeveynler, çocuklarının Meta AI ile yaptığı sohbetleri denetleyebilecek araçlara da erişebilecek.
İlk Olarak Dört Ülkede Kullanıma Sunuldu
Yeni güvenlik özellikleri şu anda ABD, İngiltere, Avustralya ve Kanada'da ebeveyn denetimi kullanan hesaplarda aktif olarak kullanılmaya başlandı. Meta, yıl sonuna kadar bu sistemi kademeli olarak diğer ülkelerde de kullanıma sunmayı hedefliyor.
Uzmanlar ise yapay zekâ destekli sohbet sistemlerinin özellikle gençler üzerindeki uzun vadeli etkilerinin henüz tam olarak bilinmediğini belirterek, bu tür teknolojilerin bilinçli ve kontrollü şekilde kullanılmasının önemine dikkat çekiyor.
