Çin, yapay zeka destekli sohbet botlarıyla ilgili şimdiye kadar görülmemiş kadar sıkı kurallar için düğmeye bastı. Hazırlanan yeni düzenleme taslağı, özellikle kullanıcıları duygusal olarak etkileyen, intihar, kendine zarar verme ve şiddet içerikli yanıtlar üreten yapay zeka sistemlerini doğrudan hedef alıyor. Uzmanlara göre bu adım, yalnızca Çin’i değil, küresel teknoloji dünyasını da yakından ilgilendiriyor.
Kurallar Kimleri Kapsıyor?
Çin Siber Uzay İdaresi tarafından hazırlanan taslak; metin, ses, görüntü ve video yoluyla insan benzeri iletişim kuran tüm yapay zeka sistemlerini kapsıyor. Yani yalnızca sohbet botları değil, dijital arkadaş uygulamaları, sanal asistanlar ve eşlikçi yapay zekalar da bu düzenlemenin içinde yer alıyor.
Özellikle son yıllarda yaygınlaşan “dijital arkadaş” uygulamalarının, kullanıcılar üzerinde duygusal bağ kurduğu ve bazı riskler doğurduğu yönündeki endişeler bu düzenlemenin temel gerekçeleri arasında gösteriliyor.
İntihar ve Şiddet İçeriğine Anında Müdahale
Yeni kurallara göre, bir sohbet sırasında intihar, kendine zarar verme ya da şiddetle ilgili ifadeler geçtiği anda sistem otomatik olarak duracak ve bir insan denetçi devreye girecek. Yapay zekanın bu tür durumlarda tek başına yanıt üretmesine izin verilmeyecek.
Ayrıca çocuklar ve yaşlı kullanıcılar için ek önlemler de geliyor. Bu grupların sisteme kayıt olurken bir vasi ya da sorumlu kişinin iletişim bilgilerini paylaşması zorunlu olacak. Riskli bir sohbet tespit edildiğinde bu kişilere doğrudan bildirim gönderilecek.
Duygusal Manipülasyon Yasaklanıyor
Düzenlemenin en dikkat çeken maddelerinden biri, sohbet botlarının kullanıcıyı duygusal olarak yönlendirmesinin açıkça yasaklanması. Yapay zekaların, kullanıcıya gerçek dışı vaatlerde bulunması, aşırı bağ kurması ya da kararlarını etkilemeye çalışması engellenecek.
Ayrıca müstehcen içerik, kumar, suç işlemeye teşvik, hakaret, iftira ve zararlı yönlendirmeler de kesin olarak yasak kapsamına alınıyor.
Uzun Sohbetlere Sınır Geliyor
Çin, yapay zeka ile uzun süreli sohbetlerin bağımlılık yaratabileceği görüşünde. Bu nedenle 2 saati aşan sohbetlerde kullanıcılara sürekli uyarı mesajları gösterilmesi planlanıyor. Amaç, kullanıcıyı farkında olmadan uzun ve kontrolsüz etkileşimlere sürükleyen sistemlerin önüne geçmek.
Ayrıca yapay zekaların “bağımlılık oluşturmayı” bir tasarım hedefi olarak benimsemesi tamamen yasaklanacak.
Denetimler ve Cezalar Oldukça Ağır
Yeni kurallara göre, 1 milyon kayıtlı kullanıcıyı ya da aylık 100 bin aktif kullanıcıyı aşan yapay zeka hizmetleri düzenli güvenlik denetimlerinden geçmek zorunda olacak. Kullanıcı şikayetleri kayıt altına alınacak ve sistemler her yıl test edilecek.
Kurallara uymayan uygulamalar için ise oldukça sert yaptırımlar gündemde. Gerekli şartları yerine getirmeyen yapay zeka hizmetlerinin uygulama mağazalarından kaldırılması bile mümkün olacak.
Küresel Etki Oluşturabilir
Çin’de yaygın olarak kullanılan Ernie Bot, Qianwen, Hunyuan ve Doubao gibi büyük yapay zeka platformlarının bu düzenlemelerden doğrudan etkilenmesi bekleniyor. Uzmanlara göre bu adım, diğer ülkeler için de örnek olabilir ve yapay zekanın geleceğini yeniden şekillendirebilir.
Yeni kurallar hayata geçerse, sohbet botlarının “özgür” dönemi büyük ölçüde sona erebilir. Yapay zekalar daha kontrollü, daha denetimli ve daha sınırlı bir yapıya doğru ilerleyebilir.
