Yapay zekâ ile hazırlanan sahte videoların (deepfake) hızla artması sosyal medya platformlarını yeni önlemler almaya yöneltti. TikTok, içerik üreticilerini korumak amacıyla yapay zekâ ile oluşturulan benzer yüzleri tespit edebilen yeni bir sistemi test etmeye başladı.
Platformun üzerinde çalıştığı bu özellik sayesinde kullanıcılar, kendi görüntülerinin izinsiz şekilde kullanıldığı yapay zekâ içeriklerini daha kolay tespit edip şikâyet edebilecek.
Yapay Zekâ ile Oluşturulan Videolar Tespit Edilecek
Yeni sistem, özellikle içerik üreticilerinin yüzünü taklit eden veya yapay zekâ ile değiştiren videoları belirlemeye odaklanıyor. Araç, kullanıcıların benzerlik taşıyan içerikleri incelemesine ve doğrudan platforma bildirmesine olanak sağlayacak.
Ancak bu özelliği kullanabilmek için hesap sahibinin kimliğini doğrulaması gerekiyor.
Kimlik Doğrulaması Zorunlu Olacak
TikTok'un test ettiği sistemde kullanıcıların gerçek zamanlı çekilmiş bir selfie ve resmi kimlik doğrulaması yapması isteniyor. Şirket, doğrulama işleminin belge saklamayan bağımsız bir hizmet üzerinden gerçekleştirileceğini belirtiyor.
Bu sayede kötü niyetli kişilerin başkası adına sahte bildirim yapmasının önüne geçilmesi hedefleniyor.
YouTube Benzer Sistemi Daha Önce Kullanıma Sunmuştu
TikTok'un geliştirdiği özellik, daha önce YouTube'un kullanıma sunduğu yapay zekâ destekli benzerlik algılama sistemine benzer şekilde çalışıyor. İlk etapta sınırlı kullanıcı grubuyla test edilen bu teknoloji, zamanla daha geniş kitlelere açılmıştı.
TikTok da test sürecinin başarılı olması halinde yeni güvenlik özelliğini tüm kullanıcılara sunmayı planlıyor.
Deepfake Tehlikesi Büyüyor
Son yıllarda yapay zekâ teknolojilerinin gelişmesiyle birlikte deepfake içeriklerin sayısı hızla arttı. Özellikle ünlüler, içerik üreticileri ve sosyal medya fenomenlerinin görüntülerinin izinsiz kullanılması önemli bir güvenlik ve gizlilik sorunu haline geldi.
Uzmanlar, sosyal medya platformlarının bu tür içerikleri tespit edebilecek yapay zekâ sistemlerine yatırım yapmasının hem kullanıcı güvenliği hem de dijital hakların korunması açısından büyük önem taşıdığına dikkat çekiyor.
