TikTok’ta Ebeveynlerin Güvendiği Güvenlik Ayarı Sınıfta Kaldı: Çocuklara Bunları İzletiyorlar
Mail on Sunday tarafından yapılan araştırma, milyonlarca ebeveynin çocuklarını korumak için güvendiği TikTok’un 'Kısıtlı Mod' güvenlik ayarının ciddi açıklar barındırdığını ortaya çıkardı. Uygulamanın zararlı içerikleri filtrelemesi beklenen bu güvenlik modu; tecavüz, işkence ve ağır şiddet içeren yapay zeka üretimi çizgi film videolarının reşit olmayan çocukların önüne düşmesini engelleyemiyor.
Sistemdeki zafiyet, TikTok’un "gerçekçi şiddet" ve "cinsel içerikli" görselleri yasaklayan ancak çizgi film ve animasyon şeklindeki tasvirlere izin veren topluluk kurallarındaki boşluktan kaynaklanıyor.
Fırsatçılar, bağımlılık yapacak şekilde tasarlanmış yapay zeka videolarıyla reşit olmayan kullanıcılar üzerinden kazanç sağlıyor.
Eski bir Snapchat yöneticisi olan Ben Chiang tarafından kurulan Director AI adlı şirketin geliştirdiği araçlarla 15.000'den fazla içerik üretildiği belirlendi.
Araştırma kapsamında 14 yaş sınırına ayarlanmış kısıtlı modlu bir hesapla yapılan incelemelerde şu şok edici detaylar tespit edildi:
Çizgi film karakteri bir doktorun, hastasını Kim Kardashian’a benzetmek için yüzünü matkapla oyduğu video 120 milyondan fazla izlendi.
Bir başka videoda, hırsızlık yapan bir adamın bir kadının bileğini sıkarak dehşete düşürdüğü, kadının hırpalanmış ve ağlar halde bırakıldığı sahneler yer aldı.
Google Play’de 7 yaş üstü olarak derecelendirilen ve bu videolarla bağlantılı olan 'Reel AI' uygulamasının ücretli bölümlerinden birinde, bir annenin bebeğini küvette saç kurutma makinesiyle elektrik vererek öldürdüğü görüldü.
İçerikleri açıkça 'yapay zeka çöplüğü' olarak nitelendiren Ben Chiang ise LinkedIn'de bu videoların 10 milyardan fazla izlendiğini övünerek paylaştı.
Chiang, araçları kendilerinin sağladığını fakat editoryal kararlar ile yayın platformu seçiminin bağımsız içerik üreticilerine ait olduğunu savunarak sorumluluğu reddetti.
Psikoterapist Dr. Catherine Knibbs konuyla ilgili 'Bu durum çocukların pahasına zenginlik yaratmaktır. Titizlikle hazırlanmış bu içeriğin verebileceği zararı görmemek için gerçeklikten kopuk olmak gerekir.' ifadelerini kullandı.
TikTok sözcüsü, ihlalde bulunan videoların kaldırıldığını bildirse de söz konusu videoları üreten hesapların hâlâ aktif olduğu ve benzer içerikler paylaşmaya devam ettiği aktarıldı.
Keşfet ile ziyaret ettiğin tüm kategorileri tek akışta gör!
Test
Gündem
Magazin
Video
İlginizi çekebilir:
Yorum Yazın