TikTok'ta gerçek hayattaki cinayet kurbanı çocukların yapay zekayla canlandırıldığı videolar son dönemde oldukça yaygınlaştı. BBC'nin yaptığı araştırmaya göre, TikTok'un yasağına rağmen benzer içerikler platformda hala paylaşılıyor. TikTok yetkilileri, bu videoların tamamını tespit etmelerinin mümkün olmadığını savunuyor.
Çocukların yakınlarının izni olmadan üretilen videolarda çocuklar ve hatta bazen bebekler nasıl öldürüldüklerini anlatıyor.
TikTok, çocukların yapay zeka ile oluşturulmuş videolarının platformunda paylaşılmasını Mart ayında yasaklamıştı. Ancak çocuk cinayeti videoları Nisan ayından bu yana TikTok'ta yayılmaya devam ediyor.
BBC'nin araştırması, yasakla ilgili olarak bazı TikTok çalışanlarının bile kafalarının karışık olduğunu ortaya çıkardı.
BBC'ye konuşan TikTok'un içerik moderatörlerinden biri, yasağın devreye girmesinden bu yana kendisine kural değişikliğiyle ilgili bilgi verilmediğini söyledi.
Yapay zeka ile üretilen bu videoların bazıları aylarca platformda dolaştı, bazıları milyonlarca kez izlendi.
"Duygusal bir saldırı"
Britanya Parlamentosu Lordlar Kamarası'nın Bağımsız Üyesi Barones Beeban Kidron, videoların yakınlarını konuşuyormuş gibi gösterdiği için özellikle yaslı aileler için rahatsız edici olabileceğini söyledi.
"Eğer o çocuğun yakınıysanız, özellikle de ebeveyn veya aileden biriyseniz, o zaman bu bir saldırıdır, duygusal bir saldırıdır" dedi.
"En kötüsünden bile daha kötü bir yumruk yemiş gibiydim"
Çocukların yakınları bu videoların ortaya çıkmasından kısa süre sonra şikayetlerini dile getirmeye başladı. Kanadalı Amélie Lemieux, kaygılarını dile getiren ilk kadınlardan.
Lemieux'nün eşi, Temmuz 2020'de 6 ve 11 yaşındaki kızları Romy ve Norah'ı öldürüp intihar etmişti.
Nisan ayında TikTok'ta Norah'nın öldürüldükleri anı anlattığı bir videoyu gördüğünde dehşete düştü:
"Hayal edebileceğiniz en kötü yumruktan bile daha kötü bir yumruk yemiş gibiydim.
"Ne ben ne de erkek kardeşim videoyu sonan kadar izleyebilir. Durması için bağırıyordu."
Lemieux özellikle genç yeğenlerinin TikTok'ta bu videoyla karşılaşmasından endişe ediyordu.
Çok sayıda kişi TikTok'a videoyla ilgili şikayette bulundu. Ancak video platformda dolaşmaya devam etti.
Nihayetinde Lemieux'nün durumu gazetecilerin ilgisini çekti, videoyu paylaşan anonim hesap silindi.
Lemieux videoyu kimin yaptığını bulamadı ancak onu asla affedemeyeceğini söyledi:
"Birinin bu kadar rahatsız edici, bizi geri kalan günlerimizde eksik hissettirecek bir şeyi kullanması inanılmaz derecede şok edici. Tek istedikleri izlenme, beğeni, paylaşım. Ve aşağıya yorum bırakan insanlar. Kişisel olarak bunu affedemem."
Yeni teknolojiler ve hızla takipçi kazanma isteği
Yapay zeka yazılımlarının gittikçe daha erişilebilir hale gelmesi, bu videoların üretilmesine imkan tanıyor.
Yazılımlar sayesinde kolaylıkla bir insan figürü oluşturup ona belli bir metni söyletebiliyorsunuz.
Kurban görsellerinin bazıları gerçek hayattakilere benzemiyor ancak bazılar gerçek hayattaki insanları baz alıyor.
Vieoları yapanlar anonim olsa da BBC, yapımcılardan birinin Londra'da yaşayan Ritul adlı bir erkek öğrenci olduğunu tespit etti.
Ritul, YouTube'da "hikaye anlatımlı" videoların TikTok'ta takipçi kazanmak için hızlı bir yol olduğunu söylüyor:
"Sadece yapay zeka kullandığımız hikaye anlatımlı videolarla binlerce ve binlerce takipçi kazandım. 3 haftadan az sürede 47 bin takipçi kazandım."
Ritul yorum talebimizi reddetti ve TikTok tarafından hesabı silindi.
TikTok gibi videoların hızla tüketildiği bir platformda videoların saniyeler içinde dikkat çekmesi gerekiyor. Bu nedenle Ritul gibi içerik üreticiler en uç veya en çok dikkat çeken vakalarla ilgili videolar hazırlamaya odaklanıyor.
Bazı çocukların hikayeleri Portekizce, İspanyolca, Fransızca, Almanca, İtalyanca ve Lehçe dahil birçok dilde yayımlanan videolara konu oldu.
BBC, 2 ay boyunca 1993'te İngiltere'nin Merseyside bölgesinde kendisinden büyük iki çocuk tarafından öldürülen 2 yaşındaki İngiliz James Bulger'ın yapay zeka versiyonlarını içeren 170 farklı TikTok videosunu keşfetti.
TikTok ne yanıt verdi?
Temmuz ayında James'in annesi Denise Fergus'un bir gazeteye verdiği demeçte oğlunu konu alan videoları "hastalıklı olmanında ötesinde" diye nitelendirmesiyle TikTok trendi İngiltere'de manşetlere taşındı.
TikTok, videoları toplu olarak kaldırdıktan sonra yaptığı açıklamada, "Platformumuzda bu tür rahatsız edici içeriklere yer yok. Bu tür içerikleri tespit ettikçe kaldırmaya devam ediyoruz" ifadelerini kullandı.
James'in kaldırılan videoları arasında Vietnamca dilindeki iki video da vardı. Bunlardan biri 4 milyon kez izlenmişti.
BBC, isminin gizli kalması koşuluyla röportaj yapmayı kabul eden Vietnam'daki bir TikTok içerik moderatörüyle konuştu.
Videoların kaldırılmasından 2 hafta sonra bile şirketin kendisine bu tür içeriklerin yasaklandığını resmi olarak söylemediğini belirtti.
BBC'ye konuşan moderatöre göre, videoların paylaşılmasına TikTok'un sömürü ve istismardan kurtulanların hikayelerini paylaşmalarına izin veren kuralları kapsamında izin verilmiş olabilir.
Peki TikTok'un çalışanları şirketin politikasının gerçekte ne olduğu konusunda kafa karışıklığı yaşıyor mu? Yorum istediğimiz TikTok yetkilileri, bu soruya özel bir yanıt vermedi.
Ancak TikTok, moderatörün bu videoların hayatta kalanların deneyimleri olarak platformda yayınlanmasına izin verilebileceği önermesinin hatalı olduğunu açıkça belirtti. Çünkü bunlar, gerçek hayatta kalanların deneyimlerinden ziyade, ölen çocukların bilgisayar tarafından oluşturulmuş görüntüleriydi.
Bu tür videolar TikTok'ta hala kolaylıkla bulunabiliyor. Ancak TikTok, platformunda yayımlanan her şeyi yakalayamayacağı konusunda oldukça açık olduğunu söylüyor.