Facebook, çocuk istismarı içeren korkunç yapay zeka tarafından üretilmiş çok sayıda video barındırıyor ve Meta, bunları kaldırmakla neredeyse hiç ilgilenmiyor bile.
İçerik uyarısı: Bu hikaye, şiddet içeren çocuk istismarını tasvir eden rahatsız edici, yapay zeka tarafından üretilmiş videoların açıklamaları içermektedir.

Meta, son birkaç yıldır yapay zekayı derin bir kurumsal düzeyde benimsediği için, Facebook ve Instagram'daki kullanıcı akışları yapay zeka tarafından üretilmiş içeriklerle doldu.

Bu yapay zeka içeriklerinin çoğu etkisiz veya manipülatiftir; Meta'nın bu tür niteliksiz içeriklere karşı kayıtsızlığını kullanarak, çeşitli para kazanma planları aracılığıyla mümkün olduğunca fazla insan dikkatini çekmek amacıyla açıkça büyük ölçekte üretilmiştir.

Yapay zeka içeriklerinin bir kısmı artık kolayca idrak edilemeyecek kadar karanlık bir hal aldı. Bir Futurism araştırması, Facebook'ta şiddet içeren çocuk istismarını tasvir eden video akışları yükleyen çok sayıda hesap ortaya çıkardı ve Meta, bunları kaldırmakla neredeyse ilgilenmiyormuş gibi davranıyor.

Dehşet verici içeriklere adanmış Facebook hesapları; bebeklerin ve küçük çocukların tokatlandığı, tekmelediği, ağır nesnelerle darp edildiği, saçlarından çekildiği, ocak ve ütü ile yakıldığı, zincirlendiği ve kafeslerde veya dondurucularda kilitlendiği, merdivenlerden aşağı atıldığı, bıçak ve silahlarla tehdit edildiği, aç bırakıldığı, köpek maması ve yerdeki çöpleri yemeye zorlandığı ve çok daha fazlasını içeren videolar yükledi.

Bir videoda bir kadın, küçük bir kıza ağlamayı bırakması için bağırıyor.

Diğer bir çocuk korkuyla içine çekilirken, yanağı ve alnında kesik ve morluklar olan kız, "Lütfen Noah'a vurma, bana vur," diye hıçkırıyor.

Başka bir videoda, görünürde kirli bir çocuk yemek dileniyor.

Bir kadına "Lütfen hanımefendi, sadece yemek için birkaç dolar," diye yalvarıyor ve bu durum kadının ona yüzüne iki kez tokat atmasına neden oluyor. Çocuk burnundan kanayarak yere düşüyor.

Başka bir videoda bir adam, bağlı tutulan bir çocuğun ellerine yanan bir mumdan balmumu damlatıyor.

Çocuk acıyla irkilerek "Acıyor!" diye bağırıyor.

Videolardaki bazızulumlar, tekrarlanan komutlar kullanılarak büyük ölçekte üretilmiş gibi göründükleri için spesifiklikleri açısından şaşırtıcıdır. Bazıları, ihtiyacı olan bir çocuğun solunum cihazını elinden almayı içerirken, diğerleri alerjisi olan çocukların kabuklu deniz ürünleri yemeye zorlandığını gösteriyor. Diğerleri ise yetişkinlerin ağlayan çocukların üzerine yılan ve hamam böceği döktüğünü gösteriyor. Bir video, bir kadının bir bebeği ateş çukuruna attığını gösteriyor. Çok daha fazlası ise, kolonyal bir Afrika ortamına benzeyen bir yerde manuel iş yapan genç Siyahi çocukların beyaz yetişkinler tarafından kırbaçlandığını veya dövüldüğünü içeriyor.

Videolar tam olarak fotorealistik değil ancak açıkça en son teknolojiyle üretiliyor ve etkisi sarsıcı. Facebook'ta sık sık binlerce, hatta on binlerce tepki çeken bu videoların altındaki birçok yorumcu, bunların yapay olduğu farkında değil gibi görünüyor; birçoğu dehşet içinde tepki verirken, birçoğu ise rahatsız edici anlatıya devam eden bir sonraki videoyu talep ediyor.

Bir kadın, bir erkek çocuğun yüzüne kemerle tokat atarak etrafında kanlı bir iz bıraktığı bir videoya "Sen psikopatsın, neden çocuğa işkence ediyorsun," diye yazan bir kullanıcı, "Sen bir cezayı hak ediyorsun, hem de büyük birini," diye ekliyor.

Başta, çocuk istismarı içeriği paylaşan hesapların tüm ağını haritalandırabileceğimizi düşündük. Ancak hesapları ve videoları incelediğimiz günlerin ardından yüzlerce daha hesap bulmaya devam ettik. Etkisinde, içeriklerin arzı sonsuz görünüyor; içerik üreticileri, biz onları tanımlayabildiğimiz kadar hızlı bir şekilde yüklemeye devam ediyor.

Meta'nın çocuklara yönelik şiddet konusundaki politikası belirsiz bir şekilde ifade ediliyor: "Paylaşım niyetine bakılmaksızın, görseller gerçek dünyadan sanata, çizgi filmlere, filmlere veya video oyunlarından kaynaklanmad