'ABLOKA': Sağ Kanat, Kitap Yasaklama Eylemlerini Hızlandırmak İçin Yapay Zeka İçerik Tarayıcılarını Kullanıyor
Bu haber, MuckRock vakfının desteğiyle hazırlanmıştır.
Muhafazakâr ebeveyn savunuculuk grupları, devlet okullarından ve kütüphanelerden kaldırılmasını istedikleri pornografik olarak nitelendirdikleri kitapları daha fazla tespit edebilmek için ticari yapay zeka araçlarını kullanmayı deniyor. Büyük Dil Modelleri (LLM'ler) hatalara son derece meyilli olmalarına ve söz konusu kitaplar pornografik olmamalarına rağmen, bu gruplar yapay zekayı kullanmak için yeni yollar aramaya devam ediyor.
Böyle bir deney, muhafazakâr kitap değerlendirme siteleri için kitap incelemeleri içerik üretimini hızlandırma arzusunu ortaya koyuyor. "Şehvetli ve Aşırı İçeriği Engelleme, Ahlaksızlık ve Aşırıcılığı Uzak Tutma" anlamına gelen BLOCKADE, PDF/ePUB dosyalarından kitap raporları oluşturmak için xAI veya OpenAI API anahtarlarından yararlanıyor ve analizini yaratıcının Github sayfasında herkese açık olarak sunulan bir dizi parametreye dayandırıyor.
Programın yazılımı, her biri kendi metriklerine göre genel bir uygunluk puanına katkıda bulunan bir ciddiyet puanı atanmış yaklaşık 300 kelimelik bir liste içeriyor. Yazılım, "eğitimsel uygunsuzluğu" açıkça "muhafazakâr değerlere aykırı içerik" olarak tanımlarken, yapay zekadan kararları için "herhangi bir ek metin veya açıklama eklememesini" talep ediyor.
Binghamton Üniversitesi Bilgisayar Bilimleri Bölümü'nde doçent ve Yapay Zeka ve Toplum Enstitüsü müdürü olan Jeremy Blackburn, 404 Media'ya verdiği demeçte, "İçeriği bu bağlamda sınıflandırmak istiyorsanız, belki saldırgan içerikli toksisite veya rahatsız edici içerik —kimine göre rahatsız edici olan neyse— için bir açıklama istemek çok faydalıdır" dedi.
Blackburn, pornografi veya muhafazakâr değerlerin tanımı konusunda bir sohbet robotuna çok fazla kontrol devredildiğine dikkat çekiyor. Tanım, yapay zeka modelinin tanımladığı şeyden ibaret kalıyor.
Blackburn, "Sorumluluktan büyük ölçüde kaçınılıyor," diye ekledi. "Bu tür sofistike olmayan bir istem stratejisiyle ve bu modellerden çıkan sonuçların nasıl değerlendirileceğine dair hiçbir gerçek düşünce olmaksızın sorumluluktan kaçıyorsanız, durum böyledir."
Fikir özgürlüğü savunucuları, sansürcülerin kamuya açık alanlardan hangi kitapların kaldırılacağını belirlemek için yapay zekaya güvenme sıklığından endişe duyuyor. BLOCKADE, muhafazakâr değerleri xAI veya OpenAI'nin LLM'lerinin söylediği şekilde yorumlamayı bitirdiğinde, kitap için bir risk profili oluşturuyor. Kullanıcı bunu, yapay zeka sohbet robotları piyasaya çıkmadan önce Moms for Liberty gibi örgütlerin popüler hale getirdiği kitap incelemelerine çok benzeyen bir PDF olarak dışa aktarabiliyor. Bu format, verileri eyalet, bölge, okul binası ve dolaşımdaki kitap sayısı bazında toplayarak okul kütüphanelerinde kalmaya devam eden beğenmedikleri kitapları izlemek için ısı haritaları kullanan ve fikri bir adım öteye taşıyan örgütlere ilham vererek çok sayıda kopyacının türemesine neden oldu. Başka durumlarda ise aktivistler, eyalet yasalarının olası ihlalleri nedeniyle bölümleri sorgulamak için yapay zeka sohbet robotlarını kullanma deneyimlerini vurgulamak amacıyla sosyal medya kanallarını kullanıyor.
Her durumda, bu incelemeler bölgelere yapılan resmi kitap itirazlarına ek olarak sunulmak üzere tasarlanıyor ve ülke genelindeki okullardan tamamen normal kitapların kaldırılmasını körüklüyor; bu yüzden yayıncılık sektörü profesyonellerinin hazırladığı incelemelerle karıştırılmamalıdır. Ayrıca bu incelemeler, tarihsel olarak yeterince temsil edilmeyen ve genellikle yanlış temsil edilen, rıza, önyargı ve özgür irade gibi gençlerin hesaplaşması gereken önemli konularla boğuşan karakterlerin ve seslerin yer aldığı eserleri orantısız bir şekilde hedef alıyor. Sıklıkla bu incelemeler, okul sınıflarındaki ve kütüphanelerindeki mevcudiyetlerine karşı yapılan resmi itirazları gerekçelendirmek ve okul personelini ağır suistimalle haksız yere suçlamak için bir araç olarak kullanılıyor. Giderek artan bir şekilde, bu incelemeler bir dereceye kadar yapay zeka çıktıları tarafından bilgilendiriliyor.
PEN America’nın Okuma Özgürlüğü programı direktörü Kasey Meehan, kitapları bağlamlarından koparma uygulamasının yapay zeka ile başlamadığını belirtiyor. İnceleme platformlarını meşrulaştırmaya yönelik ilk çabalar, keyfi sayısal puanları doğrulamak için anahtar kelime çetelelerine dayanıyor, pasajları ve resimleri bağlamlarından koparıyor ve kitapların bütünlüğünü görmezden geliyordu.
Meehan, 404 Media'ya verdiği demeçte, "[Sansürcüler] kitapları raflardan indirmek için kestirme yol olarak bu araçları kullanmaya başladıklarında, zaten en çok hedeflenen kitapları raflardan çekmek zorunda kalacaksınız," dedi.
Moms for Liberty üyelerinin geçen yıl faaliyetlerini azaltmadan önce ürettiği tüm kitap raporlarını barındıran Rated Books, "dine küfreden" içeriği okullardan çıkarmaya yönelik daha agresif kampanyalardan birinin arkasında yer alıyor. Site, aylardır ticari yapay zeka araçlarıyla yaptığı deneyleri "LaVerna in the Library - Utah’s Mary in the Library" Facebook grubunda kronikleyen, Utah merkezli bir aktivist olan Brooke Stephens tarafından yönetiliyor. Amerika'daki en yetenekli kitap yasaklayıcıları için bir destek grubu gibi çalışan bu Facebook grubu, yapay zekanın gençlerin kitaplara erişimini kısıtlayan eyalet yasalarını ne kadar etkili bir şekilde yorumlayabildiğini görmek için bir test alanı oldu. Utah’ın "net sınır" kuralını (29 sayılı Temsilciler Meclisi Tasarısı aracılığıyla okullara uygulanan yasal bir standart) kullanan Rated Books incelemecileri, belirli cinsel davranış tasvirlerinin "küçükler için zararlı" kabul edildiğini ve dolayısıyla edebi değerlerine bakılmaksızın "ciddi bir değer" taşımadığını savunarak, beğenmedikleri pasajların yasal standardı ihlal edip etmediğini farklı yapay zeka modellerine soruyorlar.
Stephens, 13 Ocak'ta LaVerna grubunda metodolojisini açıklamak amacıyla, "Yapay zekanın genellikle eksik uygulamaktansa aşırı uygulama tarafında yanıldığını, yani benim yasaya aykırı olduğunu düşünmeyeceğim bir şeyi yasalara aykırı olarak bulabileceğini fark ettim," diye yazdı.
Gönderideki bir ekran görüntüsü, "Gemini AI Rater 2" ve "ChatGPT Rater 3"ten gelen girdiler için bir sütun içeriyor. Bunların belirli yapay zeka modellerini kullanmakla görevlendirilmiş insanlar mı yoksa iki ticari yapay zeka sohbet robotunu kişiselleştirme girişimi mi olduğu sorulduğunda Stephens, Rated Books inceleme sürecinde aslında üç kişinin yer aldığını açıkladı.
Net sınır kuralı, eyaletin devlet okullarında en az üç okul bölgesi (veya iki bölge ve beş sözleşmeli okul) tarafından başarıyla itiraz edilen kitapların eyalet çapında yasaklanmasını tetikliyor. Yürürlüğe girdiğinden beri Utah, öğrencilerin iki düzineden fazla kitaba erişimini tüm okul bölgelerinde yasakladı. Kitapları Utah okul kütüphanelerinden ve sınıflarından kaldırmak için, resmi bir itiraz alan her bölgenin inceleme komitesi üyeleri, kitabın "yasak cinsel ilişki veya cinsel ahlaksızlık" tasvirleri içermesi nedeniyle "küçükler için ciddi bir değer" taşıyıp taşımadığına karar vermek zorunda.
Çocuklarının okul bölgesine sunulan yerel kitap itirazlarını izleyen bir gözlemci grubu olan Let Davis Read’i yöneten Jessica Horton, Utah genelinde kitapların yasaklanmasıyla sonuçlanacak bazı inceleme komitesi kararlarını başarıyla temyize götürdü. Temyizlerinin, inceleme komitelerinin kitabı bağlamından koparan Rated Books incelemelerine dayandığı durumlarda başarılı olduğunu söylüyor.
Horton, 404 Media'ya, "Komiteler kararlarını bu yanlı bilgilere dayandırıyorlar ve bu yüzden kitapları kaldırmaya daha meyilli oluyorlar çünkü gördükleri tek şey, 'Hey, bu kitap pornografik, onu kaldırmalısın' diyen kırmızı bir bayrak," dedi.
Bu ay, Rated Books’un bir yan projesi olan Ulusal Kitap Derecelendirme Endeksi (National Book Rating Index), kullanıcılara kitapları potansiyel olarak hassas materyaller açısından taramayı vaat eden bir yapay zeka içerik tarayıcısı olan NarraTrue’ya erişim satmaya başladı. Ürünün açıklamasına göre, 5 dolarlık bir ödeme, alıcılara belirli sayfa numaralarını ve kelimesi kelimesine alıntıları içeren bir CSV dosyası kazandıracak. Sadece birkaç yapay zeka içerik taraması kamuya açıklanmış olsa da, ürüne erişim artık diğer benzer kitap incelemeleri listelerine dahil edilmiş durumda.
Ülkenin diğer bölgelerinde, okullardaki kitaplara itiraz etmek için toplu içerik üretme yeteneği, "ebeveyn hakları" hareketinin bunalttığı okul bölgelerine bu araçların daha hızlı benimsenmesini sağlayan "çözümler" satan örgütlerle gelişmekte olan bir pazarı körüklüyor. Teksas merkezli BookmarkED şirketi, yasal sorumluluk sorunlarına bir çözüm olarak yapay zeka içerik tarayıcısını bölgelere satıyor.
404 Media tarafından San Antonio’nun kuzeydoğusundaki New Braunfels Bağımsız Okul Bölgesi’nden elde edilen kamu kayıtları, bölgenin kitapları eyaletin çok sayıdaki kitap yasağı yasasından (özellikle SB 12 ve SB 13) birini ihlal edebilecek içerik açısından taramak için yapay zekaya ağır bir yatırım yaptığını gösteriyor.
Şirketten bölgeye gönderilen e-postalar, "OnShelf kontrol panelinizin asıl gücü sadece kitap listesi değildir; o listenin arkasındaki kitap zekasıdır" gibi ifadeler içeriyor. Ardından müşterilere, "arkasında durabileceğiniz bir inceleme süreci oluşturmanıza olanak tanıyan" "gerçekten savunulabilir bir süreç" sunulacağı ve yapay zekanın neyi işaretlediği ve neden işaretlediğine dair daha fazla bağlam sözü veriliyor. Bu süreç, yapay zeka içerik analizini, halkın ve aktivist grupların kitap hakkında neler söylediğine dair canlı izlemeyi ve diğer bölgelerin belirli kitapları tutup tutmadığını veya kaldırıp kaldırmadığını içeriyor.
18 Kasım 2025 tarihli bir e-posta yazışmasında, NBISD çalışanları ürünün etkinliği konusunda samimiydi.
Bir NBISD ilkokul kütüphanecisi, "BookmarkED'i her çalıştırdığınızda daha fazlasını işaretliyormuş gibi hissediyorum," diye yazdı. "İncelediğimiz tüm kitapların, bir bütün olarak ele alındığında kitap boyunca işaretlenen şeyleri içermesi gerektiğini söylemiştik. Yapay zekadan gelen yorumlara bakılırsa, herhangi bir içeriğe sahipse, bütününe bakmak yerine işaretliyor gibi görünüyor. Ama bunu kesin olarak söyleyemem."
Meehan, bu şirketlerin yaydığı "üçkağıtçı" enerji bir yana, Silikon Vadisi'ne devredilen yerel karar verme gücü nedeniyle bölgelerin bu yapay zeka platformlarına işlenmiş rant kollayıcı motivasyonlara karşı dikkatli olmaları gerektiğini söylüyor.
Meehan, "Eyaletiniz kitapları kaldıran ve sansürleyen zararlı yasalar çıkarıyor, sonra da koleksiyonlarını incelemeleri için bölgelerden ücret almak isteyen şirketler ortaya çıkıyor," dedi.
BookmarkED ile yaklaşık 9.000 dolarlık bir sözleşmeyi hızla onaylamasına rağmen, bölge hala "keşfetme sürecinde" olduğunu savunuyor.
Teksas Okuma Özgürlüğü Projesi'ne (Texas Freedom to Read Project) göre, NBISD yeni yasalara uymak için ilkokul, ortaokul ve liselerinden 1.400'den fazla kitabı kaldırdı ve yeni kitap satın alma yetkisi süresiz olarak askıya alındı.
Teksas Okuma Özgürlüğü Projesi gönüllüsü Laney Hawes, 404 Media'ya, "Bunların hiçbiri gerçek değil, hepsi uydurma," dedi. "Bu gerçek bir sorun değil çünkü gerçek bir sorun olsaydı, çocuklarımızın hepsinin ceplerinde telefonlar ve sırt çantalarında Chromebook'lar olmazdı... Çocuğunuz Google'da arama yapıp aynı kitabın canlı okumasını ve canlandırmasını YouTube'da veya okul tarafından verilen Chromebook'unda bulabilir."
Kitap yasaklarının etkilerinin bazı yerlerde diğerlerinden daha orantısız bir şekilde hissedildiğine şüphe olmasa da, bu durum yakında değişebilir. Şubat ayında Cumhuriyetçiler, 18 yaşın altındaki herhangi biri için "cinsel içerikli materyal" içeren herhangi bir program, etkinlik veya literatür için federal fonların kullanılmasını yasaklamayı amaçlayan H.R. 7661'i sundu. Mevzuat özellikle trans bireyleri hedef alıyor ve muhtemelen okulları, federal fonları korumak adına LGBTQ+ karakterleri veya temaları içeren kütüphane kitaplarını kaldırmaya zorlayacak.
Eleştirmenler, H.R. 7661 yasalaşırsa, bölgeleri özellikle trans yaşamlarını konu alan LGBTQ+ temalı kitapları raflara koydukları için maliyetli davalarla karşı karşıya bırakacağı konusunda uyarıyor. Ayrıca, yapay zeka uyum ürünlerini bölgelere pazarlamak için kitap yasaklayıcılara daha fazla teşvik sağlayacak, ürünler çöp olsa bile.
Hawes, "Yapay zekayı kendilerine bir kontrol yanılsaması vermek için kullanmak istiyorlar," diye ekledi. "Ama buna sahip olamayacaklar."