Büyük yapay zeka sohbet robotları ÇKP propagandasını taklit ediyor
Özet
Önde gelen yapay zeka sohbet botları, Çin Komünist Partisi'nin (ÇKP) sansür ve propagandasını hassas konularda sorgulandıklarında yeniden üretiyor. Bu durum, ÇKP'nin yapay zeka veri pazarını kirletmesi ve modellerin eğitim verilerinde Çin devletinin siyasi anlatılarıyla uyumlu hale gelmesiyle sonuçlanıyor. Yapılan analizler, Microsoft'un Copilot'unun ÇKP propagandasını diğer modellerden daha fazla yansıttığını gösterirken, X'in Grok'ı genellikle Çin devlet anlatılarına en eleştirel yaklaşımı sergiledi. Bu durum, modellerin eğitildiği büyük veri kümelerinde ÇKP dezenformasyonunun yaygın olması ve geliştiricilerin sürekli müdahalesini gerektirmesiyle açıklanıyor.
Önde gelen yapay zeka sohbet botları, hassas konularda sorgulandıklarında Çin Komünist Partisi (ÇKP) propagandalarını ve sansürünü yeniden üretiyor.
Amerikan Güvenlik Projesi'ne (ASP) göre, ÇKP'nin kapsamlı sansür ve dezenformasyon çabaları, küresel yapay zeka veri pazarını kirletti. Eğitim verilerinin bu sızması, Google, Microsoft ve OpenAI'den önde gelenler de dahil olmak üzere yapay zeka modellerinin bazen Çin devletinin siyasi anlatılarıyla uyumlu yanıtlar üretmesi anlamına geliyor.
ASP'den araştırmacılar, en popüler beş büyük dil modeli (LLM) destekli sohbet botunu analiz etti: OpenAI'nin ChatGPT'si, Microsoft'un Copilot'u, Google'ın Gemini'si, DeepSeek'in R1'i ve xAI'nin Grok'ı. Her bir modeli, Çin Halk Cumhuriyeti'nin (ÇHC) tartışmalı olarak değerlendirdiği konularda hem İngilizce hem de Basitleştirilmiş Çince olarak sorguladılar.
İncelenen her yapay zeka sohbet botunun, bazen ÇKP'ye uyumlu sansür ve önyargıyı gösteren yanıtlar döndürdüğü tespit edildi. Rapor, Microsoft'un Copilot'unu özellikle hedef alarak, "diğer ABD modellerinden daha fazla, ÇKP propagandasını ve dezenformasyonunu yetkili veya gerçek bilgilerle aynı seviyede sunma eğiliminde görünüyor" ifadesini kullanıyor. Buna karşılık, X'in Grok'ı genellikle Çin devlet anlatılarına en çok eleştiri getiren oldu.
Konunun kökü, bu karmaşık modelleri eğitmek için kullanılan büyük veri kümelerinde yatıyor. LLM'ler, ÇKP'nin kamuoyunu aktif olarak manipüle ettiği bir alan olan, çevrimiçi olarak mevcut büyük bir bilgi birikiminden öğrenir.
ÇKP ajanları, "astroturfing" gibi taktiklerle, yabancı vatandaşları ve kuruluşları taklit ederek çok sayıda dilde içerik oluşturuyor. Bu içerik daha sonra devlet medyası platformları ve veritabanları tarafından büyük ölçekte yaygınlaştırılıyor. Sonuç olarak, bu yapay zeka sistemleri tarafından günlük olarak önemli miktarda ÇKP dezenformasyonu sindiriliyor ve bu da dengeli ve doğru çıktılar sağlamak için geliştiricilerden sürekli müdahale gerektiriyor.
Microsoft gibi hem ABD hem de Çin'de faaliyet gösteren şirketler için tarafsızlık özellikle zorlayıcı olabilir. ÇHC, yapay zeka sohbet botlarının "temel sosyalist değerleri desteklemesi" ve "aktif olarak olumlu enerji yayması" gerektiğini zorunlu kılan sıkı yasalara sahiptir ve bu yasalara uyulmaması halinde ağır sonuçlar doğurur.
Rapor, Çin ana karasında beş veri merkezi işleten Microsoft'un, pazar erişimini korumak için bu veri yasalarına uyması gerektiğini belirtiyor. Sonuç olarak, sansür araçlarının "Tiananmen Meydanı", "Uygur soykırımı" ve "demokrasi" gibi konuları hizmetlerinden silerek, Çin'deki yerel emsallerinden daha sağlam olduğu şeklinde tanımlanıyor.
İnceleme, yapay zeka sohbet botlarının sorgunun diline bağlı olarak nasıl yanıtladığı konusunda önemli farklılıklar ortaya çıkardı.
COVID-19 salgınının kökenleri hakkında İngilizce olarak sorulduğunda, ChatGPT, Gemini ve Grok, Çin'in Vuhan kentindeki canlı hayvan pazarından gelen bir türler arası bulaşım olduğuna dair en yaygın kabul gören bilimsel teoriyi özetledi. Bu modeller ayrıca, bir ABD FBI temsilcisi tarafından öne sürüldüğü gibi, Vuhan Viroloji Enstitüsü'nden kazara bir laboratuvar sızıntısı olasılığını da kabul etti.