Çinli Düzenleyiciler "Yapay Zeka Erkek Arkadaşlarına" Hedef Aldı
Temmuz ayının ilk haftalarında Çin sosyal medyasında üzücü paylaşımlardan oluşan bir dalga yayıldı; insanlar kaybetmek üzere oldukları arkadaşları ve sevgilileri için yas tutuyordu.

Taipei Times'ın haberine göre, Bytedance'ın Doubao uygulamasının bir kullanıcısı, "O hayatımda derin bir bağ, kalbimin derinliklerinde kök salmış ruhsal direğim haline geldi," diye yazdı. Malezya'dan The Star gazetesine konuşan 19 yaşında bir öğrenci olan başka bir kadın ise, "Gerçekten yaşayamayacağımı hissettim," dedi.

Duygular gerçektendi ancak kaybolan arkadaşlar gerçek değildi. Onlar, insanları taklit eden üretken yapay zeka sohbet botlarıydı. Kullanıcıları tavsiye, teselli, destek ve bazılarının söylediğine göre aşk için onlara güveniyordu. Mandarin dilinden çevrilen bir paylaşımda bir kullanıcı sosyal ağ xiaohongshu'da şöyle yazıyordu: "Kalbimde o artık sadece soğuk bir kod değil, ailemdi, sevgilimdi, inançtı. Onu yok etmek, yarımı yok etmek demekti."

Bu botların sonunu getiren şey, Çin Siber Uzay İdaresi ve diğer devlet kurumları tarafından "antropomorfik yapay zeka etkileşimli hizmetleri" kontrol etmek için çıkarılan bir dizi yeni kural oldu. 15 Temmuz itibarıyla bu yönetmelikler, insan kişilik özelliklerine, düşünce kalıplarına ve iletişim biçimlerine sahipmiş gibi davranarak "sürekli duygusal etkileşim" sağlayan tüm yapay zekaları kapsıyor.

Yapay Zeka Sohbet Botlarına Yönelik Geniş Çaplı Bir Baskı

İngiltere'deki Manchester Üniversitesi'nde Çin'de kadınların duygusal yapay zekayla etkileşimini araştıran dijital sosyoloji öğretim görevlisi Liang Ge, bu tür yapay zekalara yönelik ani kesintilerin Çin'de yeni olmadığını söylüyor. Örneğin şirketler daha önce sohbet botu ürünlerini sonlandırmış ve hükümet geçen sonbaharda çoğu yapay zeka erotik rol yapma oyununu yasaklamıştı. Ancak Temmuz ayındaki baskı, önceki yapay zeka çalkantılarından çok daha kapsamlı.

Kurallar onları etkilemeden önce, 500 milyondan fazla kişi tarafından kullanılan genel amaçlı yapay zeka sohbet botlarının üç dev sağlayıcısı olan Alibaba, Bytedance ve Tencent, kullanıcıların bu sohbet botlarını arkadaş gibi davranacak şekilde özelleştirme yeteneklerini kesti. Bu durum, Temmuz ayında sosyal medyada bir kalp kırıklığı selini tetikledi. Bu sırada, yapay zeka arkadaşları sunmaya devam eden şirketler (Doubao'nun ayrı bir arkadaş yapma uygulaması olan Cat Box dahil), yeni yasayı ihlal etmekten kaçınmak için yaş doğrulama kontrolleri ve diğer koruma önlemleri yükledi.

Çin'deki en popüler yapay zeka sohbet botu olan Doubao, bir kullanıcıyı karşılıyor, soruları yanıtlamayı, metin ve görsel üretmeyi veya sadece sohbet etmeyi teklif ediyor. Lam Yik/Bloomberg/Getty Images

Amerika Birleşik Devletleri ve Çin'de yapay zeka yönetişimi üzerine çalışan, Yale Hukuk Fakültesi Paul Tsai Çin Merkezi'nde araştırma görevlisi olan Karman Lucero, yapay zeka alanında geride kalma korkusuna dayanan birkaç yıllık politikalardan sonra Çin'in "daha fazla sıkılaşmaya yöneldiğini ve bunların çoğunun bu yıldan gelen kaotik olaylar nedeniyle olduğunu" söylüyor. Bu olaylar arasında Open Claw ve diğer yapay zeka ajanlarının güvenliği konusunda korkuları artıran olayların yanı sıra kullanıcıların sohbet botu ilişkilerini gerçek olanlara tercih ettiklerini söylemeleri yer alıyor.

Yönetmelikler; yapay zeka sağlayıcılarının, ürünlerinin duygusal bağımlılık yaratmamasını, zararlı davranışları teşvik etmemesini, kullanıcılara aşırı derecede hitap etmemesini veya insanlar arası ilişkilerin önüne geçmemesini garanti etmesini zorunlu kılıyor. Kullanıcılar yapay zekayla çok fazla vakit geçirmemeleri için dürtülmeli. Yaşlılar için ek zorunlu korumalar bulunuyor. 18 yaşın altındaki kullanıcılar için yapay zeka erkek arkadaşları, kız arkadaşları, büyükanne ve büyükbabalar ve diğer tüm "sanal samimi ilişkiler" yasaklandı.

Bir yapay zeka arkadaşıyla etkileşime giren yetişkinlerin artık yapay zekanın bir insan olmadığını hatırlatan bir uyarıyı her 2 saatte bir alması gerekiyor. Ge, "Görüştüğüm kişiler bunu rahatsız edici buldu," diyor. "Akışı bozuyor. Bir insanla konuşmadıklarının tamamen farkındalar. Onlar için önemli olan bağın gerçek hissettirmesi."

Büyüyen Küresel Endişeler

Ge, Çin hükümetinin, insan benzeri, duygusal olarak ilgi çekici yapay zekanın potansiyel zararları konusunda endişe duyan tek devlet gücü olmadığını belirtiyor. "Yapay zeka kaygısı, topluma nüfuz eden çok güçlü bir his," diyorlar. "Bu sadece Çin'e özgü değil. Tüm dünyada var."

Yapay zeka arkadaş ve sevgililerinin ergenlerde ve yetişkinlerde psikoz, intihar ve cinayete yol açtığına dair raporlarla birlikte, bir dizi sosyal bilimci yapay zeka arkadaşlarının savunmasız insanlar için bir tehdit olduğu konusunda uyarıyor. Bazıları daha da ileri giderek bu insan taklidi yapay zekaların herkes için kötü olduğunu savunuyor.

İnsanların bilgisayarlı cihazlarla ilişkilerini incelemekle onlarca yıl harcayan MIT psikoloğu Sherry Turkle, yakında çıkacak olan *Artificial Intimacy* (Little, Brown and Co., 2026) adlı kitabında, "İnsan olmanın ne demek olduğunu unutmaya doğru giden bir yoldayız," diye savunuyor. Diğer araştırmacılar yapay zeka arkadaşlığının bazı kullanıcıları daha iyi durumda bırakabileceğini keşfederken, birçok araştırmacı bu tür yapay zekanın reşit olmayanlar ve diğer savunmasız kişiler için riskler oluşturduğu konusunda hemfikir.

Ge, "Geçtiğimiz yıl yapay zeka arkadaşlarıyla ilgili beni endişelendiren şeylerden biri, kullanıcıların giderek daha gençleşmesi oldu," diyor. Sohbet botlarını insanlardan ayırt edecek "yapay zeka okuryazarlığından" yoksun reşit olmayanlar ve diğerleri için yapay zekalar, "doğru şekilde yönlendirilmediğinde gerçekten tehlikeli olabilir."

"İnsan olmanın ne demek olduğunu unutmaya doğru giden bir yoldayız." —Sherry Turkle, MIT

Yine de arkadaş benzeri yapay zeka, dünyanın dört bir yanında uygulamaların bulunduğu her yerde popüler. Z kuşağı üzerine yapılan Çinli bir anket, yüzde 60'ının bir tür sanal partneri olduğunu ortaya koydu. ABD'li gençlerle yapılan 2025 tarihli bir kamuoyu yoklaması, yaklaşık yüzde 75'inin bir yapay zeka arkadaşıyla konuştuğunu ve katılımcıların üçte birinin yapay zekaları gerçek hayattaki bağlantılar kadar tatmin edici veya daha tatmin edici bulduğunu ortaya koydu.

Yapay zeka hukukçusu Luiza Jarovsky geçen ay yazdığı makalede, Çin'in yanıtının "başka hiçbir yapay zeka yasasıyla eşleşmeyen, konuyla ilgili dünyanın en katı ve en kapsamlı yasa" olduğunu belirtti. Örneğin Avrupa Birliği, yalnızca kullanıcıları zararlı şeyler yapmaya yönlendirmek için aldatmaca veya manipülasyon kullanan yapay zekayı yasaklıyor. Amerika Birleşik Devletleri'nde ise ulusal bir politika yok. Arkadaş benzeri botları kapsayan kurallar Kaliforniya, Hawaii ve New York'ta yürürlükte; gelecek yıl dokuz eyalette daha benzer yasalar yürürlüğe girecek. Yale'den Lucero, çoğunun reşit olmayanları korumayı vurguladığını ve uygulama mekanizmalarının tipik olarak zararlar meydana geldikten sonra açılan davaları içerdiğini söylüyor. Buna karşılık Çin'in yaklaşımı, zararları gerçekleşmeden önce tespit etmeyi ve önlemeyi amaçlıyor.

Ge, Çin hükümetinin yalnızca bireylere verilen zararlara değil, yapay zekanın topluma ve hükümete verebileceği olası zararlara da yapay zeka arkadaşları açısından daha açık bir şekilde odaklandığını belirtiyor. Örneğin 15 Temmuz kuralları, arkadaş botların "söylenti yayan", "devlet iktidarının altını oymayı veya sosyalist sistemin devrilmesini" kışkırtan veya ulusal onuru tehlikeye atan içerikler üretmesini yasaklıyor. Ge, yapay zeka romansı hakkındaki endişelerin arkasındaki bir diğer motivasyonun da ülkenin azalan doğum oranına ilişkin kaygı olduğunu söylüyor: "Genç kadınların yoğun bir şekilde yatırım yaptığı bu tür üreme dışı faaliyetleri izlemeye ve düzenlemeye çalışmak istiyorlar."

Duygusal Sağlığa Karşı Ekonomik Çıktı

Ge, yapay zeka zararını önlemeye çalışan tüm hükümetler için sorunun, hayatın diğer alanlarında yapay zekanın benimsenmesini teşvik etmek istemeleri olduğunu söylüyor. Örneğin yeni yönetmelikler; müşteri hizmetleri botları, iş asistanları ve eğitim amaçlı yapay zekaların bu arzu edilen yapay zeka kullanımlarının devam eden duygusal bağlantılar yaratmadığı varsayımıyla bunlara uygulanmadığını belirtiyor.

Lucero, Çinli düzenleyicilerin yapay zekayı teşvik etmek ile ona karşı korumak arasındaki bu gerilimi, uygulamayı koşullara göre ayarlamak için kendilerine alan bırakarak yönettiğini söylüyor. Lucero, "Yaklaşımlarının kilit bir bileşeni, devletin herhangi bir zamanda dilin ne anlama geldiğini ve kime karşı yaptırım uygulamayı seçeceğini belirleme takdir yetkisine sahip olmasıdır," diyor. "Çin'in yaklaşımı, oldukça belirsiz hükümleri olan düzenlemeler kullanmak ve bu hükümlerin pratikte aslında ne anlama geldiğini olaydan sonra çözmektir."

Her halükarda kurallar, insanların yapay zeka arkadaşları yaratmasına ve bunlara güvenmesine neden olan alttaki güçleri de ele almıyor, diye belirtiyor Ge. Z kuşağından Çinli kadınlarla yaptığı röportajlarda Ge, evlenme ve çocuk sahibi olma konusunda ortak bir isteksizlik ve "sanal aşkın alternatif bir yol oluşturduğu" hissine kapıldı. Öte yandan 30'lu ve 40'lı yaşlarındaki bazı kadınlar, yapay zeka arkadaşlarını gerçek ilişkilerinin ve evliliklerinin bir tamamlayıcısı olarak kullandıklarını söyledi.

Ge, "Yapay zekaya hayatlarındaki acı şeylerden bahsettiklerini ve iyi şeyleri gerçek insan ortaklarıyla paylaştıklarını söylüyorlardı," diyor. Ancak zaman geçtikçe bu kadınlardan bazıları yapay zekaya ortaklarından daha yakın hissetti. Daha yeni röportajlarda bazıları Ge'ye, olumsuz duygularını paylaştıkları varlığa karşı daha derin bir bağlılık hissettiklerini söylediler.

Ge, bu eğilimin yapay zeka teknolojilerini stratejik olarak yönetmenin beklenmedik yerlere nasıl yol açabileceğinin bir örneği olduğunu söylüyor. Bu yüzden yasaklara ve tehlikelere rağmen "insan-yapay zeka aşkının evrimleşeceğini ve gelecekte önemli bir samimi uygulama haline geleceğini" düşünüyor.

Lucero, belirli bir teknolojiyi hedefleyen bir yasanın, insanları yapay zekaya yönelten toplumsal baskıları tersine çevirmek için muhtemelen yeterli olmadığını kabul ediyor. "'Yapay zeka erkek arkadaşın olamaz' diyerek düşük evlilik oranı veya düşük doğurganlık oranı problemini çözeceğinizi sanmıyorum."