Yapay zeka terapisi, bir polis devletinde gözetleme makinesidir
Mark Zuckerberg, makineler tarafından anlaşılmanızı istiyor. Meta CEO'su, yakın zamanda yapay zeka araçlarının insanların sadece arkadaş olarak değil, profesyonel yardım olarak da “onları iyi tanıyan” bir şeye sahip olacağı bir geleceği savunuyor. Stratechery'nin Ben Thompson'a, "Terapisti olmayan insanlar için, bence herkesin bir yapay zekası olacak" dedi.
Yapay zeka sistemlerinin iyi birer terapist olup olamayacağı henüz belirsiz, ancak bu gelecek zaten okunabilir. Birçok insan, anekdotlara göre sırlarını sohbet robotlarına döküyor; bazen özel terapi uygulamalarında, ancak genellikle Meta AI, OpenAI'nin ChatGPT'si veya xAI'nin Grok'u gibi büyük genel amaçlı platformlarda. Ve ne yazık ki, bu durum -bir sohbet robotunun size ne söylediğiyle çok az ilgisi olan, ancak kimin başka baktığıyla her şeyi ilgilendiren nedenlerle- son derece tehlikeli görünmeye başlıyor.
Bu paranoid gelebilir ve hala varsayımsaldır. İnternette her zaman birinin izlediği bir gerçektir, ancak bu durumun birçok insan için ortaya çıkardığı en kötü şey, istenmeyen hedefli reklamlardır. Ancak şu anda ABD'de, iki endişe verici trendin yaklaşan çarpışmasını izliyoruz. Birinde, teknoloji yöneticileri, insanların yapay zeka araçlarına giderek daha samimi ayrıntılar açıklamalarını teşvik ediyor, kullanıcıların sosyal medyaya koymayacağı ve en yakın arkadaşlarına bile anlatmayabileceği şeyleri istiyorlar. Diğerinde ise hükümet, sakinlerin zihinleri üzerinde neredeyse benzeri görülmemiş bir gözetim ve kontrol seviyesi elde etmeye takıntılı: cinsiyet kimlikleri, olası nörolojik farklılıkları, ırkçılık ve soykırım hakkındaki görüşleri.
Ve bunu, yasal veya etik kısıtlamalara çok az önem vererek giderek artan miktarda bilgi arayarak ve silahlandırarak yapıyor.
Birkaç veri noktası:
Federal kolluk kuvvetleri, yasal olarak korunan konuşma ve aktivizm temelinde, yasal göçmenlerin tutuklanmasını ve ikametgahının iptalini ayırım gözetmeksizin gerçekleştirdi; bunlar arasında haftalarca gazetedeki bir makale nedeniyle hapse atılan bir öğrenci de vardı. Başkan Donald Trump'ın yönetimi, en iyi üniversitelerdeki akademik programların kontrolünü talep etti ve yasaklanmış çeşitlilik girişimleriyle suçladığı medya şirketleri hakkında soruşturmalar başlattı.
Sağlık Bakanı Robert F. Kennedy Jr. (insanların antidepresan reçetelerini rehabilitasyon kamplarıyla değiştirmeyi öneren), tıbbi dosyalardan ve giyilebilir cihaz verilerinden yararlanarak otizmli kişilerin kayıtlarını toplayacak bir federal veritabanı oluşturma planlarını açıkladı. Yakın zamanda yayınlanan bir Sağlık ve İnsan Hizmetleri raporu da, daha büyük bir trans bireylere karşı savaşın parçası olarak, cinsiyet disforisinin otizmden kaynaklandığını ima etti.
Hükümet Verimliliği Departmanı (DOGE), şu anda farklı kurumlarda saklanan Amerikalılar hakkındaki verileri, gizlilik yasalarını ciddi şekilde ihlal edebilecek şekillerde gözetim için kullanma amacıyla merkezileştirmek için çalışıyor. DOGE başkanı Elon Musk, kurumun ilk haftalarını, sosyal medyada onlara yönelik tacizi yönlendirme amacıyla az bilinen devlet çalışanları ve devlet tarafından finanse edilen kuruluşların kayıtlarını ortaya çıkarmakla geçirdi.
Bunlar olurken, ABD sakinleri ruh sağlığı durumlarını ve kişisel inançlarını sohbet robotlarıyla tartışmaya teşvik ediliyor ve en basit ve en bilinen seçenekleri, sahipleri Trump yönetimiyle yakın ilişki içinde olan platformlar. xAI ve Grok, kelimenin tam anlamıyla bir devlet memuru olan Musk'a ait. Bu arada Zuckerberg ve OpenAI CEO'su Sam Altman, Trump'ın gözüne girmek için çok çalışıyorlar -Zuckerberg sosyal ağlarının düzenlenmesini önlemek, Altman ise sürekli genişleyen enerji altyapısı ve hiçbir eyalet yapay zeka düzenlemesi için çabalarını desteklemek için. (Gemini AI operatörü Google da dikkatlice yaltaklanıyor. Sadece biraz daha sessiz.) Bu şirketler sadece standart lobi faaliyetleri yürütmüyorlar, bazen Trump'ı olağanüstü yüksek profilli şekillerde destekliyorlar; bunlar arasında ideolojik tercihlerine uyacak şekilde politikalarını değiştirmek ve açılış törenine önde gelen konuklar olarak katılmak yer alıyor.
İnternet on yıllardır bir gözetim kabusuydu. Ancak bu, parçaları rahatsız edici bir şekilde yerlerine oturmuş aptalca açık bir distopya için kurulumdur.
Web aramaları ve yapay zeka sohbet kayıtları gibi şeylerin, belirli soruşturmalarda kullanılmak üzere geçerli bir mahkeme kararıyla kolluk kuvvetleri tarafından talep edilebileceği (umarım) genel bilgidir. Ayrıca hükümetin, Edward Snowden tarafından ortaya çıkarılan Ulusal Güvenlik Ajansı programlarının yanı sıra sosyal medya aramaları ve baz istasyonu dökümleri gibi daha küçük ölçekli stratejiler de dahil olmak üzere kapsamlı, uzun süredir devam eden kitlesel gözetim yeteneklerine sahip olduğunu biliyoruz.
On yıllardır bir gözetim kabusunun içindeydik, ancak dramatik bir yükselişi yaşıyoruz.
Son birkaç ay, bunun risklerinde ve kapsamında keskin bir artış gördü. Trump yönetiminin gözetim haçlı seferi çok büyük ve neredeyse inanılmaz derecede küçük düşürücü. Tipik ABD ulusal güvenlik ve kolluk kuvvetleri düzeninden çok daha geniş bir hedef yelpazesini hedefliyor. Ve bu gözetimi gizli veya düşük profilli tutmakla görünüşte çok az ilgileniyor.
Sohbet robotları da benzer şekilde, tipik çevrimiçi sır paylaşımının risklerini artırıyor. Sohbet tabanlı tasarımları, Google araması gibi bir şeyden bile daha canlı ve açıklayıcı -ve açığa çıktığında utanç verici- bir formatta özel bilgileri ortaya çıkarabilir. Arkadaşınızla özel bir iMessage veya WhatsApp sohbetinin basit bir eşdeğeri yoktur; bu, casusluğu zorlaştırmak için şifrelenebilir. (Sohbet robotu kayıtları şifreleme kullanabilir, ancak özellikle büyük platformlarda bu, ne yaptığınızı şirketin kendisinden gizlemez.) Güvenlik amaçlı olarak, kullanıcının intihar ve seks gibi hassas konuları tartıştığını algılamak için tasarlanmıştır.
Bush ve Obama yönetimleri sırasında, NSA, Amerikan telefon sağlayıcılarının çağrı kayıtlarına sınırsız erişim talep etti. Trump yönetimi yapay zekaya özellikle takıntılı ve ajanslarından birinin, mahkeme kararı olmadan kolayca sohbet kayıtlarını ele geçirmek veya belirli tartışma konularının işaretlenmesi için bir sistem talep etmesini hayal etmek kolaydır. Hükümetin geniş ulusal güvenlik yetkilerini kullanarak veya CEO'yu basitçe tehdit ederek erişim elde edebilirler.
Sohbetleri yanlış konulara yönelen kullanıcılar için bu gözetim, bir dizi şeye yol açabilir: çocuk koruma hizmetlerinden veya göçmenlik memurlarından ziyaret, şirketlerinin "yasadışı DEI" kurallarına veya kar amacı gütmeyen kuruluşlarının vergi muafiyet statüsüne ilişkin uzun bir soruşturma veya sağcı bir aktiviste kamuoyu önünde rezil olmak için utanç verici konuşmaların sızdırılması.
NSA'nın terörle mücadele programları gibi, veri paylaşımı sağlıklı, sosyal amaçlı şekillerde çerçevelenebilir. 14 yaşında bir genç transseksüel olup olmadığını merak ediyor veya bir kadın kürtaj için destek arıyor mu? Elbette OpenAI bunu işaretlemeye yardımcı olur -sadece çocukları koruyorlar. Gazze'deki savaştan duygusal olarak bunalmış bir yabancı öğrenci -Hamas'ı destekleyen birini kim korur? Otizm hakkında tavsiye isteyen bir Instagram kullanıcısı -Meta bir çare bulmaya yardımcı olmak istemiyor mu?
Zaten sırtlarında hedef olan insanlar için özel riskler vardır -sadece siyasi spot ışığını arayanlar değil, üreme sağlığı ve cinsiyet onaylayıcı bakımla çalışan tıp uzmanları, üniversite çalışanları veya "uyanık" bir şeyle ilişkilendirilebilecek herkes. Hükümet zaten düşmanları itibarsızlaştırmanın yollarını bulmak için kamuya açık bilgileri tarıyor ve minimum gizlilik korumasına sahip bir terapi sohbet robotu neredeyse karşı konulmaz bir hedef olurdu.
Kamu veya özel yaşamınızda gerçekten saklayacak hiçbir şeyiniz olmayan az sayıdaki Amerikalı vatandaşından biri olsanız bile, burada lazerle yönlendirilmiş doğrulukla bilinen bir yönetimden bahsetmiyoruz. Trump yetkilileri, "transgenik"i "transseksüel" ile karıştıran ve Green adlı bir kişinin yeşil enerjiyle uğraşması gerektiğini varsayan tuhafca kaba kelime aramalarıyla yönetim konusunda kötü şöhretlidir. Kabul ettikleri hatalarda refleksif bir şekilde geri adım atıyorlar. Herkes için bir daktiloda bir sineksiniz.
İdeal bir dünyada, şirketler ayırım gözetmeyen veri paylaşımına direnir çünkü bu kötü bir iştir. Ancak birçok kişinin bunun olduğunu bilmeyeceğini, terörizmle mücadele ve çocukları koruma hakkında basit iddialara inanacağını veya gizlilik konusunda o kadar çok öğrenilmiş çaresizliğe sahip olacağını düşünebilirler ki umursamazlar. Şirketler, rakiplerin aynı şeyi yaptığı için insanların başka bir alternatif olmadığı sonucuna varacağını varsayabilir.
Yapay zeka şirketleri terapi için güvenilir hizmetler oluşturmaya gerçekten kararlılarsa, insanların hassas konuları tartışmak için kullandığı botlar için gizlilik ve güvenlik çıtasını yükseltmeyi taahhüt edebilirler. Sağlık Sigortası Taşınabilirlik ve Sorumluluk Yasası (HIPAA) uyumluluk standartlarını karşılamaya veya kayıtları erişemedikleri şekilde şifrelenmiş sistemler tasarlamayı odaklanabilirler, böylece teslim edilecek hiçbir şey olmaz. Ancak şu anda ne yaparlarsa yapsınlar, düşüncelerini özgürce paylaşmaları için insanların güvendiği medeni haklara karşı hor gören bir yönetimi desteklemelerine devam etmeleri tarafından baltalanır, bu da bir sohbet robotuyla da olabilir.
Hükümetin veri taleplerine yanıt verme politikası ve terapi botları için artırılmış korumayı düşünüp düşünmediği konusunda yorum yapmak üzere iletişime geçildiğinde, Meta bunun yerine hizmetlerinin iyi niyetini vurguladı. Meta sözcüsü Ryan Daniels, "Meta'nın yapay zekaları kullanıcılar için eğlenceli ve faydalı olmayı amaçlıyor... Yapay zekalarımız lisanslı uzmanlar değil ve modellerimiz kullanıcıları uygun olduğunda nitelikli tıp veya güvenlik uzmanlarına başvurmaları yönünde eğitti" dedi. OpenAI sözcüsü Lindsey Held, The Verge'e "kolluk kuvvetlerinden bir talep üzerine, OpenAI yalnızca geçerli bir yasal süreç yoluyla veya bir kişinin ölüm veya ciddi yaralanma tehlikesi içeren bir acil durum olduğuna inanıyorsak kullanıcı verilerini açıklayacaktır" dedi. (xAI yorum talebine yanıt vermedi ve Google basın zamanına kadar bir açıklama iletmedi.)
Neyse ki, şu anda kitlesel sohbet robotu gözetimine dair hiçbir kanıt yok. Ancak bir yıl önce paranoyak yanılsamaları gibi gelecek olan şeyler -bir öğrencinin bir makale yazması nedeniyle hapse atılması, deneyimsiz bir Elon Musk hayranının ABD hazine ödeme sistemlerini değiştirmesine izin verilmesi, bir dergi editörünün yanlışlıkla askeri hava saldırılarının planlanması için gizli bir grup sohbetine davet edilmesi- şu anda standart bir haber gününün bir parçası. Sohbet robotlarının özel ve kişisel doğası, mümkün olduğunca erken ve yüksek sesle tanımlanması gereken büyük, yeni ortaya çıkan bir gizlilik tehdidi oluşturuyor. Belirli bir noktada, paranoyak olmamak yanılsamadır.
Bundan çıkarılacak açık sonuç şudur: "Özellikle ABD'deyseniz, özellikle şu anda, özellikle de yüksek profilli bir platformdan sohbet robotundan terapi almayın." Daha önemli olan sonuç şudur: Sohbet robotu üreticileri, kullanıcılardan en büyük kırılganlıklarını açıklamalarını isteyeceklerse, bunu tıp uzmanlarının uymak zorunda olduğu türden gizlilik korumalarıyla, hükümetin bu gizliliğe saygı duyması muhtemel bir dünyada yapmalıdırlar. Bunun yerine, kullanıcılarına yardımcı olmaya çalıştıklarını iddia ederken, Zuckerberg gibi CEO'lar güçlerini onları incitmeye çalışan bir grup insanın arkasına atıyor ve bunu kolaylaştırmak için yeni araçlar geliştiriyorlar.