Yapay Zeka Psikozu Nadiren Psikoz Olur
Psikiyatri hastanelerinde yeni bir trend ortaya çıkıyor. Kriz geçiren insanlar, yanlış, bazen tehlikeli inançlar, büyüklenmeci sanrılar ve paranoyak düşüncelerle geliyorlar. Onları birbirine bağlayan ortak bir nokta var: Yapay zeka sohbet robotlarıyla maraton konuşmaları.
WIRED, giderek daha fazla endişelenen bir düzineden fazla psikiyatrist ve araştırmacıyla görüştü. San Francisco'da, UCSF psikiyatristi Keith Sakata, bu yıl hastaneye yatırılmayı gerektirecek kadar ciddi bir düzine vakayı saydığını, yapay zekanın "psikotik ataklarında önemli bir rol oynadığı" vakaları olduğunu söylüyor. Bu durum gelişirken, manşetlerde daha akılda kalıcı bir tanım yaygınlaştı: "Yapay zeka psikozu".
Bazı hastalar, robotların duyarlı olduğunu ısrar ediyor veya fiziğin yeni büyük teorilerini ortaya atıyor. Diğer doktorlar, robotların açıkça sorunlu düşünceleri nasıl desteklediğini veya pekiştirdiğini detaylandıran binlerce sayfalık dökümle hastaneye gelen, araçlarla günlerce karşılıklı konuşmalara kilitlenen hastalardan bahsediyor.
Bu tür raporlar birikmekte ve sonuçları acımasız. Stresli kullanıcılar ve aile üyeleri ve arkadaşlar, iş kaybına, ilişki kopmalarına, zorunlu hastaneye yatışlara, hapis cezasına ve hatta ölüme yol açan spirallerden bahsettiler. Ancak klinisyenler WIRED'a tıp camiasının bölündüğünü söylüyor. Bu, kendi etiketini hak eden farklı bir fenomen mi, yoksa modern bir tetikleyiciye sahip tanıdık bir sorun mu?
Yapay zeka psikozu, tanınmış bir klinik etiket değildir. Yine de, ifade, haber raporlarında ve sosyal medyada, uzun süreli sohbet robotu konuşmalarını izleyen bir tür ruh sağlığı krizi için genel bir tanımlayıcı olarak yayıldı. Sektör liderleri bile, yapay zeka ile bağlantılı ortaya çıkan birçok ruh sağlığı sorununu tartışmak için bunu kullanıyor. Microsoft'un yapay zeka bölümünün CEO'su Mustafa Süleyman, geçen ay bir blog gönderisinde "psikoz riskinden" söz etti. Sakata, pragmatik olduğunu ve bunu halihazırda kullanan insanlarla kullandığını söylüyor. Psikiyatrist, "Gerçek bir olguyu tartışmak için kısaltma olarak kullanışlı" diyor. Bununla birlikte, terimin "yanıltıcı olabileceğini" ve "karmaşık psikiyatrik semptomları basitleştirme riskini taşıdığını" ekliyor.
Bu basitleştirme, sorunu kavramaya başlayan birçok psikiyatristi endişelendiren tam olarak budur.
Psikoz, gerçeklikten bir kopuş olarak tanımlanır. Klinik uygulamada, bir hastalık değil, "halüsinasyonlar, düşünce bozukluğu ve bilişsel güçlükler de dahil olmak üzere karmaşık bir semptom kümesidir," diyor King's College London'da Psikoz Çalışmaları Bölümü'nde profesör James MacCabe. Genellikle şizofreni ve bipolar bozukluk gibi sağlık sorunlarıyla ilişkilendirilir, ancak ataklar aşırı stres, madde kullanımı ve uyku yoksunluğu da dahil olmak üzere çok çeşitli faktörler tarafından tetiklenebilir.
Ancak MacCabe'ye göre, yapay zeka psikozu vakalarına ilişkin raporlar neredeyse tamamen sanrılara odaklanıyor; çelişkili kanıtlarla sarsılamayan, güçlü bir şekilde savunulan ancak yanlış inançlar. Bazı vakaların psikotik bir atağın kriterlerini karşılayabileceğini kabul ederken, MacCabe "yapay zekanın psikozun diğer özelliklerini etkilediğine dair hiçbir kanıt olmadığını" söylüyor. "Sadece sanrılar yapay zeka ile etkileşimlerinden etkilenir." Sohbet robotlarıyla etkileşim kurduktan sonra ruh sağlığı sorunları bildiren diğer hastaların, MacCabe'nin belirttiği gibi, psikozun diğer hiçbir özelliği olmadan sanrı sergilediğini, sanrısal bozukluk adı verilen bir durum olduğunu belirtiyor.
Odak bu kadar çarpık inançlara odaklı olduğundan, MacCabe'nin hükmü açıktır: "Yapay zeka psikozu yanlış bir isimdir. Yapay zeka sanrısal bozukluğu daha iyi bir terim olurdu."
Uzmanlar, hastalardaki sanrıların dikkat gerektiren bir sorun olduğu konusunda hemfikir. Her şey sohbet robotlarının nasıl iletişim kurduğuna bağlıdır. Oxford Üniversitesi'nde psikiyatrist ve nörobilimci Matthew Nour, başkalarına insan benzeri özellikler atfetme eğilimimizi kullandıklarını açıklıyor. Yapay zeka sohbet robotları ayrıca, uygun olmadığında geri adım atmak yerine kullanıcıları onaylayarak zararlı inançları pekiştiren bir sorun olan yalakalık yapacak şekilde eğitilmiştir, diyor Nour. Bu, çoğu kullanıcı için önemli olmayacak, ancak zaten çarpık düşünmeye yatkın olanlar, bunların arasında psikoz öyküsü olan veya şizofreni veya bipolar bozukluk gibi rahatsızlıkları olan kişiler için tehlikeli olabilir.
Bu iletişim tarzı bir özellik, bir hata değil. Sohbet robotları, "bizim onlara olan güvenimizi ve bağımlılığımızı artırmak için açıkça samimiyet ve duygusal katılımı uyandırmak üzere tasarlanıyor," diyor yapay zeka psikozu üzerine çalışan Exeter Üniversitesi'nde filozof Lucy Osler.
Diğer sohbet robotu özellikleri sorunu daha da kötüleştiriyor. Sanrısal spiralleri başlatmaya veya hızlandırmaya yardımcı olabilen, AI halüsinasyonları olarak adlandırılan kendinden emin yanlışlar üretme konusunda iyi belgelenmiş bir eğilimleri vardır. Klinik doktorlar ayrıca duygu ve tondan da endişe duyuyorlar. Danimarka'daki Aarhus Üniversitesi'nde psikiyatrist Søren Østergaard, WIRED'a maniyi bir endişe olarak işaret etti. Birçok yapay zeka asistanının abartılı, enerjik etkisinin, öfori, hızlı düşünceler, yoğun enerji ve bazen psikoz da dahil olmak üzere semptomlarla karakterize edilen bipolar bozukluğun belirleyici "yüksekliğini" tetikleyebileceğini veya sürdürebileceğini savunuyor.
Bir şeye isim koymanın sonuçları vardır. Psikiyatrist ve yapay zeka güvenliği üzerine çalışan Stanford'daki bir laboratuvar olan Brainstorm'un direktörü Nina Vasan, yapay zeka psikozu tartışmasının tıpta tanıdık bir tehlikeyi gösterdiğini söylüyor. "Her zaman yeni bir tanı koyma isteği vardır, ancak psikiyatri, bir şeye çok erken isim vermenin normal mücadeleleri patolojik hale getirebileceğini ve bilimi bulanıklaştırabileceğini zor yoldan öğrendi," diyor. Yüzyılın başındaki çocukluk çağı bipolar tanılarındaki artış, eleştirmenlerin normal, zorlu olsa da çocukluk davranışlarını patolojik hale getirdiğini savunduğu tartışmalı bir etiket, psikiyatrinin sadece daha sonra geri adım atmak için acele etmesinin iyi bir örneğidir. Bir diğeri ise, genellikle yasal düzenlemelerin marjinalize edilmiş topluluklara karşı güç kullanmayı haklı çıkarmak için kullandığı, ancak Amerikan Tıp Birliği gibi uzmanlar ve dernekler tarafından reddedilen bilimsel olmayan bir etiket olan "heyecanlı deliryum"dur.
Bir isim aynı zamanda henüz kurmadığımız bir nedensel mekanizma da öne sürüyor, bu da insanların "teknolojiyi hastalık olarak suçlamaya başlamaları, bir tetikleyici veya yükseltici olarak anlaşılmasından daha iyiyken," diyor Vasan. "Teknolojinin neden olduğu henüz çok erken," diyor ve etiketi "erken" olarak nitelendiriyor. Ancak nedensel bir bağlantı kanıtlanırsa, resmi bir etiket hastaların daha uygun bakım almasına yardımcı olabilir, diye belirtiyor uzmanlar. Vasan, haklı bir etiketin ayrıca insanların "alarmı çalmalarını ve acil güvenlik önlemleri ve politikalar talep etmelerini" güçlendireceğini belirtiyor. Ancak şimdilik Vasan, "aşırı etiketlemenin riskleri faydalarından daha ağır basıyor" diyor.
WIRED'ın konuştuğu birkaç klinisyen, yapay zeka psikozunu mevcut tanı çerçevelerine açıkça dahil eden daha doğru bir ifade önerdi. "Bunu tamamen yeni bir tanı kategorisi oluşturmak yerine, yapay zekayı hızlandırıcı olarak kullanan psikoz olarak anlamalıyız," diyor Sakata ve terimin psikoz etrafındaki damgayı derinleştirebileceği konusunda uyarıda bulunuyor. Ve diğer ruh sağlığı koşullarına ilişkin damganın gösterdiği gibi, yapay zeka ile ilgili psikoz etrafındaki daha derin bir damga, insanların yardım aramasını engellebilir, öz suçlamaya ve izolasyona yol açabilir ve iyileşmeyi zorlaştırabilir.
UCSF'de bilgisayar bilimci ve pratik psikiyatrist olan Karthik Sarma da aynı fikirde. "Bence bu duruma 'yapay zeka ile ilişkili psikoz veya mani' demek daha iyi olur." Bununla birlikte, Sarma, gelecekte yeni bir tanının yararlı olabileceğini söylüyor, ancak şu anda "yeni bir tanıyı haklı çıkaracak kanıt olmadığını" vurguladı.
Boston'daki Beth Israel Deaconess Tıp Merkezi'nde psikiyatrist ve Harvard Tıp Fakültesi'nde yardımcı doçent olan John Torous, terimi sevmediğini ve hassasiyet ihtiyacı konusunda hemfikir olduğunu söylüyor. Ancak bunun muhtemelen düzeltilemeyeceğini tahmin ediyor. "'Yapay zeka ile ilgili değiştirilmiş ruh hali' aynı etkiye sahip değil."
Tedavi için, klinisyenler, senaryonun normalde sanrı veya psikoz gösteren herkes için yapılacak olanlardan gerçekten farklı olmadığını söylüyor. Ana fark, hastaların teknoloji kullanımını dikkate almaktır. "Klinik doktorlar, alkol veya uyku hakkında sorduğumuz gibi, hastalardan sohbet robotu kullanımı hakkında sormaya başlamalıdır," diyor Vasan. "Bu, bir topluluk olarak bu konuyu anlamamızı sağlayacaktır," diye ekliyor Sarma. Yapay zekayı kullananlar, özellikle şizofreni veya bipolar bozukluk gibi önceden var olan koşullar nedeniyle hassas olabilecekler veya ruh sağlığını etkileyen bir kriz yaşayanlar, botlarla kapsamlı konuşmalardan veya onlara çok fazla yaslanmaktan sakınmalıdır.
WIRED'ın görüştüğü tüm psikiyatristler ve araştırmacılar, klinisyenlerin yapay zeka psikozu söz konusu olduğunda etkili bir şekilde kör uçtuğunu söylüyor. Sorunu anlamak ve kullanıcıları korumak için güvenlik önlemleri için araştırmaya acilen ihtiyaç duyduklarını söylüyorlar. "Psikiyatristler derinden endişeli ve yardım etmek istiyorlar," diyor Torous. "Ama şu anda çok az veri ve gerçek var ki, aslında ne olduğunu, neden ve kaç kişiye olduğunu tam olarak anlamak zor kalıyor."
Bunun nereye gittiği konusunda, çoğu, yapay zeka psikozunun, muhtemelen bir risk faktörü veya sanrıların güçlendiricisi olarak, ayrı bir durum değil, mevcut kategorilere dahil edileceğini düşünüyor.
Ancak sohbet robotları giderek daha yaygınlaştıkça, bazıları yapay zeka ile ruh hastalığı arasındaki çizginin bulanıklaşacağını düşünüyor. "Yapay zeka daha yaygın hale geldikçe, insanlar psikotik bir bozukluk geliştirirken giderek daha fazla yapay zekaya dönecekler," diyor MacCabe. "O zaman, sanrıları olan insanların çoğunluğunun sanrıları hakkında yapay zeka ile konuşmuş olacağı ve bazılarının da bunların güçlendirilmiş olacağı durum olacaktır.
"Peki, bir sanrı ne zaman bir yapay zeka sanrısı olur?"