E-Tablo Efendilerimiz
OpenAI’nin ChatGPT’yi yayınlamasının üzerinden iki yıl geçti ve panik başladı. Yaklaşık 80 yıl boyunca alt seviye bir uzmanlık konusu ve aptalca bilim kurgu filmlerinin konusu olan “YA” hakkında iki yıldır manşetlerde yer alan haberler ve “yapay genel zekâ” (YZ), yani gevşek bir şekilde tanımlanmış “insan seviyesinde” ancak makinesel akıl yürütme fikri hakkında iki yıldır kafa karıştırıcı, sıradan spekülasyonlar yaşandı. Büyük Dil Modelleri veya BDM’ler, uzun zamandır özünde insani bir şey olarak kabul ettiğimiz dili, yani dili yakalıyor ve üretiyor ve kendi türümüz hakkındaki tarihsel anlayışımızı temelden sallıyor. Ancak yetenekleri, zeka eksikliği ve hatta bilgisayar makinelerinden uzun zamandır beklediğimiz tutarlılık eksikliğiyle eşleşiyor.
BDM’lerin üçüncü yılında YZ konuşmalarında yeni bir artış yaşanırken, mevcut YA'nın son derece açıklayıcı bir formu abartının aksini söylüyor: Elon Musk'ın Hükümet Verimliliği Departmanı, kod tabanına ve federal hükümetin kişisel verilerinin büyük çaplı toplanmasına yönelik özensiz, şiddet içeren ama sıradan bir saldırı. YZ'yi beklerken ve bununla ilgili bitmek bilmeyen, temelsiz tartışmalarla dikkati dağıtılırken, modern YA'nın gerçekliği, hayal edilebilecek en sıkıcı anayasal kriz biçiminde aleni bir şekilde ortaya çıkıyor. Makine zekası yerine, YA, kültürümüzün elektronik tabloya bağımlılığını derinleştiren, avangart bir dijital bürokrasi biçimidir.
Bu yıkıcı saldırı için söylem örtü sağlıyor. New York Times'ın teknoloji köşe yazarı Kevin Roose, neden “YZ'yi hissettiğini” yakın zamanda açıkladı. (Ne yazık ki, Roose'nun nedenleri “San Francisco'da yaşıyorum”a indirgenmiş gibi görünüyor.) Benzer şekilde, gazetenin Düşünce sayfalarından Ezra Klein, hükümetin YZ'nin geleceğini bildiğini düşünüyor. İstatistikçi Nate Silver ise “YA ile başa çıkmamız” gerektiğini öne sürüyor. İnternet etnografı ve gazeteci Max Read, bu YA inancı dalgasını, son birkaç yıldır gördüğümüz teknoloji karşıtı şüpheciliğe bir tepki olan “YA tepkisi tepkisi” olarak adlandırdı. Read'e göre bu görüş, YA'nın “oldukça güçlü ve kullanışlı olduğu ve bundan nefret etseniz bile, üzerine çok fazla para ve kaynak harcandığı için, onu bir kenara atmak yerine ciddiye almak önemli olduğu”dur. Bu, ChatGPT gibi Büyük Dil Modellerinin (BDM’ler) “stoka bağlı papağanlar” (insan dilini yeniden karıştırıp tekrarlayan) veya “hayalî otomatik tamamlama” olarak alaycı tanımından çok uzak. Bu sistemler şüphecilerin düşündüğünden çok daha yetenekli—ve daha tehlikeli—dir. Zekalarının efsanesini ortadan kaldırmak, güçlerine yakından dikkat etmemizi mazur göstermez.
Silikon Vadisi ile ilişkilendirilen çok övülen yenilik ve verimliliği sağlamaktan ziyade, YA sistemleri netlikten çok kafa karışıklığı yaratır. Anlamlandırılması çok zor, elle çözülmesi çok karmaşık, dijital veri kümeleriyle çalışan küresel bir toplum için bir başa çıkma mekanizmasıdır. Şaşırtıcı miktarda dijital veriyle beslenen bu sistemler, o verilere ve tablo biçimine özgü bir araçtır. YA'yı düşünürken, Terminatör 2'den çok, ofis çalışanlarının sadece sezgilerine dayanarak “kötü sayılar” aradığı Severance dizisini düşünmeliyiz.
Bir BDM, kelimeleri temsil eden değerlerden oluşan bir damıtılmış matristen başka bir şey değildir. Şu anda hepimizin aşina olduğu modeller—ChatGPT, Claude, Gemini, Grok—birçok hareketli parçaya sahiptir, ancak temel unsuru, milyarlarca dolarlık eğitimden elde edilen büyük bir satır ve sütun kümesidir. Eğitim verileri, 6 trilyon ila 10 trilyon token (kelimeler, harfler ve “&”, “-iyor” ve “3” gibi diğer işaretler dahil) mertebesindedir—insanların herhangi bir amaç için kullandığından kat kat fazla metin—ve bugün sadece internetin gezegensel yayılımı sayesinde varlar. Tüm bu eğitim verilerini kullanarak, insan sorularına yanıt veren, bilgi alan, şiir ve notlar üreten ve istediğiniz her şeyi üreten ve etkili bir şekilde sihir gibi gelen bir bot oluşturabilirsiniz. YZ gibi gelen bir YA modeli elde edeceksiniz.
Eğer—2023 başı ile 2024 sonu arasında olduğu gibi—insanlar bu sihiri hissetmeyi bırakırsa, modelinizi de değiştirebilirsiniz. Sadece istemlere ve sorulara yanıt vermek yerine, bir sürü yanıt üretmesini ve en iyisini seçerken "düşüncelerini" yazdırmasını söyleyebilirsiniz. Bu yeni model, Instacart siparişi vermek veya tatil rezervasyonu yapmak gibi eğlenceli şeyler yapabilir. Ve bunlar ajanların yaptığı şeylerdir, bu nedenle—yeni bir eğitim turu ve yeni bir girişim sermayesi yatırım turundan sonra—herkes YZ'yi tekrar hissedecektir.
Bugün YA söylemini, hatada benzer iki eğilim yönetiyor. Read'in gözlemlediği gibi biri, eleştirmenlerin YA'yı kapitalizmin bir aracı ve teknoloji oligarklarının kurduğu bir dolandırıcılık olarak küçümsemesi ve gücünü açıklayamamasıdır. Diğerini ise, “performans yanılgısı” olarak adlandıracağım, ölçütleri zeka ile karıştırmaktır. Bu yüzeysel analiz pas de deux'sini aşana kadar, bugünün YA'sının çok gerçek sorunuyla yüzleşemeyeceğiz.
Performans Yanılgısı
1950 yılında Alan Turing, bir makinenin düşünebilir olup olmadığını belirlemenin basit bir yolunu önerdi: Ona bazı sorular sorun. Bir makineyle mi yoksa bir insanla mı konuştuğunuzu anlayamıyorsanız, zeki olduğunu kabul etmelisiniz. Bu oyun “Turing Testi” olarak bilindi ve bildiğim kadarıyla hiç kimse bundan memnun kalmadı. Turing’in fikri, başkalarının zeki olduğuna karar verdiğimizde bunu bilmemiz değil, varsaymamızdı. Sizin zeki olup olmadığınızı belirlemek için beyninizin nasıl çalıştığını görmek istemem; sadece sizi insan olarak görürüm. Bundan gelen zeka tanımı hiç tanım değildir—ve bu yüzden YA, Turing’in ne demek istediğine dair iki anlayış biçimi arasında kalıcı olarak bölünmüştür.
İlk yol, ölçüte göredir. Bugün piyasaya sürülen her yeni model, süslü kısaltma başlıklı (ARC-AGI, bir dizi zorlu bulmaca, günümüzde popüler olanlardan biridir) sonsuz bir performans eşiği serisinde test edilir. Her ölçüt performans kümesi önceki girişimlerle karşılaştırılır: Yeni bir modelin, kimse bu yüzdelerin ne anlama geldiğini size söyleyememesine rağmen, önceki en iyi modelin %59 olduğu yerde %87 puan aldığı söylenir. OpenAI'nin 03 "akıl yürütme" modeli ARC-AGI'de %87 puan alırsa, bu onun %87 zeki olduğu anlamına mı gelir? "%87 zeki" tutarlı bir fikir midir? Saf ölçüt kültürünün dünyasında, bu tür soruların önemi yoktur ve sorulamaz. Sistem, zeki varlıkların (insanların) yaptığı şeye benzeyen bir şeyi optimize ediyor, bu nedenle şüphecilik için çok az neden var. Bu ölçütlendirmenin en uç versiyonu, tartışmasız olarak 30 yıl boyunca süren ve en ikna edici sohbet robotuna büyük bir miktar ödül veren Loebner Ödülü'dür. “Zeka” için ölçütü, Turing’in gelişigüzel bir yorumundan alınmıştır: bir insanı yaklaşık üçte iki oranında kandıran bir sohbet robotunun zeki sayılacağı.
Ancak Turing'in bunun veya başka herhangi bir ölçütün zekanın ne olduğunu veya kimin zeki sayıldığını belirlemek için gerçekten tasarlandığı açık değil. “Hesaplama Makineleri ve Zekâ”da, kendisinin ve hayali bir gelecek bilgisayar arasındaki birkaç değişimi anlattı; makineden matematik problemleri çözmesini, satranç oynamasını ve İskoçya'daki Forth Köprüsü hakkında bir şiir yazmasını istedi. Hayali bir dizi konuşmanın bu kayıtları—bir makinenin “çilek ve kremadan zevk alması” gibi fikirlerin yanında—Turing'in zekayı bütünsel olarak düşündüğünü gösteriyor. Zekayı çerçeveleme yönteminin ikincisi olumsuz ve belki de şaşırtıcı bir şekilde teknik değil. Konuşma, ölçülemez eşikti. BDM’ler herhangi bir şeyden zevk alabileceklerini kanıtlayamasalar da, kesinlikle bunu söyleyebilirler ve bu da Turing Testinin ölçüt biçimindeki fikrini tamamen karıştırıyor.
Ölçüt kültürü, bugün teknolojinin gösterileri, eğlence kişilikleri ve numaralarıyla vaudeville kalitesine katkıda bulunur. Tüm gösteriş performansla ilgilidir. Yeni iPhone'unuz daha hızlı, daha iyi, daha güçlü. Analitik, finans dünyasından spor dünyasına kadar her şeyi geliştiriyor. Fikir şudur ki performans, zekaya veya benzer bir şeye kadar eklenen daha büyük bir bütünün bir parçasıdır. Ancak bu soruya takılı kalmak, bizi YA'nın gerçek etkisinden uzaklaştırıyor. Peki ya maddenin kendisini gösteren performans fikrinin bir yanılgı olması?
Satranç, bilgi teorisinin babası Claude Shannon'dan 1997'de IBM'in Deep Blue'nun dünya şampiyonu Gary Kasparov'u yenmesi anına kadar YA mühendislerinin takıntısıydı. Bu makine, hiçbir insanın yapamayacağı bir şeyi gerçekleştirdi: neredeyse mükemmel bir satranç oyunu. O noktada, YA projesinin yaklaşık dört yılı geride kalmıştı. Deep Blue'nun Dünya'daki insanlar için zeki bir yoldaş olduğuna karar verdik mi? Elbette hayır. Zekayı oluşturan tek bir yetenek yoktur. Performans, ilk başta zeka için zayıf bir vekildir.
YZ ile ve bir dereceye kadar YA'nın kendisinin merkezi sorununa “performans yanılgısı” adını vermemiz gerektiğini düşünüyorum.
Performans yanılgısı, optimizasyonu zekanın kendisiyle karıştırdığımız zamandır. YA mühendisleri—ve medya—bunu fark etmek yerine yeni bir ölçüte geçme eğilimindedir. Sonuçta satranç son derece katı ve mantıklıdır! Ancak eski Çin oyunu Go, elit oyun için kesinlikle zeka gerektirir—değil mi? Sinir ağı AlphaGo, 2015 yılında dünyanın en iyi Go oyuncularından biri olan Lee Sedol'ü yendiğinde, yeni bir performans-yanılgısı spekülasyonu, abartı, paniği yaşadık—ama hiç kimse AlphaGo'nun zeki olduğunu düşünmüyor. Bir yüzyılın büyük bir bölümünde, böylece devam ettik.
2023 kışı, YA abartısına alışmış olanlar için bile farklı hissettirdi. Birdenbire, Turing'in belki de yanlışlıkla, gerçekten zeki olduğuna ikna edeceğini öne sürdüğü şeyi yapan bir makinemiz oldu. İnsanla diyalog içinde yanıt veren dil üretebilen ve metinler yazabilen bir makinemiz vardı. Sokrates, yazıyı eleştirip hafıza kapasitesini yok edeceğini ve insanları bilişsel olarak zayıflatacağını söylediğinde, metinlerin okuyucularına geri konuşamaması, diyalog kuramamasıydı. BDM'lerde, sonsuza dek tek başımıza işgal ettiğimiz bir alanda aniden bir rakibimiz oldu: Dil.
İnsanlar kendilerini, zekaları kadar neredeyse dili olan hayvan olarak tanımlamışlardır—homo sapiens, sapiens olmak için konuşmalıdır. Aristoteles’in insan için kullandığı ifade olan “akıl sahibi hayvan”, hem zekanın kıvılcımı hem de sözcüğü anlamına gelen “logos” terimini kullanır. BDM’ler bu konudaki tekliğimizi elimizden almış gibi görünüyor. Tarihimizde en tuhaf teknoloji biçimlerinden biridir çünkü bize geri konuşuyorlar. Ancak YZ hakkındaki söylemin fark etmediği şey, bu konuşmanın mutlaka zeki olmamasıdır. Bir BDM Turing Testini geçse bile, yanılgıya inanmamalıyız. Matematikçi Benjamin Recht'in savunduğu gibi, BDM ölçütleri büyük ölçüde bu makinelerin hiçbir anlamını çıkaramıyor. Çünkü dilin değerlendirilmesi bizi felsefenin tüm tarihine, kim olduğumuzun metafiziğine ve zekanın ne olduğuna ve dil ile nasıl ilişkili olduğuna götürüyor.
YA modellerinin dili yakalayıp üretebildiği ortaya çıkana kadar karışıklığa direnmek nispeten kolaydı. ChatGPT ve diğer BDM’ler, insanları diğer tüm varlıklardan ayıran şeyin artık bizim olmadığına dair ürkütücü bir his yaratıyor. O zaman, zeka olarak kabul edilen şeyin aslında hayal bile edilemeyecek kadar büyük bir kültürel belge, insan inançlarının, eylemlerinin ve iletişimlerinin bir kaydı olduğunu görmek daha da önemlidir. Bilişsel bilimci Alison Gopnik, bu nedenle BDM'leri insan zekasının olduğu gibi yaratıcı olamayan bir “kültürel teknoloji” olarak adlandırdı. Ancak dünyada olanların, tarihimizin ve siyasetimizin çoğu bu anlamda kültüreldir. Ve eğer bakışımızı “bir zeka yaratma” arzusundan uzaklaştırıp dijital bürokrasinin gerçek—ve garip—kültürel sonuçlarına, YA'nın olduğu kadar güçlü olduğu koşuluna çevirmezsek, YA sistemlerinin gerçek faaliyetlerini gizleyen metafizik inceliklere mantıksız bir şekilde hapsolmuş kalacağız. Hem makine zekası oluşturmaya yönelik ticari girişimler hem de zekayı modelleme ve anlamaya yönelik bilimsel girişimler, YA'nın bir uzantı—hatta neredeyse bir evrenselleşme—olduğu gerçeğini gizliyor. dijital bürokrasi.
YA, Hiper Süratte Elektronik Tablo Kültürüdür
YZ'nin yeni savunucularının—Roose, Klein, Silver—YA'nın günlük işleri otomatikleştireceği veya kökten değiştireceği sektörlerde çalışması dikkat çekicidir. The Atlantic dahil olmak üzere birkaç büyük haber kuruluşu, YA şirketleriyle anlaşmalar imzaladı ve YA tarafından üretilen makalelerin insan tarafından yazılmış gibi sunulduğuna dair birkaç örnek gördük. Ve YA'nın veri analitiğinde birçok işi otomatikleştirerek ortadan kaldıracağı kesin. Silver'ın kendisi muhtemelen güvende—şimdi büyük bir kitap yazarı—ama kalanlar bile, öncelikle sohbet robotu olarak düşündüğümüz modeller verilerin ayrıştırılmasına ve üretilmesine ve analizine müdahale ettikçe iş akışlarında büyük revizyonlar görecektir. Aslında, sekreterlik ve idari işlerden C-suite'e kadar tüm ofis çalışmaları, tüm zihinsel emek değişecektir. Bunun nedeni, hayatımızın diğer tüm yönleri gibi çalışmanın da veriselleştirilmiş olmasıdır.
“Veri”den söz ettiğimizde, anlamsız sayılarla dolu büyük bir elektronik tablo, bir yere gizlenmiş ve ele almak için karmaşık teknikler ve eğitimli uzmanlar gerektiren bir şey hayal etme eğilimindeyiz. Ancak her elektronik tablo, bütçenizden, üniversitedeki bölüm için tuttuğum reşit olmayanlar ve reşit olanların listesine, borsa fiyatlarına ve benzerlerine kadar bir şey hakkındadır. Satır ve sütunların isimleri olmalıdır; ve çoğu zaman, sayısal veriler yerine sade İngilizceyi kutulara yerleştiririz. Veri kültürü, sayıların ne anlama geldiği ve sayıların işlenmesinin bize ne söylediği arasında nasıl gidip geldiğimizle ilgilidir. Matematik ve dil arasında çeviri yapmak, birçok yönden modern toplumun temelidir.
Reşit olmayanlar ve reşit olanlar listemi düşünün. Bu adlar, e-posta adresleri ve beklenen mezuniyet tarihleri üzerinde Excel'in hiçbir matematiksel işlevini kullanamam. Bu durumda elektronik tabloyu bir depolama birimi olarak kullanıyorum. Orada depolanan bilgiler elektronik tablo işlevleri tarafından anlaşılamaz veya yorumlanamaz. (Satır A'daki “ilk isimler” gibi kategoriye ayrılabilir, ancak anlamı bilgilendirici bir şekilde dönüştürülemez.) Bunu sadece bir insan yapabilir. BDM girin.
Bir BDM eğitildiğinde, internetteki tüm metinlerin tam olarak bu tür bir depolama birimine yerleştirildiğini düşünebiliriz. YA'nın yeni yeteneği—zekalarla karıştırdığımız şey—kelimeler ve veriler, veriler ve kelimeler arasında genel bir çeviri kapasitesidir. Ancak siz, bir insan, herhangi bir veri işlemesinin sonuçlarını geçmişte gerçek dünyadaki sonuçlara, dile çeviriyorsunuz—"Q4 gelirleri Kuzeydoğu'da dağıtımı geri çekmeyi düşünmemiz gerektiğini gösteriyor" örneğinde—şimdi bu işi sizin yerinize yapan bir aracınız var. BDM'ler, bürokrasinin gerektirdiği dil işlevini tam anlamıyla sağlıyor. Bunlara, yalnızca bir istemle verilerle etkileşime girmemizi ve hatta kod oluşturmamızı sağlayan anlamsal bir elektronik tablo diyebiliriz.
İnternetin ürettiği en büyük veri kümesinin metin olması tesadüf değil. Bugünkü BDM'ler, şaşırtıcı miktarda dil olan yaklaşık 10 trilyon token metin üzerinde eğitilmiştir. Bu, dilin ne olduğunu mükemmel bir şekilde yakalayabilir veya yakalayamayabilir, ancak kesinlikle yaptığı şey, veriyi ve dili iki yönlü bir yol yapmasıdır. Uzun zamandır elektronik tablo gibi yazılımları sayıları manipüle etmek için kullanabiliyoruz. Birdenbire sayıları dile ve tersi şekilde dönüştürmek mümkün hale geldi. Bu, icat edildiklerinden beri elektronik tabloları—ve bilgisayarların kendilerini—rahatsız eden bir problemi çözüyor.
Bu yeteneği zeka olarak almamalıyız—performans yanılgısına bir kez daha kapılmamalıyız—çünkü bu, gerçek veri kültürümüz gerçekten yeni ve çok endişe verici bir aşamaya girerken dikkati dağıtıyor. Buna hiper hızda elektronik tablo kültürü diyebiliriz, tüm verilerin özet dile ve tüm dillerin yalnızca bir istemle optimize edilmiş verilere dönüştürülebileceği bir dünya. Ancak elektronik tabloların sınırlı işlevselliği varken, BDM'ler aynı alanda evrensel çevirmen görevi görüyor. Birçok kusurları var, ancak bu temel kapasite, modern bürokrasinin sıradan dünyasında bir adım atmaktır.
Bürokrasi her zaman veriler ve kelimeler, sayılar ve notlar, muhasebe ve hesaplar arasındaki röleyi yönetmekle ilgili olmuştur. Fransız Devrimi'nden sonra, toplanan veri miktarı artmaya başladı ve memurlara işlerinin hesaplama bölümünde yardımcı olabilecek cihazlara ihtiyaç duyuldu. Bilim felsefecisi Ian Hacking, nüfus ve sanayi verilerinin hızla arttığı 1820'ler ve 1830'larda “basılı sayıların çığını” olarak adlandırdığı şeyi yerleştiriyor. Bir şekilde, BDM bu döngüyü, çok fazla sayı ve yetersiz kelime, yetersiz anlayıştan oluşan bir dengesizlik tarafından oluşturulan bir döngüyü kapatıyor. Bilgisayarlar sayılarla başa çıkmamıza yardımcı oldu, ancak bunları yorumlamamıza yardımcı olmadı. BDM'ler bize en azından illüzyonu veriyor—ve dünyadaki muazzam miktarda anlamsal ve sayısal verilerle daha iyi veya daha açık bir şekilde başa çıkmanın bir yolumuz olup olmadığı belirsiz—bu çığdan, o zamandan beri bir sele dönüşen, özetleme, anlama ve yeniden oluşturma.
Başka bir deyişle, sınırlı ama geniş dijital veri dünyası ve ona emanet ettiğimiz lojistik işlemler için, BDM'ler bir tür marka dışı evrensel dil görevi görüyor; zekanın kıvılcımından yoksun olmasına rağmen sihirli görünen bir dil. Veri türleri arasında BDM'lerin yaptığı türdeki konuşmaları gerçekleştirebilen tek diğer sistem insan zihnidir—bu nedenle yanılgı. Sayılar ve kelimeler her zaman modern bürokrasinin birleşik kanalı olmuştur ve YA'daki yeni ilişkilerinden çıkarılacak potansiyel olarak derin bir anlayış vardır (bu, BDM'ler üzerine yaklaşmakta olan kitabımın konusudur). Ancak bu anlayış, zaten izin verdiğimiz bu teknolojinin gelişigüzel bir şekilde konuşlandırılmasının gerçek siyasi sonuçlarına da eğilirken ortaya çıkmalıdır.
Bürokrasi Üzerindeki Kontrol, Politikadan Daha Derindir
Musk şimdi kıyamet vizyonunu, sadece vatandaşlar ve örgütler hakkında bilgi değil, onlara ödemeyi başlatma ve durdurma gücünü de içeren federal verilere getiriyor. Musk'ın projenin geri adım attığı bildiriliyor, ancak bu, ajansın YA'nın ne için olduğunu ne kadar açık bir şekilde gösterdiğini değiştirmiyor. DOGE girişimi birçok yönden YA'nın bugüne kadar ne olduğunu en net şekilde göstermektedir: yenilik ve "zeka" elbisesini giymiş bürokratik bir kurt.
DOGE çeşitli federal departmanlara erişim sağladıkça, belirtilen hedeflerinden biri sistemlere "YA ajanları" eklemektir. Siyaset bilimci Henry Farrell'in bu süreç hakkında yazdığı gibi, hükümet veri tabanlarının acilen güncellenmesi gerekiyor. DOGE "yenilik" vaat ederken Musk, sadece tüm ajansları ve siyasi düşmanlarına yapılan ödemeleri "sildiğini" söylüyor. Bu, zaten sahip olduğumuz dijital altyapı sayesinde mümkün ve mevcut olmadığı yerde DOGE bunu yaratmayı amaçlıyor.
1980'lerde, makine öğrenimi henüz bilimsel temellerine oturtulmuşken, en erken öncüleri büyük veri tabanlarının sinir ağları kullanılarak ayrıştırılabileceğini tahmin etti. Bu ağlar, bir oyuncak örneğinde, West Side Story müzikalindeki çeteler referans alınarak, bir kümedeki hangi isimlerin “Jets”e ve hangilerinin “Sharks”a ait olduğunu bağımsız olarak tahmin edebileceğini söylediler. Şema ile birlikte gelen bu neşeli öneri, analitik şirketi Palantir'ın sadece isimleri değil, aynı zamanda çete üyeliğini, tekrar suç işleme puanlarını ve daha fazlasını koordine etmediği bir dünyada kabus gibi bir gerçekliğe dönüştü. Görüntüleri, metinleri ve verileri ilişkilendirme ve bunlardan insan davranışı hakkındaki tahminleri çıkarma yeteneği son derece dikkatli bir şekilde ele alınmalıdır. Bununla birlikte, Palantir'ın şimdi doğruluk gözetmeksizin göçmenleri—ve görünüşe göre vatandaşları—sürüldüren bir hükümetin ulusal güvenlik aygıtlarıyla çalışmaya açık niyeti, YA'nın "zekâsının" çok daha derin ve tehlikeli bir şey için bir örtü hikaye olduğunu gösteriyor.
Bu niyet, Palantir ve DOGE'nin IRS ve verileri için çok amaçlı bir uygulama programlama arayüzü (API) oluşturmayı amaçlayan yakın zamanda iş birliği yaptığı “hackathon”da hiç olmadığı kadar açıktır. Beyaz Saray'ın hükümetin “bilgi silolarını ortadan kaldırması” talebine yanıt olarak, iki grup, tüm vatandaşlar hakkındaki bilgilere tek bir büyük veri tabanında etkileşim kurmanın bir yolunun şablonunu oluşturmaya çalışıyor—bu, zaten Orwellian olan George W. Bush dönemine ait NSA projesi “Toplam Bilgi Bilinci”ni bile ilginç gösteren bir proje. Bu tür bir API oluşturmanın amacı, BDM'nin gerçek gücünü serbest bırakmaktır. Sosyal medya akışınızda gördüğünüz YA sıçraması önemli değil; asıl mesele, “bana Marksist olan tüm vatandaşların bir listesini yap, ödemelerini kes ve ICE'ye yerlerini bildir” diyebilme yeteneğidir.
"Zeka" ve "akıl yürütme" hakkındaki tüm spekülasyon içeren ve mistik dili kaldırırsanız, bu tür görevlerin genellikle bürokrasi olarak adlandırdığımız şey olduğunu görmek kolaydır. YA'nın gücü, tehlikesi ve sınırlamaları, satır ve sütunların bu sıradan dünyasında yer almaktadır. Bunu gözden kaçırmak kolaydır, çünkü son otuz yıldır neredeyse tüm dünyayı dev bir elektronik tabloya dönüştürdük. Kişisel günlük kalp atış hızı değişikliklerinizden ve finansal trendlerden konuşma ve kültür tiklerine kadar her şey bir YA modeli için önceden biçimlendirildiğinde, bu aracın gücü muazzam hale gelir. Turing Ödülü sahibi YA mühendisi Yann LeCun, teknolojinin geleceğine yönelik biraz soğuk beklentilerini açıklamak için X'e gittiğinde, Musk ironik bir şekilde yaygın bir veri formatını (virgülle ayrılmış değerler) her şeye kadir bir YA fikriyle birleştirerek "Dijital tanrımız virgül ile ayrılmış değer dosyası biçiminde olacak" diye yanıt verdi.
Musk Washington'a yenilik vaadiyle geldi, ancak yeni, hesap verebilir olmayan bir bürokrasi sunuyor. "YA"nın dokunduğu her şeyin daha verimli olacağına, ilerlemesinin "daha akıllı" sistemlere doğru eğilim göstereceğine inanmaya devam edemeyiz. (Bu noktada, "akıllı"nın "zeki" anlamına gelmediğini, sadece "parlak" anlamına geldiğini bilmeliyiz.) Genel denetim, mevcut YA'nın iyi bir şekilde gerçekleştiremeyeceği bürokratik bir prosedürdür. Ancak abartıya inanmaya devam ettiğimiz sürece, YA modellerini sağlık sigortamızı, Sosyal Güvenlik ödemelerimizi ve vergi kayıtlarımızı içeren veritabanlarına enjekte etmek iyi bir fikir gibi görünecektir.
Trump'ın anayasal bir krize neden olacağını düşünenler arasında, bunun elektronik tabloya kadar bu kadar sıkıcı bir biçimde meydana geleceğini tahmin eden çok az kişi vardı. Ancak gerçek şu ki, bürokrasiyi kim kontrol ederse etsin, oy verme gibi demokratik bir sürecin yetkilendirebileceğinden veya baltalayabileceğinden bile daha büyük bir gücü vardır. Bu kontrolü makinelere teslim etme bahanesi, çok insancıl bir siyasi eyleme perde oluyor: bunu yapmak için eşi benzeri görülmemiş güce sahip bir araç kullanarak federal hükümeti kırıp yakmak.
Makine zekası rüyasından ziyade, farklı bir rüyayı felaket getiren siyasi sonuçlarını gözlemliyoruz, bu rüya, güvenmeye alıştığımız yazılımların görünmez aralıklarında çalışan tam bir bürokrasinin rüyasıdır. Bu tür bir sistemin sosyal sözleşmemizin temel unsurlarını nasıl bozduğunu bir özellik, bir hata değil. YA sistemleri demokratik amaçlara yönelik araçlar olarak kullanılabilir. Ancak bunun için önce bilimsel nesneler ve ikinci ticari ürünler olarak anlamaları ve ele almaları gerekecektir. Mevcut YA ilerleme trendini tersine çevirmek için ortaya çıkan derin matematiği ve kültürel-dilsel biçimleri anlamak için muazzam, prensipli bir çaba gerekecektir.