Aracıların Yeri Yok
Yapay Zeka ve Düzeltici Zamanlamanın Ortadan Kaldırılması
Yazan: Matt Stone
Yapay zeka bu sistemi icat etmedi. Sadece ona daha iyi bir metabolizma kazandırdı.
Sistemin eski versiyonu hâlâ insanların arasından sürünerek geçmek zorundaydı. Memurlar. Eksperler. Sigorta eksperleri. Denetçiler. Yumuşak elli, ölü bakışlı ve bir oda ateşe verildiğinde suçun başkasına kalacağını bilmekten gelen o kendine has ahlaki cesarete sahip küçük bürokratlar. Süreç zaten çirkindi ama en azından bir sürtünmesi vardı. Bir dosya masada bekleyebilirdi. Bir telefon görüşmesi akışı kesebilirdi. Yarı uykulu ve kafeini eksik birisi, bir kararın yanlış koktuğunu fark edebilirdi. Mekanizma hâlâ insani gecikmelere bağlıydı ve gecikme, tüm aptallığına rağmen, bazen gerçekliğin çatlaklardan sızması için yeterli zamanı sağlardı.
Yapay zeka bu gecikmeyi ortadan kaldırıyor. Asıl değişim bu. Herkes makinenin çok akıllı hale gelmesinden kaynaklanan bir skandal varmış gibi zeka hakkında gevezelik edip duruyor. Daha derin skandal ise hız. Makinenin bilgeliğe ihtiyacı yok. Yargıya ihtiyacı yok. Vicdana, nabza veya düzgün bir terbiyeye ihtiyacı yok. Sadece önce hareket etmesi gerekiyor.
Ve önce hareket ettiğinde, tüm denge değişiyor.
Sınıflandırma daha hızlı gerçekleşiyor. Risk puanlaması daha hızlı yapılıyor. Reddetme daha hızlı geliyor. Gözetim daha hızlı işliyor. Kişi bir yarışın gerçekleştiğinden haberi bile olmadan etiket yapıştırılıyor. Alıcı taraftaki biri kendini açıklamaya çalıştığında, sistem hükmünü; kanamak zorunda kalmamış kurumların o kendini beğenmiş özgüveniyle birbirleriyle konuşan veritabanları, portallar, ekranlar ve gösterge panelleri aracılığıyla çoktan yaymış oluyor.
Düzeltici zamanlamanın devreye girdiği yer tam olarak buydu.
Düzeltici zamanlama, bozuk bir makinenin içindeki o çirkin ama insani küçük cepti. Bağlamın gün yüzüne çıkmasına izin veren bir gecikme. Hâlâ bir hata olduğundan şüphelenecek kadar beyin hücresi kalmış birinin ikinci bakışı. Saf bir deliliğe imza atmak istemeyen bir denetçi. Senaryonun dışına sessizce çıkan bir çağrı merkezi çalışanı, çünkü yüksek sesle söylendiğinde bir ret cevabı kulağa çılgınca geliyordu. Bunlar asil eylemler değildi. Büyük ahlaki destanlar da değildi. Genellikle bunlar tereddüt kırıntıları, içgüdü parıltıları, idari ritimdeki küçük aksaklıklardı. Küçük sürüklenme eylemleri. Küçük direniş eylemleri. Küçük insani zahmetler.
O anlar, kurumların kabul etmek istediğinden çok daha önemliydi.
Yapay zeka onlara birer kirlilik muamelesi yapıyor. Sürtünme, verimsizliktir. Tereddüt, tutarsızlıktır. İnceleme, gecikmedir. Bağlam, gürültüdür. Eğer bir sistem iş hacmini optimize etmek üzere eğitilmişse, akışı yavaşlatan her şey imha edilmek üzere işaretlenir. Bir zamanlar otomasyonun angaryayı ortadan kaldıracağına dair söz veren aynı insanlar, şimdi duraksamayı, revizyonu, kötü bir kararın sonuç doğurmaya başlamadan önce hâlâ kötü olduğunun fark edilebileceği o son birkaç saniyeyi ortadan kaldıran sistemler inşa ediyorlar.
İşte bu yüzden "düzeltici zamanlama" ifadesi bu kadar önemli. Bu, akademik bir süsleme değil. Bir kişinin, makinenin gerçeklik versiyonu politikaya dönüşmeden önce makineye anlamlı bir şekilde müdahale edebileceği, yok olmakta olan o aralığı adlandırıyor. O pencere kapandığında, geriye kalan her şey tiyatrodan ibaret.
Yazılım önce konuşur. İnsan ise, zaten var olan bir sonuç üzerinde meşruiyet ritüeli gerçekleştirmek için, eğer gelirse, sonradan ortaya çıkar. "Döngüdeki insan" söyleminin merkezindeki şaka da bu. İnsan genellikle karar vermek için orada değildir. İnsan, kutsamak için oradadır. Tasdik etmek için. Bir ekranın başında ciddi ciddi başını sallayıp, sadece sıcak bir beden onay tuşuna basacak kadar odada kaldığı için sürecin hâlâ bir yargı içerdiğini iddia etmek için. Bu, yönetimsel bir ruh çağırma seansıdır. Artık takdire ihtiyaç duymayan bir sürece musallat olan takdir yetkisinin hayaleti.
Ve makine çerçeveyi oluşturduğunda, akıştaki her şey çok özel bir şekilde çürümeye başlar.
İtirazlar tepkisel hale gelir. Denetim törenselleşir. Açıklama, dünyaya çoktan kaçmış bir ret kararının üzerine eklenen bir aksesuar haline gelir. Birey artık taze bir kararla karşılaşmaz. Birey tortu ile karşılaşır. Birbirini kutsal metin olarak kabul eden sistemlere zaten yerleşmiş bir sonuçla. Şurada bir risk etiketi, burada bir davranış bayrağı. Düşürülmüş bir puan. Reddedilmiş bir talep. Gecikmiş bir işlem. Hiç kimsenin gözünün içine bakmamış ve cuma günü kira ödemesi gereken bir insana derdini hiç basit bir dille anlatmak zorunda kalmamış yazılımlar tarafından unutulmaya terk edilmiş bir iş başvurusu.
En pis oyun da budur. Karar, bir karar gibi hissettirmeyi bırakır. Atmosfer haline gelir.
Kimse sizi oturtup "Hayatınızı daraltmaya karar verdik" demez. Daralma öylece olur. Daire ortadan kaybolur. Oran değişir. Talep durur. Hesap işaretlenir. Platform erişimi kısıtlar. Tarama yazılımı varlığınıza olan ilgisini yitirir. Duvarlar her seferinde bir santim daha üzerinize gelir ve her santim aynı steril küçük yalanla paketlenmiştir: sistem çıktısı, politika gerekliliği, otomatik inceleme, uygunluk kriterleri, model güveni, güvenlik protokolü, gelişmiş doğrulama. Modern güç bu dili sever çünkü vahşete taze yazıcı kağıdı kokusu verir.
Bu, hâlâ özgür bir toplumda yaşadığını iddia etmekten hoşlanan insanlar için önleyici bir yönetim biçimidir.
Makine anlaşmazlığı beklemez. Oraya önce varır. Kategoriyi konuşmadan önce belirler. Kişi daha giriş kapısını bulamadan alanı şekillendirir. Sadece riske tepki vermez. Beklenti yoluyla sosyal gerçekliği üretir. Olanlar için yargılanmazsınız. Sistemin neye dönüşeceğinizi, neye mal olacağınızı, neyi bozacağınızı, neyde başarısız olacağınızı, ne söyleyeceğinizi, ne alacağınızı, neye inanacağınızı düşündüğü için işleme tabi tutulursunuz. İhtimal, şerif rozeti takmış gibi etrafta caka satmaya başlar.
Bu değişim, şu an olduğundan çok daha fazla insanı korkutmalıydı.
Gücün eski biçimleri parmak izi bırakacak kadar beceriksizdi. Bir bankacı krediyi reddederdi. Bir müdür başvuruyu geri çevirirdi. Bir sigortacı talebi reddederdi. En azından bir yönü işaret edebilirdiniz. En azından, şurada, o pislik, o ofis, o karar diyebilirdiniz. Şimdi ret kararı dağılıyor. Katmanlar arasında seyahat ediyor. Ekran yanıp sönüyor. Portal güncelleniyor. Sohbet botu özür diliyor. Temsilci, bir rehinenin fidye notunu okurken kullanabileceği tonda hayal kırıklığınızı anladığını söylüyor. Sürece dahil olan herkes, başka bir yerden gelen ve kolaylık olması adına kimseye ait olmayan bir kararın kuryesi haline geliyor.
Yapay zekanın uyum mimarisine bu kadar doğal bir şekilde oturmasının nedeni budur. Sistemin en derin alışkanlıklarına meydan okumaz. Onları mükemmelleştirir. Zaten prosedürün arkasına saklanan aynı kurumlar, şimdi modellerin arkasına saklanıyor. Zaten sorumluluktan kaçmak için soyutlamayı kullanan aynı organizasyonlar, şimdi daha temiz soyutlamalar, daha hızlı soyutlamalar, yanında grafikler olan soyutlamalar elde ediyor. Eski dolandırıcılık, prosedürün tarafsızlık olarak yutturulabilmesiydi. Yeni dolandırıcılık, hesaplamanın kaçınılmazlık olarak yutturulabilmesidir.
Ve insanlar, teknik bir yazı tipiyle sunulduğu sürece şaşırtıcı miktarda istismarı yutacaklardır.
Kültürel satış konuşması her zaman aynı ucuz uyuşturucudur: Verimlilik. Tutarlılık. Ölçek. Daha iyi sonuçlar. Daha az hata. Daha akıllı tahsisat. Daha kesin hedefleme. Daha duyarlı sistemler. Bu ifadelerin her biri, yaşanmış bir deneyime dönüştürülene kadar kulağa zararsız gelir. Verimlilik, müdahale etmek için daha az şans demektir. Tutarlılık, bağlam için daha az alan demektir. Ölçek, daha az insan tarafından daha fazla insanın işlenmesi demektir. Hassasiyet, bıçağın tam olarak modelin tahmin ettiği yere saplanması demektir.
Kurumların taptığı ilerleme türü budur. Onları daha hızlı, daha temiz ve daha ulaşılmaz kılan türden.
Ve o sistem olgunlaştığında, düzeltici zamanlama sadece daralmakla kalmaz. Şüpheli görünmeye başlar. Süreci yavaşlatan herkes bir engel haline gelir. Bağlam soran herkes verimsizleşir. İkinci bir bakış, itiraz, istisna veya insan incelemesi konusunda ısrar eden herkes, eski dünyadan kalma bir sorun, optimizasyon yolunu tıkayan bir kalıntı gibi muamele görür. Merhamet profesyonelce görünmemeye başlar. Şüphe maliyetli görünmeye başlar. Dikkatli olmak kötü bir iş akışı gibi görünmeye başlar.
Makinenin yeni bir şekilde tehlikeli hale gelecek kadar yeterli alanı kazandığını buradan anlarsınız. Artık insanlığa karşı tartışmasına gerek yok. Sadece insanlığı süreçten fiyatlandırarak dışarı atıyor.
Orta katmanın bu kadar önemli olmasının nedeni budur. Orta katman eskiden şoku emerdi. Çevirir, yumuşatır, durdurur, yeniden yorumlar, sessizce sabote eder veya bazen reddederdi. O katman asla saf değildi. Aracıların çoğu korkak, evrak işleriyle uğraşan veya yıllar önce yakılıp yıkılması gereken sistemlerin sadık küçük koridor nöbetçileriydi. Yine de o katman gecikmeyi içeriyordu ve gecikme bazen hayatta kalmak demekti. Yapay zeka tüm o bölgeyi bir hedefe dönüştürüyor. Direnenlerin etrafından dolaşıyor. Tereddüdü iş hacmiyle değiştiriyor. Memurlara, sigorta eksperlerine, şüpheci denetçilere, temel işlevi prosedürün soğuk mükemmelliğini insanın utanç verici dağınıklığıyla kesintiye uğratmak olan herkese daha az ihtiyaç duyan bir dünya inşa ediyor.
Aracılar için bir ülke değil.
Ve onlar gittiklerinde, kaza eseri yaşanan merhamet sınıfı da gitmiş olacak.
Sonuç, krom kafalı ve lazer gözlü sinematik bir robot tiranlığı değil. Bu fantezi çok gürültülü, çok aptalca, çok eğlendirici. Gerçek olan çok daha "Amerikan". Daha hızlı gönderilen bir ret e-postası. İncelemeden önce reddedilen bir sağlık talebi. İletişim kurulmadan önce elenen bir kiracı. İtirazdan önce işaretlenen bir işçi. Açıklamadan önce notu düşürülen bir borçlu. Sıralama başladığından haberi bile olmadan elenen bir vatandaş. Yürüyen botlar yok. Dev konuşmalar yok. Sadece itirazları geride bırakmak için tasarlanmış bir hızla uğuldayan sistemler.
Düzeltici zamanlamanın ortadan kaldırılmasının gerçek anlamı budur. Makinenin artık bir tartışmada sizi yenmek zorunda olmadığı anlamına gelir. Sadece sizden önce oraya varması yeterlidir.