Ahlak Olmadan Verimlilik Tiranlıktır — teknokrasi, yapay zeka ve temsilcilik üzerine uzun biçimli makale
I. Sedasyon ve İrade Kaybı
Önceki blog yazım sedasyonu ele almıştı—modern dünyanın bizi nasıl pasif katılıma uyuşturduğunu ve küçük reddetmelerin bu döngüyü nasıl bozabileceğini. Sedasyon Amerika'da uzun vadeli bir problemdir, günlük yaşamlarımızda kendini gösterir ve irade duygunuzu sessizce aşındırır. Bu iradayı geri kazanmak çok önemlidir. Sedasyon hissedilen semptomdur; teknokrasidir hastalığı üreten işletim sistemidir.
Neden birçok insanın bir şeylerin yanlış gittiğini hissettiğini ancak yakın zamanda tam olarak anladım. Neden yukarı ve sağa doğru ilerleyen eğriler, yerdeki iyi zamanların hissini yansıtmıyor. Nostalji, birçok insanın ülkenin yanlış yolda olduğunu hissetmesinin yetersiz bir açıklamasıdır; his gerçektir ve adlandırabileceğimiz bir yerden gelir.
Gelecekteki bir yazıda ne yapmamız gerektiğiyle yüzleşmeye çalışacağım, ancak şimdilik sadece insanların fark etmesini istiyorum. Fark etmek duruşumuzu değiştirir—kendimize nasıl baktığımızı ve komşularımızdan ne beklediğimizi.
II. Teknokrasi'nin Yükselişi: Verimlilik ve Gerçek Ahlaktan Vazgeçme
Teknokrasinin—teknik uzmanlığın kararları belirlediği, verimliliği, optimizasyonu ve karmaşık gerçeklikleri ölçülebilir sonuçlara indirgemeyi yönlendiren toplumsal bir mantığın benimsenmesi—yükselmesinin bir nedeni vardı. Toplumlar büyüdükçe koordinasyona, optimizasyona ve israfın azaltılmasına ihtiyaç duyduk. Teknik liderler öne çıktı; "kodlama öğrenin" sanatlar ve beşeri bilimlerdeki daha "hafif" çabalardan daha fazla teknik beceriye değer veren tüm bir dünya görüşünün kısaltması haline geldi. "Bilimi takip edin" bilimsel titizliğe gerçek bir çağrıdan ziyade otoriteye bir başvuru haline geldi.
Aynı zamanda, birçok ahlaki kurumumuz—kamuoyunda ve inkar edilemez bir şekilde—başarısız oldu. Din adamları, sivil liderler ve diğer ahlaki gelenek koruyucularının yozlaşmış, bencil veya etkisiz olduğu ortaya çıktı. Bilgiye erişimimiz arttıkça, kurumlarımızdaki çıkar çatışması motivasyonları ve yozlaşmış eylemler kendini açığa çıkardı. Ancak bu kurumları reform etmek veya geri kazanmak yerine, gerçek bir ahlaki düzeni terk ettik.
Modern "kültür savaşının" yükselişi bu çöküşü yansıtır. Eskiden ahlaki söylem dediğimiz şey—bağışlamanın, disiplinin, iyi işlerin ve ortak yükümlülüğün nasıl etkileşimde bulunduğuna odaklanan—daha sığ bir çatışma biçiminin yerini aldı. "Dindar sağ", ahlaki geliştirmeden vazgeçip sevmediği komşularını cezalandırmaya odaklandı. Eğitimli merkez ve sol arasında, ahlaki katılımdan ziyade tarafsızlığa, Bilim™'e başvurulara, ironik kopukluğa veya göreli ahlaka başvuruldu. Adil olmayan ve dışlayıcı bir ahlaki düzene karşı bu tepki mantıklıydı. Ancak göreli ahlak özgürlük değildi—teslimiyetti. İyiyi ve kötüyü, doğruyu ve yanlışı değerlendirmenin zor işinden, herkesten çok az şey isteyen bir duruş lehine bir geri çekilmeydi.
III. Teknokrasinin Soğuk Ekonomik Düzeni
Ortak bir ahlaki düzenin yokluğunda, teknokrasinin yerine soğuk bir ekonomik düzen geçer. Teknokrasinin insanları üretken ve verimsiz kategorilere ayırması. En iyi sosyal güvenlik ağlarımız bile bu ayırımı ortadan kaldıramaz, çünkü teknokrasinin cezalandırdığı yok—unutuyor. Kim olduğunuzla değil, ne ürettiğinizle ilgilenir.
Bu amansız sınıflandırma, karmaşık bireylerin sadece veri noktalarının toplamlarına indirgenmesi, yalnızca gerçeği açıklamaz; onu aktif olarak şekillendirir ve sosyal yapımızı yırtan aşındırıcı olumsuz kimlikçiliğin birincil yakıtı haline gelir. Çalışma, hükümet ve etkileşimin baskın sistemleri yalnızca grup üyeliklerini veya istatistiksel kümeleri tanıdığında, insanlar görülmenin, kaldıraç veya kaynak kazanmanın yolunun yalnızca grup kimliğini vurgulamakta olduğunu öğrenir. Bu, kiminle olduklarından çok kimin aleyhine olduklarıyla tanımlanan kabilelerin oluşmasını teşvik eder ve bireylerin grubun önemini, genellikle diğerlerinin zararına, şiddetle yükseltmelerini gerektirir. Kimlik, organik bir aidiyet meselesinden ziyade, kişiyi görmezden gelen bir sistem tarafından bize zorlanan stratejik ve çoğu zaman düşmanca bir duruş haline gelir.
Teknokrasinin, piyasalar gibi, kötü bir tarafı yoktur. Ahlaksız bir hakemdir. Teknokratik hususların üstünde olan ortak bir ahlaki çerçeve olmadan, teknokrasinin kazanması ve her kararı en ucuz, en hızlı, en standart ve en ölçeklenebilir olana doğru çekmesi kaçınılmazdır.
Örneğin, dış kaynak kullanımı hareketine ne cehalet ne de gerçek topluluktan uzaklaşarak zayıf dijital topluluk taklitlerini tercih etmek neden olmuştur. Fabrikaların kapanmasının toplulukları harap edeceğini biliyorduk. Çevrimiçi yaşamın bazen heyecan verici ve yararlı olduğunu, ancak fiziksel dünyada güçlü toplulukların yerini almayacağını biliyorduk. Uyarıldık ve on yıllar sonra hala boşalmış kasabalar, unutulmuş insanlar ve ortak alanların eksikliğiyle boğuşuyoruz.
Ohio, Lordstown'u ele alalım. GM orada bir zamanlar yaklaşık 5.000 iş üreten üç vardiya çalıştırıyordu. 2019'da Detroit'teki bir elektronik tablo, Lordstown'da üretilen her Cruze'un Meksika'da üretilenden birkaç yüz dolar daha pahalı olduğunu gösterdi. GM fabrikayı kapattı. Maaşlar ortadan kayboldu, kasabadaki diğer işletmeler kapandı ve okulun fonları kurudu. Verimlilik kasabanın kendisinden nefret etmedi; denklemin bir değişkeni olarak görünmeyi başaramadı sadece.
Sorun zararı göremememiz değildi—teknokrasi mantığına karşı koyacak kadar güçlü bir ahlaki vizyonumuzun olmamasıydı. Ortak bir ahlaki çerçeve olmadan, "Kolay maliyet optimizasyonunu reddediyoruz; bunun yerine gerçek inovasyon, gerçek ilerleme ve sürdürülebilir kalkınma ısrar ediyoruz" diye açıkça söyleyemedik. "Gerçek dünyayla ilgilenmenin ve dijital dünyaya daha disiplinli bir yaklaşım sergilemenin erdemi vardır" diye söyleyemedik. İşletme maliyeti verimliliği ve kolaylık, bu boşluğu, gerçekten iyi olduklarına inandığımız için değil, alternatif için ikna edici bir şekilde tartışma dilini kaybettiğimiz için doldurdu.
Bir hastane faturalama robotunun annenizin durumunun hala yoğun bakımda iken "çözüldüğünü" iddia ettiğini duyduğunuzda; sistem acımasız değildir, onu sadece bir girdi veya çıktı olarak görür ve tutarsızlık sadece bir programcının yarın düzelteceği bir hatadır.
Ahlaksız verimlilik bir tiranlık biçimidir.
IV. Yapay Zeka ve Teknokratik Son Oyun
Şimdi bir uçurumun kıyısındayız. Yapay zeka, verimlilik yürüyüşünün doruk noktasıdır. Dileğimizi, akıl yürütmemizi taklit ediyor ve yakında bizden daha üretken, hatta yaratıcı olacak. Yapay zekadan daha verimli asla olmayacağız. Yalnızca verimliliğin yönettiği bir dünyada, yapay zeka varsayılan olarak kazanır.
Size olanı doğru bir şekilde söyleyen bir yapay zeka son derece değerlidir.
Olanlar göz önüne alındığında, ne yapmayı düşünebileceğimizi söyleyebilen bir yapay zeka da inanılmaz derecede güçlüdür.
Bize ne yapmamız gerektiğini söyleyen bir yapay zeka, teknokratik sosyal mühendisliğe yönelik bir uygulamadır.
Yapay zekanın işleri alması gibi yaşamımızdaki basit aksaklıklardan korkmuyorum. Yapılacak daha fazla iş olacak. Kimliklerimizin ve yargılarımızın yerini almasından korkuyorum. Makineyle tamamen bütünleşirken başvuracağımız son otorite olacak.
Bu panik değil. Yapay zeka derin bir insan aracı olabilir—veya bizi tamamen değiştirebilir. Teknokratik öncelik yolunda ilerlemeye devam edersek, yapay zeka doğal halefimiz olur. Bizi köleleştirdiği için değil, temiz ve verimli üretim için optimize edilmiş bir sistemde bizi geride bıraktığı için. İnsanları verimsiz girdiler olarak gören bir dünya, sonunda insanlara ihtiyaç duymayı bırakacak ve en iyi ihtimalle onları yalnızca tolere edecektir.
V. Ahlaki Alternatif: Ciddiyet ve Topluluk
Tek çözüm, verimliliğin yerini alacak yeni bir egemen düzen kurmaktır. Ekonomik ve sosyal kararlarımızı yönlendiren bir ahlaki çerçeve üzerinde anlaşmalıyız. Bu, dışlayıcı dogmaları canlandırmak veya tekdüzeliği uygulama anlamına gelmez. Bu, ahlaki ciddiyetin geri kazanılması anlamına gelir—insanların kusurlu olduğunu ve iyi yaşama projesinin sürekli başarısızlık, bağışlama ve büyüme olduğunu anlamaya dayanan bir şey. Bu, bildiğiniz bir geleneğe benziyorsa, tesadüf değildir. Başarısızlık ve büyüme döngüleri verimsiz döngülerdir; iki nokta arasında kıvrımlı, dağınık bir yol çizerler. İşte teknokrasi insan sürecinden nefret ettiği içindir.
Ahlaki ciddiyet, doktrin konusunda kesin bir anlaşma gerektirmez, ne de dogmatik bir yaklaşım gerektirir. Çaba gerektirir. Sanata, işe, bakıma, öğretime yönelik disiplinle yaşanan herhangi bir hayat, hayranlık duyulacak bir hayattır. Disiplin kendi başına amaç değildir, ancak bir işarettir: bu kişi çabalamayı seçmiştir. Ve sürüklenmenin hüküm sürdüğü bir dünyada, çabalamak ahlaki bir eylemdir.
Komşularımızı düşman olarak gösteren çerçeveyi de reddetmeliyiz. Teknokrasinin bizi izole ettiği; başkalarını ayırmamızı, onları kategoriler ve ölçümler aracılığıyla görmemizi söylüyor. Ancak ahlaki ciddiyet komşunuzla başlar—ideolojik müttefiklerinizle değil, sokağınızdaki gerçek insanlarla. Her gün karşılaştığımız insanların büyük çoğunluğunun bizim için bir hizmet sunduğunu kabul etmek. Bu, insanları öncelikle düşman ayırma merceğinden görmeyi öğreten bir sistem tarafından sonsuza dek zorlaştırılır, ancak çürümeyi ortadan kaldırmanın tek yoludur. Bağışlama, görev ve güven, yaşadığımız yerde yeniden inşa edilmelidir.
Ölçeklendirme muazzam ekonomik refah sağladı, ancak genel his bir şeyin kaybedildiği yönündedir. Şimdi ölçeği küçültmeyi düşünmeliyiz. Daha küçük, yerel ölçekte daha iyi olan hangi kurumlar ölçeklendirildi? Hangi kurumlar, küçültülürse, bizi veri noktası değil, insan olarak görürlerdi?
VI. Ciddiyetle İradeyi Geri Kazanmak
İlk önce kendimizden bir şeyler talep ederek irademizi geri kazanıyoruz. Kimsenin fark etmediğiniz bir sözü tutmak veya bunu hak etmeyen birini affetmek olabilir. Bu, arkadaşlar arasında korkaklığı dile getirmek veya hak etmediğiniz rahatlıklara direnmek anlamına gelebilir. Benim için bu, yeni bulunan disiplinin küçük eylemleri olmuştur; boş her anı dikkat dağıtıcı veya eğlenceyle doldurmamayı, rahatsız edici sessizlik anları aramayı, eski fikirleri yeniden gözden geçirerek daha bilge gözlerle okumayı veya yeniden okumayı, büyümeyi ve anlamayı seçmektir. Sanayi ve aile aracılığıyla başkalarına daha çok kendimi adamayı seçmektir.
Açıkladığım sistemden ayrı durmadım. Algoritmaları ben inşa ettim. Verilerin insan başarısızlığının üstesinden gelebileceğine dair vaadi satın aldım. Daha iyi sonuçlar üretebileceğimizi ve eski bilgelik biçimlerine duyulan ihtiyacı atlayabileceğimizi düşündüm. Temelsiz bir hümanizme, şanssız bir meritokrasiye, ahlaki maliyeti olmayan sistemlere inandım. Birinin alay edildiği kalabalıkta sessiz kaldım. Gereken cesaret olduğunda kurnazlığı tercih ettim. Bu benim için sadece bir teori değil. Bu kendi duruşum, yavaş yavaş inceleme altında çöküyor. Ve hala temellerle mücadele ediyorum: vücuduma nasıl davrandığım, bana verilen saatlere nasıl özen gösterdiğim. Ahlaki ciddiyet bir varış noktası değildir. Bir savaştır. Ve ben hala bu savaşın içindeyim.
Ve sonra bu standardı başkalarına da uygulamalıyız—alayla değil, ciddiyetle. Komşunuzun daha fazlasını yüklenebileceğine güvenin ve onları buna davet edin. Kendinizi dünyaya açın ve oy verdiğiniz insanlardan ve etkileşimde bulunduğunuz kurumlardan sadece “düşmanların” kim olduğunda gevşek bir uyum değil, gerçek ahlaki ciddiyet talep edin.
Aramızdaki düşmanlara takıntılı olmayı bırakmamızı isterken, düşmanların olduğunun farkında olmak önemlidir. Bazı düşünürler şu anda büyümenin her şeyin üstesinden geldiği bir yapay zeka geleceğini kutluyorlar. Andreessen'in Tekno-Optimist Manifestosu, dar bir seçkin sınıfın gözetimi altında hızlanan bir makine için ham girdi olarak insanları hayal ediyor. Ancak bu vizyon tutarsızdır: yalnızca verimliliğe değer veren bir sistem sonunda yöneticilerini bile ölçülere indirger. Hiper verimli büyüme buluşu ortaya çıkarmaz; onu düzleştirir.
Hiçbir şey beklemezsek, hiçbir şey elde edemeyiz. Ve en verimli olanı bile, ahlaki sorumluluğu üstlenmeyi reddeden bir toplumun ağırlığını taşıyamaz.
Makinenin kim olduğunuzu umrunda değil. Ama çocuğunuzun umrunda olacak. Komşunuzun umrunda olacak. Ve sizin umrunuzda olacak. Yeniden yapılanmanın başladığı yer burasıdır.
Fark etmek teknokrasiyi reddetmenin sadece ilk adımıdır. Bundan sonra, rahatlıktan daha sağlam bir şeye göre yaşamanın ne kadara mal olduğunu soracağım.