Godot Başaramıyor: Yapay Zeka Balonuna Derin Bir Bakış
Web Zirvesi'nden konuşmamın tadını çıkarın lütfen – Tüm Teknoloji Ürünleri Neden Şimdi Çöp? başlıklı konuşmam. Başlığı ben yazmadım.
Bugün gördüklerimiz geleceğin bir izi değil, mevcut durumun yeni koşullarıysa ne olur? Yapay zekanın bugün gördüğümüzden çok daha fazlasını yapma kapasitesi yoksa ve daha fazlasını ne zaman yapabileceği konusunda net bir zaman çizelgesi yoksa ne olur? Ya tüm bu gürültülü döngü, kariyerlerini güzelleştirmek isteyenlerin sözlerini almaya hazır ve istekli, uysal bir medya tarafından kışkırtılmışsa ne olur?
Mart 2024'te ben.
Jeneratif yapay zekanın bir yılın büyük kısmı boyunca bir numara ürünü olmadığını ve değerlendirmelerine (Şubat) hiçbir şekilde haklı çıkaramadığını, jeneratif yapay zekanın zirveyi geçtiğini (Mart), GPT-4'ten GPT-5'e atlamada eğitilmiş veri eksikliği nedeniyle önemli bir ilerleme olmayacağını belirttim (Nisan).
Temmuz ayında jeneratif yapay zekayı destekleyen dönüştürücü mimarinin bir çıkmaz sokak olduğunu ve eğitilmiş verilerin ve bu verileri kullanan modellerin sınırları nedeniyle halihazırda gördüğümüz ürünleri aşmanın az sayıda yolunun olduğunu dile getirdim. Ağustos ayında, AI kıyametinin Soluk Atlarını - o zamandan beri gerçekleşen pek çok olayı - özetledim ve GPT-5'in gelecekteki (ve daha yetenekli) modeller üzerinde inşa edilecek yeni bir mimariyi değil, sadece önemli bir değişiklik yaratacak kadar büyük bir değişiklik yaratmayacağını yineledim.
Bu yazılarımda, temel değer önerisi, veri kıtlığı veya sürdürülemez ekonomi eksikliğinden ayrı olarak, jeneratif yapay zekanın, gerçek olmayan şeyleri kesin bir şekilde ifade ettiği olasılıkçı modellerin sınırları nedeniyle bir çıkmaz sokak olduğunu defalarca vurguladım. Halüsinasyon problemi çözülmeye her zamankinden daha uzak ve en azından mevcut teknolojiyle birlikte belki de asla ortadan kalkmayacak ve yüksek güvenilirliğe ihtiyaç duyulan çok sayıda iş görevi için başlangıç noktasını ortadan kaldırıyor.
Mart ayından bu yana, jeneratif yapay zekanın toplumu değiştireceği "kaçınılmaz" yolları kabul ederken medyanın inançlı doğasını büyük bir kaygı ile dile getirdim, bunun sebebi ise çevreye zararlı bir endüstrinin liderlik ettiği, yılda 5 milyardan fazla dolar yakıp, insanların istemediği ürünler için büyük teknoloji şirketlerinin veri merkezlerine 200 milyar dolar harcadığı, gerçekten anlamlı bir ürünün olmamasıdır.
Tekrarlamanın nedeni, jeneratif yapay zekanın sorunlarının ne kadar açık ve ne kadar uzun süredir devam ettiğini vurgulamaktır.
Bundan sonraki her şeye ait bağlama ihtiyacınız olacak.
Kenar Not: Burada tam olarak neyin gerçekleştiğini açıklamaya yardımcı olmak için, bu modellerin nasıl çalıştığını ve nasıl eğitildiğini açıklamakta fayda var. Basit tutmaya çalışacağım, çünkü bu konuda bir hatırlatıcı olacaktır.
ChatGPT arkasındaki teknoloji olan GPT gibi dönüştürücü temelli bir jeneratif yapay zeka modeli, "çıkarım" kullanarak cevaplar oluşturur. Bu, modelin "eğitimine" dayanarak sonuçlar çıkardığı anlamına gelir. Eğitim, genellikle internetten toplanan büyük miktarda metin ve görüntü verisiyle beslenmeyi gerektirir. Bu süreçlerin ikisi de yüksek performanslı GPU'lar (grafik işlem birimleri) ve çok sayıda GPU gerektirir.
Teori, (şimdilik), bu modellere daha fazla eğitilmiş veri ve hesaplama atarsanız, o kadar iyi hale gelecekleridir. Bir süredir, hem eğitilmiş veri kaynakları tükendiğinde hem de dönüştürücü tabanlı modellerin sınırları nedeniyle azalan getiriler olacağı konusunda hipotez kurdum.
Ve işte, deniyor ki, sıkıntı burada.
Birkaç hafta önce Bloomberg, OpenAI, Google ve Anthropic'in daha gelişmiş yapay zeka oluşturmakta zorlandıklarını ve OpenAI'ın "Orion" modeli (aynı zamanda GPT-5 olarak da bilinir) "şirketin istediği performansa ulaşamadığını" ve "Orion'un şu ana kadarki performansının GPT-3.5'ten GPT-4'e kadar olan kadar büyük bir adım olmadığını" bildirdi. Şaşıracaksınız, çünkü "daha gelişmiş yapay zeka sistemleri oluşturmak için kullanılabilecek yeni, işlenmemiş yüksek kaliteli insan yapımı eğitim verileri bulmak giderek daha zor hale geliyor", dedi. Mart ayında gerçekleşeceğini söylediğim bir şey, ayrıca Temmuz ayında daha güçlü bir dille "AGI balonu biraz patlıyor" dediğim bir şey.
Ayrıca, özellikle OpenAI, ChatGPT'yi iki yıl önce yayınladıktan sonra, Silikon Vadisi'nde son yıllarda yerleşmiş olan, özellikle şu inanca meydan okumak istiyorum:
Teknoloji sektörünün büyük bir kısmı, daha fazla hesaplama gücü, veri ve daha büyük modellerin kaçınılmaz olarak yapay zeka gücünde daha büyük sıçramalar yolunu açacağı varsayımına dayalı ölçekleme yasalarına güvendi.
Bu görüşü sadece, zor soruları sormaktan kaçınan medya üyeleri ve ne olduklarını bilmeyen veya yanıltmak isteyen yapay zeka kurucuları kabul etti. Jeneratif yapay zeka ürünleri bir yıldan fazla bir süredir reçinede sıkışmış durumda. Daron Acemoglu'nun Mayıs ayında söylediği gibi, daha güçlü modeller yeni özellikler açmıyor veya deneyimi gerçekten değiştirmiyor veya dönüştürücü tabanlı modellerle ne yaratabileceğinizi değiştirmiyor. Ya da başka bir deyişle, biraz daha iyi bir beyaz fil hala bir beyaz fildir.
Harcanan milyarlarca dolar ve binlerce parlak başlığa rağmen, gerçekten önemli bir jeneratif AI destekli ürüne işaret etmek zor. Apple Intelligence, Apple'ın en son iPhone'a gerçekten eklediği tek şey, tamamen sıkıcı ve büyük ölçüde cihaz içi modellerde dayanıyor.
Evet, iddia edildiği gibi haftada 200 milyon kişinin ChatGPT kullandığı var ancak bunun, gerçek jeneratif AI yazılımının yaygın olarak benimsendiğini gösteren az bir şey var. The Information, Eylül ayında, Microsoft'un 440 milyon iş müşterisinin %0,1 ila %1'inin AI destekli Copilot'a ödeme yaptığını bildirdi ve son Ekim ayında Microsoft, "AI yılda 10 milyar dolarlık bir işletmeye hazırlanıyor" dedi. Bu, Azure'daki bulut hesaplama hizmetleri sağlamak, Copilot'u Microsoft 365 abonelikleri olan aptal insanlara satmak, Github Copilot'u satmak ve temelde "AI" yazan her şeyi satmak olarak bölündüğünü düşündüğümüzde güzel geliyor. Microsoft, özel kriterlere dayalı bir rakam seçti ve büyük bir şey olduğunu iddia etti, ancak 2024'te sermaye harcamaları muhtemelen 60 milyarı geçecek.
"Gelir" kelimesine dikkat edin, "kar" kelimesine değil. Microsoft yılda 10 milyar dolar kazanmak için ne kadar harcıyor? OpenAI şu anda 1 dolar kazanmak için 2,35 dolar harcıyor ve Microsoft CFO'su Amy Hood, OpenAI'ın Ekim ayında Microsoft'un kârına gireceğini ve CNBC'ye göre bu durumun başlıca nedeninin OpenAI'dan beklenen kayıp olduğunu belirtti. 1 yıl önce, Wall Street Journal, Ekim 2023'te, bir milyondan fazla kullanıcısı olan GitHub Copilot'ta kullanıcı başına ayda ortalama 20 dolar kaybettiklerini bildirdi. Gerçekse, bu en az 200 milyon dolarlık (incelediğim belgelerde, bir ay önce 1.8 milyon kullanıcı olduğunu gösteriyor ancak daha düşük bir değer kullandım) yıllık kayıplara işaret ediyor.
Microsoft, jeneratif yapay zekanın belirli iş birimlerinde gelirleri ne kadar artırdığını hala ayrıntılı olarak açıklamadı. Genel olarak, bir şirket bir konuda iyi çalışıyorsa, bunu açıkça göstermeye çalışırlar. Bunun yerine, Microsoft Ağustos ayında raporlama yapısını "bulut tüketim gelirlerine daha iyi görünürlük sağlamak" için "yeniledi". Bu, diyelim ki, Microsoft'un Ekim ayındaki kazançlarından sonraki yılların en kötü ticaret gününe sahip olacağını tahmin ettiğinizde yapacağınız bir şeydir.
Her bir yatırım ve ürünün, zamanla üstel olarak daha iyi olacağı ve nihayetinde 200 milyar dolarlık sermaye harcamasının olağanüstü verimlilik iyileştirmeleri ve tüketicilerin ve işletmelerin kitlesel olarak alacağı büyüleyici yeni ürünler üreteceği fısıltılarıyla övüldüğünü açıkça belirtmeliyim. Bunun yerine, büyük teknoloji, neredeyse aynı Large Language Models'in giderek daha pahalı yinelemelerini satmak zorunda kaldı. Bunun nedeni, tüm bunların aynı eğitim verilerini kullanmak zorunda kalmasıdır, bu da artık tükenmekte.
Diğer varsayım - bu sözde ölçekleme yasaları - daha büyük veri merkezleri, daha fazla GPU (bu modelleri hem çalıştırmak hem de eğitmek için kullanılan pahalı, güç tüketen grafik işlem birimleri) inşa ederek ve mümkün olan en fazla eğitim verisini onlara atarak, yeni yetenekler filizlendirmeye başlayacaklarıdır. Bunun doğru olup olmadığı konusunda çok az kanıt var. Microsoft, Meta, Amazon ve Google hepsi, bunu yapmakla, insan seviyesi bir "genel yapay zeka" veya bilmiyorum, masrafları haklı çıkaran bir ürün yaratacağını varsayarak milyarlarca dolar harcadı ve bu işe yaramayacağı acımasızca ortaya çıktı.
Konuşurken, bunun bir sorun olmadığını kanıtlamaya çalışmak için zaten çok istekli kuruluşlar var. The Information, Bloomberg'in benzer bir hikayesinde jeneratif yapay zekanın eksikliğini maskelemeye çalıştı. GPT-5'te anlamlı bir ilerleme olmamasını, OpenAI'ın GPT-5 Modelini o-1 "akıl yürütme" modeliyle birleştirerek, OpenAI CEO'su ve kariyer yalancısı Sam Altman'a göre "çok daha zor kod yazmayı" başarabilecek bir şey gibi bir "sanal beyin" gibi çalışabileceği görüşünü dile getirdiği Mayıs ayında söyledi.
Geçen hafta Platformer'da yayınlanan Başkan Yardımcısı Casey Newton, model eğitimde azalan getirilerin "söylediğiniz kadar önemli olmayabilir" dedi, kanıtı olarak "hiperbole meyilli olmayan" Anthropic'in ölçekleme yasalarının sona erdiğine inanmadığını gösterdi. Newton'un 14.000 kelimelik bir yazıda yazdığı iki makalede açıkça belirttiği gibi, Anthropic CEO'su Dario Amodei, "AI destekli nörobilimin, çoğu zihinsel hastalığın tedavisini büyük ölçüde iyileştirmesi veya hatta iyileştirmesi muhtemel" dedi, bu da kamuoyunda "uyarılmalı ve cezalandırılmalı" olan bir hiperbole örneğiydi.
Özetle şunları söyleyebilirim:
Tüm "yapay zeka" patlamasının arkasındaki ana teknoloji, OpenAI'ın GPT-4'ü (ve yakında GPT-5'i) gibi jeneratif yapay zekadır - dönüştürücü tabanlı modeller - ve söz konusu teknoloji zirveyi geçti ve "daha iyisini" yapmanın tek yollarından (onlara eğitim verisi beslemek ve onlara çok fazla hesaplama gücü atmak) azalan getiriler, ulaştığımız şeyin muhtemelen AI zirvesi olduğu anlamına geliyor.
Jeneratif yapay zeka inanılmaz derecede kârsız. Sektördeki en büyük oyuncu olan OpenAI bu yıl 5 milyardan fazla dolar kaybedecek ve kendi dönüştürücü tabanlı modelini de geliştiren rakibi Anthropic ise bu yıl 2,7 milyardan fazla dolar kaybedecek.
Her büyük teknoloji şirketi, modellerini veya diğer şirketlerin modellerini eğitmek veya işlerine jeneratif yapay zekayı entegre edecek müşterilere hizmet vermek için özel olarak veri merkezleri oluşturmak ve bu veri merkezlerine yerleştirmek üzere milyarlarca dolar harcadı. Görünüşe göre bu gerçekleşmiyor.
Yatırımları teorik olarak diğer ürünler için kullanılabilirdi, ancak bu veri merkezleri büyük ölçüde jeneratif yapay zekaya odaklandı. Business Insider'a göre, Microsoft 2024 sonunda 1.8 milyon GPU'ya sahip olmayı planlıyor ve bu da onlara onlarca milyar dolara mal olacak.
Daha kötüsü, jeneratif yapay zekayı kullanan şirketlerin çoğu, hem OpenAI hem de Anthropic tarafından üretilen modellere bağlanıyor. Her iki şirket de kârsız işletmeler yönetiyor ve muhtemelen maliyetlerini karşılamak için yeterince ücret almıyor. Eylül ayında Alt başlıklı "Altın Çağ Yapay Zeka Krizimde" yazdığım gibi, bu şirketlerin gerçekte ihtiyaç duydukları fiyata ücret almaya başlamaları durumunda, müşterilerinin maliyetlerini işletmelerini sürdürmelerine olanak tanımayacak bir noktaya kadar artırdıklarını düşünüyorum, ya da en azından ürünlerinde jeneratif yapay zeka fonksiyonlarını kaldırmak veya ölçeklendirmek zorunda kalacaklardır.
Tüm teknoloji sektörü, milyarlarca dolar yakmayı gerektiren, gereksiz ürünler sağlayan, hizmet etmenin maliyeti herkesten alınan bir çıkmaz teknolojisinin etrafında şekillendi. Büyük stratejileri, sorunları, yinelemeli olması dışında, gerçekçi bir ürünü yaratıncaya kadar soruna daha fazla para atmak olmuştur. GPT veya diğer modellerin bilinçli hale geleceğine dair ya da bugün, üç ay önce veya bir yıl önce yaptıklarından daha fazla şey yapacağına dair hiçbir kanıt yok (oyunlaştırılması giderek daha kolay hale gelen ölçütler dışında).
Ancak durum daha da kötüleşebilir.
AI patlaması, 2024'te S&P 500'ün kayıt seviyelerine ulaşmasına yardımcı oldu, büyük ölçüde jeneratif AI modellerini eğitmek ve çalıştırmak için gerekli olan GPU'ları ve arkalarındaki yazılım mimarisini üreten çip devi NVIDIA sayesinde oldu. NVIDIA'nın olağanüstü büyümesinin bir kısmı, GPU'lar ile karmaşık hesaplamalar yapmanıza, onları sadece giderek daha yüksek çözünürlükte video oyunları oluşturmak için kullanmanızdan daha fazla yetenekli hale getirme yazılım katmanı olan CUDA mimarisini kullanma yeteneğinden kaynaklanmaktadır ve elbette, jeneratif yapay zeka için milyarlarca dolar yakmak isteyen teknoloji şirketlerine on binlerce dolarlık yeni GPU'lar satmaya devam ederek şirketin hisselerinin son bir yıl içinde %179'dan fazla artmasına yol açmıştır.
Mayıs ayında NVIDIA CEO'su ve profesyonel fuar ilancısı Jensen Huang, şirketin AI GPU üretiminde şimdi "yılda bir ritimde" olduğunu, en son "Blackwell" GPU'larının (özellikle jeneratif AI için kullanılan B100, B200 ve GB200 modelleri) 2024 sonunda çıkması gerektiğini ancak en az Mart 2025'e kadar geciktiğini belirtti.Bundan önce, "GPU" dediğimde oyun bilgisayarınızda bulacağınız türden bir çip değil, birçok başka GPU ile entegre edilmiş, özel kasalarla, soğutma ve ağ altyapısıyla entegre edilmiş özel bir sunucuda bulunan daha büyük bir çip olduğunu belirtmekte fayda var. Basitçe, tüm bu çiplerin birlikte verimli bir şekilde çalışmasını ve aynı zamanda aşırı ısınmalarını engellemesini sağlamak için gerekli olan şey.
Yeni Blackwell çiplerinin ilk gecikmesi, üretimdeki (şimdi düzeltilen) tasarım hatasından kaynaklanmaktaydı, ancak yukarıda belirttiğim gibi, sorun sadece çiplerin oluşturulmasında değil, aynı zamanda satın alındıkları işlerde ölçekte gerçekleşip gerçekleşmediğinin anlaşılmasındadır.
Ama eğer bu da mümkün değilse?
Birkaç gün önce The Information, NVIDIA'nın hesaplamadaki en eski sorundan - şeyleri nasıl soğutacağı - muzdarip olduğunu bildirdi. Bildirinin ifadelerine göre, NVIDIA, aşırı ısınma sorunlarını aşmak için 3.000 kiloluk, 75 GPU'lu sunucu raflarının tasarımını "birkaç kez" değiştirmelerini istedi ve Information bunu NVIDIA'nın şimdiye kadar tasarladığı en karmaşık tasarım olarak adlandırdı. Bildirinin belirttiği üzere, raflara ilişkin duyuru birkaç ay sonra, mühendislerin raflarda... küçük 36 çiplik raflar ile bile düzgün çalışmadıklarını bulup düzeltilmek üzere çabaladıkları görüldü.
Yatırımcıları şaşırtıcı sözcüklerle ve grafiklerle cezbedebilirken, fizik yasaları çok daha acımasız bir efendidir ve NVIDIA ilk kurulumlardan sadece birkaç ay önce bu kadar zorlukla boğuşuyorsa, bu nesil çiplerin nasıl pratik olarak piyasaya sürüleceği, hele ki yıllık döngüsüne devam etmesi belirsizdir. The Information, bu değişikliklerin üretim sürecinin son aşamasında yapıldığını bildirmekte ve modelleri daha sonra öğrenecekleri bir şey yapmaya devam edebilmek için bunlara çok ihtiyaç duyan müşterileri korkutmaktadır. The Information'dan bir alıntı:
Yeni çipleri sipariş eden büyük bulut sağlayıcılarındaki iki üst düzey yöneticinin, bu son dakika sorunlarının, GPU kümelerini gelecek yıl çalışır hale getirebilmeleri için zaman çizelgesini geriye itebileceği konusunda endişeli oldukları bildirildi.
NVIDIA'nın termal performansla ilgili yaşadığı bu önemli zorluklar çok çok kötü. Bu çipler inanılmaz derecede pahalıdır - her biri 70.000 dolara kadar - ve belirttiğim gibi tam hızda çalışacak ve 35 ila 71 çip arasında yer alan yoğun bir ısı üretecektir, bu çiplerin de yoğun bir şekilde paketlenmesi gerekecektir, böylece daha fazla sunucuyu veri merkezine sığdırabilirsiniz. Yeni, daha güçlü çipler, tamamen yeni raflama, çalıştırma ve soğutma yöntemleri gerektirir ve tüm bu parçalar eşgüdümlü olarak çalışmalıdır, çünkü aşırı ısınan GPU'lar ölebilir. Bu birimler büyük olsa da, bazı iç bileşenleri mikroskobik boyuttadır ve uygun şekilde soğutulmadıkça, devreleri "Garfield ile Silah"ı ChatGPT'ye yazan birisi tarafından kızartıldığında çökmeye başlayacaktır.
Unutmayın, Blackwell performansta önemli bir sıçrama olarak kabul ediliyor. NVIDIA soğutma sorununu çözmezse ve iyi çözmezse, çipin kalıcı hasarı önlemek için hızı düşürdüğü termal sıkışma olaylarıyla karşılaşacak. Önceki nesilden çok daha pahalı olmasına rağmen, yeni mimariden ve yeni üretim işleminden elde edilen herhangi bir performans artışını ortadan kaldırabilir.
NVIDIA'nın sorunu yalnızca bu termal performans sorunlarını kendi raflarında kontrol altında tutmakla kalmıyor, aynı zamanda kontrol altında tutmayı ve müşterilerini bunu nasıl yapacakları konusunda eğitmeyi de gerektiriyor. The Information'a göre, NVIDIA müşterilerinin sunucu entegrasyonlarını kendi tasarımlarına uymalarını sürekli olarak etkilemeye çalışıyor çünkü bunun "daha iyi performansa yol açacağını" düşünüyor, ancak bu durumda, NVIDIA'nın Blackwell çiplerinin güvenilir bir şekilde soğutulabileceğinden endişelenmek zorundayız.
NVIDIA bu sorunu rafları içinde tek başına çözebilse bile, 2025'in ilk yarısında yüz binlerce Blackwell GPU'sunu göndermeye başlarken bu durumun ölçekte nasıl işleyeceği bilinmemektedir.
Bu çiplerin nasıl kurulduğu, on binlerce veya Elon Musk'ın "kolos" veri merkezi durumunda yüz binlerce GPU'nun jeneratif AI modellerini çalıştırmak için birlikte çalıştığı devasa "süper bilgisayar" veri merkezlerinde olduğunda durum biraz daha kötüleşiyor. Wall Street Journal, birkaç hafta önce, büyük teknoloji şirketlerinin bozulan parçaları değiştirmeye sermaye harcamalarının yarısını kadar harcayabileceğini söyleyen bir uzmana göre, bu devasa veri merkezlerinin tamamen yeni mühendislik sorunlarına yol açtığını bildirdi, bunun büyük kısmı, bu kümelerin GPU'larını her zaman tam hızda çalıştırmasından kaynaklanıyor.
Unutmayın, jeneratif AI'ye ve ilgili altyapıya yönelik sermaye harcamaları son bir yılda 200 milyar dolardan fazla oldu. Bunun yarısı bozulan ekipmanı değiştirmeye ayrılmışsa, kâr yolunun olmadığında ne olur?
Her durumda, NVIDIA umursamıyor. Sonuçta Blackwell GPU'ları bir yıldır satıyor ve şimdilik bunu sürdürecektir, ancak herhangi bir üretim veya soğutma sorunu maliyetli olacaktır.
Ve o zaman bile, bir noktada birileri şu soruyu sormalı: Tüm bu GPU'lara ihtiyacımız varsa, AI'nın zirvesine ulaştık mı? Bu çiplerin dikkate değer "gücüne" rağmen, NVIDIA'nın tüm kurumsal GPU iş modeli, bu sorunlara daha fazla güç atmanın nihayetinde çözümler yaratacağı fikrine dayanmaktadır.
Eğer durum böyle değilse ne olur?
Teknoloji sektörü, birkaç ay önce yaptığından ve şimdi yaptığından çok daha fazlasını yapmayacak ve yapmayacağını düşündüğü jeneratif AI'ye aşırı güvenerek iki katına, üç katına, dört katına çıktı. Her büyük teknoloji şirketi, "AI talebini yakalama" niyetiyle devasa veri merkezleri kurmak için on milyarlarca dolar yığdı, ancak insanların istediğini, ödeyeceğini veya şirket için nasıl para getireceğini hiç düşünmediler.
Bazıları "ajanslar sonraki sınır" dedi, gerçek şu ki, ajanslar muhtemelen jeneratif AI'nin son ürünü olabilirler - birbirine çarpan bir dizi Large Language Model ve entegrasyon, bir insanın yapabileceğini simüle etmeye çalışmak, bu da çoğu işletme için sürdürülebilir olmayan bir maliyet getirecektir. Anthropic'in demo'sunun, görünüşe göre, bir istekle birkaç tarayıcı penceresini kontrol etmesi inançlı insanlar için Casey Newton gibi etkileyici gözükse de, bu Anthropic'in "yavaş" ve "çok hata yaptığını" eklediği kontrollü demo'lardı. Hey, neredeyse halüsinasyon yapıyor! Umarım bu tamamen çözülemez sorunu düzeltirler.
Bu durum olursa bile, Anthropic, belirsiz ve muhtemelen kârsız bir fiyatla ... bir giriş seviyesi veri işçisi pozisyonunu başarıyla değiştirdi. Ve birçok kuruluşta, bu işler zaten dış kaynaklardan sağlanıyor, otomatikleştiriliyor veya daha ucuz sözleşmeli çalışanlar tarafından üstleniyor.
Bu kitlesel yanılsamanın iğrençliği mide bulandırıcıdır - büyük teknoloji adamlarının en güçlü insanlarının sürü zihniyeti ve hatalı karar vermedeki tezahürü ve medyayı mümkün olmayan bir şeyi olası gibi göstermeye çalışmak. Ve medya bunlara kökten güvendi.
Gerçek bir ürün pazar uyumsuzluğuna sahip olmayan bir yazılım için sayılarla uğraşmak üzere devasa veri merkezleri inşa etmek için yüzlerce milyar dolar harcandı. Bunu canlı, bilinçli veya faydalı bir ürün gibi göstermeye çalıştılar.
Görünen o ki, jeneratif AI'yi ve ilgili ürünleri sürdürülebilir işletmelere dönüştürmenin bir yolu yok. Büyük teknoloji şirketlerinin izlediği tek yol, soruna mümkün olan en fazla parayı, gücü ve veriyi atmaktı ve bu da başka bir çıkmaz sokak gibi görünüyor.
Ve daha da kötüsü, bu hareketten aslında hiçbir şey çıkmadı. Örneğin, AI destekli bir günlük gibi, yararlı bulduğum bir dizi AI ürünü kullandım. Bunlar, "devrimler" ile ilişkilendirilmeyen, milyarlarca dolar harcamayı, emisyon hedeflerini aşmayı ve milyonlarca kişinin yaratıcı çalışmalarını eğitmek için çalmayı gerektirmeyen kullanışlı araçlardır.
Bundan sonra ne olacağını gerçekten bilmiyorum, ancak düşündüklerimi size anlatacağım.
Dönüştürücü tabanlı modellerin gerçekten azalan getiri aşamasındaysak, NVIDIA GPU'larının daha fazla yinelemesini satın almanın haklı çıkarılmasının inanılmaz zorlaşacağı anlamına gelir. Tüm jeneratif AI hareketi, daha fazla hesaplama gücü ve daha fazla eğitim verisi ile bunların daha iyi hale geleceği fikrine dayanıyor ve eğer durum böyle değilse, daha büyük ve daha iyisini almamızın çok az nedeni var. Sonuçta neyin anlamı var?
Şu anda bile, Microsoft veya Google'ın Blackwell GPU'lardan oluşan rafları varsa ne olur? Modeller daha iyi olmayacak.
Bu, OpenAI ve Anthropic'in durumunu daha da zorlaştırıyor. Sam Altman, GPT'nin bir şekilde AGI'ye yol açacağı yalanıyla zengin ve güçlü oldu. Şimdi OpenAI'ın ne yapması gerekiyor? Yeni modeller geliştirmelerinin tek yolu, soruna çok fazla hesaplama gücü ve eğitim verisi atmaktı ve diğer seçenek, akıl yürütme modelini ana Large Language Model'e ekleyerek başlamaktı. Bu noktada bir şey olur, OpenAI'da veya medyada çalışan hiç kimse bunu neyin olduğunu açıklayamıyor.
Bunun dışında, OpenAI, 3,4 milyar dolar kazanmak için 5 milyar dolar yakmak zorunda kalan kötü bir işletme. VC'lerden ve AI hayallerinden sürekli duyduğum şey, "çipler çıkarım maliyetlerini düşürecektir", ancak bunun gerçekleşeceğine dair hiçbir kanıt göremiyorum, ne de bunun bu şirketler için durumu değiştirmek için yeterince hızlı olacağına inanmıyorum.
Ve çaresizliği de hissedebiliyorsunuz. OpenAI, gelir ve giderler arasındaki uçurumu kapatmak için reklamlara bakıyor. Bir reklam gelir akışı oluşturmanın, hem teknoloji hem de yetenek açısından önemli ön yatırımlar gerektireceğini belirtmiştim. OpenAI, reklamları hedefleme ve reklamları satacak bir ekibe ihtiyacı var, ya da bunun yerine, gelirin önemli bir kısmını alacak üçüncü taraf bir reklam ağı kullanmak zorunda kalacak.
OpenAI'ın reklam verenlere ne kadar ücret alabileceği veya 200 milyon haftalık kullanıcıdan kaçının reklam engelleyici kullandığı belli değil. Ya da reklamların, zaten güvenilmez bir ürünü daha da kötüleştirmek için OpenAI'a tuhaf bir teşvik sağlayıp sağlamayacağı belli değil.
Facebook ve Google - daha önce de belirttiğim gibi - insanların sitelerinde geçirdikleri süreyi ve dolayısıyla gördükleri reklam sayısını artırmak için ürünlerini açıkça kötüleştirdiler. Facebook'un durumu, haber akışınızı AI tarafından oluşturulan çamur ve "önerilen içerik" seline gömmüş olmasıydı. Google ise, kullanıcıların daha fazla reklam görmesini sağlamak için arama sonuçlarının kalitesini kademeli olarak düşürdü.
OpenAI kolayca aynı tuzağa düşebilir. ChatGPT kullanan çoğu insan belirli bir görevi tamamlamaya çalışır - bir tez yazmak, bir konu hakkında araştırma yapmak veya neyse ki - ve ardından ayrılır. Bu nedenle, olasılıkla sosyal ağ veya arama motoru ile karşılaştırıldığında gördükleri reklam miktarı kesinlikle düşük olacaktır. OpenAI, kullanıcıların daha uzun süre kalmasını ve daha fazla mesaj yazmasını sağlamak için modellerinin performansını bozacak mı?
OpenAI daha iyi meleklerine kulak verseniz bile, gerçek şu ki, reklamlar şirketin sonunda boğulacağı kırmızı mürekkebin yükselişini engellemeyecektir.
Gerçekten kötü bir durum ve tek seçenekler şu anda durmak veya ısınmaya devam edene kadar para yakmaya devam etmektir. GPT-4'ü eğitmek 100 milyon dolara mal oldu ve birkaç ay önce Anthropic CEO'su Dario Amodei, gelecekteki modellerin eğitiminin 1 milyar ila 10 milyar dolara mal olacağını tahmin etti ve bir araştırmacı, OpenAI'ın GPT-5'inin eğitiminin yaklaşık 1 milyar dolara mal olacağını iddia etti.
Herhangi bir "bilinmeyen bilinmeyen" sözcüğünden bahsetmeden önce. Trump'ın seçimi, klişeye benzememek için, her şeyi ve henüz tam olarak anlamadığımız şekillerde değiştiriyor. Wall Street Journal'a göre, Musk, kampanyasına erken ve tam destek vererek Trump ile ilişki kurmayı başardı. Şimdi söylentilere göre Mar-a-Lago'da yaşıyor, dünya liderleriyle görüşmeler yapıyor ve Trump'ın kulağına, kabinesini oluştururken fısıldıyor.
Ve Journal'ın iddiasına göre, düşmanları, onun siyasi etki konumunu kendilerine veya işlerine zarar vermek için kullanabileceğinden korkuyor - özellikle OpenAI'ın yeni kar amacı gütme yönü nedeniyle Musk'ın dünyasında "hoş karşılanmayan" kişi olan Sam Altman. Büyük ihtimalle bu şirketler kaçınılmaz organik gerçekler nedeniyle başarısız olacak (para tükenmesi veya kâr sağlayan bir ürüne sahip olmamaları gibi), ancak Musk'ın düşmanları artık yeni bir düşmanla yüzleşmek zorunda kaldı - Federal hükümetin tam desteğine sahip olan ve ne bağışlıyor ne de unutuyor.
Ve en önemlisi, etik veya ahlaki yasaları kendi çıkarları için veya kendisine hakaret ettiğini düşündüğü kişilere zarar vermek için bükmekten korkmayan biri.
Musk, Altman ve OpenAI'ye zarar vermek için yeni kazandığı siyasi gücü kullanmasa bile, yine de şirketle özel olarak ilgilenebilir. Geçen Cuma günü, OpenAI'ın gayri-kar amacı gütmekten kar amacı gütmeye dönüşme girişimine dur denilmesini talep eden bir ihtiyati tedbir başvurusunda bulundu. Nihayetinde başarısız olsa bile, Musk süreci uzatmayı veya geçici olarak geciktirmeyi başarırsa, OpenAI için ölümcül bir darbe olabilir.
Çünkü en son fon toplama kampanyasında, OpenAI, iki yıl içinde kar amacı gütme işine dönüşmemesi halinde, son 6.6 milyar dolarlık hisse yatırımını yüksek faizli borca dönüştürmeyi kabul etti. İlk başta bu son derece sıkışık bir süreçti ve herhangi bir gecikmeyi kaldıramazdı. Bu borçtaki faiz ödemeleri nakit akışını büyük ölçüde artıracaktı ve kuşkusuz dış yatırımları almada zorluk yaşayacaktı.
Bir mucize dışında, jeneratif AI alanında bir çaresizlik çağına girmek üzereyiz. İki yıl oldu ve ChatGPT'den başka hiçbir numara ürünü - milyarlarca dolar yakıp kimsenin gerçekten tanımlayamadığı bir ürün - yok. Ne Microsoft, ne Meta, ne Google ne de Amazon, kullanıcılarının gerçekten sevdiği ve şirket için para getireceği, bir kâr sağlama yöntemi bulmuş gibi görünmüyor. Yüz milyonlarca doları bir şekilde "AI" ile alakalı şeylere yatıran ve gelecekte yatırım yapacağını düşünerek herhangi bir kâr elde etmiş gibi gözüken yatırımcılar bile, AI'ye olan ilgi soğumaya başladı.
OpenAI, Anthropic veya diğer jeneratif AI şirketlerindeki gelecek turdaki yatırımların ne sağlayacağının belli olmaması nedeniyle bu saçmalığın ne kadar süreceği belli değil. Bir noktada para kazanmaları gerekir ve tüm rüya, tüm bu GPU'ların ve tüm bu paraların sonunda devrim niteliğinde bir şey yaratacağı fikri etrafında kurulmuştur.
Ancak sahip olduğumuz şey hantal, çirkin, karmaşık, hırsızca, çevreye zararlı ve ortalama. Jeneratif AI, büyük teknoloji ve girişim sermayesi kafalarının tamamen yaratıcılık ve akıl eksikliğini ortaya koyan bir maceraydı ve Sam Altman'ın aptalca şey söylemesi ve alıntılandığı zamanlar dışında gerçekten etkileyici hiçbir şey yoktu.
Açıkçası, burada ne olacağını bilmiyorum. Gelecek her zaman büyük teknolojinin, bir noktada faydalı hale gelecek daha büyük modeller oluşturmak için daha fazlasını harcamasını gerektiriyordu, ve bu gerçekleşmiyor. Bunu yapmak için büyük teknoloji, sadece bir hedefi takip etmek ve işletmelerinde AI'yi öne çıkarmak için özel olarak yüzlerce milyar dolar altyapıya yatırım yaptı.
Gelir gelmiyor. Ürünler gelmiyor. OpenAI'ın sonraki modeli "Orion" hayal kırıklığına uğratacak, diğer rakip modeller de hayal kırıklığına uğratacak ve bir noktada hiper ölçekleyicilerden biri gözlerini kırpıp sermaye harcamalarına geri dönecek ve AI dönemi sona erecek. Bildiğiniz neredeyse tüm jeneratif AI şirketleri çok kârsız ve onları kuruluşun çürümesinden kurtarmak için az sayıda yenilik var.
Bunları yazarken üzgün, yorgun ve bitkin hissediyorum, insanlara bir şeyler söylemeye çalıştığım birçok zaman, Sam Altman gibi kişilerin aşırı vaatleri ve doğrudan yalanlarını eleştirmemiş birçok medya üyesine kızgınım ve bu sektörün çöküşünün ekonomik sonuçlarını düşünürken korkunç hissediyorum. AI balonu patladığında, artık büyük teknoloji hisselerinin çöküşünden başka fazla büyüme pazarı kalmayacak ve büyümeye devam edeceklerine dair ikna edici düşünceleri kalmayacaktır.
Burada "doğru" olduklarını iddia edenler olacak ve evet, böyle olmakta bir tatmin var. Bununla birlikte, bu balonun patlaması sonucunda kitlesel işten çıkarmaların, girişim sermayesi fonlarının azalmasının ve çok daha kırılgan bir teknoloji ekosisteminin olacağını biliyorum.
Nisan ayında yazdığım "Balon Sorunları" adlı makalede yer alan bir alıntı ile bitireceğim:
Bu inanılmaz zor sorunların hepsini nasıl çözeceksiniz? OpenAI veya Anthropic, veri tükendiğinde ve sentetik veriler boşluğu doldurmadığında veya daha kötüsü, çıktı kalitesini büyük ölçüde düşürdüğünde ne yapıyor? Sam Altman, GPT-5 - GPT-4 gibi - performansını önemli ölçüde iyileştirmezse ve bir sonraki adım için yeterli hesaplama gücü bulamazsa ne yapar? OpenAI ve Anthropic, muhtemelen asla kâr etmediklerini fark ettiklerinde ne yapar? Microsoft veya Amazon veya Google, talep hiç gerçekleşmez ve milyarlarca dolarlık kullanılmayan veri merkezleriyle kalırlarsa ne yaparlar? AI çiplerine olan talep bir uçurumdan düştüğünde Nvidia ne yapar?
Bu AI patlamasının ne kadar sürdürülemez olduğunu ve bazı zorlukların üstesinden gelmenin imkansızlığını daha fazla insanın neden yüksek sesle dile getirmediğini anlamıyorum. Bu modellerin eğitilmesi için yeterince veri oluşturmanın bir yolu yok ve şimdiye kadar gördüğ