Çin yapımı açık ağırlıklı modeller ucuz. Washington bunun maliyetini belirlemeye çalışıyor.
Özet
Çin'in yeni ve büyük açık ağırlıklı yapay zeka modeli Kimi K3, Washington'da yapay zeka politikaları ve tedarik zinciri güvenliği üzerine yeni bir tartışma başlatmıştır. Uzmanlar modelin performansını olumlu bulurken, yüksek token tüketimi ve maliyeti konusunda uyarılarda bulunmaktadır. ABD'nin doğrudan yasaklar yerine düzenleyici belirsizlikler ve güvenlik uyarıları yaratarak işletmeleri bu modellerden uzaklaştırması beklenmektedir. Bu durum, küresel ölçekteki işletmelerin Çin yapay zeka modellerini benimseme kararlarını uzun vadede olumsuz etkileme riski taşımaktadır.
Bu ay Çin'in açık ağırlıklı (open-weight) modellerini değerlendiren işletmeler, kıyaslama testleriyle hiçbir ilgisi olmayan bir soruyla karşı karşıya: Bir modeli kullanmak bir yıl sonra da aynı şekilde kolay olacak mı? Moonshot AI’ın Kimi K3 modeli, şimdiye kadar piyasaya sürülen en büyük açık ağırlıklı model olarak 16 Temmuz'da kullanıma sunuldu ve günler içinde Washington'da bir yıldır askıda olan bir politika tartışmasını yeniden alevlendirdi.
Sonuç, Amerika Birleşik Devletleri sınırlarının çok ötesindeki tedarik kararlarını etkileyecektir; çünkü tartışılmakta olan mekanizmalar – federal tedarik kuralları, ihracat kara listeleri, güvenlik uyarıları – dünyanın çoğuna hizmet veren aynı bulut sağlayıcıları üzerinden yayılmaktadır. Doğrudan tetikleyici, OpenAI'ın stratejik geleceklere liderlik eden ve yakın zamana kadar Trump'ın Beyaz Saray'ında kıdemli bir yapay zeka danışmanı olan Dean W. Ball'un bir paylaşımı oldu.
Model hakkındaki değerlendirmesi büyük ölçüde olumluydı: Performansının damıtılmayla (distillation) açıklanamayacağını düşündüğü, çok iyi bir model diye yazdı. Ayrıca modelin "çok fazla token tükettiğini" ve çalıştırmanın gerçekten ucuz olduğunun kendisi için aşikar olmadığını belirtti; K3'ün tek ayar olarak maksimum akıl yürütme çabasıyla piyasaya sürüldüğü ve çıktıların milyon token başına 15 dolardan faturalandırıldığı göz önüne alındığında bu yararlı bir uyarıydı.
Ardından Trump yönetimi için en iyi stratejinin, Çin'in açık ağırlıklı modelleri etrafında düzenleyici bir risk yaratmak olduğuna nihayetinde karar vereceğini öngördü. Yapay zeka politikasındaki en aptalca motiflerden biri olarak nitelendirdiği bir yasak değil, bu tür modellerin arka kapılar içerebileceklerini öne süren kurumlardan gelecek yumuşak rehberlikler. "Bunun o kadar da iyi gerekçelendirilmesine gerek yok" diye yazdı. Yeterli belirsizlik olursa, regülasyona tabi işletmeler kendi istekleriyle geri çekilir.
Çin'in açık ağırlıklı modelleri neden öncelikle ticari bir sorundur?
Tepki şiddetliydi ve Pekin'den değil, Amerikalılardan geldi. Başkanın Bilim ve Teknoloji Danışma Konseyi Eş Başkanı David Sacks, Ball'un bir regülasyon yakalama stratejisini itiraf mı ettiğini yoksa öngördüğünü mü anlayamadığını, her iki durumda da düzenleyici belirsizliğin rekabetçi bir araç olarak silahlandırılmasının kabul edilemez olması gerektiğini söyledi.
Model gelirlerinde halihazırda bir düopol olan önde gelen kapalı laboratuvarların, hükümetin açık kaynaklı rekabeti ortadan kaldırmasını istediğini ekledi. Yann LeCun ve Martin Casado, açık ve tescilli gelişimin bir arada var olabileceğini savundular. Ball daha sonra tavsiye etmekten ziyade öngörüde bulunduğunu açıklığa kavuşturdu ve açık ağırlıkların alanı mutlaka yavaşlattığı iddiasından geri adım attı.
Kişiliklerin altında yatan şey bir aritmetik problemidir. Kapalı laboratuvarların, veri merkezleri için topladıkları sermayeyi haklı çıkarmak için token başına gelir elde etmeye ihtiyacı var ve daha ucuz açık ağırlıklı modeller, Snorkel AI'ın kurucu ortağı Braden Hancock'un TechCrunch'a belirttiği gibi, yapay zekanın ne kadar kullanıldığını azaltmadan bu geliri sıkıştırıyor. Yönlendirme verileri değişimi halihazırda gösteriyor: Vercel'in üretim ağ geçidi üzerinden geçen token'ların %29'unu açık ağırlıklı modeller işledi (Nisan ayında yaklaşık dokuzda bir iken), harcamaların ise %4'ünden azını oluşturdu.
Bu baskı Amerikan yığınının (stack) içinden geliyor. GitHub, Moonshot’ın Kim'ini yaptı