Bu makale, Büyük Dil Modellerinde (LLM) test aşamasındaki ölçeklendirmeyi iki farklı formda ele alıyor: Eğitim sırasında her görev için kullanılan maksimum işlem gücüyle sınırlı olan "standart ölçeklendirme" ve modellerin, test aşamasındaki işlem gücü eğitimdeki işlem gücünün 99. yüzdelik dilimini aşsa bile performanslarını geliştirmeye devam etmelerini sağlayan "işlem gücü dışa vurumu" (compute extrapolation). o1 veya R1 gibi erken dönem Doğrulanabilir Ödüllü Pekiştirmeli Öğrenme (RLVR) yöntemleri, eğitim aşamasındaki düşünce zinciri (chain-of-thought) uzunluklarıyla sınırlı gibi görünse de, son dönemdeki gelişmeler laboratuvarların modellerin bu sınırların ötesine geçebilmesini sağlayan teknikleri çözdüğünü gösteriyor. Bu ayrım kritik bir öneme sahip çünkü...

Konular: Yapay Zekada Kapasite ve Ölçeklendirme, Güvenlik ve Değerlendirme, Makine Öğrenme Teknikleri

SiteM’de tam özet, flashcard ve quiz →

Orijinal kaynak: www.forethought.org

Kaynak: sitem.co — paylas.io yer imi / keşif katmanı.