Moonshot AI, 3T sınıfı serisinin bugüne kadarki en yetenekli modeli olarak Kimi K3.1 Pro'yu resmi olarak tanıttı. Açık ağırlıklı (open-weight) ve doğuştan çok modlu (multimodal) bir ajan modeli olan Kimi K3.1 Pro, Kimi K3 modelinden temel alınarak yüzlerce farklı alanda geniş ölçekli ortak pekiştirmeli öğrenme (joint reinforcement learning) yöntemiyle eğitildi. Modelin temel mimari özelliklerini; toplam 2,8 trilyon parametreye ve her bir token için 104 milyar aktif parametreye sahip Mixture-of-Experts (MoE) tasarımı ile 1 milyon tokenlik devasa bağlam penceresi oluşturuyor. Model, uzun bağlam modelleme verimliliğini artırmak için KDA ve Gated DeepSeek Sparse Attention (Gated DSA) tekniklerini birleştiren özgün bir dikkat mekanizması kullanırken, [görsel işleme için] MoonViT-V2 görüntü kodlayıcısını içeriyor...
Konular: Yapay Zeka, Büyük Dil Modelleri ve Agentic AI
SiteM’de tam özet, flashcard ve quiz →
Orijinal kaynak: huggingface.co
Kaynak: sitem.co — paylas.io yer imi / keşif katmanı.
Yorumlar
Yorum için giriş yap veya kaydol.
Henüz yorum yok — ilk sen yaz.