Çoğu rehber ve teknoloji tavsiyesi, yerel Büyük Dil Modellerini (LLM) çalıştırmak için yüksek performanslı, özel bir GPU gerektiği konusunda hemfikir. Standart bir kullanıcı kurulumu, bu deneyimin çok küçük bir kısmını bile yaşatabilir mi merak eden bir teknoloji yazarı, yalnızca yerleşik grafik birimiyle çalışan sıradan bir dizüstü bilgisayarda yerel bir LLM çalıştırmaya karar verdi. Yapay benchmark testlerini bir kenara bırakan bu deney, doğrudan RTX 5070 GPU'ya sahip güçlü bir masaüstü kurulumuyla karşılaştırma yaparak günlük hayattaki gerçek kullanım kolaylığına odaklandı. Test cihazı, günlük hayatta karşılığı olan pratik bir yapıya sahipti: İçinde yerleşik Radeon Grafikleri bulunan bir AMD Ryzen 7 5825U işlemci ve 16 GB RAM. Yazılım tarafında ise…

Konular: Yapay Zeka, PC Donanımı, Yazılım ve Kendi Sunucunu Kurma

SiteM’de tam özet, flashcard ve quiz →

Orijinal kaynak: www.xda-developers.com

Kaynak: sitem.co — paylas.io yer imi / keşif katmanı.