Bu makale, Cactus Compute tarafından geliştirilen ve sadece 14 MB boyutundaki kompakt bir fonksiyon çağırma (function-calling) dil modeli olan Needle 2'yi tanıtmaktadır. Needle 2, herhangi bir özel yapay zeka donanım hızlandırıcısı (AI HAT gibi) kullanmadan, sadece işlemci (CPU) üzerinde bir Raspberry Pi 5'te yerel olarak çalıştırılabilmektedir. Genel amaçlı bir sohbet botu gibi çalışmak yerine Needle, özellikle tek bir göreve odaklanmıştır: Doğal dildeki komutları, cihaz üzerinde güvenilir ve yapılandırılmış eylemlere dönüştürmek. Geliştiriciler, basit kurulum adımlarını takip ederek modeli bir Python ortamına entegre edebilir ve yerel mantığı anında uygulamaya başlayabilirler. Sistem, standart fonksiyon isimlerini ve dokümantasyon dizilerini (docstrings) kullanan basit bir Python dekoratörü olan @needle.tool mekanizmasına dayanmaktadır.

Konular: Yapay Zeka ve Edge Computing Dünyasında Raspberry Pi Dönemi

SiteM’de tam özet, flashcard ve quiz →

Orijinal kaynak: share.google

Kaynak: sitem.co — paylas.io yer imi / keşif katmanı.