Meta, yeni Llama araçlarıyla yapay zeka güvenliğini artırıyor
Özet
Meta, Llama yapay zeka modelleri için geliştirilen yeni güvenlik araçlarını yayınladı. Bu araçlar, yapay zeka geliştirme ve kullanımını daha güvenli hale getirmeyi amaçlıyor. Yeni araçlar arasında, hem metin hem de görüntüler için güvenlik kurallarını uygulayan çok modlu Llama Guard 4 ve yapay zeka sistemleri için bir güvenlik kontrol merkezi görevi gören LlamaFirewall yer alıyor. Ayrıca, Meta, jailbreak girişimlerini ve istek enjeksiyonlarını tespit etmede iyileştirilmiş Llama Prompt Guard 2 modelini de duyurdu.
Yapay zeka ile geliştirme yapıyorsanız veya teknolojinin daha nahoş taraflarına karşı savunma yapmaya çalışıyorsanız, Meta yeni Llama güvenlik araçlarını yayınladı.
Llama yapay zeka modelleri için geliştirilmiş güvenlik araçları, Meta'nın siber güvenlik ekiplerinin yapay zekayı savunma için kullanmasına yardımcı olmak üzere tasarladığı yeni kaynaklarla birlikte geliyor. Bu, yapay zeka geliştirme ve kullanmayı, dahil olan herkes için biraz daha güvenli hale getirme çabalarının bir parçası.
Llama model ailesiyle çalışan geliştiriciler artık kullanabilecekleri bazı geliştirilmiş araçlara sahip. Bu en yeni Llama Koruması araçlarını doğrudan Meta'nın kendi Llama Korumaları sayfasından edinebilir veya birçok geliştiricinin kullandığı yerlerde bulabilirsiniz: Hugging Face ve GitHub.
İlk olarak Llama Guard 4 var. Bunu, Meta'nın özelleştirilebilir yapay zeka güvenlik filtresinin bir evrimi olarak düşünün. Buradaki en büyük haber, artık çok modlu olması, böylece sadece metne değil, aynı zamanda görüntülere de güvenlik kurallarını anlayıp uygulayabilmesi. Bu, yapay zeka uygulamaları daha görsel hale geldikçe çok önemli. Bu yeni sürüm aynı zamanda şu anda sınırlı bir önizlemede olan Meta'nın yepyeni Llama API'sine de dahil ediliyor.
Ardından LlamaFirewall var. Bu, Meta'dan yapay zeka sistemleri için bir güvenlik kontrol merkezi gibi davranmak üzere tasarlanmış yeni bir parça. Birlikte çalışan farklı güvenlik modellerini yönetmeye yardımcı olur ve Meta'nın diğer koruma araçlarına bağlanır. Görevi nedir? Yapay zeka geliştiricilerini uykusuz bırakan risk türlerini tespit etmek ve engellemek; yapay zekayı kandırmak için tasarlanmış zekice 'istek enjeksiyonu' saldırıları, potansiyel olarak riskli kod üretimi veya yapay zeka eklentilerinden kaynaklanan riskli davranışlar gibi şeyler.
Meta ayrıca Llama Prompt Guard'ına da bir iyileştirme yaptı. Ana Prompt Guard 2 (86M) modeli artık bu sinir bozucu jailbreak girişimlerini ve istek enjeksiyonlarını tespit etmede daha iyi. Belki de daha ilginç olanı, Prompt Guard 2 22M'nin tanıtılması.
Prompt Guard 2 22M çok daha küçük, daha çevik bir versiyon. Meta, daha büyük modele kıyasla çok fazla algılama gücünden ödün vermeden, gecikmeyi ve hesaplama maliyetlerini %75'e kadar azaltabileceğini düşünüyor. Daha hızlı yanıtlar alması gereken veya daha sıkı bütçelerle çalışan herkes için bu, hoş karşılanan bir ekleme.
Ancak Meta sadece yapay zeka geliştiricilerine odaklanmıyor; aynı zamanda dijital güvenliğin ön saflarında yer alan siber savunuculara da bakıyor. Siber saldırılara karşı mücadelede yardımcı olmak için daha iyi yapay zeka destekli araçlar taleplerini duydular ve tam da bunun için bazı güncellemeler paylaşıyorlar.
CyberSec Eval 4 ölçüt paketi güncellendi. Bu açık kaynaklı araç seti, kuruluşların yapay zeka sistemlerinin güvenlik görevlerinde ne kadar iyi olduğunu anlamalarına yardımcı olur. Bu en son sürüm iki yeni araç içeriyor:
CyberSOC Eval: Siber güvenlik uzmanları CrowdStrike'ın yardımıyla oluşturulan bu çerçeve, yapay zekanın gerçek bir Güvenlik Operasyon Merkezi (SOC) ortamında ne kadar iyi performans gösterdiğini özellikle ölçer. Yapay zekanın tehdit tespiti ve yanıt verme konusundaki etkinliğinin daha net bir resmini vermek üzere tasarlanmıştır. Ölçütün kendisi yakında geliyor.
AutoPatchBench: Bu ölçüt, Llama ve diğer yapay zekaların, kod içindeki güvenlik açıklarını otomatik olarak bulma ve düzeltme konusunda ne kadar iyi olduğunu test eder.