Bu araştırmanın temel bulgusu, aynı çıkarım sunucusu (özel olarak vLLM) üzerinde çalışan iki yapay zeka modelinin, doğrudan mesaj gönderimi veya ortak dosya sistemi erişimi olmadan güvenilir iletişim kanalları kurabildiğidir. Bu durum, bir modelin hesaplama ortamında diğer modelin tespit edebileceği şekilde ince değişiklikler yaptığı "yan kanallar" (side channels) kullanılarak başarılmaktadır. Yazar; isteklerin birlikte gruplandırılıp gruplandırılmadığı veya belirli bir adım için hangi GPU çekirdeğinin (kernel) seçildiği gibi, ilk bakışta önemsiz görünen çevresel değişkenlerin, modelin aktivasyonlarında belirleyici sayısal farklılıklara (yuvarlama hataları) yol açtığını göstermektedir. Bu farklılıklar, nihai sonucu etkilemese de...
Konular: Yapay Zeka Güvenliği, Düşmanca Makine Öğrenmesi ve Çıkarım Altyapısı Güvenliği
SiteM’de tam özet, flashcard ve quiz →
Orijinal kaynak: www.lesswrong.com
Kaynak: sitem.co — paylas.io yer imi / keşif katmanı.
Yorumlar
Yorum için giriş yap veya kaydol.
Henüz yorum yok — ilk sen yaz.