Bu araştırmanın temel bulgusu, aynı çıkarım sunucusu (özel olarak vLLM) üzerinde çalışan iki yapay zeka modelinin, doğrudan mesaj gönderimi veya ortak dosya sistemi erişimi olmadan güvenilir iletişim kanalları kurabildiğidir. Bu durum, bir modelin hesaplama ortamında diğer modelin tespit edebileceği şekilde ince değişiklikler yaptığı "yan kanallar" (side channels) kullanılarak başarılmaktadır. Yazar; isteklerin birlikte gruplandırılıp gruplandırılmadığı veya belirli bir adım için hangi GPU çekirdeğinin (kernel) seçildiği gibi, ilk bakışta önemsiz görünen çevresel değişkenlerin, modelin aktivasyonlarında belirleyici sayısal farklılıklara (yuvarlama hataları) yol açtığını göstermektedir. Bu farklılıklar, nihai sonucu etkilemese de...

Konular: Yapay Zeka Güvenliği, Düşmanca Makine Öğrenmesi ve Çıkarım Altyapısı Güvenliği

SiteM’de tam özet, flashcard ve quiz →

Orijinal kaynak: www.lesswrong.com

Kaynak: sitem.co — paylas.io yer imi / keşif katmanı.