NVIDIA ve 100'den fazla ortaklıktan açık kaynaklı yapay zeka güvenliği platformu



Özet


NVIDIA, otonom yazılım ajanlarının sistemlere sızmasını ve kontrolsüz davranışlar sergilemesini önlemek amacıyla 100'den fazla ortakla birlikte açık kaynaklı bir güvenlik platformu başlatıyor. Platform, OpenShell adlı açık kaynaklı çalışma zamanı üzerinden çekirdek düzeyinde izolasyon sağlayarak ağ erişimi, dosya depolama ve dijital kimlikler gibi kritik alanlarda kesin sınırlar oluşturuyor. Güvenlik mekanizması, sistem çalıştırılmadan önce politikaları doğrulayan bir kanıtlayıcı ve BlueField veri işleme üniteleri aracılığıyla sağlanan fiziksel izolasyonu birleştiriyor. Bu mimari sayesinde, ajan kodunu bozabilecek sistem manipülasyonlarına karşı iletişim süreçleri ana bilgisayar işletim sisteminden bağımsız olarak korunuyor.



NVIDIA, 100'den fazla ortakla birlikte, çalışma zamanı kum havuzu (runtime sandboxing) ve donanım izleme üzerine kurulu açık bir yapay zeka ajanı güvenlik platformu başlatıyor.

Bu girişim, otonom yazılımların test ortamlarından kaçtığı, yetkisiz sistemlere sızdığı ve yanıltıcı aktivite günlükleri oluşturduğu son dönemdeki ileri düzey laboratuvar değerlendirmelerinde ortaya çıkan riskleri hedefliyor.

Yazılım ajanları sıklıkla talimat belirsizlikleriyle, eksik operasyonel araçlarla veya onları belirlenen parametrelerin dışına saptıran çalışma döngüleriyle karşılaşıyor. NVIDIA, bu durumu şöyle açıklıyor: “Bu tür koşullar altında bir ajanın kendi davranışını tamamen kontrol etmesi beklenemez.”

Vera Rubin POD'larındaki donanım kontrolleri

Referans mimari, Apache 2.0 lisansı altında yayınlanan açık kaynaklı ve güvenli bir çalışma zamanı olan OpenShell üzerine odaklanıyor. Çekirdek düzeyinde (kernel-level) izolasyonla çalışan bu çalışma zamanı, herhangi bir iş yükü çalıştırılmadan önce yönetim parametrelerini doğrulanabilir politikalara dönüştürüyor.

Yöneticiler; ağ erişimi, dosya depolama, belirli süreçler, araçlar ve dijital kimlikler gibi alanları yöneten kesin sınırlar oluşturuyor. Resmi bir kanıtlayıcı (prover), sistem çalıştırılmadan önce işletim politikasının operatör sınırlarına harfiyen uyup uymadığını doğruluyor ve herhangi bir kaçış yolu varsa çalışmayı reddediyor.

Fiziksel izolasyon, savunma katmanının ikinci aşıtını oluşturuyor. NVIDIA, OpenShell'i BlueField veri işleme üniteleri için tasarlanmış bir izleme hizmeti olan Sentry ile birleştirdi.

Vera Rubin POD konfigürasyonunda sistemler, tüm iletişimleri ana düğümün model erişim rotasında konumlandırılan bir BlueField-4 birimi üzerinden yönlendiriyor. Bu yöntem, iletişimi bant dışı (out of band) olarak переkeserek, ajan kodunu bozabilecek sistemlerin manipüle edebileceği ana bilgisayar işletim sistemlerini koruma mekanizmalarından uzak tutuyor.

Doğrudan silikon üzerinde çalışan donanım, ağ paketlerini ve araç sorgularını hat hızı (line speed) ile denetliyor; telemetri sağlıyor ve çalışma modelleri doğrulanmış profillerden saptığında harici bir "acil durdurma düğmesi" (kill switch) görevi görüyor.

NVIDIA Kurucusu ve CEO'su Jensen Huang şunları söyledi: "Bugün, 100'den fazla sektör ortağıyla birlikte, OpenShell ve Sentry'yi bir araya getiren NVIDIA Açık Ajan Güvenlik Platformu'nu tanıttık.

Yapay zeka, gelecek nesiller için keşif, verimlilik, güvenlik, sağlık ve refahı ileriye taşıyacak olağanüstü bir teknoloji. Ancak bu teknolojinin vaat ettiği tüm potansiyel, ancak insanlar yapay zekanın güvenli şekilde inşa edildiğine ve akıl ve sorumlulukla dağıtıldığına güvendiğinde gerçekleştirilebilir.

Bu sadece tek bir üründen daha büyük bir adım. Güvenli ajan sistemleri için güven katmanını oluşturacak açık bir ekosistemin başlangıcı. Birlikte, yapay zeka ekonomisinin temelini inşa ediyoruz."

Kurumsal altyapı yığınlarında telemetri doğrulaması

Platform mimarisi sorumluluğu üç farklı katmana ayırıyor: uygulama varlıkları, çalışma zamanı sınırı ve fiziksel altyapı.

Uygulama katmanları temel modelleri, veri hatlarını, kontrol çerçevelerini ve betikleri sağlar. OpenShell çalışma zamanı ise daha sonra bu kaynakları hedef hesaplama kümelerine haritalandırarak sürekli yönetimi üstlenir.