Red Hat, NVIDIA ve IBM, yapay zeka politikalarını koda dönüştüren projeyi destekliyor.
Özet
Red Hat, yapay zeka yönetişim politikalarını üretime hazır kodlara dönüştüren açık kaynaklı "asago" projesini başlattı. Bu proje, mühendislik ve uyumluluk ekipleri arasındaki boşluğu otomatik ve denetlenebilir bir iş akışıyla kapatarak manuel inceleme veya kontrolsüz yapay zeka riskini ortadan kaldırmayı amaçlamaktadır. Risk haritalandırması, risk değerlendirmesi, risk azaltma ve nihai kontrollerden oluşan dört aşamalı bir süreç sunar. Açık kaynaklı ve Apache License 2.0 ile yayınlanan asago, kuruluşların AB Yapay Zeka Yasası gibi düzenlemelere uyum sağlamasını kolaylaştırmayı hedeflemektedir.
Red Hat, AI yönetişim politikasını üretime hazır dağıtım koduna dönüştürmeyi amaçlayan açık kaynaklı bir topluluk projesi olan asago'yu başlattı.
Proje kendini, mühendislik ve uyumluluk ekiplerinin "parçalanmış adımlarını, araçlarını ve gereksinimlerini" birbirine bağlayan, otomatik ve denetlenebilir bir iş akışı olarak tanımlıyor. AB Yapay Zeka Yasası gibi düzenlemelerin artık yürürlüğe girmesiyle birlikte Red Hat, kuruluşların karşı karşıya olduğu seçimi şöyle özetliyor: Ya manuel incelemeyle yapay zeka inovasyonunu durma noktasına getirmek ya da denetlenmeyen ajanların, davranışlarını politika açısından kimse kontrol etmeden canlı ortamda çalışmasına izin vermek.
asago, Red Hat ve NVIDIA'nın Open Secure AI Alliance bünyesindeki çalışmaları üzerine kurulmuştur. Apache License 2.0 altında yayınlanmakta olan proje şu anda kuruluş aşamasındadır ve geliştiricilerin, akademik araştırmacıların ve kurumsal erken benimseyenlerin yönetişimi incelemesi ve katkıda bulunması için GitHub'da bir deposu açıktır.
Politika metninden çalışan kontrollere dört aşama
Red Hat'in tanımladığı iş akışı dört aşamadan oluşuyor. Risk haritalandırması ilk sırada yer alıyor: Çerçeve, bir kuruluşun yüklenen yönetişim politikasını okuyor ve bunun spesifik gereksinimlerini, IBM'in AI Risk Atlası aracılığıyla kataloglanan NIST AI RMF, OWASP LLM Top 10 ve AB AI Yasası dahil olmak üzere kurulmuş çerçevelere karşı haritalandırıyor. Politika dili, bir uyumluluk ekibinin manuel çapraz referanslaması yoluyla değil, otomatik olarak bir risk profiline dönüşüyor.
Buradan hareketle asago, risk değerlendirmesine geçiyor. Proje, standart bir kontrol listesine göre test yapmak yerine, risk haritalandırmasının işaret ettiği zararlı davranışları araştırarak, spesifik kullanım senaryosuna uyarlanmış senaryolar oluşturuyor ve çalıştırıyor. Ardından risk azaltma geliyor: Sistem, testlerin ortaya çıkardığı verilere dayanarak güvenlik bariyerleri öneriyor ve bir denetçinin incelemesinden geçebilecek şekilde tasarlanmış bir gerekçe izi oluşturuyor.
Red Hat'e göre asago, önerilen kontrolleri hibrit bulut ve Kubernetes ortamları için üretime hazır konfigürasyonlar halinde düzenliyor ve bir risk azaltma önerisi ile çalışan bir kontrol arasında yer alacak manuel altyapı kodlamasını ortadan kaldırıyor. Red Hat'in belirttiği amaç, dağıtım sürelerini aylardan günlere indirmek.
Ürün olarak denetim izi (Audit-trail-as-a-product)
Her aşamanın tek ve sürekli bir denetim izini beslemesi amaçlanıyor. Her politika maddesi belirli bir teste, her test de bir çalışma zamanı kontrolüne bağlanıyor. Prensip olarak bir denetçi, canlı bir dağıtıştaki herhangi bir aktif kontrolü, bunu haklı çıkaran politika satırına kadar doğrudan takip edebilir.
Bu izlenebilirlik asıl satış noktasıdır. Red Hat'in kendi yaklaşımı, yapay zeka güvenliğini tek seferlik bir sertifikasyon çalışmasından ziyade sürekli kurumsal bir hizmet olarak ele alıyor (yani, yalnızca ilk onaylandıkları anda değil, ajanlar çalışmaya devam ettikçe kontrol edilebilir kalan bir şey).
Red Hat Yapay Zeka Mühendisliğinden Sorumlu Başkan Yardımcısı Steven Huels şunları söylüyor: "Kuruluşlar deneysel yapay zeka pilot projelerinden uzun süreli, otonom ajanlara geçiş yaparken, net operasyonel güvenlik bariyerleri kurmak kritik bir altyapı gereksinimi haline geliyor."
Huels, asago'yu Red Hat'in ayrı Light