2026'da AB Yapay Zeka Yasası kapsamında ajansal yapay zekanın yönetişim zorlukları



Özet


Yüksek riskli yapay zeka sistemlerinin güvenli yönetimi için aracı kimliklerinin doğrulanması, kapsamlı kayıt tutma ve insan denetimi gibi stratejik adımların atılması kritik öneme sahiptir. Özellikle Asqav gibi kriptografik imzalama teknikleri, faaliyetlerin değiştirilemez ve güvenilir bir şekilde izlenmesini sağlayarak sistem bütünlüğünü korumaktadır. Kuruluşların operasyonel şeffaflık adına detaylı bir "aracı varlık listesi" oluşturmaları, hem operasyonel verimlilik hem de AB Yapay Zeka Yasası gibi yasal düzenlemelere uyum için zorunludur. Bu yaklaşımlar, yapay zeka faaliyetlerinin tüm süreçlerinde sürekli bir risk yönetimini ve denetlenebilirliği garanti altına almaktadır.



Yüksek risk seviyelerini hafifletmek için birçok adım atılabilir; bunlar arasında öne çıkanlar; aracı kimliği, kapsamlı günlükler, politika kontrolleri, insan denetimi, hızlı iptal, satıcılardan sağlanan dokümantasyonun mevcudiyeti ve düzenleyicilere sunulmak üzere kanıt oluşturulmasıdır.

Karar vericilerin, aracı sistemler tarafından gerçekleştirilen faaliyetlerin kaydını oluşturmaya yardımcı olacak değerlendirebilecekleri çeşitli seçenekler mevcuttur. Örneğin, bir Python SDK'sı (yazılım geliştirme kiti) olan Asqav, her aracın eylemini kriptografik olarak imzalayabilir ve tüm kayıtları, daha çok blok zinciri teknolojisiyle ilişkilendirilen bir teknik olan değiştirilemez bir hash zincirine bağlayabilir. Bir kişi veya bir şey bir kaydı değiştirir veya silerse, zincirin doğrulaması başarısız olur.

Yönetişim ekipleri için, tüm aracı yapay zekalar adına ayrıntılı, merkezileştirilmiş ve muhtemelen şifrelenmiş bir kayıt sistemi kullanmak, bireysel yazılım platformları tarafından üretilen dağınık metin günlüklerinin çok ötesinde veriler sağlayan bir önlemdir. Kayıtların nasıl oluşturulduğu ve saklandığının teknik detayları ne olursa olsun, BT liderlerinin aracı örneklerin işletme genelinde tam olarak nerede, ne zaman ve nasıl hareket ettiğini görmeleri gerekir.

Birçok kuruluş, otomatik, yapay zeka destekli faaliyetlerin kaydedilmesindeki bu ilk adımda başarısız olmaktadır. Her biri benzersiz şekilde tanımlanmış, yeteneklerinin ve verilen izinlerinin kayıtlarıyla birlikte, operasyondaki her aracı için bir kayıt defteri tutmak gereklidir. Bu "aracı varlık listesi", AB Yapay Zeka Yasası'nın 9. maddesinin gereklilikleriyle uyumludur ve madde şu şekildedir:

Madde 9: Yüksek riskli alanlar için, yapay zeka risk yönetimi; dağıtımın her aşamasında (geliştirme, hazırlık, üretim) yerleşik, sürekli ve kanıta dayalı bir süreç olmalı ve sürekli inceleme altında tutulmalıdır.

Ayrıca, karar vericilerin Yasa'nın 13. maddesinin farkında olmaları gerekir:

Yüksek riskli yapay zeka sistemleri, bunları kullananların sistemin çıktısını anlayabileceği şekilde tasarlanmalıdır. Bu nedenle, üçüncü bir taraftan gelen bir yapay zeka sistemi, kullanıcıları tarafından yorumlanabilir olmalı (şeffaf olmayan bir kod yığını olmamalıdır) ve güvenli ve yasal kullanımını sağlamak için yeterli dokümantasyonla birlikte tedarik edilmelidir.

Bu gereklilik, model seçiminin ve dağıtım yöntemlerinin hem teknik hem de düzenleyici hususlar olduğu anlamına gelir.

Herhangi bir aracı dağıtımının, tercihen saniyeler içinde, bir yapay zekanın operasyonel rolünü iptal etme olanağı sunması önemlidir. Hızlı bir şekilde iptal edebilme yeteneği, acil durum müdahale süreçlerinin bir parçası olmalıdır. İptal seçenekleri; ayrıcalıkların derhal kaldırılmasını, API erişiminin derhal durdurulmasını ve kuyruğa alınmış görevlerin temizlenmesini içermelidir.

İnsan denetiminin varlığı, insanların bilinçli kararlar alabilmesi için yeterli bağlamın sunulmasıyla birleştiğinde, insan operatörlerin önerilen herhangi bir eylemi reddedebilmesi gerektiği anlamına gelir. Bir kararı inceleyen kişinin yalnızca bir istemi veya güven puanını görmesi yeterli kabul edilmez. Etkili bir denetim; bağlam, her aracın yetkisi ve müdahale etmek için yeterli zaman hakkında bilgi gerektirir.