Kyvvu: Her yapay zeka aracının aksiyon almadan önce neden 'soru sorması' gerekiyor?



Özet


Kyvvu'nun kurucu ortağı ve profesör Maurits Kaptein, yapay zekanın sadece yanlış metin üretmek yerine silinmiş veritabanları gibi kritik sonuçlara yol açabilen eylem odaklı bir yapıya dönüştüğünü vurguluyor. Bu risklere karşı Kyvvu, yapay zeka ajanlarının her adımını görevle karşılaştırarak eylem gerçekleşmeden önce onaylayan veya engelleyen bir Agent Security Kernel (ASK) sistemi sunuyor. Geleneksel güvenlik yöntemlerinin tasarım aşamasında kaldığı bu yeni dönemde şirket, kodun içeriği yerine çalışma anındaki eylemlerini denetleyerek veri sızıntılarını önlemeyi hedefliyor. Yaklaşık bir yıl önce kurulan Kyvvu, bu alanda öncü roller üstlenirken Microsoft ve OWASP gibi büyük aktörlerin de benzer standartlar geliştirmeye başladığı dinamik bir rekabet ortamında yer alıyor.



Kyvvu'nun kurucu ortağı ve CTO'su, aynı zamanda TU/e Eindhoven'da profesör olan Maurits Kaptein, agentic (eylem odaklı) yapay zekanın nasıl geliştiğini ve beraberindeki tehditlerin nasıl evrildiğini net bir şekilde açıklıyor. Kaptein, "İki üç yıl önce, yapay zekanın halüsinasyon görmesinden endişe ediyorduk çünkü o zaman bu sadece yanlış bir metin üretmek anlamına geliyordu. Şimdiyse bir halüsinasyon, silinmiş bir veritabanı veya hiç istemediğiniz garip bir sonuç doğurabiliyor," diyor.

Kyvvu, bu korkulara karşı bir panzehir olmayı hedefliyor. Şirket, bir Agent Security Kernel (ASK) sunarak yapay zeka ajanlarının büyük ölçekte güvenle çalışmasını sağlamayı amaçlıyor. Kyvvu, ajanın üzerinde çalıştığı döngüye (harness) odaklanıyor ve ajanın attığı her adımı bir görevle karşılaştırarak, eylem gerçekleşmeden önce onaylıyor, uyarı veriyor veya engelliyor.

Kaptein durumu şu şekilde açıklıyor: "Kodumuzu çalışma anında yönlendiren belirsiz (non-deterministic) bir sistem her zaman orada olacak. Yazılıma yönelik klasik güvenlik yaklaşımlarını düşünürsek, büyük değişimlerden biri şudur: Eskiden kimlik, erişim ve kod incelemesi gibi yöntemlerle bu süreçleri tasarım aşamasında kontrol ederdik. Şimdi ise çalışma anında kendi yolunu kendisi belirleyen bir kod parçasıyla karşı karşıyayız."

Bir ajana müşteri veritabanını okuma ve ayrı bir yetkiyle e-posta gönderme izni verilebilir. Ancak bu iki yetkinin birleşmesi bir veri sızıntısına yol açabilir. Kyvvu burada devreye girerek, bir ajanın her iki görevi birden yerine getirmeye çalışması durumunda kişisel verilerin korunması (PII) kontrolü yapılmasını sağlıyor. Kaptein, "Bizim yaklaşımımız, döngünün gerçekleştirdiği eylemleri incelemek. İçeriği değil, eylemi kontrol ediyoruz. Kyvvu bu seviyede çalışıyor," diyor.

Yaklaşık bir yıl önce kurulan Kyvvu, bu alandaki öncülerden biri konumunda. Ancak diğer oyuncular da hızla yaklaşıyor. OWASP'ın Agent Control Standard'ı, Microsoft'un Agent Control Specification'ı ve sadece geçen hafta NVIDIA'nın yapay zeka ajanları için açık kaynaklı bir sandbox çalışma ortamı olan OpenShell'i içeren Open Agent Safety Platform'u duyurdu.

Kaptein, daha fazla şirketin döngü (harness) ve kum havuzu (sandbox) çözümlerine yönelmesini hem "rahatlatıcı ve tatmin edici" hem de biraz "ürkütücü" buluyor. Bu durum, Kyvvu'nun en başından beri doğru yere odaklandığını kanıtlıyor. Kaptein, ajan süreçlerinde işletim sistemi veya hatta donanım düzeyinde güvenlik üzerine yapılan "oldukça aktif bir iddiayı" tanımlıyor. "Tüm bu teknoloji yığını bir araya geliyor ve biz bu yapının içinde çok net bir konumdayız," diyor.

Kyvvu'nun elindeki bir diğer avantaj ise doğrudan müşteri deneyimi. Kyvvu, Hollanda'daki denetlemeye tabi kurumsal şirketlerde üretim ortamında aktif olarak kullanılıyor. Bunlar çoğunlukla kendi ajanlarını geliştiren ve tüm mimarilerini ve çok yıllık stratejilerini anlamak isteyen büyük kuruluşlar. Kyvvu, bu çözümün bir parçası olarak konumlanıyor. Kaptein, "Şu anki temel faaliyet alanımız entegrasyon ortaklarıyla çalışmak. Yani büyük şirketlerin ajanlarını kurmalarına yardımcı olan BT danışmanları, Kyvvu'yu sistemlerini güvenli tutmak için kullandıkları katmanlardan biri olarak konumlandırıyorlar," diye açıklıyor.

Kyvvu, 19-20 Ekim tarihlerinde Amsterdam'da düzenlenecek TechEx Europe fuarında yer alacak. Kaptein'in konuşma yapacağı etkinlikde, standı ziyaret edenler bu yeni ama hayati alan hakkında daha fazla bilgi edinebilecekler. "Ben mut..."