Okta, MCP kapsam belirleme yöntemiyle yapay zeka ajanı token maliyetlerini hedefliyor.
Özet
Okta, yapay zekâ aracılarının kullanmadığı araçlar için bile şema verileri işleyerek token tüketmesine neden olan "araç vergisi" sorununa dikkat çekmektedir. Şirket, yapay zekâ modeline ulaşmadan önce aracı kimliği ve kullanıcı izinlerine göre araç listesinin filtrelenmesini önermektedir. Bu yöntem, görünür araç sayısını ve dolayısıyla istem ek yükünü %90'dan fazla azaltabilmektedir. MCP sunucularının sunduğu araç sayısı arttıkça maliyetler katlanmakta ve bu durum erişim kontrolü sorunlarını da beraberinde getirmektedir.
Okta, kimlik kapsamlı Model İçerik Protokolü (MCP) araç listelerinin yapay zekâ aracısı token maliyetlerini azaltabileceğini belirtiyor.
Bir yapay zekâ aracısı tarafından yapılan her model çağrısı; bir MCP sunucusu tarafından sunulan her araç için şemaları, adları, açıklamaları ve parametreleri içerebilir. Okta, ortaya çıkan bu istem ek yükünü “araç vergisi” olarak adlandırıyor: asla çağrılmayacak olanlar da dâhil olmak üzere, bir modelin araçları değerlendirirken tükettiği token'lar.
Şirket, bu maliyetin bir aracı araç çağrısı denemeden önce ortaya çıktığını savunuyor. Yetkisiz bir talebin daha sonra reddedilmesi, bu nedenle halihazırda tüketilmiş olan istem token'larını geri kazandıramaz. Okta’nın önerdiği kontrol, bir aracı kimliğine ve onunla ilişkili kullanıcıya atanan izinleri kullanarak, araç listesini modele ulaşmadan önce filtreler.
Okta’nın dahili modellemesi, bazı izin senaryolarının görünür araç sayısını %90'dan fazla azalttığını ortaya koydu. Şirket, mutlak token veya dolar rakamları vermemiş olsa da, araç şeması maliyetlerinin yaklaşık olarak aynı oran düştüğünü belirtti.
MCP araç şemaları her turda istem ek yükü oluşturur
MCP sunucuları, yapay zekâ aracıcılarını araçlara ve verilere bağlamak için bir rota hâline geldi. Okta, Google Workspace, Slack ve dahili MCP sunucularına yapılan bağlantıları örnek olarak gösteriyor. Bir MCP sunucusu çok sayıda araç sunabilir ve model, her turda isteminde mevcut her aracın bir temsilini alır.
Bu temsil bir şema içerir. Ayrıca araç adını, açıklamasını ve parametrelerini de içerir.
Okta, yaygın olarak kullanılan bir MCP sunucusu çok sayıda araç sunduğunda maliyetin katlanarak arttığını söylüyor. Aracı bir model çağrısı yaptığında, her aktif kullanıcı istem ek yüküne katlanır. Şirket bunu hem bir araç sayısı sorunu hem de bir kullanıcı sayısı sorunu olarak tanımlıyor.
Sorunun ayrıca bir erişim kontrolü boyutu da var. Yetkilendirme kapsamı dışındaki araçları gören bir aracı bunları kullanmaya çalışabilir. Çağrıyı çalışma zamanında reddeden bir kontrol yürütmeyi engelleyebilir, ancak model araç tanımını çoktan almış ve onu işlemek için token harcamıştır.
Okta bu yetkiyi, kuruluşlardan aracilerini, izin verilen bağlantılarını ve yetkili eylemlerini belirlemelerini isteyen “güvenli yapay zekâ aracılı kurumsal yapı taslağı” içine konumlandırıyor.
Yaklaşımı, bağlantı mesafesini tüm bir MCP sunucusuna erişimden, o sunucudaki bireysel araçlara erişime daraltıyor. Bir yönetici, belirli bir kimliğin kullanabileceği araçları Okta kontrol panelinde yapılandırır. Okta daha sonra sunucunun tam kataloğu yerine kapsamı daraltılmış araç setini döndürür.
Aracı, her tur için isteminde bu daha kısa listeyi alır. Okta, bir araç çağrısı yürütülmeden önce çalışma zamanında kapsamı yeniden kontrol ettiğini belirtiyor.
Bu tasarım, en az yetki erişimini araç düzeyinde uygular. Şirket, bir aracının açıkça kullanma yetkisine sahip olmadığı kaynaklardan, veritabanlarından veya araçlardan haberdar olmaması gerektiğini söylüyor. Kullanılamayan araçların istemden kaldırılması, bunların şema maliyetini de model çağrısından çıkarır.
Okta, gönderisinde canlı bir müşteri dağılımından bahsetmiyor. İddia edilen azalma için sunduğu kanıtlar dahili verilere dayanmaktadır.