Günümüz ve geleceğin koşullarında yapay zeka sistemlerinin güvenliğini sağlamak
Özet
Utimaco'nun "AI Quantum Resilience" e-kitabı, kuruluşların yapay zeka (YZ) benimsemesinin önündeki en büyük engelin veri güvenliği riskleri olduğunu ortaya koymaktadır. Bu riskler, YZ modellerinin eğitilmesi ve çıkarım aşamalarında fikri mülkiyet tehditlerinin yanı sıra veri manipülasyonu ve hassas verilerin açığa çıkması risklerini içerir. Makale, kuruluşların YZ geliştirme süreçlerinde tehditleri yönetmesi gerektiğini ve kuantum bilişimin potansiyel etkisine karşı güvenlik protokollerini güncellemeye hazırlanması gerektiğini vurgulamaktadır. Özellikle mevcut açık anahtarlı kriptografinin önümüzdeki on yılda kuantum bilgisayarlar karşısında savunmasız hale geleceği uyarısı yapılmıştır, bu nedenle uzun vadeli hassas verilerin gelecekteki şifre çözmeye karşı korunması gerekmektedir.
Utimaco tarafından yayınlanan “AI Quantum Resilience” adlı e-kitapta belirtilen kanıtlar, kuruluşların veri güvenliği risklerini, ellerindeki veriler üzerinde yapay zekanın etkin bir şekilde benimsenmesinin önündeki en büyük engel olarak gördüklerini gösteriyor.
Yapay zekanın değeri, bir kuruluş tarafından biriktirilen veriye bağlıdır. Ancak, bu veriler üzerinde model oluşturma ve onları eğitme konusunda güvenlik riskleri bulunmaktadır. Bu riskler, çıkarım noktasında (örneğin bilgi istemi mühendisliği) var olan daha iyi duyurulan fikri mülkiyet tehditlerine ek olarak ortaya çıkmaktadır.
E-kitabın yazarları, kuruluşların yapay zeka geliştirme ve uygulama süreçleri boyunca tehditleri yönetmeleri gerektiğini belirtiyor. Aynı zamanda, şirketler kuantum bilişim destekli şifre çözme araçlarının kötü niyetli aktörler için kolayca erişilebilir hale gelmesi durumunda zorunlu hale gelecek güvenlik protokollerini değiştirme konusunda hazırlık yapabilir ve yapmalıdır.
Utimaco tehdit altındaki üç alanı sıralıyor:
Eğitim verileri kötü niyetli aktörler tarafından manipüle edilebilir, bu da tespit edilmesi zor şekillerde model çıktılarının bozulmasına yol açabilir,
Modeller çıkarılabilir veya kopyalanabilir, bu da fikri mülkiyet haklarını aşındırır,
Eğitim veya çıkarım sırasında kullanılan hassas veriler açığa çıkabilir.
Raporun yazarları, mevcut açık anahtarlı kriptografinin önümüzdeki on yıl içinde savunmasız hale geleceğini belirtiyor; bu, yetenekli kuantum sistemlerinin ortaya çıkabileceği bir dönemdir. Zaman çizelgesinden bağımsız olarak, daha iyi organize olmuş grupların şu anda şifrelenmiş verileri topladığı ve kuantum tesislerinin mevcut olup olmadığına bakılmaksızın bunları şifrelerini çözmek üzere sakladığı düşünülmektedir. Bu nedenle Utimaco, model eğitim verileri, finansal kayıtlar veya fikri mülkiyet dahil olmak üzere uzun vadeli hassasiyete sahip herhangi bir veri kümesinin gelecekteki şifre çözmeye karşı korunmaya ihtiyaç duyabileceğini söylüyor.
Kuantuma dayanıklı kriptografiye geçiş, protokolleri, anahtar yönetimini, sistem birlikte çalışabilirliğini ve performansı etkileyeceğinden, herhangi bir geçişin muhtemelen birkaç yıl sürmesi muhtemeldir. Raporun yazarları, temel sistemleri yeniden tasarlamadan kriptografik algoritmaları değiştirmek anlamına gelen ‘kripto-çeviklik’ adını verdikleri şeyi önermektedir. ‘Kripto-çeviklik’, NIST tarafından önerilenler gibi yerleşik algoritmaları kuantum sonrası yöntemlerle birleştiren hibrit kriptografi ilkesine dayanmaktadır.
E-kitabın yazarları, kriptografinin tek başına tüm olası risk alanlarını ele almadığı konusunda hemfikirdir. Kriptografik anahtarları ve hassas işlemleri normal çalışma ortamlarından izole edebilen donanım tabanlı güven cihazlarının kullanılmasını savunmaktadır.
Şirketler kendi yapay zeka araçlarını ve süreçlerini geliştiriyorlarsa, bu temeldeki koruma, veri alımından eğitime, model dağıtımına ve üretimdeki çıkarıma kadar tüm yapay zeka yaşam döngüsünü kapsamalıdır. Verileri şifrelemek ve modelleri imzalamak için kullanılan donanım anahtarları bir sınır içinde oluşturulabilir ve saklanabilir. Model bütünlüğü daha sonra dağıtımdan önce doğrulanabilir ve çıkarım sırasında işlenen hassas veriler korunmuş kalır.
Donanım tabanlı sığınaklar iş yüklerini izole eder, böylece yeterli ayrıcalıklara sahip sistem yöneticileri bile işlenen verilerin hiçbirine erişemez. Donanım mo