Wiz: Küresel yapay zeka yarışında güvenlik zaafları ortaya çıkıyor
Özet
Wiz'in araştırmasına göre, yapay zeka şirketleri arasındaki rekabet, birçok şirketin temel güvenlik önlemlerini ihmal etmesine yol açıyor. Önde gelen yapay zeka şirketlerinin önemli bir kısmı, hassas bilgileri (API anahtarları, kimlik bilgileri gibi) GitHub gibi platformlarda sızdırıyor. Bu durum, şirketlerin sistemlerine ve verilere erişim imkanı sağlayarak ciddi güvenlik riskleri oluşturuyor. Ayrıca, yapay zeka şirketleriyle yapılan ortaklıklar, bu zayıflıkların daha geniş bir alana yayılmasına ve finansal kayıplara neden olabilir.
Wiz'e göre, yapay zeka şirketleri arasındaki rekabet, birçok şirketin temel güvenlik hijyeni uygulamalarını göz ardı etmesine neden oluyor.
Siber güvenlik firmasının analiz ettiği önde gelen 50 yapay zeka şirketinin %65'i, doğrulanmış gizli bilgileri GitHub'da sızdırdı. Bu açıklamalara API anahtarları, belirteçler ve hassas kimlik bilgileri dahil olup, genellikle standart güvenlik araçlarının kontrol etmediği kod depolarına gömülmüştür.
Salt Security'nin İngiltere ve İrlanda Ülke Müdürü Glyn Morgan, bu eğilimi önlenebilir ve temel bir hata olarak tanımladı. "Yapay zeka firmaları yanlışlıkla API anahtarlarını açığa çıkardığında, göz ardı edilebilir büyük bir güvenlik hatasını gözler önüne seriyor," dedi.
"Bu, OWASP'ın işaret ettiği iki risk kategorisi olan yönetişim ile güvenlik yapılandırmasının ders kitabı örneğidir. Kimlik bilgilerini kod depolarına iterek, saldırganlara sistemlere, verilere ve modellere giden altın bir bilet veriyorlar ve böylece olağan savunma katmanlarını etkisiz hale getiriyorlar."
Wiz'in raporu, giderek karmaşıklaşan tedarik zinciri güvenliği riskini vurguluyor. Sorun, dahili geliştirme ekiplerinin ötesine geçiyor; işletmeler yapay zeka girişimleriyle giderek daha fazla ortaklık kurdukça, güvenlik duruşlarını miras alabilirler. Araştırmacılar, buldukları bazı sızıntıların "kurumsal yapıları, eğitim verilerini ve hatta özel modelleri ifşa etmiş olabileceği" konusunda uyarıda bulunuyor.
Finansal riskler önemli. Doğrulanmış sızıntıları olan analiz edilen şirketlerin toplam değeri 400 milyar doların üzerinde.
Forbes AI 50'de listelenen şirketlere odaklanan rapor, risklere örnekler sunuyor:
LangChain'in, bazıları organizasyonu yönetme ve üyelerini listeleme izinlerine sahip birden fazla Langsmith API anahtarını ifşa ettiği bulundu. Bu tür bilgiler, keşif için saldırganlar tarafından oldukça değerlidir.
ElevenLabs'e ait kurumsal düzeyde bir API anahtarı, bir düz metin dosyasında bulundu.
Adı belirtilmeyen bir AI 50 şirketi, silinmiş bir kod fork'unda bir HuggingFace belirteci sızdırdı. Bu tek belirteç "yaklaşık 1 bin özel modele erişim sağladı". Aynı şirket, "birçok özel model için eğitim verilerini" açığa çıkararak WeightsAndBiases anahtarlarını da sızdırdı.
Wiz raporu, bu sorunun bu kadar yaygın olduğunu, geleneksel güvenlik tarama yöntemlerinin artık yeterli olmamasından kaynaklandığını öne sürüyor. Bir şirketin ana GitHub depolarının temel taramalarına güvenmek, en ciddi riskleri gözden kaçıran "ticarileşmiş bir yaklaşımdır".
Araştırmacılar durumu bir "buzdağı" olarak tanımlıyor (yani, en belirgin riskler görünürdür, ancak daha büyük tehlike "yüzeyin altında" yatar). Bu gizli riskleri bulmak için araştırmacılar, "Derinlik, Çevre ve Kapsam" adını verdikleri üç boyutlu bir tarama metodolojisi benimsedi:
Derinlik: Derin taramaları, çoğu tarayıcının "asla dokunmadığı" alanlar olan "tam taahhüt geçmişini, çatallardaki taahhüt geçmişini, silinmiş çatalları, iş akışı günlüklerini ve gists'leri" analiz etti.
Çevre: Tarama, çekirdek şirket organizasyonunun ötesine, organizasyon üyelerini ve katkıda bulunanları içerecek şekilde genişletildi. Bu kişiler "yanlışlıkla şirketle ilgili sırları kendi genel depolarına kontrol edebilirler". Ekip bu bitişik hesapları belirledi.