Rachel James, AbbVie: Kurumsal siber güvenlik için yapay zekadan yararlanma
Özet
Siber güvenlik, yapay zeka (YZ) ile yeni bir silahlanma yarışının ortasında. YZ, savunma ve saldırı için güçlü araçlar sunarak karmaşık bir savaş alanı yaratıyor. AbbVie'de Baş YZ ML Tehdit İstihbarat Mühendisi Rachel James, güvenlik açıklarını tespit etmek ve tehdit istihbaratını geliştirmek için büyük dil modellerini (LLM) kullanıyor. Bu süreçte, OpenCTI adlı bir platformdan yararlanarak, YZ'nin yardımıyla karmaşık verileri düzenliyorlar. James, YZ'nin gücünü kullanırken ihtiyatlı olmanın önemini vurguluyor.
Siber güvenlik, yeni bir silahlanma yarışının ortasında ve bu yeni çağda tercih edilen güçlü silah yapay zeka (YZ).
YZ, klasik bir çift ağızlı kılıç sunuyor: Savunucular için güçlü bir kalkan ve kötü niyetli olanlar için güçlü bir yeni araç. Bu karmaşık savaş alanında gezinmek, istikrarlı bir el ve hem teknolojiyi hem de onu kötüye kullanacak insanları derinlemesine anlamayı gerektirir.
Ön cepheden bir görüş almak için, AI News, küresel biyofarmasötik şirketi AbbVie'de Baş YZ ML Tehdit İstihbarat Mühendisi olan Rachel James ile bir araya geldi.
James, "Mevcut araçlarımızda tedarikçi tarafından sağlanan yerleşik YZ artırmasına ek olarak, tespitlerimiz, gözlemlerimiz, korelasyonlarımız ve ilgili kurallarımız üzerinde de BÜYÜK dil modeli (LLM) analizi kullanıyoruz" diye açıklıyor.
James ve ekibi, bir dağ kadar güvenlik uyarısını incelemek, desenler aramak, kopyaları tespit etmek ve bir saldırgan saldırmadan önce savunmalarındaki tehlikeli boşlukları bulmak için büyük dil modellerini kullanıyor.
"Bunu benzerliği, kopyalamayı belirlemek ve boşluk analizi sağlamak için kullanıyoruz," diye ekliyor ve bir sonraki adımın daha fazla harici tehdit verisi eklemek olduğunu belirtiyor. "Bir sonraki aşamamızda tehdit istihbaratını entegre ederek bunu geliştirmek istiyoruz."
Bu operasyonun merkezinde, dijital gürültü denizinden gelen tehditlerin birleşik bir resmini oluşturmalarına yardımcı olan OpenCTI adlı özel bir tehdit istihbarat platformu yer alıyor.
YZ, bu siber güvenlik çabasını mümkün kılan motordur; çok miktarda karmaşık, yapılandırılmamış metni alıp STIX olarak bilinen standart bir formatta düzenliyor. James, büyük vizyonun, dil modellerini bu temel istihbaratı, güvenlik açığı yönetiminden üçüncü taraf riskine kadar güvenlik operasyonlarının diğer tüm alanlarıyla ilişkilendirmek olduğunu söylüyor.
Ancak, bu güçten yararlanmak, sağlıklı bir doz ihtiyatla birlikte gelir. Büyük bir endüstri girişimine önemli bir katkıda bulunan James, tuzakların farkında.
"Parçası olduğum harika bir grup insan olan 'GenAI için OWASP İlk 10'un, GenAI'nin tanıtabileceği güvenlik açıklarını anlamanın temel bir yolu olarak yaptığı çalışmalardan bahsetmezsem görevimi ihmal etmiş olurum" diyor.
Belirli güvenlik açıklarının ötesinde, James, iş liderlerinin yüzleşmesi gereken üç temel değişime dikkat çekiyor:
Yaratıcı ancak genellikle öngörülemez YZ'nin doğasıyla birlikte gelen riski kabul etmek.
YZ'nin sonuçlarına nasıl ulaştığına dair şeffaflık kaybı, modeller daha karmaşık hale geldikçe büyüyen bir sorun.
Hızla değişen böyle bir alanda faydaları abartmaya veya gerekli çabayı küçümsemeye kolayca yol açabilecek abartıların olduğu, herhangi bir YZ projesi için gerçek yatırım getirisini kötü değerlendirme tehlikesi.
YZ çağında daha iyi bir siber güvenlik duruşu oluşturmak için, saldırganınızı anlamanız gerekir. İşte James'in derin uzmanlığının devreye girdiği yer burasıdır.
"Bu aslında benim özel uzmanlık alanım - siber tehdit istihbarat geçmişim var ve tehditler konusunda kapsamlı araştırmalar yaptım ve belgeledim.