OpenAI ve Polonya'nın NASK kuruluşu yapay zeka güvenliği araştırmaları için iş birliği başlattı



Özet


OpenAI ve Polonya'nın NASK'ı, yapay zeka güvenliği, emniyeti ve teknik araştırmalar konularında iş birliği yapmak üzere önemli bir anlaşma imzaladı. Bu ortaklık kapsamında Polonyalı kamu araştırmacılarına en gelişmiş modellere erişim sağlanırken, sistemlerdeki olası zafiyetlerin tespiti ve güvenlik önlemlerinin güçlendirilmesi hedefleniyor. Anlaşma öncesinde gerçekleştirilen testlerde, OpenAI modelleri kullanılarak MikroTik RouterOS üzerinde kritik güvenlik açıklarının tespit edildiği ve üretici tarafından düzeltmelerin yapıldığı görüldü. NASK, bu tür güvenlik araştırmalarını kamu hizmetlerini korumak, sentetik içerikleri tespit etmek ve dijital bilgi ortamını savunmak amacıyla sürdürmeyi planlıyor.



OpenAI ve Polonya'nın NASK'ı; yapay zeka güvenliği, emniyeti ve teknik araştırmalar üzerine ortak çalışma yapmak için bir anlaşma imzaladı. Bu anlaşma, Polonyalı kamu araştırmacılarına en gelişmiş modellere ve bu modellerle ilgili test süreçlerine erişim imkanı tanıyor.

Polonya Yapay Zeka Güvenlik Enstitüsü (AISI) görevini üstlenen NASK Yapay Zeka Güvenlik Araştırma Merkezi; giderek yeteneklenen sistemleri değerlendirmek, olası zafiyetleri tespit etmek ve güvenlik önlemlerini güçlendirmek için OpenAI ile birlikte çalışacak.

Daybreak erişimi ve CERT Polska testleri

İş birliğine dair en somut örnek, anlaşma imzalanmadan önce ortaya çıktı. Temmuz ayında, NASK bünyesinde faaliyet gösteren olay müdahale ekibi CERT Polska, "Daybreak" adlı bir kanal aracılığıyla OpenAI'ın siber yetenekli modellerine erişim sağladı. Analistler bu modelleri MikroTik RouterOS üzerinde denedi ve üzerinde çalışıldığında etkilenen cihazların kontrolünün, kimlik doğrulaması gerekmeden ele geçirilebileceği hatalar dahil olmak üzere altı zafiyet tespit etti.

MikroTik, RouterOS'taki bu hatalar için düzeltmeler yayınladı. CERT Polska daha sonra yayınlanan yamaların, analistlerin yamalanmamış donanımlarda kayıt altına aldığı saldırıları engellediğini doğruladı. Model erişimi zafiyetin keşfedilmesini sağladı, üretici düzeltmeyi yaptı ve doğrulama ise orijinal saldırı yolları üzerinde gerçekleştirildi.

OpenAI, ulusal enstitülerle bu test döngüsünü tekrarlamayı hedefliyor. Polonya, şirketin araştırma çalışmalarında yeni bir isim de değil; OpenAI, kendi çalışmalarına öncülük eden bilim insanlarının birçoğunun Polonyalı olduğunu belirtiyor.

Kamu hizmetleri için güvenlik araştırmaları

NASK, güvenlik araştırmalarını kamu hizmetlerini korumak ve Polonya'nın dijital bilgi ortamını savunmak için uyguluyor. Merkezin görev alanı, yapay zeka tarafından üretilen sentetik içerikleri tespit etmeyi ve bu tür materyallerin farklı dillerde nasıl kötüye kullanıldığını takip etmeyi kapsıyor. Çok dilli bu yaklaşım, kamu mesajlarının tek bir dille sınırlı olmadığı bir ülke için büyük önem taşıyor.

NASK Direktörü Radosław Nielek şunları söyledi: “OpenAI ile iş birliği, aktif olarak yapay zeka güvenliği araştırmaları yürüten Enstitü ve Yapay Zeka Güvenlik Araştırma Merkezi için doğal bir adım. Bu çalışma; ortaya çıkan risklere karşı önlemler geliştirmeyi, yapay zeka tarafından üretilen sentetik içerikleri tespit etmeyi, bunların hem kötüye kullanımını hem de bu zorlukların çok dilli boyutlarını anlamayı kapsıyor.

Yapay zeka güvenliği tek başına başarılamaz. Bu ortak bir çabadır ve yapay zekanın gerçekten güvenilir ve güvenli olduğundan emin olmak için ancak kamu yapay zeka güvenliği enstitüleri ile gelişmiş yapay zeka geliştiricileri arasında aktif bir iş birliği mümkündür.”

OpenAI'da EMEA Politikalarından Sorumlu Başkan Yardımcısı ve Başkanı Tom Duff Gordon ise şunları ekledi: “Yapay zeka yetenek kazandıkça, varsayımlarımızı sorgulamak, sistemlerimizi test etmek ve güvenlik önlemlerini güçlendirmek için kendi organizamızın ötesindeki uzmanlıklardan yararlanmak hayati önem taşıyor.

NASK ile yapılan bu anlaşma, Polonya'nın araştırma uzmanlığını yapay zekayı daha güvenli hale getirme yönündeki uluslararası çabaya dahil ederek bunu birlikte yapmamızın kapısını aralıyor.”

Uluslararası standartlar ve enstitü iş birliği

OpenAI, Super I için ABD Standartları ve İnovasyon Geliştirme Merkezi ile yürüttüğü mevcut çalışmalara dikkat çekiyor.