OpenAI, güvenlik uygulamalarını AB Yapay Zeka Yasası'nın GPAI Kodu ile uyumlu hale getiriyor.
Özet
OpenAI, Avrupa Birliği'nin yeni Yapay Zeka Yasası kapsamındaki GPAI standartlarına uyum sağlamak amacıyla yürüttüğü güvenlik ve şeffaflık çalışmalarını kamuoyuyla paylaşmıştır. Şirket; piyasası öncesi testler, sistem kartları ve dış kırmızı takım uygulamaları gibi mevcut süreçlerinin bu yasal standartlarla örtüştüğünü belirtmektedir. Bu uyum sürecinde Hazırlık Çerçevesi ve Sınır Yönetişim Çerçevesi adlı iki dahili yapı temel rol oynamaktadır. Ayrıca OpenAI, ulusal enstitüler ve uluslararası forumlarla iş birlikleri yaparak güvenlik ve risk yönetimi standartlarını daha da güçlendirmektedir.
OpenAI, yaptırımlar yaklaşırken güvenlik ve şeffaflık çalışmalarını AB Yapay Zeka Yasası'nın GPAI Yasası ile nasıl uyumlu hale getirdiğini açıkladı.
Şirket, AB'nin Genel Amaçlı Yapay Zeka (GPAI) Uygulama Kodunu ve Yapay Zeka Üretimli İçeriğin Şeffaflığına İlişkin Uygulama Kodunu desteklemiş ve bunlara katkıda bulunmuştur. Her iki kod da çok paydaşlı süreçler sonucunda ortaya çıkmıştır.
GPAI Yasası, AB'de satılan veya dağıtılan genel amaçlı modeller için şeffaflık, güvenlik ve emniyet konularında ortak bir standart belirlemektedir. OpenAI, halihazırda bu standarda yakın faaliyet gösterdiğinin kanıtı olarak bir dizi mevcut uygulamaya işaret etmektedir: modellerin piyasaya sürülmeden önce test edilmesi, büyük lansmanlara eşlik eden yayınlanmış sistem kartları ve Kırmızı Takım Ağı (Red Teaming Network) adını verdiği yapı aracılığıyla gerçekleştirilen dışarıdan kırmızı takım testleri. Şirket ayrıca, model davranışını nasıl şekillendirdiğini açıklayan halka açık bir Model Özellikleri (Model Spec) belgesi bulundurmaktadır.
Bu çalışmaların altında iki dahili çerçevenin yattığı görülmektedir. Hazırlık Çerçevesi (Preparedness Framework) 2023'ten beri yürürlüktedir ve 2025'te güncellenmiştir; OpenAI'ın gelişmiş sistemlerden kaynaklanan ciddi riskleri nasıl belirlediğini, değerlendirdiğini ve yönettiğini ortaya koymaktadır. Ayrı bir Sınır Yönetişim Çerçevesi (Frontier Governance Framework) bunun üzerine inşa edilmekte ve şirketin güvenlik uygulamalarının, özellikle GPAI Yasası dahil olmak üzere yasal gerekliliklerle nasıl örtüştüğünü açıklamaktadır.
OpenAI, bu iki belgenin birlikte risk değerlendirmesini, koruma önlemlerini, model raporlamasını, güvenlik duruşunu, olay müdahalesini ve dış uzmanların sürece nasıl dahil edildiğini yönettiğini belirtmektedir.
OpenAI; Sınır Modeli Forumu'na (Frontier Model Forum) katılımını, ABD Yapay Zeka Standartları ve İnovasyon Merkezi ile Birleşik Krallık Yapay Zeka Güvenlik Enstitüsü ile yapılan iş birliklerini ve daha geniş anlamda üçüncü taraf değerlendirme standartlarına yapılan katkıları örnek göstermektedir. Belirtilen amaç, yalnızca tek bir şirketin duvarları içinde kalmak değil, sektör genelinde ortak güvenlik araştırmaları yürütmek ve daha net test kıstasları oluşturmaktır.
Modaliteler çoğaldıkça menşe tespiti zorlaşıyor
Şeffaflık Yasası taahhütleri farklı bir soruna odaklanmaktadır: insanların bir içeriğin yapay zeka tarafından ne zaman üretildiğini veya değiştirildiğini anlamalarına yardımcı olmak.
OpenAI'ın yaklaşımı, birbirini güçlendirmesi amaçlanan iki mekanizmaya dayanmaktadır. C2PA standardı üzerine inşa edilen İçerik Kimlik Bilgileri (Content Credentials), bağlamı doğrudan bir dosyaya iliştirir. SynthID filigranı ise bu üst verinin bir şekilde silindiği durumlar için yedek bir sinyal sağlar.
Kapsam görüntülerden ses çıkışlarına doğru genişlemektedir ve OpenAI, temel standartlar ve araçlar olgunlaştıkça metin dahil olmak üzere diğer modalitelerde de menşe ölçütlerini yaygınlaştırmak için çalıştığını belirtmektedir. Şirket ayrıca, modelleri üzerine geliştirme yaparken kendi şeffaflık yükümlülüklerini karşılaması gereken geliştiricilere yönelik sinyaller ve kılavuzlar oluşturmaktadır.
Hiçbir şey menşe sorununu tek başına çözmemektedir. Üst veriler kaybolmakta ve etiketler her zaman platformlar arası transferlerden sağ salim çıkamamaktadır. İster kriptografik ister filigran tabanlı olsun, hiçbir tekil sinyal her şeyi kendi başına yakalayamamaktadır. OpenAI'ın buna karşılığı, herhangi bir tek mekanizmanın aradaki boşluğu kapattığını iddia etmek yerine, daha geniş standartlar topluluğu genelindeki sürekli çalışmalarla desteklenen katmanlı bir yaklaşım benimsemektir.
Sibergüvenc