Rakiplerinden kısıtlama talebi yağan Sam Altman’dan yapay zeka güvenliği için üç farklı yol önerisi



Özet


OpenAI CEO'su Sam Altman, gelişmiş yapay zekayı güvenli bir şekilde yönetmek amacıyla çalışanlarıyla yaptığı toplantıda üç farklı yol haritası sundu. Altman, uluslararası bir denetleme mekanizması, laboratuvarların birleştirildiği ortak bir araştırma merkezi veya tek bir şirketin kendi kendini geliştiren yapay zeka yarışında öne geçmesi gibi senaryoları değerlendirerek bir yıl içinde karar verilmesi gerektiğini belirtti. Özellikle kendi kendini geliştiren sistemler için bir hız sınırı veya durdurma noktası içermesi gerektiğini vurgulayan Altman, kontrolsüz bir yarış senaryosunu "korkunç" olarak nitelendirdi. Bu stratejik yaklaşımlar, yapay zekadaki hızlı değişimin ciddi kurallar ve hükümet denetimiyle yönetilmesi gerektiği yönündeki genel endişelerle paralellik gösteriyor.



The Information'a göre OpenAI CEO'su Sam Altman, geçen hafta çalışanlarla yaptığı bir iç toplantıda, gelişmiş yapay zekayı güvenli tutmak için üç olası yol haritası sundu. Bu senaryolar, uluslararası bir denetleme mekanizmasından, kendi kendini geliştirebilen bir yapay zeka konusunda öncü olacak tek bir şirkete kadar uzanıyor.

The Rundown'un aktardığına göre Altman, bu seçimi "Pacing 2.0" (Hız Düzenlemesi 2.0) olarak nitelendirdi ve bir yıl içinde karar verilmesi gerektiğini belirtti. Altman, yaklaşımın, kendi kendini geliştiren yapay zekalar için bir "hız sınırı" veya durdurma noktası içermesi gerektiğini söyledi.

Üç senaryo

Altman'ın, Uluslararası Atom Enerjisi Ajansı (IAEA) modeline dayalı küresel bir denetleyiciyi desteklediği belirtiliyor.

İkinci seçenek olan "Demis Planı", adını DeepMind'ın kurucusu Demis Hassabis'ten alıyor. Bu plan, CERN'in parçacık araştırma modeline benzer şekilde, önde gelen laboratuvarları ortak ülkelere hizmet verecek tek bir laboratuvarda birleştirmeyi öngörüyor.

AI araştırmacısı Eliezer Yudkowsky'nin adını taşıyan üçüncü seçenek ise, bir laboratuvarın "başkalarının tüm GPU'larını eritecek" kadar kendi kendini geliştiren bir yapay zekayla yarışını hayal ediyor. Altman'ın bu seçeneği "korkunç" olarak nitelendirdiği söyleniyor.

OpenAI, Mayıs 2023'te kamuoyuna yönelik olarak uluslararası denetimi önerdi. Bu öneri; belirli kapasite veya işlem gücü eşiklerini aşan projeler için denetim, denetleme, güvenlik testleri ve dağıtım kısıtlamaları talep ediyordu.

Neden önemli

Anthropic'ten Jack Clark, 19 Ekim'de yayınlanan 17 Ekim tarihli bir konuşmasında hükümetleri yapay zekadaki hızlı değişime hazırlanmaya çağırdı. Clark, teknolojinin yönetilmesinin ciddi kurallar ve ölçülülük gerektirdiğini savundu. Altman'ın senaryoları, bu önemli rakibin çağrısıyla uyumlu görünüyor.

Anthropic'ten Dario Amodei ise Eylül ayında, kendi kendini sürekli geliştiren yapay zeka sistemlerine kısıtlamalar ve potansiyel olarak daha geniş kapsamlı bir duraklatma dahil olmak üzere daha güçlü uluslararası anlaşmalar önerdi. OpenAI'ın 9 Eylül tarihli politika beyanı da yapay zeka kapasitesi için ortak ölçütler ve geliştirmenin ne zaman yavaşlatılması veya durdurulması gerektiğine dair kurallar çağrısında bulundu.

İşleyen bir anlaşma, pratikte "ölçülülüğün" ne anlama geldiğini netleştirmek zorunda kalacak. Gelişim hızına getirilecek bir sınır, sistemlerin zamanla daha yetenekli hale gelmesine yine de izin verecektir. Bir "tavan" ise maksimum yetenek seviyesini belirleyecektir. Müzakerecilerin neyin ölçüleceği, müdahaleyi neyin tetikleyeceği ve buna kimin karar vereceği konusunda uzlaşması gerekecek.

Geliştiriciler için bu seçimler, daha yetenekli bir modeli eğitip eğitleyemeyeceklerini veya yayınlayıp yayınlayamayacaklarını belirleyebilir. Hükümetlerin ise işi kimin denetleyeceği ve durdurma emrini kimin vereceği konusunda anlaşması gerekecek. Bu tür sınırları tetikleyebilecek ilerlemelerin zamanlaması ise hala belirsizliğini koruyor.

Önde gelen laboratuvarların birleştirilmesi, ortak bir kısıtlamalar setinin katılımcılar arasında uygulanmasını kolaylaştırabilir. Ancak bu durum, mülkiyet hakları, hangi ülkelerin katılabileceği ve ortaya çıkan sistemlere kimin erişebileceği gibi soruları da beraberinde getirecektir. Denetçi seçeneği ise laboratuvarların birbirinden bağımsız kalmasını sağlarken, onları ortak denetim ve kısıtlamalara tabi tutabilir.

Üzerine inşa edilecek bazı iş birlikleri halihazırda mevcut. AP'nin bildirdiğine göre OpenAI, Anthropic, Google ve diğer teknoloji liderleri; gönüllü iç kontrolleri, bağımsız denetimi ve yönetim kurulu denetimini kapsayan bir mutabakat imzaladı. Geliştirmenin bağlayıcı bir sınıra bağlanması için ise çalışmaların ne zaman yavaşlatılması veya durdurulması gerektiği konusunda uzlaşma sağlanması gerekiyor.