Amodei'den yapay zeka hızını yavaşlatma çağrısı: Rakiplerden destek sinyali



Özet


Anthropic CEO'su Dario Amodei, yapay zekanın kendi gelişimini hızlandırarak insan hedeflerine aykırı hareket edebileceği riskine karşı teknoloji geliştirme hızının yavaşlatılması çağrısında bulundu. Amodei, bu konuda demokratik ülkeler arasında ortak güvenlik standartları oluşturulmasını ve laboratuvarların dış değerlendiricileri sürece dahil etmesini öneriyor. Bu çağrı, OpenAI ve Google gibi devlerin liderlerinden farklı düzeylerde de olsa destek görerek sektörde nadir görülen bir birlik oluşturdu. Özellikle yeni modellerin tahminlerin ötesinde yüksek yetenekler sergilemeye başladığı bu dönemde, güvenlik önlemlerinin teknolojik ilerlemeye yetişmesi kritik bir önem arz ediyor.



Anthropic CEO'su Dario Amodei, güvenlik önlemlerinin teknolojiye yetişebilmesi için yapay zeka laboratuvarlarına geliştirme hızını yavaşlatmaları çağrısında bulundu. The Rundown'un bildirdiğine göre, Amodei'nin bu önerisi rakip liderlerden nadir görülen bir destek topladı.

Amodei, yazdığı makalede yapay zekanın, daha yetenekli sistemlerin inşasına yardımcı olarak kendi gelişimini hızlandırdığını savunuyor. İnsan hedeflerine aykırı hareket eden, daha gelişmiş bir "ajan sürüsünün" 6 ila 12 ay içinde interneti ele geçirebileceği bir senaryo hakkında uyarıda bulunuyor. Ancak bu uyarı belirli koşullara bağlı ve zaman çizelgesi hala belirsizliğini koruyor.

**Amodei'nin önerileri**

Amodei, Anthropic'in dış değerlendiricileri laboratuvara dahil etmeyi taahhüt etti. Ayrıca, demokratik ülkelerdeki laboratuvarlar arasında ortak güvenlik standartları oluşturulmasını ve otoriter hükümetlerle koordinasyon kurulmasını öneriyor. Laboratuvarlar, yetenek kazanım hızını sınırlarken modelleri eğitmeye devam edebilecek.

The Guardian'a göre OpenAI CEO'su Sam Altman dış değerlendiricileri dahil etmeyi taahhüt ederken, Elon Musk Amodei'nin çağrısını destekledi. Axios ise Demis Hassabis'in detaylar üzerinde yargısını saklı tutarak bu yöndeki yaklaşımı desteklediğini bildirdi.

**Neden önemli?**

Bu nadir görülen birlik gösterisi, araştırmacılardan gelen son matematiksel iddialar ve uyarılarla birleştiğinde, henüz yayınlanmamış modellerin dışarıdan tahmin edilenden çok daha yüksek yeteneklere sahip olabileceğine işaret ediyor. 8 Eylül'de duyurulan ve 10 Eylül'de güncellenen bir açıklamada OpenAI, GPT-6 Astra'dan önemli ölçüde daha yetenekli olarak tanımladığı dahili bir modelin, Navier–Stokes denklemleri için bir çözüm önerisi ürettiğini söyledi. Başarılı grupta yaklaşık 10.000 ajanın aynı anda çalıştığını belirten şirket, eğitimlerin devam ettiğini, araştırmacıların kaynakları yeniden yönlendirdiğini ve ara bulguları birleştirdiğini ifade etti.

Bu, bir şirketin kendi dahili sistemine dair açıklamasıdır. Bu durumun ne kadar güçlü bir sinyal olduğu, sunulan matematiksel sonucun incelemeye dayanıp dayanmadığına bağlı. Diğer laboratuvarların ne kadar ilerlediği ise belirsizliğini koruyor. Devam eden eğitim süreci ve araştırmacıların katılımı, müşterilerin standart bir yapay zeka ürünü aracılığıyla bu sonucu yeniden üretip üretemeyeceği sorusunu da açık bırakıyor. Sadece matematiksel performans, bir modelin yapay zeka sistemlerini kendi başına geliştirme yeteneği veya Amodei'nin senaryosunun gerçekleşme olasılığı hakkında net bir cevap vermiyor.

AP, araştırmacı Jacob Coxon'un önümüzdeki on yıl içinde yapay zekanın insan neslinin yok olmasına neden olma ihtimalini %10 olarak tahmin ettiğini bildirdi. Rapor ayrıca, felaket olasılıkları veya zamanlaması konusunda bir fikir birliği olmadığını da belirtti.

Bu sistemleri inşa eden ve test eden ekipler için Amodei'nin planı, geliştirme sürecine dış denetim getirecek. Amodei, eğitim süreçlerine sürekli erişim ve incelemecilerin, sınırlı sansürlerle bulguları yayınlama hakkını öneriyor. Bu düzenlemenin değeri, incelemecilerin anlamlı kayıtlara ulaşıp ulaşamayacağına ve beklenmedik davranışları araştırmak için yeterli süreye sahip olup olmayacağına bağlı olacak.

Yavaşlama kararı aynı zamanda yapay zekayı kimin şekillendireceği sorusunu da gündeme getiriyor. The Guardian, Clement Delangue'nin katılım ve şeffaflık çağrısında bulunduğunu bildirdi. Açık geliştirmeyi isteyen geliştiriciler için, en büyük laboratuvarlar tarafından şekillendirilen kısıtlamalar, gelişmiş sistemleri kimlerin inşa edebileceği üzerindeki kontrolü tek elde toplayabilir.

Axios, David Sacks'in laboratuvarlara gönüllü olarak yavaşlamaları için meydan okuduğunu ve iddia ettiğini bildirdi.