Anthropic ve OpenAI liderlerinden kendi kendini geliştiren yapay zeka uyarısı



Özet


Anthropic ve OpenAI gibi dev şirketlerin önemli yöneticileri ile yapay zeka alanının öncü isimleri, yapay zekanın kendi kendini geliştirme kapasitesinin ilerlemeyi yıllardan aylara indirebileceği uyarısında bulundu. Yazarlar, sistemlerin tamamen otonom hale gelmesi durumunda mevcut ilerleme hızının yaklaşık on kat artabileceğini ve bu durumun insanlığın bekası için ciddi riskler taşıdığını belirtiyor. Bu risklere karşı laboratuvar ortamında dış denetçiler görevlendirilmesi ve tehlikeli araştırmaların durdurulması gibi somut güvenlik önlemleri öneriliyor. Sektör liderlerinden gelen bu ortak uyarı, yapay zeka gelişimindeki hızın kontrol altına alınması gerektiği yönünde kritik bir endişeyi yansıtıyor.



Anthropic’ten Jack Clark ve OpenAI’dan Jakub Pachocki; Geoffrey Hinton, Yoshua Bengio ve diğer araştırmacılara katılarak bir "zeka patlaması" için hazırlık yapılması gerektiğini vurgulayan bir makale yayımladı. Makale, araştırma yapan yapay zeka sistemlerinin kendi kendilerini nasıl daha iyi hale getirebileceğini ve yıllar sürecek ilerlemeleri nasıl aylara sığdırabileceğini inceliyor.

*The Rundown* platformunda yer alan bu uyarı, 28 Eylül'de yayımlandı. Yazarlar, yapay zeka yeteneklerinin ne kadar hızlı ilerleyebileceğine yönelik kısıtlamalar, laboratuvarların içinde görev yapacak dış denetçiler ve riskli araştırma deneylerini durdurmanın yolları öneriyor.

**Araştırmalar nasıl hızlanabilir?**

GovAI'nın özetine göre Anthropic, Ağustos 2026'da genel insan gözetimi altında iç yapay zeka araştırma ve geliştirme çalışmalarının %26'sını tamamladığını bildirdi; bu oran Mart ayındaki %1'lik seviyeden önemli ölçüde arttı.

Makaledeki hesaplamalardan biri, yapay zeka araştırma ve geliştirme süreçlerinin tamamen otomatik hale gelmesini, araştırma kazanımlarının tahmini hızda devam etmesini ve ek bir darboğaz oluşmamasını varsayıyor. Bu koşullar altında yazarlar, tam otomasyonun başlamasından itibaren 1,5 yıl içinde ilerlemenin yaklaşık on kat hızlanabileceğini öngörüyor. Bu durumda, bugünkü yapay zeka ilerlemesinin bir yıllık süreci yaklaşık beş hafta sürecek.

Makale, araştırmalardan elde edilecek sonraki kazanımlar ve bilişim kaynaklarındaki olası kısıtlamalar konusunda belirsizliklere işaret ediyor. Ayrıca, kontrolün kaybedilmesi durumunda "insanlığın marjinalleşmesi veya yok olması" gibi uç noktadaki olası sonuçları sunuyor.

**Neden önemli?**

Hinton ve Bengio, gelişmiş yapay zeka konusunda uyarı yapan tanınmış isimler haline geldi. Ancak daha çarpıcı gelişme, Clark ve Pachocki'nin onlara katılmış olması. Bu katılım, rakip laboratuvarların içinde büyüyen ortak bir endişeye işaret ediyor; her ne kadar makale, yazarların görüşlerinin mutlaka kurumlarını temsil etmediğini belirtse de.

Güvenlik odaklı tartışmalar, bu yakınlaşmaya daha somut bir boyut kazandırıyor. Bloomberg'in 15 Eylül tarihli haberine göre, OpenAI politika yöneticisi Chris Lehane, Anthropic ve Google DeepMind ile haftalardır görüşmeler yürütülüyor. Bu görüşmelerin bağlayıcı kısıtlamalar ortaya çıkarıp çıkarmayacağı ise henüz belirsiz.

Anthropic'ten Dario Amodei, 12 Eylül'de, belirliSansür kurallarına tabi olmak kaydıyla bulguları yayımlama hakkına ve geniş iç erişime sahip değerlendiricileri sürece dahil etmeyi taahhüt etti. TechCrunch ise OpenAI'dan Sam Altman'ın, değerlendirici erişimi konusunda benzer bir taahhütte bulunduğunu bildirdi.

Laboratuvarlardaki araştırmacılar için yerleşik denetim, bir model kullanıcılara ulaşmadan önce eğitim ve iç araştırma süreçlerinin sıkı takibini sağlayabilir. Bu taahhütlerin değeri; değerlendiricilerin ne zaman çalışmaya başlayacağına, neleri inceleyebileceklerine ve sansür kurallarının rahatsız edici bulguları yayımlama yeteneklerini nasıl etkileyeceğine bağlıdır.

Amodei, ilerleme hızını model eğitiminin ve teknik ilerlemenin devamıyla uyumlu olarak tanımlıyor. Yetenek büyümesinin kısıtlanması veya riskli bir deneyin durdurulması, değerlendiricilere tehlikeleri analiz etmek için daha fazla zaman kazandırabilir. Bu kontroller araştırmayı yavaşlatabilir. Makale, yapay zekanın güvenlik çalışmalarını hızlandırabileceğini de kabul ettiği için, kısıtlamaların bu çalışmalar üzerinde de maliyet yaratabileceğini belirtiyor.

Politika yapıcılar için makalede önerilen otomasyon ve ilerleme raporlaması, ne zaman ek denetimlerin gerekli olduğunu göstermeye yardımcı olabilir. Anthropic'in...