Çinli araştırmacılar, haleflerini inşa edecek yapay zekayı çizdi



Özet


Çinli araştırmacılar, yapay zekanın kendi kendini geliştirebildiği "özyinelemeli öz-gelişim" sürecini beş farklı seviyeye ayıran kapsamlı bir yol haritası yayımladı. Çalışma, yapay zekanın basit insan yönlendirmelerinden başlayıp, nihayetinde kendi geliştirme sürecini yeniden tasarlayabildiği en üst seviyeye kadar olan aşamaları ve mevcut literatürdeki konumlarını analiz ediyor. Araştırmacılar, özellikle kodlama alanındaki hızlı geri bildirim döngülerinin bu gelişimin en net yolunu sunduğunu belirtirken, bu sürecin otomatikleşmesinin kontrol dışı yetenekler doğurabileceği riskine dikkat çekiyor. Bu çalışma, yapay zeka dünyasında hem teknik bir gelişim takvimi hem de teknoloji devlerinin risk gördüğü kritik bir dönüm noktası olarak değerlendiriliyor.



ByteDance, Tsinghua ve Shanghai AI Lab gibi kurumlara bağlı araştırmacıların dahil olduğu 35 Çinli yapay zeka araştırmacısı, kendi kendini geliştirebilen ve haleflerini inşa edebilen yapay zekalar için bir yol haritası niteliği taşıyan "İnsanlar Tarafından İnşa Edilen Son Yapay Zeka" (The Last AI Built by Humans) adlı çalışmayı yayımladı.

The Rundown'ın aktardığına göre çalışma, "özyinelemeli öz-gelişim" (RSI) kavramını beş seviyeye ayırıyor. Metin ilk kez 10 Eylül'de yayımlanmış ve 15 Eylül'de güncellenmiş.

Yapay zeka gelişiminin beş seviyesi

1. Seviyede yapay zeka, insanların tasarladığı güncellemeleri gerçekleştiriyor. 2. Seviyede ise sistem, kendi zayıf noktalarını teşhis edip bunları nasıl düzelteceğine karar verebiliyor.

3. ve 4. Seviyeler, modelin bir sonraki aşamada ne öğreneceği ve yayına alındıktan sonra nasıl uyum sağlayacağı konusundaki karar yetkisini yapay zekaya devrediyor. 5. Seviyede ise yapay zeka, geliştirme sürecinin kendisini yeniden tasarlayabiliyor.

Yazarlar, mevcut 491 makaleyi bu basamaklar üzerinde sınıflandırarak bunların %75,4'ünün 1. ve 2. seviyelerde, %5,9'unun ise 5. seviyede yer aldığını belirtti. Bu rakamlar yazarların araştırmalara yönelik sınıflandırmasını yansıtıyor. Ardışık model nesilleri boyunca sürekli kazanım sağlanması ise hala çözülememiş bir sorun olarak görülüyor.

Araştırmacılar, yazılım değişikliklerinin testler yoluyla anında geri bildirim alabildiği için kodlamayı RSI'ya giden en net yol olarak görüyor. Robotik, bilim ve tıp gibi alanlarda ise geri bildirim süreci daha yavaş ve maliyetli. Bu alanlarda testlerin, yapılan bir değişikliğin sistemi gerçekten iyileştirip iyileştirmediğini doğrulaması gerekiyor.

Neden önemli?

Araştırmacılar RSI'yı kritik bir dönüm noktası olarak sunuyor. OpenAI, Anthropic ve Google, yapay zeka araştırmalarının büyük ölçüde otomatik hale getirilmesini riskli bir alan olarak görüyor; çünkü bu durum, yeni yeteneklerin etkili bir denetimin ötesine geçmesine neden olabilir.

OpenAI’in Hazırlık Çerçevesi (Preparedness Framework), tamamen otomatik yapay zeka araştırma ve geliştirmesini "Kritik" eşik olarak tanımlıyor. Bu eşiklerden biri de, ardışık model nesillerindeki sürekli geliştirmelerin 2024'teki eşdeğer çalışmaların beşte biri kadar sürmesi. Şirket, bu tür bir hızlanmanın denetim mekanizmalarını aşırı yükleyebileceği konusunda uyarıda bulunuyor. Bu eşiğe ulaşıldığında, şirketin politikası uygun koruma önlemleri ve güvenlik kontrolleri tanımlanana kadar geliştirmenin durdurulmasını öngörüyor.

Anthropic'in 8 Temmuz'da yürürlüğe giren Sorumlu Ölçeklendirme Politikası (Responsible Scaling Policy) ise, tüm araştırma bilimci ve mühendis kadrosunun rekabetçi maliyetlerle değiştirilmesi veya yapay zeka araştırma otomasyonu yoluyla geliştirmenin keskin bir şekilde hızlandırılmasını bir eşik olarak belirliyor. Şirket, güvenlik araştırmaları ve dahili yapay zeka geliştirme süreçlerinin kapsamlı olarak kaydedilmesini planlarken, bu eşiği uygulamanın zorluğunu da kabul ediyor.

Google DeepMind’ın Sınır Güvenliği Çerçevesi (Frontier Safety Framework) ise, yapay zeka yeteneklerini geliştirmeye odaklanan bir Google ekibinin benzer toplam maliyetlerle tamamen otomatik hale getirilmesini bir eşik olarak belirliyor. Şirket, daha güçlü haleflerin etkili savunmalardan daha hızlı ortaya çıkabileceği konusunda uyarıda bulunuyor ve sistemlerin dahili olarak yayına alınmasından kaynaklanan riskleri de göz önünde bulunduruyor.

Laboratuvarlar ve güvenlik ekipleri için daha hızlı araştırma, her bir geliştirmeyi incelemek için kullanılacak süreyi kısaltabilir. Sadece bir laboratuvar içinde çalışan bir yapay zeka ajanı, herhangi bir halka arzdan önce sonraki modelleri şekillendirebilir. Bu durum, araştırma altyapısının denetimini, değişiklik kayıtlarını ve yeni modelleri onaylama yetkisini denetim sorununun merkezine yerleştiriyor.

Ulusal karşılaştırmaların sınırlılıkları bulunuyor. Makale, yazarların kendi bakış açılarını yansıtıyor.