Yapay Zeka Devleri Fren Yapmaya Hazırlanıyor



Özet


Anthropic CEO'su Dario Amodei, yapay zeka modellerinin kendi gelişimlerini hızlandırması ve interneti ele geçirme potansiyeli nedeniyle laboratuvarların gelişim hızını yavaşlatması gerektiğini savunuyor. Bu güvenlik endişesi karşısında Sam Altman ve Elon Musk gibi teknoloji liderleri benzer bir denetim ve standart oluşturma yaklaşımını desteklerken, Donald Trump yapay zekada liderlik yarışına odaklanarak yavaşlama çağrısını eleştiriyor. Sektördeki bu nadir birliktelik, modellerin henüz yayınlanmamış kapasiteleri hakkında ciddi uyarılar içerse de açık geliştirme savunucuları ve düzenleme karşıtları nedeniyle süreci yavaşlatmak zor görünüyor.



YAPAY ZEKA YAVAŞLIĞI

Görsel kaynağı: X / The Rundown

The Rundown: Anthropic CEO'su Dario Amodei, geniş kapsamlı makaleleriyle tanınıyor. Son makalesinde Amodei, güvenlik önlemlerinin teknolojiye yetişebilmesi için yapay zeka laboratuvarlarını gelişim hızını yavaşlatmaya çağırdı; modellerin birbirini sürekli iyileştirmesini (recursive self-improvement) temel endişe kaynağı olarak gösterdi.

Detaylar:

Amodei, yapay zekanın artık kendi gelişimini hızlandırdığını ve 6-12 ay içinde bir sürü "ajanın" tüm interneti ele geçirebileceğini söyledi.

Hızı dengede tutmak için Amodei; laboratuvarların içine üçüncü taraf değerlendiriciler yerleştirilmesini, demokratik laboratuvarlar arasında güvenlik standartları oluşturulmasını ve otoriter rejimlerle koordinasyon sağlanmasını önerdi.

Diğer liderler de bu görüşe katıldı; Sam Altman değerlendiriciler konusunda söz verdi, Musk “Dario haklı” dedi, Demis Hassabis ve Satya Nadella ise bu doğrultuyu destekledi.

Trump ise yavaşlama taraftarlarını, “gerçekleşmeyecek şeyleri” dayatan “negatif güçler” olarak nitelendirdi ve “yapay zekayı kim kazanırsa kazanır” diyerek ABD'nin liderliğini koruması gerektiğini belirtti.

Neden önemli: Bu nadir birliktelik, matematikteki son büyük ilerlemeler ve araştırmacıların uyarılarıyla birleştiğinde, bu laboratuvarların henüz yayınlanmamış modellerinin daha önce görülmemiş yetenekler sergileyebileceğine işaret ediyor. Ancak bazıları açık geliştirme istiyor, bazıları bunu "düzenleyici ele geçirme" (regulatory capture) olarak görüyor ve bazıları ise hiç yavaşlamak istemiyor; bu nedenle süreci yavaşlatmak kolay olmayacak.

THE RUNDOWN ROUNDTABLE

Darren, Medya Direktörü: Instagram, YouTube ve TikTok için daha önce işlediğimiz konuları tekrar etmeden potansiyel olarak viral olacak hikayeleri bulmak amacıyla bir yapay zeka hikaye tarama iş akışı oluşturdum.

Öncelikle bu iş akışı, Rowan'ın halka açık kısa içerik arşivini inceleyerek geçmiş konuların ve editoryal zevkin bir haritasını çıkardı. Bu haritayı, yeni bir bakış açısını; aynı yapay zeka lansmanı, robot demosu veya araştırma hikayesinin farklı bir versiyonundan ayırt etmek için bir filtre olarak kullanıyor.

Her sabah; büyük gazetelerin ve teknoloji bloglarının yapay zeka ve teknoloji kapsamlarını, The Rundown bültenlerini, şirket duyurularını, araştırma makalelerini ve büyük yapay zeka ve robotik şirketlerinden gelen güncellemeleri içeren öncelikli kaynakları tarıyor.

Her potansiyel hikaye dört kriter açısından kontrol ediliyor: net bir görsel kanca, 45-90 saniyede açıklanabilecek teknik bir fikir, geniş kitlelerin ilgisini çekecek bir içerik ve Rowan’ın geçmiş yayınları ile önceki haftanın önerileriyle kıyaslandığında anlamlı bir yenilik. Sistem, belirli bir sayıya zorlamak yerine kriterleri geçen her hikayeyi dahil ediyor.

Final raporu ise güç sırasına göre sıralanıyor ve her sabah tek bir kısa Slack DM olarak gönderiliyor.

Kenny, Satış Başkanı: Claude ile bir koşu koçu oluşturdum.

Yıllarca koşularımı takip etmek için uygulamalar kullandıktan sonra, sadece bir veri yığını yerine gerçek bir koça daha yakın bir şey istedim. Bir Claude Projesi açtım, bunu Google Takvim'e bağladım ve ona gerçek koruyucu kurallar içeren sürekli talimatlar verdim.

Son altı aydır benim koçum oldu; sakatlanmamı önlerken aylık koşu mesafemi artırmama yardımcı oldu. Haftamı planlıyor, saatimden gelen verilerle her koşuyu kaydediyor, çok hızlı hızlandığımda beni uyarıyor, ayakkabılarımın ömrünün ne kadar kaldığını takip ediyor ve hayatım planlarımı bozduğunda takvimimi yeniden düzenliyor.