Sam Altman'dan yapay zeka güvenliği yarışı için üç farklı senaryo



Özet


OpenAI CEO'su Sam Altman, yapay zeka güvenliğini sağlamak adına personeline küresel bir denetim kuruluşu, laboratuvarların birleşmesi veya tek bir laboratuvarın hakimiyeti gibi üç farklı uç senaryo sundu. Altman, bu seçenekleri değerlendirmek ve kendi yolunu belirlemek için bir yıllık bir sürece sahip bulunuyor. Uzmanlar, yapay zekada "zeka sınırı" yaklaşırken dünyanın güvenlik için kısıtlı bir zamana sahip olduğunu vurgularken, bu tür büyük yapısal değişimlerin paydaşları ikna etme zorluğu devam ediyor. Ayrıca, iş süreçlerini otomatize eden ve mevcut araçları birbirine bağlayarak "yapıştırıcı" rolü üstlenen Pave gibi yapay zeka uygulama geliştirme araçları bu ekosistemde öne çıkıyor.



Günaydım yapay zeka meraklıları ve yeni aramıza katılan 4.761 okurumuz, hoş geldiniz. OpenAI’ın şu anki yapay zeka güvenlik stratejisi —yani modellerin güvenlik testlerini geçtikten sonra yayınlanması ve herhangi bir endişe durumunda işaretlenmesi— Sam Altman tarafından "pacing 1.0" olarak adlandırılıyor. Bu stratejinin devamı için sunulan seçenekler ise biraz daha uç noktalarda seyrediyor.

Altman’ın personele üç farklı senaryo sunduğu iddia ediliyor: Küresel bir denetim kuruluşu, tek bir süper-laboratuvar birleşmesi veya herkesin GPU kapasitesini "eritmek" için öne atılan tek bir laboratuvar. Altman, sonuncusunu "berbat" bir sonuç olarak nitelendirmiş. OpenAI'ın kendi yolunu seçmek için bir yılı var.

Hatırlatma: Bir sonraki canlı atölye çalışmamız bugün TSİ 20:00'de (12 PM EST) gerçekleşecek. Katılın ve Microsoft Copilot'tan en yüksek verimi nasıl alacağını, gerçek işlerini halletmek için en yeni özelliklerini nasıl kullanacağını öğren. Buradan kayıt ol.

Özet: The Information'a göre, OpenAI CEO'su Sam Altman geçen hafta personeline güvenli yapay zeka için üç olası "final" senaryosunu içeren bir konuşma yaptı. Bu senaryolar, en iyi laboratuvarları birleştiren küresel bir denetim mekanizmasından, tek bir şirketin başa oynamasına kadar geniş bir yelpazeye yayılıyor.

Neden önemli: Anthropic'ten Jack Clark, bir "zeka sınırı" üzerine konuşurken dünyanın güvenlik için harekete geçmek için "az sayıda yılı" olduğunu söyledi ve Altman’ın senaryoları, en büyük rakibiyle uyumlu görünüyor. En iyi laboratuvarların tek bir çatı altında Avengers tarzı bir ekip kurması eğlenceli bir kurgu olurdu; ancak şu ana kadar yapılan her anlaşmada olduğu gibi, diğer tüm paydaşları ikna etmek hiç kolay değil.

Özet: Pave, ekibinizin çalışma şeklini özel bir uygulamaya dönüştüren, hali hazırda kullandığınız araçları birbirine bağlayan ve süreci sizin yerinize yürüten bir yapay zeka uygulama geliştirme aracıdır. Böylece artık tüm süreci bir arada tutan "yapıştırıcı" rolünü üstlenmek zorunda kalmazsınız.

Özet: OpenAI'ın eski Baş Araştırma Görevlisi Bob McGrew, fabrikaların yeni ürünler için montaj hatlarını çok daha hızlı kurmasına yardımcı olan yapay zekalar geliştiren Arda adlı girişimi sessizliğini bozarak tanıttı. Arda, 160 milyon dolarlık Seri A turu sonrası 1,5 milyar dolarlık değerleme ile piyasaya sürüldü.

Neden önemli: McGrew; Mira Murati, Ilya Sutskever ve diğerleri gibi OpenAI'dan ayrılıp milyar dolarlık girişimler kuranlar listesine dahil oluyor. Ancak Arda, sınırları zorlayan (frontier) modeller yerine fabrikalara odaklanan nadir girişimlerden biri. Bu gelişme, Jeff Bezos’un fiziksel ürün tasarlamaya odaklanan bir "yapay genel mühendis" için Prometheus'un 12 milyar dolar yatırım toplamasının aylar sonra geliyor.

Özet: Bu rehberde, Claude Code'un bir ayar dosyasını formatlamasını ve seçilen düzenlemelerden sonra kontrolleri çalıştırmasını sağlayacaksınız. Küçük bir hata ekleyip hangi testin bunu yakaladığını görecek ve testi değiştirmeden kodu düzelteceksiniz.

İpucu: Hatayı düzeltirken testleri değiştirmediğinizden emin olun. Bu kanca (hook), bir düzenleme kaydedildikten sonra kontrol eder; dolayısıyla başarısız bir kontrol, değişikliğin yerinde kalmasına neden olur. Pro üyelerimiz hazırlanan kancaya, pratik dosyalarına ve testlere erişebilirler.

Özet: Anthropic, yatırım firması Citrini Research ile birlikte yürüttüğü yeni bir araştırmayı yayınladı. Bu araştırmada, dahili bir yapay zeka, akrep zehri toksinlerine tutunup onları etkisiz hale getiren proteinler tasarladı. İki dış laboratuvar, 211 tasarımdan 17'sinin başarılı olduğunu onayladı.

Neden önemli: Claude, protein bağlayıcılar tasarlıyor ve kendi laboratuvarında çalışıyor; ancak buradaki kilit nokta, klavyenin başında kimin olduğu. 200 bin dolarlık bütçesi olan ve derin ilaç geliştirme deneyimi olmayan bir yatırım bülteninin çalışanları bu süreci yönetti.