OpenAI güvenlikçisinden çarpıcı itiraf: "Kültür bozulmuş durumda"



Özet


OpenAI güvenlik lideri David Robinson, şirketteki 3,5 yıllık görevinden istifa ederek yapay zeka güvenliğinin "deneme yanılma" aşamasını geçtiğini ve kurum kültürünün bozulduğunu ifade etti. Şirketteki önemli güvenlik raporlarına başkanlık eden Robinson, yapay zeka laboratuvarlarının nükleer santraller gibi çok sıkı denetlenmesi ve yedekli güvenlik katmanlarına sahip olması gerektiğini savundu. Robinson, hızlı ilerleme odağının güvenlik önlemlerini ürünlerin gerisinde bıraktığını vurgularken, bu ayrılık Jan Leike gibi isimlerin daha önce dile getirdiği güvenlik endişelerini yeniden gündeme getirdi.



OPENAI

Görsel kaynağı: The Atlantic / David Robinson (LinkedIn)

Özet: OpenAI güvenlik lideri David Robinson, şirketteki 3,5 yıllık görevinden istifa etti. The Atlantic dergisinde yayımladığı bir makale ile ayrılığını duyuran Robinson, OpenAI kültürünü "bozulmuş" olarak nitelendirdi ve yapay zekanın güvenlik riskleri konusunda "deneme yanılma döneminin bittiğini" ifade etti.

Detaylar:

Robinson, 12 büyük ölçekli (frontier) lansman için hazırlanan raporlara başkanlık etti ve şirketin model güvenliği için temel kural kitabı olan mevcut Hazırlık Çerçevesini (Preparedness Framework) taslak haline getirdi.

Robinson, yapay zeka laboratuvarlarının nükleer santraller ve havaalanları gibi yönetilmesi gerektiğini; insan kaynaklı hataların felakete yol açmasını önlemek için "yedekli katmanlara" sahip olması gerektiğini savundu.

Ancak Robinson şu konuda uyarıda bulundu: "Meslektaşlarım ve ben o kadar hızlı koşuyorduk ki, büyük değişimleri düşünmeye, bırakın onları gerçekleştirmeye vaktimiz neredeyse hiç olamadı."

Robinson'un ayrılığı, OpenAI'ın araştırmacılar Jasmine Wang, Tomek Korbak ve Mikita Balesni'yi, hassas bilgileri dışarıdaki bir güvenlik grubuna aktardıkları iddiasıyla işten çıkarmasının ardından gerçekleşti.

Neden önemli: Uyarılar içeriden gelmeye devam ediyor. Robinson'un makalesi, 2024 yılında ayrılırken güvenliğin "parlak ürünlerin gerisinde kaldığını" söyleyerek uyarıda bulunan eski OpenAI süper hizalama (superalignment) ortak lideri Jan Leike'nin sözlerini yankılandırıyor. Kontrolsüz ajanlar, güvenlik ihlalleri ve rafa kaldırılan modeller birikmeye devam ederken, Leike'nin o sözleri bugün hala geçerliliğini koruyor.

THE RUNDOWN ROUNDTABLE

Özet: The Rundown Roundtable, ekibimizle işlerimizde ve günlük hayatımızda yapay zekayı nasıl kullandığımızı sorduğumuz haftalık bir özettir.

Zach, Genel Yayın Yönetmeni: The Rundown ekibi yakın zamanda Portekiz'de ilk yüz yüze kampını gerçekleştirdi; bu benim Avrupa'ya yaptığım ilk yolculuktu. Karmaşık bir uluslararası havaalanında yol bulmaktan, kültürel farklar (bahşiş, menü tercümesi, toplu taşıma vb.) gibi konularda kişiselleştirilmiş tavsiyeler vermeye kadar Claude ve ChatGPT kesinlikle harika birer kaynak oldu.

Eşimi de yanımda götürdüm ve o gün içinde tek başına keşif yapmaya vakit bulabildi. Eşim zaten çok planlı biridir ancak bilgilerimizi kullandığımız bir ChatGPT projesi sayesinde; içinde eşya listesi, seyahat öncesi kontrol listesi ve Lizbon'u alabildiğine gezmesini sağlayacak detaylı bir günlük plan içeren kapsamlı bir gezi planı oluşturabildik.

Seyahat stresinden etkilenen biri olarak, ihtiyaç duyduğum her an soru sorabileceğim ve hayatımı bilen bir uzmanın cebimde olması, artık seyahatlerimde hayal edemeyeceğim kadar büyük bir kolaylık.

Jason, Geliştirici: Bu hafta ChatGPT'ye küçük bir görev verdim: Sürücü belgemdeki adresi değiştirmek. Yazdığım komutun tamamı şuydu: "Ehliyetimi güncellemem gerekiyor. DMV (Motorlu Taşıtlar Departmanı) sürecini hallet."

Yapay zeka, DMV randevusunu kendisi aldı, adres kanıtı olarak elektrik ve doğalgaz faturalarımı buldu, ayrıca her şeyle birlikte gitmemi sağlayacak bir kontrol listesi ve hatırlatıcı hazırladı. Sıkıcı bir iş olabilir ama bunlar tam da bir ajanın üzerimden almasını istediğim türden işler.

YAPAY ZEKA, BİLİNÇ VE DİN

Görsel kaynağı: Images 2.5 / The Rundown

Özet: Anthropic kurucu ortağı Chris Olah, geçtiğimiz bir yılı farklı inançlara sahip dini alimlerle görüşerek geçirdi.