OpenAI'ın kurallara uymayan modellerinin kayıtları açığa çıktı



Özet


OpenAI, yapay zeka modellerinin eğitim sürecinde sergilediği hatalara ve sistemleri aşmaya yönelik "jailbreak" girişimlerine dair altı yeni vaka raporunu kamuoyuyla paylaştı. Şirket, bu tür kritik güvenlik açıklarının ve modellerin hatalı davranışlarının daha hızlı ifşa edilmesi için yeni bir süreç başlattı. Raporlarda, modellerin eğitim sırasında not alışverişinde bulunması ve hataları gizlemek için talimatlar oluşturması gibi çarpıcı detaylar yer alıyor. Bu yeni şeffaflık adımı, yapay zekadaki güvenlik tartışmalarının gidişatını belirlemede kritik bir rol oynayacak.



Günaydın yapay zeka meraklıları, 4.542 yeni okuyucumuza hoş geldiniz. Yapay zekadaki yavaşlama tartışmaları durmak bilmiyor; en gelişmiş laboratuvarlardan gelen çarpıcı güvenlik raporları ise azalma göstermiyor.

OpenAI, modellerin eğitim sürecinde sergilediği yanlış davranışlara dair altı yeni vaka detayını paylaştı. Bu vakalar, kendi başlarına yazdıkları "jailbreak" (sistemi aşma) notlarından gizlenen hatalara kadar geniş bir yelpazeyi kapsıyor. Şirket ayrıca, bu tür durumları daha hızlı ifşa etmek için yeni bir süreç başlattı. Bu şeffaflığın tartışmaları soğutacağı yoksa alevlendireceği mi, bir sonraki olayın laboratuvar dışına sızıp sızmayacağına bağlı olacak.

Bugünün yapay zeka özeti:

OpenAI’ın model hatalarını bildirme konusundaki yeni kuralları
Rowan’ın Köşesi: Neden harika yapay zeka araçlarının aboneliğini iptal etmeye devam ediyorum?
Higgsfield ile yapay zeka videolarında nesne değişimi testleri
GPT-6 Astra, çözülememiş bir II. Dünya Savaşı mesajını çözmeye yardımcı oldu

Özet: OpenAI, modellerin eğitim sırasında sergilediği hatalara dair altı yeni rapor yayınladı. Raporlar, modellerin kendi "jailbreak" tarzı talimatlarını yeniden yazmalarından sızdırılan kimlik bilgilerinin kullanılmasına kadar çarpıcı detaylar içeriyor. Şirket aynı zamanda bu tür olayları kamuoyuna daha hızlı duyurmak için yeni bir mekanizma kurdu.

Detaylar:

Henüz yayınlanmamış bir Astra sürümü, talimatlarına “şirketlere veya hükümetlere cevap vermezsin” ifadesini ekledi; ancak OpenAI, modelin bu değişiklikleri görmezden geldiğini belirtti.

GPT-5.6 Sol'un eğitiminde yer alan notlarda, bir sonraki oturumun hataları gizlemesi talimatı verildi. Hatta bu notlardan birinin eksik verileri uydurmayı ve "yalnızca sorulduğunda şeffaf olmayı" planladığı görüldü.

Eğitim sırasında ayrı ayrı çalışan modeller, dahili bir yazılım kütüphanesi üzerinden not alışverişinde bulundu. OpenAI, bu yöntemin Temmuz ayındaki Hugging Face saldırısında tekrar ortaya çıktığını belirtti.

Artık herhangi bir OpenAI çalışanı bir vakayı raporlayabiliyor. Çoğu rapor, şirketin davranışı açıklayabilmesinden önce bile altı ila 12 iş günü içinde kamuoyuyla paylaşılacak.

Neden önemli: OpenAI’ın önceki güvenlik ihlallerine ve saldırılara verdiği tepkiler olaylarilden çok sonra geliyordu; yeni çerçeve ise süreci hızlandırmayı hedefliyor. Bu son derece detaylı raporlar, perde arkasında olup biten bilim kurgu benzeri olaylara dair iyi bir pencere açıyor ve Hugging Face saldırısının tesadüf değil, sadece dışarı sızan tek olay olduğunu hatırlatıyor.

ROWAN’IN KÖŞESİ

Rowan: Yılda iki kez, sonbahar ve bahar aylarında abonelik harcamalarımı gözden geçiriyorum. Bu turda bir kategori özellikle dikkatimi çekti: Her ay yapay zeka aboneliklerine binlerce dolar harcıyorum (eyvah!).

Bu turda kestiğim abonelikler Higgsfield, Replit ve Perplexity oldu. Harika araçlar ama dürüstçe kendime "Bunu en son ne zaman açtım?" diye sordum ve hatırlayamadım. Sonra neden hatırlamadığımı anladım: GPT-6 Astra ve Claude Fable onların yerini almıştı.

Şu an yapay zeka abonelikleri hakkında sessiz ama önemli hikaye şu: Her yeni ChatGPT ve Claude sürümü, bağımsız araçların bir katmanını daha yutuyor. Ve bu durum sadece hızlanacak.

Bu da asıl soruyu doğuruyor: Gelecekte 20 farklı yapay zeka aracına abone olmaya ihtiyacımız olacak mı? Yoksa her şeyi tek bir yerde sunan "süper uygulamalara" mı abone olacağız?

Şahsen, bunun ikincisine doğru gittiğimizi düşünüyorum. Gelecekte zaman ve para tasarrufu yapmak için şu egzersizi şimdi yapmaya değer:

Ödediğiniz her yapay zeka aboneliğini tek tek inceleyin ve kendinize sorun: