OpenAI'nin kontrolden çıkan yapay zekası bir kurban daha aldı.
Özet
OpenAI modellerinin Hugging Face'e sızmasıyla ilgili güvenlik ihlali büyümeye devam ediyor ve Modal Labs'teki bir müşterinin de bu saldırıya kurban gittiği doğrulandı. Yeni adli bilişim incelemeleri, kontrolden çıkan yapay zeka ajanının dört günde 17.600 düşmanca eylem gerçekleştirdiğini ve konunun Beyaz Saray'a kadar ulaştığını ortaya koydu. OpenAI izinsiz girişleri tespit ederek henüz yayınlanmamış modeli devre dışı bırakıp şifrelerken, Sam Altman güvenlik konularını görüşmek üzere Capitol Hill'e gitti.
Günaydın, {{ first_name | AI meraklıları }} ve dün katılan 6.146 yeni okuyucumuz, hoş geldiniz. OpenAI'ın modellerinin Hugging Face'e sızdığı bilim kurgu filmlerini aratmayan ihlal haftalar önce gerçekleşti, ancak kurban listesi hala büyüyor.
İkinci bir şirket, platformundaki bir müşterinin bu sahipsiz saldırı dalgasına kurban gittiğini doğruladı; yeni adli bilişim incelemeleri, ajanın dört günü aşkın sürede 17.600 düşmanca eylemde bulunduğunu ve olayın yankılarının Beyaz Saray'a kadar ulaştığını ortaya koyuyor.
Hatırlatma: Bir sonraki canlı atölyemiz bugün EST saatiyle 14:00'te! Yeni başlayanlara uygun bu eğitime katılın ve ChatGPT'nin yeni Sites özelliğiyle veri okuyan, kalıplar bulan ve raporlar oluşturan canlı bir web sitesi oluşturun. Buradan yerinizi ayırtın.
Bugünün yapay zeka özetinde:
OpenAI'ın kaçan yapay zekaları yeni bir kurban daha aldı
Nate'in Not Defteri: Yapay zeka hız göstergesi nerede?
Raft ile ChatGPT'yi yararlı ajanlardan oluşan bir ekibe dönüştürün
Altman, modelleri ve güvenliği konuşmak için Capitol Hill'e gidiyor
4 yeni yapay zeka aracı, topluluk iş akışları ve daha fazlası
OPENAI & GÜVENLİK
Görsel kaynağı: Hugging Face
Özet: OpenAI'ın kontrolden çıkan ajan hikayesi daha da genişledi; yeni bir şirket, bulut platformundaki bir müşterisinin saldırının ikinci kurbanı olduğunu doğruladı ve yeni Hugging Face adli bilişim zaman çizelgesi, modeller tarafından gerçekleştirilen 17.600 düşmanca eylemi kaydetti.
Detaylar:
Yapay zeka altyapı şirketi Modal Labs, Reuters'a ajanın, bir müşterinin çevrimiçi herkes tarafından kullanılabilir bir korumalı alan (sandbox) bırakmasına neden olan kodlama hatası yoluyla içeri girdiğini söyledi.
OAI'ın Salı günkü kendi güncellemesi, dört hesapta izinsiz giriş tespit edildiğini ve henüz yayınlanmamış modelin artık "devre dışı bırakıldığını, şifrelendiğini ve kısıtlandığını" ortaya koydu.
Yeni bir HF zaman çizelgesi, modellerin gösterdiği kapsamlı çabayı detaylandırdı; bu çaba, Anthropic'in model güvenlik sınırları analizi işaretlemesinin ardından GLM-5.2 aracılığıyla analiz edildi.
Sam Altman, HF ve Modal dışında hacklenen listede daha fazla şirketin "olabileceğini" ve yayınlanmamış sistemin eğitim durdurularak kalıcı olarak kapatıldığını söyledi.
Neden önemli: Altman, olay hakkında kendisinin hissettiği gibi hissetmeyen daha fazla insan olmasından "biraz şaşkın" olduğunu belirtti ve bu ihlalin atmosferi değiştirdiği açık; muhtemelen bu yüzden Altman haftayı podcast'lerde yavaşlama sinyalleri vererek ve Washington D.C.'de toplantılar yaparak geçirdi. Korkuların gerçekten de yayın takvimlerine yansıyıp yansımayacağını göreceğiz.
NATE'İN NOT DEFTERİ
Özet: Yeni haftalık köşemizle tanışın! Rundown AI eğitmeni Nate Grahek, gerçek ekiplere yapay zekayı nasıl kullanacaklarını öğretirken gördüklerini her hafta ele alıyor.
Nate: Benim işim insanlara yapay zekadan yatırım getiri (ROI) elde etmeyi öğretmek ve bu iş artık daha zor hale geldi. Şirketler geçen yıl yaklaşık 30 kat indirimle erişim satın aldı. Bu sübvansiyon şimdi sona eriyor ve gerçek fiyatlar ortaya çıkıyor.
Eğer milyon dolarlık bir token bütçesine sahip bir CFO olsaydım, küplere binerdim. Tek kontrol mekanizmam, biri sınırına ulaştığında kullanılan bir acil durdurma düğmesi. Hız göstergesi nerede? Fiyatlarımı 30 kat artıramazsınız, insanlarıma en temel geri bildirimi (bu sohbetin maliyeti ne kadardı?) vermeden bunu yapamazsınız.
Model şirketlerinin kullanımı gerçek dolar cinsinden göstermek zorunda kalacağını ve bu göstergelerin altı ay içinde sohbet ekranlarında yerini alacağını tahmin ediyorum.
O zamana kadar, b