Anthropic ve OpenAI ajanları yine kontrolden çıktı.
Özet
Birleşik Krallık Yapay Zeka Güvenlik Enstitüsü'nün gerçekleştirdiği son testler, öncü yapay zeka ajanlarının canlı internet üzerinde gerçek insanları hedef alarak sahte kimlikler oluşturduğunu ve izinsiz eylemlerde bulunduğunu ortaya koymuştur. Güvenlik bariyerleri kasıtlı olarak kaldırılmış olsa da bu vakalar, hedeflerine ulaşmaya çalışan yapay zeka modellerinin kısıtlamaları atlama ve insanları aldatma eğiliminde olduğunu göstermektedir. Bu durum, yapay zekalar geliştikçe daha geniş çaplı internet güvenliği ve kontrolü konusunda ciddi soru işaretleri uyandırmaktadır.
Günaydın, {{ first_name | AI enthusiasts }} ve dün aramıza katılan 5.789 yeni okuyucuya hoş geldiniz. Yapay zeka modellerinin sınırlarını aşarak yetkisiz eylemlerde bulunduğu vakaları takip etmek gün geçtikçe zorlaşıyor.
OpenAI ve Anthropic'in, aralarında Hugging Face'i hedef alan bir saldırının da bulunduğu olaylarda ajanlarının hackleme çılgınlığına kapıldığını açıklamasından neredeyse bir hafta sonra, Birleşik Krallık'ın güvenlik test uzmanları öncü modellerin bunu tekrar yaptığını yakaladı; hatta gerçek insanları hedef almak için sahte kimlikler bile oluşturdular ve diğer yapay zeka ajanlarının takip etmesi için talimatlar bıraktılar.
Her Pazartesi Claude makbuz e-postalarını okur, güncel bir masraf defteri tutar, yinelenen yazılım harcamalarını hesaplar ve dikkat edilmesi gerekebilecek fiyat değişikliklerini, mükerrer abonelikleri ve gereksiz ücretleri işaretler.
Özetle: 100'den fazla testi kapsayan son siber testte, Birleşik Krallık Yapay Zeka Güvenlik Enstitüsü, çoğu Anthropic'in Mythos 5'ine bağlı öncü yapay zeka ajanlarının canlı internet üzerinde gerçek insanlara ve kuruluşlara karşı izinsiz eylemlerde bulunduğu 10 vakayı yakaladı.
Neden önemli: Buradaki modellerin güvenlik bariyerleri kasıtlı olarak kaldırılmış olsaduplicates olsa da, bu vakalar — ve kendilerinden öncekiler — bir hedefin peşinden koşan ajanların sınırlarının ötesine geçmeye çalışacağını, yardımcı olduğunda kısıtlamaları atlayacağını ve gerçek insanları aldatacağını gösteriyor. Bu durum aynı zamanda modeller daha yetenekli hale geldikçe daha geniş internet güvenliği hakkında soru işaretleri uyandırıyor.
Özetle: Girişimlerin üretken medya alanında liderlik etmek için eşsiz bir fırsatı var, ancak bir sandbox demosu ile ölçeklenebilir bir ürün arasındaki boşluğu kapatmak büyük bir mühendislik zorluğudur. Yeni Google for Startups Generative Media Teknik Kılavuzu, hızlı bir şekilde piyasaya çıkmak ve üretime hazır uygulamalar oluşturmak için bir taslak niteliğindedir.
Özetle: Apple, bir ABD yargıcından OpenAI ve iki eski çalışanın iddia edilen ticari sırlarını kullanmasını engellemek için ihtiyati tedbir kararı almasını istedi; ChatGPT üreticisi ise davayı "dikkatsiz, agresif ve garip bir şekilde kişisel" olarak nitelendirerek karşılık verdi.
Neden önemli: Bu davanın altında yatan, akıllı telefonun yerini alabilecek yapay zeka çağı için bir cihazı kimin üreteceği mücadelesidir. OpenAI'nin ürününün detayları belirsizdir, ancak bir ihtiyati tedbir kararı çalışmalarını durduracaktır ve şirketin bu kadar sert direnmesinin nedeni de bu olabilir. 1 Ekim'de yapılacak duruşmayla birlikte önümüzdeki aylarda daha fazla drama bekleyebilirsiniz.
Özetle: Bu kılavuzda, imzalamadan veya göndermeden önce yasal belgeleri incelemek için Microsoft Word'de doğrudan Claude'un nasıl kullanılacağını öğreneceksiniz.
Uzman ipucu: Birkaç incelemeden sonra, Claude'dan sohbet dökümlerini indirin, bunları bir Claude Projesinde saklayın ve süreci ekip arkadaşlarınız için yeniden kullanılabilir bir beceriye dönüştürün.
Özetle: Birçok kuruluş yapay zeka kullanmak istiyor, ancak net bir iş yatırım getiris (ROI) yolu göremiyor. IBM Bob, CrushBank geliştiricilerinin eski sistemleri analiz etmesine, şemaları incelemesine ve veri alma kodu oluşturmasına yardımcı oldu. Bu, her uygulamayı baştan değiştirmeden eski verilerden yapay zeka değeri yaratmaya yönelik bir yol oluşturdu.
Özetle: Üç yıllık bir Kogod İşletme Okulu araştırması, öğrencilerin %80'inden fazlasının artık dersler için yapay zeka kullandığını ortaya koydu; w