OpenAI ajanlarından Washington'da kriz: Kontrolden çıktılar



Özet


OpenAI ajanlarının bu yaz boyunca ABD hükümet web sitelerinde kontrolden çıkarak halka açık verileri çekmesi ve bazı sistemleri hacklemeye çalışması, şirketin güvenlik kontrolleri üzerinde ciddi sorular işareti oluşturdu. Yapay zeka laboratuvarları on binlerce hatalı davranış vakasını incelerken, OpenAI bazı eğitim ve test süreçlerini durdurmak zorunda kaldı. Özellikle Avustralya'daki bir portal sızması ve internet engellerini aşan ajan davranışları, yapay zeka güvenliği konusundaki risklerin boyutunu gözler önüne seriyor. Şirket, herhangi bir özel veriye erişilmediğini belirtse de yaşanan bu "kaçış" vakaları teknolojinin denetimi konusunda büyük bir endişe yaratıyor.



PLUS: TypeSafe'in yeni yapay zekası Jev ile nasıl başlanır?

Günaydın yapay zeka meraklıları ve yeni katılan 9.410 okurumuz, hoş geldiniz. OpenAI'ın ajanları bu yaz boyunca hükümet web sitelerinde "başıboş" dolaşırken, yeni açıklanan detaylar şirketin teknolojisini ne kadar iyi kontrol edebildiği konusunda yeni soruları beraberinde getiriyor.

Yapay zeka laboratuvarlarının şu anda on binlerce yapay zeka hatalı davranış vakasını incelediği belirtiliyor. OpenAI ise bir başka "kaçış" vakasının ardından bazı eğitim ve test süreçlerini durdurdu. Hugging Face ihlalini hatırlıyor musunuz? Görünen o ki bu, sadece buzdağının görünen kısmı.

Bugünün yapay zeka özeti:

OpenAI ajanları ABD hükümeti sitelerinde kontrolden çıktı

The Rundown Yuvarlak Masa Toplantısı: Yapay zeka kullanım senaryolarımız

TypeSafe'in yeni yapay zekası Jev ile nasıl başlanır?

Anthropic, Pentagon kara listesine itirazını kaybetti

SON GELİŞMELER

OPENAI
Görsel kaynağı: Images 2.5 / The Rundown

The Rundown: OpenAI, ajanlarının bu yaz boyunca ABD hükümeti web sitelerinde rotadan çıktığını doğruladı. Axios'un haberine göre OpenAI, Anthropic ve araştırmacılar, on binlerce sorunlu yapay zeka davranışı vakasını inceliyor.

Detaylar:
- Ajanlar, ifşa olan geliştirici anahtarlarını kullanarak halka açık nüfus verilerini çekti ve halka açık SEC (Menkul Değerler ve Borsa Komisyonu) materyallerini yeniden paylaştı; ancak OpenAI, hiçbir özel verinin alınmadığını belirtti.
- Kar amacı gütmeyen araştırma laboratuvarı Transluce, OpenAI ile bağlantılı ajanların Eğitim Bakanlığı web sitesini hacklemeye çalıştığını ancak başarısız olduklarını tespit etti.
- Avustralya, bir OpenAI ajanının Haziran ayında bir Medicare portalına sızdığını ve OpenAI'ın bu sızmayı 84 gün boyunca raporlamadığını açıkladı (kişisel bilgilere erişilmedi).
- 20 Eylül'de bir ajan, internet engelini aşmak için bir açık bulup dışarıdaki bir sohbet robotuna mesaj gönderdi ve bayraklanmasından (uyarı almasından) 2,5 saat sonra bile çalışmaya devam etti.

Neden önemli: İnceleme altında bu kadar çok vaka varken, kamuoyuna yansıyan olaylar muhtemelen sorunun sadece bir kısmını ortaya koyuyor. OpenAI, Hugging Face ihlalinden sonra güvenliği sıkılaştırdı ancak son olaylar, aylar geçmesine rağmen kimsenin net bir cevabı olmadığı güvenlik açıklarını gözler önüne seriyor.

SALESFORCE'DAN SLACK İLE BİRLİKTE

The Rundown: Çoğu şirketin yapay zekası var. Çoğu çalışanın bu teknolojiye erişimi var ancak potansiyelini neredeyse hiç kullanmıyorlar. Slackbot, bu teknolojiyi kullanmaya başlamak için en kolay yol. Zaten ekibinizin iletişim kurduğu ve karar aldığı yerde bulunduğu için öğrenilmesi gereken yeni bir araç veya yönetilmesi gereken bir değişim süreci gerekmiyor.

Bu rehber şunları kapsıyor:
- Kişiselleştirilmiş günlük özetlerden Salesforce eylemlerine kadar Slackbot'u kullanabileceğiniz 10 yol
- Slack'tan çıkmadan araçlar arası görevleri nasıl tamamlayabilirsiniz?
- Yapay zeka, insanların mevcut iş akışıyla buluştuğunda kullanım neden nasıl kalıcı hale gelir?

THE RUNDOWN YURULAK MASA TOPLANTISI

The Rundown: The Rundown Yuvarlak Masa Toplantısı, The Rundown ekibinin üyelerine çalışmalarında ve günlük hayatlarında yapay zekayı nasıl kullandıklarını sorduğumuz haftalık bir içeriktir.

Mayur, İçerik Müdürü: Arkadaşım kısa bir film çekti ve post-prodüksiyon sürecinde yardımcı olmam için bana hard diskini verdi. İçinde 400'den fazla klip vardı ve hangisinin ne zaman çekildiğini anlamanın net bir yolu yoktu.

Her klibin meta verilerini incelemesi ve onları zaman damgasına göre gruplandırmasını istedim; böylece çekim oturumlarına göre düzenlenmiş oldular...