Nvidia CEO'sunu Hedef Alan Casusluk Planının Perde Arkası



Özet


Yazar, "Agentimden gönderildi" ifadesinin kişisel ilgisizlik ve saygısızlık olarak algılandığını savunarak, insan ilişkilerinde doğrudan iletişimin önemine dikkat çekiyor. İş niteliği taşıyan görevlerin ajanlara devredilmesi gerektiğini kabul etse de, sosyal medya ve işe alım gibi doğrudan temas gerektiren alanlarda kişisel dokunuşun kritik olduğunu belirtiyor. Yapay zeka dünyasında değer kazanan "AI sezgisi" kavramına vurgu yapan yazar, insan ilişkilerini riske atan otomatikleşmiş iletişim yöntemlerinitenizliyor. Sonuç olarak, güveni korumak adına teknik işleri ajana, duygusal ve kişisel bağ gerektiren süreçleri ise bizzat insana bırakmayı öneriyor.



ROWAN’S CORNER

(Tweet için @gregisenberg'e teşekkürler)

Rowan: “Agentimden gönderildi” ifadesi, yeni “iPhone’dan gönderildi” ibaresi haline geliyor. Bu, arkadaşım Greg Isenberg'in son zamanlarda yaptığı ve büyük tartışmalara yol açan bir tweet.

Aslında, “iPhone’dan gönderildi” ifadesi, birine telefondan e-posta atarken yapılan yazım hatalarını ve düzensiz formatı affettirmek için bir yöntem olarak ortaya çıktı. Ancak birisi “Agentimden gönderildi” yazdığını gördüğünde, aslında aldığı asıl mesaj şudur: Seninle ilgilenmeye değer değildim.

Burada ciddi bir gerilim var (benim için de dahil). Şu an için elimizdeki en büyük kozlar ajanlar ve ben haftalık en az birkaç saatimi kurtarmak için birçok işi onlara devrediyorum. Ancak aynı zamanda, ekstra çaba gösterip bir şeyi bizzat kendinizin yazmasının karşıdaki insana duyulan bir saygı göstergesi olduğuna da inanıyorum.

Benim prensibim şu:

İnsanlarla doğrudan temas kuran her şey benimle ilgili — sosyal medya paylaşımları, mesajlar, işe alım görüşmeleri, canlı videolar.

Bir "iş" niteliği taşıyan her şeyi ise bir ajan yapabilir.

Ayrıca, AI geliştikçe gerçek insan ilişkilerinin değerinin daha da artacağına dair büyüyen bir fikrim var. Bu güveni riske atan her şey muhtemelen kötü bir alışveriştir. Şahsen, “agentimden gönderildi” ibaresini gördüğüm e-postayı siliyorum.

Daha önce, bu on yılın en önemli becerisinin "AI sezgisi" olduğunu, yani hangi görevlerin AI'ya devredileceğini bilmenin kritik olduğunu yazmıştım; bu bunun mükemmel bir örneği. İnsanlarla iletişim kurduğunuz her yer hariç, her yerde ajanları kullanın.

Siz de e-postalarınıza yanıt vermek için ajanlar kullanıyor musunuz yoksa insan dokunuşunun bir saygı göstergesi olduğunu mu düşünüyorsunuz? E-postanın altındaki ankete katılın, çok merak ediyorum!

ANTHROPIC / AI GÜVENLİĞİ

Görsel kaynağı: Anthropic

Özet: Anthropic, Claude'un her yanıttan sonra sohbeti gözden geçirdiği ve potansiyel kötü kullanımları işaretlediği "öz değerlendirme" (self-assessment) yöntemini tanıttı. Haziran ayından beri aktif olan bu sistem, normalde gözden kaçabilecek büyük ölçekli suistimalleri yakalayabiliyor.

Detaylar:

Claude, her konuşmaya hızlı bir güvenlik kararı veriyor (zararlı olup olmadığı, ne tür bir zarar içerdiği ve aciliyet düzeyi). Bu da insanların incelemesi için vakaların önceliklendirilmesine yardımcı oluyor.

Claude Fable 5 üzerinde sistem, daha güçlü bir sınıflandırıcı tarafından işaretlenen potansiyel zararlı konuşmaların %78'ini ve yüksek öncelikli olanların %94'ünü, %1'lik yanlış pozitif oranıyla yakalıyor.

Sistem, tek bir API müşterisinden gelen ve yetkililere bildirilen 100 binden fazla çocuk istismarı ihbarının yanı sıra, Claude Code üzerinden yürütülen otomatik bir romantik dolandırıcılık operasyonunu da ortaya çıkarmaya yardımcı oldu.

Anthropic, bu yöntemin tek başına yeterli bir engelleyici olmadığını, "red-team" testlerinde saldırı başarı oranını %79'dan %54'e düşürdüğünü ancak başarılı her saldırının maliyetini yaklaşık 4 kat artırdığını kabul ediyor.

Neden önemli: Anthropic'in kendi raporlarında Claude'un siber saldırılar ve silah geliştirme gibi konularda kötüye kullanıldığını göstermesinin ardından, yapay zekanın kendi sohbetlerindeki kötü kullanımları kontrol edip işaretlemesi hoş karşılanan bir katman oldu. Claude her yargıda bildiği her şeyi kullanıyor ancak aynı kör noktalara da sahip olabilir; bu da sistemin (şimdilik) hatasız olmadığı anlamına geliyor.

GÜNÜN TOPLULUK AI ÇALIŞMA AKIŞI

▸ Michael, Claude Cowork kullanarak 3D ev tasarımı uygulaması geliştirdi

Bugünün çalışma akışı okuyucumuz Michael Saif'ten geliyor:

"Ev yapımına hazırlanan bir arkadaşım için bu web uygulamasını geliştirdim. Uygulama, bitiş malzemelerini görmenizi sağlıyor..."