Anthropic Beyaz Saray'a giriyor ve Mythos, Washington'ın buna izin vermesinin nedeni.
Özet
Anthropic CEO'su Dario Amodei'nin Beyaz Saray'da gerçekleştirdiği görüşme, Trump yönetiminin şirket hakkındaki olumsuz tutumunda çarpıcı bir siyasi geri dönüşe işaret ediyor. Daha önce "tedarik zinciri riski" olarak tanımlanan Anthropic, Mythos adlı yapay zeka modelinin siber güvenlik alanındaki üstün ve benzersiz yetenekleri sayesinde devlet nezdinde tekrar kabul gördü. Bir federal mahkemenin yönetimin kısıtlayıcı direktifini durdurmasıyla, şirketin sivil kurumlarla çalışması güvence altına alındı. Mythos'un otonom şekilde yazılım açıklarını tanımlama becerisi, şirketin siyasi süreçteki konumunu değiştiren temel faktör olarak öne çıkıyor.
Bu ayın başlarında Project Glasswing'i ele aldığımızda konu, halka açık olarak yayınlanamayacak kadar tehlikeli bir model ve Anthropic'in bunun yerine onunla ne yapmaya karar verdiği hakkındaydı. O hikaye artık değişti.
Cuma günü, Anthropic CEO'su Dario Amodei, Beyaz Saray Özel Kalem Müdürü Susie Wiles ile görüşmek üzere Batı Kanadı'na girdi. Hazine Bakanı Scott Bessent da odadaydı. Beyaz Saray görüşmeleri "verimli ve yapıcı" olarak nitelendirdi. Anthropic de aynı şeyi söyledi. Bir muhabir Phoenix'teki bir pistte Başkan Trump'a ziyareti sorduğunda, Trump "Kim?" diye yanıt verdi ve Amodei'nin orada olduğundan "haberi olmadığını" söyledi.
Bu detay bir yana, toplantının kendisi, yakın yapay zeka tarihindeki en çarpıcı siyasi geri dönüşlerden biri. Sadece birkaç hafta önce Trump yönetimi, Anthropic'i genellikle yabancı düşmanlar için ayrılan bir tanımlama olan "tedarik zinciri riski" ilan etmiş ve Trump bizzat yönetimin "onlarla bir daha iş yapmayacağını" söylemişti.
San Francisco'daki bir federal yargıç, o günden bu yana söz konusu direktifin uygulanmasını durdurdu ve dava süreci devam ederken Anthropic'in askeri olmayan kurumlarla çalışma uygunluğunu korumasını sağladı. Pentagon ile olan anlaşmazlık ise hala tüm canlılığıyla devam ediyor.
Hesapları değiştiren şey -en azından Beyaz Saray düzeyinde- Anthropic Mythos yapay zekasının siber güvenlik yeteneğiydi. Daha spesifik olarak, kurumların Mythos'un başka hiçbir aracın yapamadığı şeyleri yaptığını izledikleri ve bunu görmezden gelmeye istekli olmadıkları gerçeği etkili oldu.
Model ve siyaset
Anthropic, Project Glasswing'i tanıttığında bildirdiğimiz gibi, Mythos Preview özel olarak güvenlik çalışmaları için eğitilmemişti. Yazılım açıklarını otonom bir şekilde tanımlama ve bunlardan yararlanma yeteneği, akıl yürütme ve kodlama alanındaki genel iyileştirmelerden ortaya çıktı ve kullanıma sunulduğundan bu yana buldukları oldukça dikkat çekiciydi.
Dahili testler sırasında Mythos, OpenBSD'deki 27 yıllık bir hata ve FFmpeg'deki beş milyon kez otomatik testten geçmesine rağmen tespit edilemeyen 16 yıllık bir kusur da dahil olmak üzere, her büyük işletim sistemi ve web tarayıcısında daha önce bilinmeyen binlerce yüksek önem dereceli güvenlik açığı tespit etti.
Anthropic, modeli halka açmak yerine, sadece Project Glasswing aracılığıyla seçkin bir kuruluş grubuna sundu. AWS, Apple, Cisco, Google, Microsoft, Nvidia, CrowdStrike ve JPMorganChase gibi şirketlerin yer aldığı bu koalisyon, 100 milyon ABD dolarına varan kullanım kredisiyle destekleniyor. Model, kontrollü bir anlamda saldırı amaçlı kullanılıyor: Başkaları bulmadan önce güvenlik açıklarını bulmak.
ABD hükümeti bu koalisyonun faaliyetlerini izliyor ve dahil olmak istiyordu. Axios'a göre, istihbarat teşkilatları ve Siber Güvenlik ve Altyapı Güvenliği Ajansı zaten Mythos'u test ediyor ve Hazine Bakanlığı da ilgi gösterdi. Hazine ve diğer hükümet kurumları Glasswing listesine katılmaya ilgi duyduklarını belirttiler ve Cuma günkü Beyaz Saray toplantısından önce iki kaynak Axios'a bu doğrultuda bir anlaşmanın yakında sağlanabileceğini söyledi.
Ayrı bir Axios raporunda dile getirilen bir endişe, Mythos ve diğer ileri teknoloji yapay zekaların...