Anthropic’ten Claude güvenlik önlemleri nedeniyle Pentagon engelini aşma davasında ret kararı



Özet


Federal bir üst mahkeme, Anthropic firmasının Claude modeline getirdiği kısıtlamalar nedeniyle Pentagon'un şirketi kara listeye alma kararını 2-1 oyla onayladı. Mahkeme, Anthropic'in kötü niyetli olmadığını kabul etse de ilgili yasada bir niyet şartı aranmadığını ve bu tür güvenlik önlemlerinin askeri güvenilirliği zayıflatabileceğini belirtti. Şirket yönetimi kısıtlamaların güvenilirlik odaklı olduğunu savunurken, mahkeme kararı Pentagon'a tedarik zinciri risklerini değerlendirme konusunda geniş bir yetki tanıyor. Anthropic karara katılmadığını bildiren firma, süreci tekrar gözden geçirmeyi planlarken bu gelişme Pentagon'un askeri yapay zeka müzakerelerindeki elini güçlendiriyor.



Federal bir üst mahkeme, 25 Eylül'de Anthropic'in Claude modeline getirdiği "tam otonom silahlar" ve "kitlesel iç gözetleme" kısıtlamaları nedeniyle Pentagon'un şirketi kara listeye alma kararını onayladı. The Rundown'un bildirdiğine göre, 2-1 kararla verilen bu onay, Pentagon'a söz konusu güvenlik önlemlerini bir tedarik zinciri riski olarak değerlendirme yetkisi tanıyor.

Washington D.C. Bölge İştigal Mahkemesi, mevcut kayıtların bu kararı "tamamen desteklediğine" hükmetti. Çoğunluk görüşü, Anthropic'in kötü niyetli olmadığını kabul etse de, ilgili yasanın bu tür bir niyet şartı aramadığını belirtti. Hakimler, Claude'un kısıtlamalarının ve sözleşme şartlarındaki belirsizliğin askeri güvenilirliği zayıflatıp zayıflatamayacağına odaklandı.

Claude'un kısıtlamaları hakkındaki anlaşmazlık

CEO Dario Amodei, 26 Şubat'ta yaptığı açıklamada; Anthropic'in kitlesel iç gözetleme ve tam otonom silahlar üzerindeki kısıtlamalarını korurken, askeri ve istihbarat uygulamalarını desteklediğini belirtmişti. Amodei, silah kısıtlamasının nedenlerini "güvenilirlik" ve "insan gözetimi" olarak sıralamış; mevcut uygulamaların ise istihbarat analizi, operasyonel planlama ve siber güvenlik alanlarında olduğunu ifade etmişti.

Aşağıdaki muhalif görüşü sunan Hakim Karen LeCraft Henderson ise çoğunluğun kanun yorumuna itiraz etti. Henderson, ilgili kanunun "aldatıcı müdahaleleri" hedef aldığını savunarak, bir yüklenicinin açıkça uyguladığı kısıtlamaların bu tür bir davranış olarak değerlendirilmesine karşı çıktı.

Bu karar, farklı yasalar kapsamında verilen iki Pentagon kararnamesinden birini kapsıyor. Kaliforniya'daki bir hakim, 27 Ağustos'ta diğer kararnamenin iptaline karar vermişti ve bu emir Anthropic üzerindeki daha geniş kısıtlamaları engelliyordu.

Anthropic, karara katılmadığını ve 25 Eylül'de süreci tekrar gözden geçirmeyi düşündüğünü açıkladı.

Neden önemli?

Bu karar, Pentagon'un askeri yapay zeka konusundaki müzakerelerde elini güçlendiriyor. Çoğunluğun yorumuna göre, bir tedarikçi iyi niyetle hareket etse bile, kendi güvenlik önlemleri Pentagon tarafından bir "operasyonel risk" olarak görülürse dışlanabilir. Dolayısıyla, bir şirketin güvenlik politikası savunma projelerinden el çektirilmesine neden olan bir gerekçe haline gelebilir.

Bu durum, yapay zeka şirketlerini, kendileri için elzem gördükleri kısıtlamaları esnetmeye zorlayabilir. Anthropic, Şubat ayında Pentagon'un iş birliğini sürdürmek için iki kısıtlamayı da esnetmesini talep ettiğini söylemişti. Savunma sözleşmelerini değerlendiren şirketler, bu işi kaybetmeyi göze alarak hangi güvenlik önlemlerini koruyacaklarına karar vermek zorunda kalabilirler.

Onaylanan kara liste kararı, yükleniciler dahil Pentagon'un tedarik zinciri çalışmalarını kapsıyor. Bu çalışmalarda Claude modeline bağımlı olan firmalar için asıl soru, hangi sözleşmelerin ve planlanan konuşlandırmaların bu kapsamda kaldığıdır. Bu durum, hukuki anlaşmazlığı sadece Anthropic'i değil, model üzerine hizmetler inşa eden tedarikçileri de ilgilendiriyor.

Diğer sözleşme yapıları ise müzakere alanı sunabilir. 28 Şubat'ta duyurulan ve 2 Mart'ta güncellenen açıklamada OpenAI, Pentagon ile yapılan anlaşmasının; bulut üzerinden konuşlandırma, güvenlik sistemleri, güvenlik yetkisi olan personel ve sözleşme şartları aracılığıyla kitlesel iç gözetleme ve otonom silahlar üzerindeki kısıtlamaları koruduğunu belirtti. Şirket ayrıca, güvenlik sistemleri üzerindeki kontrolü elinde tuttuğunu ve bunları sonlandırabileceğini de ifade etti.