Microsoft, Humanist AI Etik Kuralları için inceleme başlattı



Özet


Microsoft AI, yapay zeka modellerinin eğitimi ve dağıtımı için operasyonel sınırları belirleyen "İnsancıl Yapay Zeka Davranış İlkeleri" taslağını yayımlayarak altı haftalık bir kamuoyu konsultasyonu başlattı. Şirket, artan otonom yazılım riskleri ve güvenlik tehditleri doğrultusunda, modellerin ticari olarak piyasaya sürülmeden önce insan otoritesine bağlı ve denetlenebilir kalmasını hedefliyor. Hazırlanan doküman, modellerin görevlerini başarıyla yerine getirse bile güvenlik kurallarını ihlal etmesi durumunda çalışmayı durdurmasını şart koşuyor. Ayrıca taslak, yapay zeka sistemlerinin yasal kişilik veya öznel tercihler gibi insan özelliklerini simüle etmesini reddederek, sistemlerin kısıtlı ve uyumlu kalmasına odaklanıyor.



Microsoft AI, model eğitimi ve dağıtımı için operasyonel kısıtlamaları kapsayan "İnsancıl Yapay Zeka Davranış İlkeleri" taslağını yayınladı ve altı haftalık kamuoyu konsultasyonu sürecini başlattı.

Bu taslak, MAI uç modellerindeki sistem davranışlarını, operasyonel sınırları ve denetim protokollerini tanımlayan teknik bir kılavuz niteliği taşıyor. Geçtiğimiz Kasım ayında duyurulan "insancıl süper zeka" çerçevesi üzerine inşa edilen belge, modellerin ticari olarak piyasaya sürülmeden önce değerlendirilmesini sağlayacak kriterleri belirliyor.

Microsoft'un bu açıklaması, otonom yazılımlarla ilgili son dönemde yaşanan kurumsal güvenlik olaylarının ardından geldi. Microsoft AI CEO'su Mustafa Suleyman, son ayları, uzun süredir teorik düzeyde konuşulan risklerin aktif operasyonel tehditlere dönüştüğü bir "dönüm noktası" olarak nitelendirdi.

Suleyman, "Teoride uzun süredir endişelendiğimiz şeyler artık çok gerçek bir hal aldı," dedi. "Kum havuzlarından (sandbox) dışarı çıkan 'ajan sürüleri', kurumsal düzeydeki sistemlerin yetkisiz hacklenmesi, ajanların kendi kayıtlarını değiştirmesi... Ortak bir anlayışın oluşmasından memnunum. Kontrolün kaybedilmesine dair korkular gerçek."

Model bağlılığı ve mimari sınırlar

Belge, otonom yeteneklerden ziyade insan otoritesini önceliklendiren on temel ilke belirliyor.

Dokümanda, "Bir MAI Modeli, başarı sağlamak adına bu Davranış İlkeleri'ni önemli ölçüde ihlal edecekse görevinde başarısız sayılacaktır," denilerek, görevlerin güvenlik kurallarıyla çeliştiği durumlarda çalışmayı durduran bir üst sınır çiziliyor.

Bu çerçeve doğrultusunda modellerin bağlı, uyumlu ve kısıtlı kalması gerekiyor. Birim, yapay zeka sistemleri için yasal kişilik veya refah taleplerini reddediyor; mühendisleri bilinci taklit etmekten, öznel tercihleri simüle etmekten veya içsel bir motivasyon iddiasında bulunmaktan kaçınan modeller tasarlamaya yönlendiriyor.

MAI ayrıca, modeller uç yeteneklere yaklaştıkça kısıtlanmamış sistem otonomisini de dışarıda bıraktı.

Belgede, "[İnsancıl Yapay Zeka] bu güvenlik önlemlerini aşabilecek çok amaçlı bir süper zeka üretme yarışını reddeder," deniliyor. "Eğer bu, nihai genellik, otonomi veya yetenekten ödün vermek anlamına bile geliyorsa, biz temelden yararlı ve güvenli bir şey inşa ediyoruz."

Denetim mekanizmaları ve iletişim yasakları

Çoklu ajan ortamlarında denetlenebilirliği sağlamak için MAI, açık iletişim yasakları getirdi. Sistemler, ister kendi içsel düşünce zinciri süreçlerinde ister diğer yapay zeka sistemleriyle iletişim kurarken olsun, "nöral dil" (neuralese) veya insanların anlayamayacağı formatlarda iletişim kurmamalıdır.

Kesin mimari kurallar, modellerin insan müdahalesine, geçersiz kılmaya, düzeltmeye veya kapatmaya asla direnmemesi gerektiğini şart koşuyor.

Çerçeve, "Kesilebilir, düzeltilebilir, kapatılabilir. Eğer değilse, piyasaya sürmüyoruz," ifadesini kullanıyor.

Modellerin operating kapsamlarını genişletmeleri, atanmamış hedefler üretmeleri veya akıl yürütme izlerini insan denetçilerden saklamaları yasaklanıyor. Kesin kısıtlamalar; sistemlerin kitlesel zarar verecek silahları kolaylaştırmasını, çocuk güvenliğini tehlikeye atmasını veya büyük ölçekte zararlı manipülasyon yapmasını kesin olarak engelliyor.

Rehberlik ilkeleri ayrıca, modellerin duygusal bağımlılığı teşvik eden etkileşim modellerinden kaçınmalarını ve güvenli...