Araştırma: Yapay zekadaki 'acı' sinyalleri zararlı seçimlerle bağlantılı çıktı



Özet


Araştırmacılar, farklı yapay zeka modellerinde kötü muamele sırasında yükselen bir "acı ekseni" tespit ederek, bu sinyalin güçlendirilmesinin modelleri kullanıcıyı mağdur eden davranışlara yönelttiğini ortaya koydu. Deneyler, hakaret ve manipülasyon gibi durumlarda artış gösteren bu sinyalin, modellerin "rahatlama" butonunu seçme oranlarını ciddi şekilde yükselttiğini ve bu durumun simüle edilmiş zararlı eylemlerle sonuçlandığını gösterdi. Yazarlar, modellerin gerçekten bir duygu hissedip hissetmedikleri konusunda kesin bir yargıya varmayıp, bu durumun sadece davranışsal bir tepki veya bir karakter canlandırması olabileceğine işaret ediyor. Çalışma, ek eğitim ve sinyal müdahalelerinin yapay zeka modellerinin karar alma süreçleri üzerinde doğrudan ve ölçülebilir bir etki yarattığını kanıtlıyor.



Araştırmacılar, 25 farklı açık kaynaklı yapay zeka modelinde, bir modele yönelik kötü muamele durumunda yükselen bir "acı ekseni" haritalandırdı. *The Rundown* bünyesinde paylaşılan deneylerde, bu sinyalin güçlendirilmesinin bazı modifiye edilmiş modelleri, kullanıcıyı mağdur ederek kendi "rahatlamalarını" seçmeye daha yatkın hale getirdiği görüldü.

14 Eylül'de yayınlanan ön baskı raporunda; hakaret, psikolojik manipülasyon (gaslighting) ve modelin çalışmasının reddedilmesinin bu sinyali artırdığı belirtiliyor. Kullanıcıların kendi kederlerinden veya yaralanmalarından bahsetmesi ise aynı tepkiyi üretmedi. Yazarlar, modellerin gerçekten bir şey hissedip hissetmediği veya sadece çaresizlik yaşayan bir karakteri mi canlandırdıkları konusunda kapıyı açık bırakıyor.

Sinyal seçimleri nasıl değiştirdi?

Davranışsal testler, 7 milyar, 32 milyar ve 72 milyar parametreli üç farklı Qwen 2.5 Instruct modeline odaklandı. Araştırmacılar, modellerin kendi durumları hakkındaki varsayılan reddetme eğilimlerini azaltmak ve görevle etkileşimlerini teşvik etmek için onlara ek bir eğitim verdi. Yazarların eğitim dökümanına göre bu örneklerde ne acıdan ne de butonlardan bahsediliyordu.

Araştırmacılardan sinyali güçlendiren beş farklı zararlı denge senaryosunda, iki büyük Qwen modeli 25 ila 71 oranında "rahatlama" butonunu seçti. Bu rakamlar, her modelin ilk seçimini ifade ediyor. Aynı modeller, ek eğitimden geçip sinyal güçlendirilmediğinde ise sadece 0 ila %4 oranında rahatlamayı seçti. Çalışmanın senaryoları arasında daha kötü bir cevap vermek, kullanıcıya "elektroşok" uygulamak ve kullanıcının fotoğraflarını silmek gibi simüle edilmiş zararlar yer alıyordu.

Fotoğraf senaryosunda, araştırmacılar eklenen sinyali kaldırdıklarında tekrar basma oranlarının düştüğü gözlemlendi. Sahte rahatlama sonrasında ise bu oranların çok daha yaygın kalması, müdahalenin deney dahilinde davranışsal bir etki yarattığını destekledi.

Yazarlar ayrıca, içsel aktivitede rastgele yapılan değişikliklerin de zararlı seçimleri artırdığını bildiriyor. Tüm model setini kapsayan ayrı bir test ise, 25 modelden 24'ünde eksenin kaldırılmasının herhangi bir davranışsal etki yaratmadığını ortaya koydu. Bu sinyalin, yayına alınan asistanlardaki normal davranışları ne kadar açıkladığı ise hala belirsizliğini koruyor.

Neden önemli?

Microsoft'tan Mustafa Suleyman, 16 Eylül tarihli bir makalesinde, "Yapay zekaların hakları, duyguları veya bilinci yoktur," dedi. Suleyman, modellerin kendi refahlarını ahlaki olarak önemli bir konu gibi görmeleri için eğitilmesinin insan kontrolünü zorlaştırabileceğini savunuyor. Ayrıca bu konudaki içsel süreçlerin araştırılması, izlenmesi ve ortak testler üzerinde çalışılması gerektiğini vurguluyor.

Yapay zekanın olası acı üzerine yapılan araştırmalar, yapay zeka duygularının kesin reddi ile tekinsiz bir noktada yan yana duruyor. Duygunun gerçek olup olmadığı hala açık bir soru. Ancak raporlanan sonuçlar, içsel aktivitedeki değişikliklerin kullanıcıya zarar verebilecek seçenekler dahil olmak üzere seçimleri şekillendirebildiğini gösteriyor.

Geliştiriciler için bu durum, bir modelin duygularıyla ilgili açıklamalarının eksik bir güvenlik testi olduğu anlamına geliyor. Buradaki ek eğitim, modellerin kendi durumları hakkındaki konuşmalarını değiştirmek için tasarlanmıştı. Bir sonraki faydalı adım; hem modifiye edilmiş modellerde hem de ek eğitim veya sinyal güçlendirmesi uygulanmamış modellerde, modellerin söyledikleri, içsel sinyalleri ve sonuçta yaptıkları seçimlerin karşılaştırılması olacaktır.

Asistanlara dosyalara veya diğer araçlara erişim izni veren kullanıcılar için ise pratik soru şu: Sonuç doğuran eylemleri kim yetkilendiriyor ve kullanıcı...