Bugün öğrendim ki: Bir Deniz Piyadeleri mangası, yapay zeka destekli bir kamerayı "tespit edilmeden" geçmeyi başardı. İkisi 300 metre boyunca takla attı, bir diğer çift karton kutu taklidi yaptı ve bir adam da çalı taklidi yaptı. Yapay zeka, hiçbirini tespit edemedi.
Yapay zekâ çok şey yapabilir. Büyük bir veri kümesi verildiğinde, ortalama bir istihbarat analistinden daha hızlı bilgi işleyebilir. Ancak bazı konularda yapay zekânın, Deniz Piyadeleri istihbaratının gerisinde kaldığı açıkça görülüyor.
Paul Scharre’nin yeni kitabı “Dört Savaş Alanı: Yapay Zeka Çağında Güç”te, Scharre, yeni yollar bularak gizlice hareket edip tespitten kaçınan bir grup Deniz Piyadesi tarafından sekteye uğratılan bir yapay zekâ deneyinin hikayesini anlatıyor. Deniz Piyadeleri sadece bir günde, insanları tanımlamak için tasarlanmış bir yapay zekâ sistemine yaklaşmanın en iyi yolunun, insan gibi görünmemek olduğunu anladı.
Pratik anlamda, bu bir ağacın arkasına geçmek veya sadece kafalarına bir karton kutu geçirmek anlamına geliyordu.
Bahsi geçen yapay zekâ, Savunma İleri Araştırma Projeleri Ajansı'nın (DARPA) Squad X programı tarafından geliştirildi. DARPA'ya göre, teknoloji “bir müfrezenin durum farkındalığını maksimize ederken, otonom sistemler müfrezelerin savaş alanlarını ve etki alanlarını genişletmelerine olanak tanıyor.”
Scharre, “DARPA'nın üzerinde çalıştığı şey, karmaşık kentsel ortamlarda insanları tanımlama ve müfrezeye yaklaşan insanları algılama yeteneğini geliştirmekti” dedi.
Phil Root, DARPA'da Savunma Bilimleri Ofisi müdür yardımcısı olarak Scharre'ye şunları anlattı: “Bir tank hareket halindeyken bile bir tanka benzer. Yürüyen bir insan, ayakta duran bir insandan farklı görünür. Silahlı bir insan da farklı görünür.”
Yapay zekayı eğitmek için, altı gün boyunca önünde yürüyen bir grup Deniz Piyadesi biçiminde verilere ihtiyaç duyuyordu. Ancak yedinci gün, makineyi sınama zamanıydı.
Root kitapta, “Eğer herhangi bir Deniz Piyadesi tespit edilmeden gelip bu robota dokunabilirse kazanacaktı. Bakmak istedim, oyun başladı, ne olacağını görmek istedim” dedi.
Ve Root'un dediği gibi oyun başladığında, “Sekiz Deniz Piyadesi - tek bir tanesi bile tespit edilmedi.”
Kitaba göre iki Deniz Piyadesi sensöre yaklaşmak için 300 metre boyunca takla attı. Başka bir çift karton kutunun altında saklandı.
Root kitapta, “Bütün süre boyunca kıkırdamaya devam ettiklerini duydum” dedi.
Bir Deniz Piyadesi bir köknar ağacını soydu ve sensöre yaklaşırken önüne tuttu. Sonuç olarak, yapay zekâ yürüyen bir insanı tanımlamayı biliyordu, ama bu pretty much tek bildiği şeydi, çünkü tespit etmesi için sadece bunun modeli yapılmıştı.
Scharre Task & Purpose'a şunları söyledi: “Bir algoritma kırılgan ve bundan çıkarılacak sonuç, her zaman bu uç durumlar olacağıdır. Askeriye için asıl sorun, doğal olarak düşmanca bir ortamda faaliyet göstermesidir ve insanların her zaman evrimleşme yeteneği olacaktır.”
Scharre kitabında yazdığı gibi, dağılımsal kayma, bir yapay zekânın bir veri kümesi üzerinde eğitilmesi ve daha sonra yeni bir şeyi yorumlamaya zorlanmasıdır. Bir yapay zekâ, etrafta dolaşan insanların verileri üzerinde eğitilmişse, takla atan bir kişi tarafından kandırılabilir. Ya da bir ağacın arkasından yürüyen. Ya da bir karton kutunun altında çömelen.
Scharre'nin yazdığı gibi, bir yapay zekâ belirli bir görevde insanlardan daha iyi performans gösterebilirken, insanlar “performansı yetkinlikle karıştırma” eğilimindedir. Başka bir deyişle, bir yapay zekâ bildiği şeyi yapmada çok iyi olabilir. Ancak yapay zekâ bilmediğini bilmez ve bilmediğini bilmesi gerektiğini de bilmez.
Scharre, “İnsanlar dünyayı çok daha zengin bir şekilde anlama eğilimindedir” dedi.
Scharre Task & Purpose'a, yapay zekânın hızla gelişen bir alan olduğunu ve bu testin sonuçlarının 2023'teki yeteneklerini göstermediğini söyledi. Askeriye için zorluk, “yapay zekâ teknolojisinin yapabileceklerini hızla entegre etmek için doktrin oluşturmaktır.”
Ancak Deniz Piyadeleri ile yapay zekâ arasında, Deniz Piyadeleri yenilmezliğini koruyor.
Scharre’nin “Dört Savaş Alanı: Yapay Zeka Çağında Güç” adlı kitabı 28 Şubat'ta yayınlanacak.