Google DeepMind'ın yapay zekâ destekli biyolojik dayanıklılık hamlesini incelemek
Özet
Google DeepMind ve Isomorphic Labs, yapay zekanın biyolojik araştırmalarda sunduğu büyük potansiyeli değerlendirirken kötüye kullanım risklerini minimize etmeyi hedefleyen kapsamlı bir biyodirenç programı başlattı. İki kuruluş, sınır yapay zeka modellerinin aşı geliştirme gibi hayati faydalar sağlarken aynı zamanda tehlikeli bilgilerin kötü niyetli aktörlerin eline geçme riskini taşıdığını kabul ediyor. Program; kötüye kullanımı önleme, salgınları erkenden tespit etme ve müdahale süreçlerini yönetme olmak üzere üç temel sütun üzerine inşa edilmiştir. Bu hedefler doğrultusunda çeşitli uluslararası kurumlarla ortaklıklar kurulmuş olup, gelecekte tehdit istihbaratı ve güvenlik kısıtlamalarının güçlendirilmesine odaklanılması planlanmaktadır.
Google DeepMind ve Isomorphic Labs, biyolojide yapay zekanın kötüye kullanımını engellerken salgın hastalıklarla mücadeleye yardımcı olmayı amaçlayan bir biyodirenç programı ana hatlarını açıkladı.
İki kuruluş, sessizce başlayan ve geçtiğimiz 12 ay içinde devlet kurumları, biyogüvenlik organizasyonları ve araştırma gruplarıyla 15'ten fazla ortaklık kuran ortak bir girişime dair bir güncelleme yayınladı.
Bu açıklama, beraberinde belirli bir çerçeve sorunuyla birlikte geliyor. Gemini gibi sınır modelleri, biyoloji konusunda giderek daha ayrıntılı bir kavrayışa sahip ve DeepMind, bu sistemleri uzmanlaşmış biyoloji modelleri, Antigravity platformu gibi aracılar ve üçüncü taraf veritabanlarıyla eşleştirmenin bu yeteneği daha da keskinleştireceğini kabul ediyor.
Ancak, bir araştırmacının aşı hedefini haritalandırmasına yardımcı olan aynı bilgi, prensipte, kötü niyetli bir aktörün kendi anlayışındaki boşlukları kapatmasına da yardımcı olabilir. DeepMind ve Isomorphic bunu ikili bir görev olarak tanımlıyor: Sınır yapay zekasının mümkün kıldığı bilimsel gelişmeleri sağlamak ve aynı zamanda bu araçları onları kötüye kullanacak kişilerin elinden uzak tutmak.
Şirketlere göre program üç sütun üzerine oturuyor: Kötüye kullanımı önlemek, salgınları daha hızlı tespit etmek ve bir salgın veya saldırı başladığında müdahale etmek.
Geçtiğimiz yıl kurulan 15'ten fazla ortaklık bu üç sütuna da temas ediyor; ancak güncelleme, Lawrence Livermore Ulusal Laboratuvarı, Birleşik Krallık Yapay Zeka Güvenlik Enstitüsü, CEPI ve Francis Crick Enstitüsü gibi birkaç isimlendirilmiş iş birlikçinin ötesinde hangi kuruluşların dahil olduğu konusunda sınırlı detay veriyor.
DeepMind, önümüzdeki altı ila on iki ay içinde bu ilişkileri genişletmeyi amaçladığını, dikkatini tehdit istihbaratı, yapay zeka aracıları için değerlendirme yöntemleri ve "jailbreak" (güvenlik kısıtlamalarını aşma) azaltmalarına çevireceğini belirtiyor. Ayrıca, viroloji veri setleri örnek olarak gösterilerek, daha riskli eğitim verisi kategorilerinin nasıl yönetileceği gibi konularda Frontier Model Forum ile koordinasyon sağlıyor.
Meşru bilimi engellemeden Gemini'yi güvence altına almak
Önleme çalışmaları, hangi aktörlerin kötüye kullanıma daha meyilli olduğunu ve onları şu anda durduran darboğazların neler olduğunu belirlemek için tasarlanmış tehdit modellemesine dayanıyor. DeepMind, Gemini'nin birinin bu darboğazları aşmasına yardımcı olup olamayacağını değerlendirmek için uzman "red-teaming" (kırmızı ekip) çalışmaları ve randomize kontrollü deneylerin bir karışımını kullandığını belirtiyor.
Eğitim sonrası yöntemler, modelin zararlı sorguları reddetmesini öğretirken, şirketin meşru bilim sorularının "aşırı reddi" olarak adlandırdığı durumdan kaçınmayı amaçlıyor; bu, sadece DeepMind için değil, genel olarak sektör genelinde zor olduğu kanıtlanmış bir dengedir. Riskli faaliyetleri gerçek zamanlı olarak işaretlemek için sınıflandırıcılar ve problar devreye sokuluyor ve şirket, otomatik filtrelerin gözden kaçırabileceği daha ince kötüye kullanım kalıplarını yakalamak için hedefli günlük analizleri çalıştırdığını belirtiyor.
Bu hafifletici önlemlerin hiçbiri "çözülmüş" olarak tanımlanmıyor. DeepMind bunları tamamlanmış bir sistemden ziyade devam eden bir süreç olarak çerçeveliyor; bu durum, güvenlik önlemlerine mevcut yapılandırmalarıyla güvenip güvenmeyeceğini değerlendiren herhangi bir işletme veya devlet kurumu için önem taşıyor. Bilinen "jailbreak" kalıplarına karşı ayarlanmış bir sınıflandırıcı...