Yapay zeka laboratuvarı, sömürücü yapay zekaya karşı gerilla savaşı yürütüyor
Çağrıda, sanatçılar yeni yeni patlak veren üretken yapay zekâ patlaması nedeniyle nasıl zarar gördüklerini ayrıntılarıyla paylaştılar. O anda yapay zekâ aniden her yerde bulunuyordu. Teknoloji topluluğu, Midjourney, Stable Diffusion ve OpenAI'ın DALL-E 2 gibi basit kelime ipuçlarına uyarak hayal diyarlarını veya avokadodan yapılmış tuhaf sandalyeleri tasvir edebilen görüntü üreten yapay zekâ modellerini tartışıyordu.
Ancak bu sanatçılar bu teknolojik mucizeyi yeni bir hırsızlık türü olarak gördüler. Modellerin eserlerini etkili bir şekilde çalıp değiştirip yerine koyduğunu hissettiler. Bazıları sanatlarının internetten kazındığını ve modelleri eğitmek için kullanıldığını fark ederken, diğerleri kendi isimlerinin ipucu haline geldiğini ve eserlerinin çevrimiçi olarak yapay zekâ kopyaları tarafından bastırıldığını keşfetti.
Zhao, duyduklarından şok olduğunu hatırlıyor. "İnsanlar gerçekten geçim kaynaklarını kaybediyorlar," dedi bana bu baharın bir öğleden sonra, Chicago'daki oturma odasında otururken. "Bunun göz ardı edilemeyecek bir şey olduğunu söylemeliyim."
Bu yüzden Zoom toplantısında bir teklif sundu: Hipotetik olarak, sanatlarını yapay zekâ kazımalarını engellemeye yardımcı olacak bir mekanizma oluşturmak mümkün müydü?
"İsmimi yazıp bir ipucu oluşturursanız, çöp çıkaran bir araç harika olurdu," diye yanıtladı önde gelen dijital sanatçı Karla Ortiz. "Sadece muz veya tuhaf şeyler."
Zhao için bu kadar ikna ediciydi ve o andan itibaren davaya katıldı.
Bugüne kadar, Zoom toplantısından doğan milyonlarca sanatçı, Zhao ve Chicago Üniversitesi'nin SAND Laboratuvarı (güvenlik, algoritmalar, ağ ve veri için bir kısaltma) tarafından geliştirilen Glaze ve Nightshade araçlarını kullanıyor.
Tartışmasız bir şekilde sanatçının izinsiz yapay zekâ kazılarına karşı en etkili silahları olan Glaze ve Nightshade, araştırmacıların "zar zor algılanabilir" olarak adlandırdıkları şeyleri ekleyerek çalışıyorlar: bir resmin piksellerine, böylece makine öğrenimi modellerinin bunları düzgün bir şekilde okuyamadığı ince değişiklikler. Mart 2023'te piyasaya sürüldüğünden beri 6 milyondan fazla indirme alan Glaze, sanatçının stilini fark etmesini ve kopyalamasını engellemek için resimlere etkili bir gizli örtü ekliyor. Yaklaşık bir yıl önce bu güz yayınlanan Nightshade'i yazdığımda, yapay zekâ şirketlerine karşı saldırıyı, insan gözüyle fark edilmeyen bir zehir tabakası ekleyerek artırıyor; 1,6 milyondan fazla indirildi.
Araçlar sayesinde, Ortiz "Çalışmalarımı çevrimiçi olarak yayınlayabiliyorum" diyor, "ve bu çok büyük bir şey." Onun gibi sanatçılar için çevrimiçi görünmek daha fazla iş almak için çok önemlidir. Karşılıksız olarak büyük bir kar amacı gütmeyen yapay zekâ modelinde yer almanın tedirginliğinde ise, tek seçenek eserlerini internetten silmektir. Bu da kariyer intiharı anlamına gelir. "Bizim için gerçekten çok zor bir durum" diye ekliyor Ortiz, sanatçılar için en aktif savunuculardan biri ve telif hakkı ihlali nedeniyle Stability AI dahil olmak üzere yapay zekâ şirketlerine karşı bir toplu dava sürecinde.
Ancak Zhao, araçların sadece bireysel sanatçıları güçlendirmekten daha fazlasını yapmasını umuyor. Glaze ve Nightshade, büyük şirketlerden bireysel yaratıcılara doğru yavaş yavaş güç dengesini değiştirmek için bir savaşın parçası.
"İnsan hayatının bu kadar az değerlendirildiğini görmek inanılmaz derecede sinir bozucu," diyor, özellikle Büyük Teknoloji hakkında konuşurken benim de gördüğüm hoşnutsuzluk tonuyla. "Ve bunun tekrar tekrar tekrarlandığını, kârın insanlıktan önceliklendirildiğini görmek… inanılmaz derecede sinir bozucu ve delilik verici."
Araçlar daha geniş çapta benimsendikçe, yüce hedefleri denemeye tabi tutuluyor. Glaze ve Nightshade yaratıcılar için gerçek güvenliği sağlayabilir mi yoksa sanatçıları araçların kendileri nefret ve bilgisayar korsanları için hedef haline gelirken bile eserlerinin güvenli olduğuna inandırıp onlara yanlış bir güven duygusu yaratabilir mi? Uzmanlar büyük ölçüde yaklaşımın etkili olduğunu ve Nightshade'in güçlü bir zehir olabileceğini kabul ederken, diğer araştırmacılar Glaze'in sunduğu korumaları zaten deldiklerini ve bu araçlara güvenmenin riskli olduğunu iddia ediyorlar.
Önceden Amerika Kayıt Endüstrisi Birliği'nde çalışan telif hakkı avukatı Neil Turkewitz, SAND Laboratuvarının katıldığı savaş hakkında daha kapsamlı bir bakış açısı sunuyor. Diyor ki, konu tek bir yapay zekâ şirketi veya tek bir birey değil: "Konu, içinde yaşamak istediğimiz dünyanın kurallarını tanımlamaktır."
Arı kovalama
SAND Laboratuvarı, Chicago Üniversitesi'nin bilgisayar bilimi binasının bir köşesinde sıkışıp kalan bir düzine kadar araştırmacıdan oluşuyor. Bu alan, biraz olağan çalışma ortamı kalıntılarını biriktirmiş - burada bir Meta Quest kulaklığı, orada bir Hallowen partisinden kostümlü komik fotoğraflar. Ancak duvarlar aynı zamanda Ortiz'in çerçeveli bir tablosu da dahil olmak üzere orijinal sanat eserleriyle de kaplı.
Ortiz gibi sanatçıların "Yapay zekâ kardeşleri"ne (Zhao'nun ifadesiyle) karşı savaşmadan yıllar önce, Zhao ve laboratuvarın eş zamanlı lideri Heather Zheng (aynı zamanda karısı), yeni ortaya çıkan teknolojilerden kaynaklanan zararlıları önlemek için bir kayıt oluşturmuşlardı.
İkisinin de MIT Teknoloji İncelemesi'nin 35 Yaş Altındaki 35 İnovatör listesine, neredeyse iki on yıl önce California Üniversitesi, Santa Barbara'da (Zheng 2005'te "bilişsel radyolar" ve bir yıl sonra Zhao eşler arası ağlar için) diğer çalışmaları için yer aldıkları için yer aldıkları, asıl araştırma odaklarının güvenlik ve gizlilik haline gelmişti.
2017'de, Chicago Üniversitesi'nin Veri Bilimi Enstitüsü'nün yeni müdürü Michael Franklin tarafından görevden alındıktan sonra Santa Barbara'yı terk ettiler. UC Santa Barbara laboratuvarından sekiz doktora öğrencisi de onları Chicago'ya takip etti. O zamandan beri, grup Amazon Echo gibi yapay zekâ ses asistanlarının mikrofonlarını boğan "sessizlik bilekliği"ni geliştirdi. Ayrıca New York Times'a 2020'deki röportajında Zhao'nun "gizlilik zırhı" olarak adlandırdığı, fotoğraflarına yüz tanıma yazılımından koruma sağlayan Fawkes adında bir araç da yarattılar. Ayrıca, bilgisayar korsanlarının sanal gerçeklik kulaklıklarına gizli saldırılar yoluyla hassas bilgileri nasıl çalabileceklerini ve insan sanatını yapay zekâ tarafından üretilen görüntülerden nasıl ayırt edebileceklerini incelediler.
Franklin bana, "Ben ve Heather ve ekipleri, yapay zekâ ve kullanım şekli hakkında bazı önemli soruları ele almaya çalışan eşsiz kişiler" dedi. "Bunları sadece sorarak değil, bu soruları ön plana çıkaracak teknolojiyi inşa ederek yapıyorlar."
Fawkes iki yıl önce fantezi illüstratör Van Deun'ü etkilemişti; umuyordu ki benzeri bir şey üretken yapay zekâya karşı bir koruma olarak işlev görebilirdi, bu nedenle Concept Art Association'ın Zoom toplantısına davetini gönderdi.
Bu çağrı, haftalar boyunca bir tür çılgınlığa yol açtı. Zhao ve Zheng laboratuvarın tüm projelerinde işbirliği yapsa da, her biri ayrı başlatılan girişimleri yürütüyor; Zhao, doktora öğrencisi Shawn Shan (bu yılki İnovatörler Altındaki 35 listede yer alan) programın algoritmasını geliştirme liderliğini üstlendi.
Shan'ın kodlamasına paralel olarak, doktora öğrencileri Jenna Cryan ve Emily Wenger, sanatçılarla görüşmeyi ve ihtiyaçlarını daha fazla öğrenmeyi amaçladılar. Ortiz'in de yardımıyla takıma dağıttıkları sanatçı anketleri oluşturdular. 1.200'den fazla sanatçıdan gelen yanıtlarda (bilgisayar biliminde kullanıcı araştırmalarına verilen ortalama yanıttan çok daha fazlası), yaratıcıların büyük çoğunluğunun sanatın modellerin eğitiminde kullanıldığı konusunda bilgi edindiğini ve %97'sinin yapay zekânın bazı sanatçıların iş güvenliğini azaltacağını beklediğini buldular. Dördüncüde bir oran, yapay zekâ sanatının işlerini zaten etkilediğini söyledi.
Hemen hemen tüm sanatçılar eserlerini çevrimiçi yayınladıklarını ve halihazırda yapmamış olsalar bile, bunu profesyonel ve mali sonuçlar ne olursa olsun azaltmayı veya ortadan kaldırmayı planladıklarını belirttiler.
Glaze'in ilk kaba versiyonu sadece bir ayda geliştirildi. O sırada Ortiz, modeli test etmek için tüm eser kataloğunu ekip ile paylaştı. En temel düzeyde Glaze, savunma kalkanı görevi görüyor. Algoritma, sanatçının bireysel stilini oluşturan görüntüden özellikleri tanımlar ve bunlara ince değişiklikler yapar. Glaze ile korunan görüntüler üzerinde eğitildiğinde yapay zekâ modeli orijinal görüntünün stilini yeniden üretemez.
Daha sonra Ortiz'in bir tablosu, Glaze'in üzerinde kamuya açık olarak yayınlanan ilk görüntü haline geldi: uçan kartalların çevrelediği genç bir kadın, bir çelenk tutuyor. Musa Victoriosa, "muzaffer ilham perisi" başlığını taşıyor.
Şu anda SAND Laboratuvarı'nın duvarlarında asılı olan eser budur.
Zhao'nun belirttiği gibi, birçok sanatçının ilk coşkusuna rağmen, Glaze'in piyasaya sürülmesi önemli bir tepkiye yol açtı. Bazı sanatçılar bu durumun dolandırıcılık veya başka bir veri toplama girişimi olduğu konusunda endişeli oldukları için şüpheciydiler.
Laboratuvar, örneğin Glaze uygulamasını indirip koruma katmanını çevrimdışı olarak ekleme seçeneğini sunarak güvene kavuşmak için çeşitli adımlar attı, bu da herhangi bir veri aktarımı anlamına gelmiyordu. (Daha sonra sanatçılar tarafından yüklenecek görüntüleri korumaya alındı.)
Glaze'in piyasaya sürülmesinden kısa bir süre sonra Shan, ikinci araç olan Nightshade'in geliştirilmesine öncülük etti. Glaze bir savunma mekanizması iken, Nightshade izinsiz eğitim yapılmasını engelleyecek saldırgan bir caydırıcı olarak tasarlandı. Nightshade, insan gözüyle fark edilmeyen ancak makine öğrenimi modellerinin görüntüyü aslında gösterdiğinden farklı olarak yorumlamasını sağlayan yollarla resimlerin piksellerini değiştiriyor. Zehirli örnekler yapay zekâ eğitim kümelerine kazınırsa, bu örnekler yapay zekâ modellerini yanıltır: Köpekler kedi, el çantaları tost olur. Araştırmacılar, nispeten az sayıda örneğin üretken bir yapay zekâ modelinin görüntüleri üretme biçiminde kalıcı bir hasara neden olabileceğini söylüyorlar.
Şu anda, her iki araç da ücretsiz uygulamalar olarak veya projenin web sitesi üzerinden kullanılabiliyor. Laboratuvar ayrıca, yapay zekâ üretimi yasaklayan ve bu şekilde istismarcı eğitimden kaçınan yeni sanatçı destekli sosyal ağ Cara ile entegrasyonunu genişletti.
Zhao ve laboratuvar araştırmacılarıyla, yanı sıra sanatçı işbirlikçileriyle onlarca görüşmede, her iki grup şimdi aynı misyonda olduklarını hissettikleri ortaya çıktı. "Chicago'daki bilim insanlarıyla arkadaş olacağımı asla tahmin etmemiştim," dedi Nightshade üzerinde ekip ile yakından çalışan Hollandalı bir sanatçı Eva Toorenent. "Bu ortak savaş sırasında bu insanlarla tanıştığım için çok mutluyum."
Aynı zamanda geceleyin bitki anlamına da gelen Belladonna tablosunun Nightshade zehiriyle ilk görüntü olması sembolik.
"Bu çok sembolik," dedi. "Eserlerimizi izni olmadan alan insanlar ve daha sonra eserlerimizi izinsiz kullanıp modellerini mahvedebilirler. Bu sadece edebi bir adalet."
Kusursuz bir çözüm yok
SAND Laboratuvarı'nın çalışmalarına yapay zekâ topluluğunda daha az uyumlu bir tepki vardı.
Glaze halka açık hale getirildikten sonra, Zhao bana, kötü amaçlı yazılımları izleyen VirusTotal gibi sitelere rapor edildiğini ve bu sayede antivirüs programları tarafından işaretlendiğini söyledi. Ayrıca birçok kişi sosyal medyada aracın hızla bozulduğunu iddia etmeye başladı. Nightshade'in piyasaya sürülmesi de benzer bir eleştiriye uğradı; TechCrunch'ın Ocak ayındaki raporuna göre bazıları onu "virüs" olarak nitelendirdi ve hikaye, "X'te yanlışlıkla viral olan başka bir Reddit kullanıcısının Nightshade'in yasal olup olmadığını sorguladığını, 'korunmasız bir bilgisayar sistemini çalışmasını bozmak için hacklemek' ile karşılaştırdığını" belirtti.
Zhao, "Ne yapacağımızı bilmiyorduk," dedi. "Diğer tarafın kim veya ne olabileceğini bilmemek, telefonun her yeni çalmasıyla, belki Glaze'i birilerinin kırdığı anlamına geliyordu."
Ancak her iki araç da titiz akademik hakem değerlendirmesinden geçti ve bilgisayar güvenliği topluluğu tarafından kabul gördü. Nightshade, IEEE Güvenlik ve Gizlilik Sempozyumu'nda kabul edildi ve Glaze, alanda en üst düzey konferans olan Usenix Güvenlik Sempozyumu'nda seçkin makale ödülü ve 2023 İnternet Savunma Ödülü'ne layık görüldü.
"Yapay zekâ zehirlemeleri konusunda çalışırken [Nightshade'in] oldukça etkili olduğunu düşünüyorum," dedi IBM'deki Yapay Zekâ Güvenliği ve Gizliliği çözümleri ekibini yöneten ve veri zehirlenmesini inceleyen Nathalie Baracaldo. "Benim gördüğüm bir şey yok - ve burada önemli olan kelime 'henüz' - Ben'in önerdiği savunma türünü kıran bir şey." Ek olarak, ekibin başkalarının incelemesi için Nightshade'in kaynak kodunu yayınlaması ve bunun kırılmamış olması da oldukça güvenli olduğunu gösteriyor.
Aynı zamanda, en az bir araştırmacı ekibi Glaze'in, veya en azından eski bir sürümünün korumalarını aştığını iddia ediyor.
Haziran ayında yayınlanan bir makalede Google DeepMind ve ETH Zurich'in araştırmacıları, Glaze'in (aynı zamanda Mist ve Anti-DreamBooth gibi daha az popüler koruma araçları da dahil olmak üzere) erişilebilir hazır teknikler kullanarak aşabileceğini buldular: Görüntünün çözünürlüğünü artırmak için pikselleri doldurma anlamına gelen görüntü ölçeklendirme. Araştırmacılar, çalışmalarının "mevcut korumaların kırılabilirliğini" gösterdiğini ve "sanatçıların bunların etkili olduğuna inanabileceklerini" fakat deneylerinin "böyle olmadığını" uyarıyorlar.
ETH Zurich'te yardımcı profesör olan ve çalışmaya katılan Florian Tramèr, "İşte gerçekten fark yaratan güçlü bir teknik çözüm bulmanın çok zor olduğunu" kabul etti. Herhangi bir bireysel araçtan çok, neredeyse gerçek dışı bir ideal olan: insanların yalnızca insan yapımı sanat satın almayı kabul edebilecekleri bir ortam yaratmaya yardımcı olmak için daha güçlü politikalar ve yasalar.
Baracaldo, burada güvenlik araştırmalarında ortak olan bir durum olduğunu söyledi: Bir savunma öneriliyor, bir düşman tarafından kırılıyor ve ideal olarak savunan düşmandan öğreniyor ve savunmayı daha iyi hale getiriyor. "Yapay zekâ sistemlerimizi daha güvenli hale getirmek için hem etik saldırganların hem de savunanların birlikte çalışması önemlidir" dedi ve "ideal olarak, tüm savunmalar şeffaflık sağlamak için ve yanlış bir güven duygusu oluşturulmasını önlemek için kamuya açık olarak incelenmelidir." (Ancak Zhao, araştırmacıların Glaze'in kaynak kodunu yayınlama niyetinde olmadığını bana söyledi.)
Bununla birlikte, tüm bu araştırmacılar sanatçıları ve sanatlarını desteklemeyi iddia ederken, bu tür testler Zhao için bir sinirlendirme kaynağı oldu. Daha sonra sızdırılan Discord sohbetlerinde, ETH Zurich-Google DeepMind ekibindeki araştırmacılardan birinin "insanları umursamadığını" iddia etti. (Bu araştırmacı yorum isteğine cevap vermedi, ancak bir blog yazısında savunmaları kırmanın onları nasıl düzelteceklerini bilmek için önemli olduğunu söyledi. Zhao, sözlerinin bağlamından çıkarıldığını söyledi.)
Zhao ayrıca, makalenin yazarlarının çoğunlukla Glaze'in önceki bir sürümünü değerlendirdiğini ve yeni güncellemenin manipülasyona karşı daha dirençli olduğunu vurguladı; kopyalanan stilin kendisine zarar vereceği için mevcut Glaze korumalarına sahip görüntüleri değiştirmenin işe yaramayacağını söyledi.
Bu karşılıklı diyalog, bilgisayar güvenliği topluluğundaki önemli bir gerilimi ve daha genel olarak yapay zekâdaki farklı gruplar arasındaki sıklıkla karşıt ilişkiyi yansıtıyor. Sunulan korumaların kırılabileceğini fark ettirmek yanlış mı yoksa saldırganın zarar vermesini zorlaştıran bir koruma seviyesine sahip olmak hiç yoktan iyidir mi?
Imperial College London'da uygulamalı matematik ve bilgisayar bilimi yardımcı profesörü Yves-Alexandre de Montjoye, benzer teknik korumaların mermi geçirmez kalmadığı çok sayıda örnek olduğunu söyledi. Örneğin, 2023'te, de Montjoye ve ekibi, tıp hastalarının yüz görüntüleri gizliliğini korumak amacıyla, yüz tanıma algoritmaları için dijital bir maske inceledi; programın algoritmasında sadece bir şeyi değiştirerek korumayı aşmayı başardılar (açık kaynaklıydı).
Bu savunmaların hala bir mesaj verdiğini, veri profillemesine biraz sürtüşme eklediğini söyledi. "TrackMeNot" gibi araçlar -ki bu kullanıcıları veri profillemesinden koruyor- protesto etme yolunu, yani onay vermediğimi söyleme yolu olarak sunuldu.
"Ama aynı zamanda" diye devam etti, "sanatçılara bunun kaldırılabileceğini ve gelecekteki algoritmalara karşı koruma sağlamayabileceğini çok açık bir şekilde belirtmemiz gerekir."
Zhao, araştırmacıların Glaze'in bazı zayıf noktalarını gösterdiğini kabul ederken, "güvenlik araçlarının mükemmel olmadığını" göz önüne alarak Glaze ve Nightshade'in kullanıma değer olduğuna şaşırtıcı derecede emin kaldı. Nitekim, Baracaldo'nun belirttiği gibi, Google DeepMind ve ETH Zurich araştırmacıları, son derece motive olmuş ve gelişmiş bir düşmanın neredeyse her zaman bir yol bulabileceğini gösterdi.
Zhao, "gerçek bir güvenlik sorunu ile karşılaşırsanız ve bir koruma aracı tasarlarsanız, cevabın ya mükemmel bir şekilde çalışması ya da hiç yayınlamaması gerektiğini düşünmek basitleştirici" diyor, spam filtreleri ve güvenlik duvarlarını örnek olarak gösteriyor. Savunma, sürekli bir kedi fare oyunudur. Ve çoğu sanatçının riski yeterince anlayabileceğine inanıyor.
Umut sunmak
Yaratıcılar ve yapay zekâ şirketleri arasındaki mücadele şiddetli. Yapay zekâdaki mevcut paradigma, daha büyük ve büyük modeller oluşturmaktır ve şu anda en azından bunun için internetten toplanan büyük veri kümelerine ihtiyaç duyulmamaktadır. Teknoloji şirketleri, genel internetteki her şeyin adil oyun alanı olduğunu ve telif hakkıyla korunmuş materyaller olmadan gelişmiş yapay zekâ araçlarının oluşturulmasının "mümkün olmadığını" savunuyor; birçok sanatçı, teknoloji şirketlerinin fikri mülkiyetlerini çaldığını ve telif hakkı ihlaline girdiğini ve eserlerini modellerden uzak tutmak veya kullanımı için uygun kredi ve tazminat alma yollarına ihtiyaç duyduklarını savunuyor.
Şu ana kadar yaratıcılar tam olarak kazanmıyor. Birçok şirket tasarımcıları, kopya yazarlarını ve illüstratörleri yapay zekâ sistemleriyle değiştirdi. Marvel Studios, 2023 televizyon dizisi Secret Invasion'ın başlık dizisinde insan yapımı sanat yerine yapay zekâ tarafından üretilen görüntüler kullandı. Diğer bir örnekte, bir radyo istasyonu sunucularını işten çıkardı ve bunları yapay zekâ ile değiştirdi. Teknoloji, sendikalar ve film, televizyon ve yaratıcı stüdyolar arasında en son olarak video oyuncularının grevine yol açan önemli bir anlaşmazlık kaynağı haline geldi. Sanatçılar, yazarlar, yayıncılar ve plak şirketleri tarafından yapay zekâ şirketlerine karşı sayısız dava sürüyor. Muhtemelen kesin bir yasal çözüm için yıllara ihtiyaç duyulacak. Ancak bir mahkeme kararı, üretken yapay zekâ tarafından yaratılan karmaşık etik sorunları kesinlikle çözmeyecektir. Gelecekteki bir hükümet düzenlemesi de muhtemelen benzer şekilde işe yaramayacaktır; eğer ortaya çıkarsa.
Bu nedenle, Zhao ve Zheng, Glaze ve Nightshade'i gerekli müdahaleler olarak görüyorlar: orijinal eserleri savunmak, bunları kullanmak isteyenleri ele almak ve en azından sanatçılara bir süre kazandırmak için araçlar. Mükemmel bir çözüme sahip olmak esas değil. Araştırmacılar, yapay zekâ sektörünün hızla değiştiğini ve şirketlerin insanlara yönelik çok gerçek zararları görmezden geldiğini söyledi ve Zheng "Teknolojideki kariyerlerimiz boyunca bu kadar çok çatışma görmemiz muhtemelen ilk kez" diye ekledi.
Daha geniş kapsamda, Glaze ve Nightshade'in zamanla yapay zekâ şirketlerinin sanatı nasıl kullandıklarını ve ürünlerinin nasıl ürettiklerini kökten değiştirme gücüne sahip olmasını umuyorlar. Yapay zekâ modellerini eğitmek inanılmaz derecede pahalıdır ve mühendisler için milyarlarca görüntüden oluşan veri kümesinden zehirli örnekleri bulmak ve temizlemek son derece yorucu bir işlemdir. İnternette yeterince Nightshade ile korunan görüntü varsa ve teknoloji şirketleri sonuç olarak modellerinin bozulduğunu görürse, lisanslama ve adil ödeme hakkında pazarlık yapmak için geliştiricileri müzakere masasına itebilir.
Elbette, bu büyük bir "eğer". MIT Teknoloji İncelemesi, Midjourney ve Stability AI gibi birkaç yapay zekâ şirketine ulaştı, ancak yorum isteklerine cevap vermediler. OpenAI'ın bir sözcüsü veri zehirlemesiyle karşılaştıklarıyla ilgili herhangi bir ayrıntıyı onaylamazken, şirketin ürünlerinin güvenliğini ciddiye aldığını ve güvenlik önlemlerini sürekli olarak iyileştirdiğini belirtti: "Sistemlerimizi bu tür kötü kullanımlara karşı nasıl daha güçlü hale getirebileceğimiz konusunda sürekli çalışıyoruz."
Bu arada, SAND Laboratuvarı projenin devam etmesi için vakıflar ve kar amacı gütmeyen kuruluşlardan fon sağlamayı sürdürüyor. Ayrıca, fikri mülkiyetlerini korumak isteyen büyük şirketlerden ilgi aldıklarını da söylüyorlar (hangi şirketler olduğuna dair açıklama yapmıyorlar), ve Zhao ve Zheng, araçların oyun, video veya müzik gibi başka sektörlerde nasıl kullanılabileceğini araştırıyorlar. Bu arada, Chicago laboratuvarındaki öğrencilerle yakından çalışarak, Glaze ve Nightshade'i mümkün olduğunca güçlü hale getirmeyi planlıyorlar; bir diğer duvarda, Toorenent'in Belladonna tablosu asılı. Resmin sağ alt köşesine "Teşekkürler! Sanatçılara umut verdiniz!" yazan kalp şeklinde bir not yapıştırmış.
Glaze ve Nightshade için en son indirme rakamları ile hikaye güncellendi.