Büyük Teknolojinin Terörle Mücadele Grubunda İki Yıllık Kargaşanın İçinde
Meta, YouTube, Twitter ve Microsoft'tan başkan yardımcıları, Mart 2023'te Zoom üzerinden bir araya gelerek, şirketlerinden birinin en korkunç rakiplerinden biri olan TikTok'u özel kulüplerine kabul edip etmemek konusunda görüştüler.
Dört yönetici, şirketlerin platformlarının teröristler için üs haline gelmesini önlemek amacıyla ipuçları paylaştıkları Küresel Teröre Karşı İnternet Forumu'nun (GIFCT) yönetim kurulunu oluşturuyordu ve TikTok'un platformundan aşırıcılık propagandasını uzak tutması için yardıma ihtiyacı olduğunu biliyorlardı. TikTok, gerekli gördükleri bir eğitim programını tamamlamıştı ve Çin ile olan bağlarına ilişkin sorularını yanıtlamıştı. Ancak görüşmelere bilgi veren kişiler, kurulun yine de TikTok'un üyeliğini Çin hükümetine fayda sağlayacak ve ifade özgürlüğünü baltalayacak şekilde kötüye kullanma ihtimalinden endişe ettiğini söylüyor. Üstelik o sırada ABD yasama organları uygulamanın yasaklanması üzerinde düşünüyordu ve TikTok'un içerik denetimiyle ilgili daha fazla hata, durumu daha da kızıştırabilirdi. Kurul nihayetinde TikTok'u onaylamadı.
WIRED'ın GIFCT üzerine yaptığı bir araştırma, TikTok'un konsorsiyuma katılma talebinin, kurulda yer alan dört yöneticiden ikisinin başvuruya oy vermeyi reddetmesi nedeniyle başarısız olduğunu ortaya koydu. Bir hafta sonra, Yeni Zelanda'nın Christchurch kentinde yaşanan ölümcül terörist saldırının dördüncü yıldönümünde araştırmacılar, TikTok'u saldırıyı kutlayan görüntüler barındırdığı için eleştirdi. Bunlar, TikTok'un rakiplerinin kendisine grubun tehdit tespit teknolojisine erişim sağlamış olsaydı kolayca işaretlenecek ve kaldırılacak videolardı.
Aynı dönemde, yönetim kurulu üyeleri, içerik politikalarının üyelik için gereken standarda uygun olup olmadığına dair endişeler nedeniyle PornHub'un ana şirketini kabul etmeyi reddetti. Karşılaştırma olarak, kurul geçen yıl sorunsuz Fransız sosyal uygulaması Yubo'yu hızla onaylamıştı. GIFCT'nin özel tavsiyeleri, başlangıç şirketinin yasalara bildirdiği 50 şüpheli hesabı tespit etmesini sağladı, diyor Yubo'nun operasyon direktörü Marc-Antoine Durand.
Daha yakın zamanda, Meta, Microsoft ve YouTube, yetkileri olmasına rağmen, Elon Musk yönetimindeki platformun gevşek içerik denetimi politikaları GIFCT ve diğer üye şirketlerin genel itibarına zarar verme tehdidi oluşturmasına rağmen, Twitter'ı (şimdi X) kuruldan atmayı reddetti. Bu ay, X sessizce kuruldan gönüllü olarak ayrıldı.
WIRED tarafından ilk kez ortaya çıkarılan bu gizli üyelik kararları, Microsoft, Meta, YouTube ve X'in teröre karşı mücadele kılavuzuna erişimi nasıl kısıtladığını ve internette kullanıcıların karşılaştığı içeriği nasıl etkilediğini gösteriyor. Araştırmamız ayrıca, dört şirketin tartışmalı bağış seçimlerini ve şiddet içeren aşırılığın işaretlenmesi için geliştirdikleri sistemde kalite kontrol eksikliğinin sonuçlarını da ortaya koyuyor.
Konsorsiyumun iç işleyişini anlamak için WIRED, GIFCT'nin iç görüşme kayıtlarını inceledi ve liderlik, personel, danışmanlar ve ortaklar da dahil olmak üzere organizasyonla doğrudan bağlantılı 26 kişiyle görüştü. Bu kişilerin birçoğu, Meta, Microsoft, YouTube ve X'in konsorsiyumu potansiyelini baltalayacak şekilde yönlendirdiğine inanıyor. "Sonuç, neredeyse kesinlikle daha fazla kullanıcının radikalleşmesi" diyor, kuruluşun başlangıcından beri GIFCT ile sürekli iletişim halinde olan kaynaklardan biri. Kişilerin çoğu, işverenlerinin veya GIFCT'nin WIRED ile konuşmalarına izin vermemesi nedeniyle isimsiz kalmayı tercih etti.
Dört teknoloji devi, 2016'da konsorsiyumu duyurduklarından beri, Batı hükümetlerinin onları İslam Devleti'nin gazetecilerin ve insani yardım çalışanlarının başlarının kesildiği korkunç videoları yayınlamalarına izin verdiği için eleştiriyordu. Şu anda sekiz kişilik bir personele sahip olan GIFCT, kurul tarafından Christchurch katliamından sonra 2019'da ABD'de kar amacı gütmeyen bir kuruluş olarak düzenlendi ve teknoloji rakiplerinin çocuk istismarı ve özel görüntülerin yasadışı ticareti de dahil olmak üzere belirli çevrimiçi zararları ele almak için birlikte çalışması gereken gruplardan biri.
Bu çabalar bazı istenmeyen içeriklerin kaldırılmasına yardımcı oldu ve çalışmalarını göstermek şirketlerin ağır düzenlemelerden kurtulmasına yardımcı olabilir. Ancak konsorsiyumları yönetmekle ilgili politika genellikle gizli kalıyor.
GIFCT'nin 25 üye şirketinden sadece sekizi, WIRED'ın yorum taleplerine yanıt verdi. Meta, Microsoft ve YouTube da dahil olmak üzere yanıt verenler, değerli bir grup olarak gördükleri bir organizasyonun parçası olmaktan gurur duyduklarını söylüyor. Konsorsiyumun yürütme direktörü Naureen Chowdhury Fink, WIRED'ın raporlamasını çürütmedi. TikTok'un üyelik kazanma sürecinde olduğunu söylüyor.
GIFCT, yıllık yaklaşık 4 milyon dolar harcamasını finanse etmek için üyelerinden gelen gönüllü bağışlara güvendi. Bu harcama, maaşları, araştırmaları ve seyahatleri kapsıyor. 2020'den 2022'ye kadar Microsoft, Google ve Meta her biri en az 4 milyon dolar bağışladı, Twitter ise 600.000 dolar bağışladı, bunu mevcut kamu dosyaları gösteriyor. Bazı şirketler on binlerce veya yüz binlerce dolar bağışladı ancak çoğu herhangi bir bağış yapmadı.
Geçen yıla kadar, en az iki yönetim kurulu üyesi, bedavacı olarak gördükleri şirketlerden öfkelendi ve kar amacı gütmeyen kuruluşun çalışanları arasında işlerinin tehlikede olup olmadığına dair endişeler yayıldı. Musk yaklaşık bir yıl önce Twitter'ı X'e dönüştürdüğünde, iki doğrudan bilgiye sahip kişiye göre GIFCT'ye yapılan isteğe bağlı bağışlar da dahil olmak üzere maliyetleri kesmeye devam etmesi işe yaramadı.
Fonları çeşitlendirmek için yönetim kurulu, vakıflardan bağış toplamak ve hatta temel olmayan projeler için devlet hibeleri araştırmasını onayladı. "Bunun mantıklı olup olmadığını dikkatlice değerlendirmemiz gerekecek," diyor Chowdhury Fink. "Ancak bazen birden fazla paydaşla çalışmak yararlıdır."
Grubun gizlice danıştığı hak savunucuları, bunun teknoloji devlerine sübvansiyon sayılıp sayılmayacağını ve bu durumun potansiyel olarak daha güçlü aşırılık karşıtı projelerden kaynak çekip çekemeyeceğini sorguladı. Ancak kayıtlara göre personel, İsrail yanlısı hayırseverlik kuruluşu Newton ve Rochelle Becker Hayırseverlik Vakfı'ndan on binlerce dolardan fazla bir hibe alma konusunda düşünüyordu. Chowdhury Fink, GIFCT'nin başvuruyu tamamlamadığını söylüyor.
Bu yıl, Meta, YouTube, Microsoft ve X, GIFCT'nin tüzüğünü, 2025'ten itibaren her üyeden yıllık minimum bağış yapılmasını gerektirecek şekilde değiştirdi, ancak Chowdhury Fink istisnaların mümkün olduğunu söylüyor.
Ücretli üyeler, iki yönetim kurulu üyesi için oy kullanabilecekler. Yönetim kurulu üyeliği için uygunluk, daha büyük bir bağış yapmaya bağlı. İki kaynağa göre, X ücret ödemeyeceğini ve dolayısıyla koltuğunu kaybedeceğini işaret etmişti - bu gelişme bu ay gerçekleşti. 2025'te dört şirketlik yönetim kurulunda berabere kalma yetkisine sahip olması planlanmıştı. (Tüzüğe göre, Meta, YouTube ve Microsoft, Musk şirketi satın aldıktan hemen sonra Twitter'ı kuruldan çıkarabilirdi. Ancak bu yetkiyi kullanmayı tercih etmediler.)
WIRED ile konuşan GIFCT'ye yakın birçok kişi, Meta, YouTube ve Microsoft'un X'i tamamen dışlamaları gerektiğini savunuyor, çünkü X'in platformunda aşırılıkçıların açıkça yasadışı faaliyetlerde bulunmasına, örneğin silah satmasına izin verdiği iddia ediliyor. The Times geçen ay, X'in kovulması çağrılarını bildirdi.
GIFCT'nin "teknoloji çözümleri" etik kurallarının kamuya açık kopyası büyük ölçüde "işletim güvenliği" için sansürlenmiştir, ancak bir şirketin "sürekli uygunsuz davranış" nedeniyle yasaklanabileceğini belirtir. Konsorsiyumun kendi ifadesine göre, "üyelik, internetin ve kullanıcılarının iyi bir şekilde yönetilmesi için güçlü bir gösterge olarak kabul edilmeli ve takdir edilmelidir." X bu ay, şiddet içeren ve nefret içeren varlık politikasını ihlal ettiği gerekçesiyle bu yılın ilk yarısında 57.000'den fazla hesabı askıya aldığını bildirdi. Yorum taleplerine yanıt vermedi.
GIFCT'den sorumlu dört şirketin aynı zamanda organizasyonun en görünür işlevlerinden biri olan kriz müdahalesinde de önemli ve çok az incelenen bir rolü oldu. Grup, teknolojiyi kullanarak - resim, video ve metin dosyalarını kısa ve ayrı kodlara dönüştüren bilgisayar betiklerini - tespit ettikleri sorunlu içeriklerin karma kodlarını GIFCT personeli tarafından işletilen ve Meta sunucularında barındırılan bir veritabanına yüklüyor. Üyeler daha sonra veritabanındaki milyonlarca karma kodu, hizmetlerindeki içeriklerin karma kodlarıyla karşılaştırabilir ve eşleşmelerin kaldırılması gereken gönderileri yansıtabileceğine inanabilirler.
2022'nin başlarında New York, Buffalo'daki bir süpermarkette 10 kişiyi öldüren silahlı bir saldırganın Twitch'te canlı yayın yapması sonrasında, bir üye şirketin çalışanı GIFCT'nin ipuçlarını paylaşmak için düzenlediği bir Slack topluluğuna bir uyarı gönderdi. GIFCT personeli mesajı görünce YouTube, Meta, Twitter ve Microsoft'a ulaşmaya başladı. Yönetim kurulu şirketlerinin en az üçü, grubun en ciddi tehdit alarmını yayınlamak için onay vermek zorunda kaldı, bunu nihayetinde saldırıdan yaklaşık iki saat sonra üçüncü kez yaptılar.
Yönetim kurulu Buffalo için alarmı verdikten sonra geçen yaklaşık 26 saatte, üyeler saldırıya ilişkin yaklaşık 870 sorunlu video ve görüntünün karma kodunu yükledi. Daha sonra GIFCT, insanların muhtemelen övücü şekilde yeniden yayınlayacağı atıcının bildirgesinin bölümlerini kapsayan binlerce karma kodu sağlayan serbest çalışan bir araştırmacı işe aldı.
Şirketler, karma kod paylaşımının karmaşık içerik denetimi alanında verimlilik sağladığını savunuyor. Büyük medya dosyalarını değiştirmenin maliyetinden ve olası kullanıcı gizliliği ihlallerinden kaçınıyorlar, aynı zamanda işbirliği, içerik kontrol edilemez hale gelmeden yayılmasını yavaşlatıyor.
Ancak YouTube, Meta, Twitter ve Microsoft liderliğinde GIFCT, şeffaflığı azaltmış ve şirketlerin şiddet içermeyen içeriği yanlışlıkla silmesini önlemek için çok az önlem getirmiştir. 25 üyesinden hiçbiri, karma kod eşleşmeleri sonucunda kaldırılan içerik miktarını, hatta bu kaldırılmalardan kaçınının kullanıcıları tarafından itiraz edildiğini açıklamıyor. Sadece YouTube, veritabanına yaptığı katkıları bildirdi - geçen yıl yaklaşık 45.000 karma kod. Grup, kendi personeli tarafından veya araştırmacıların veya hükümetlerin ipuçları sonucunda kaç tanesinin eklendiğini veya dışarıdan gelen karma kodları ne ölçüde kontrol ettiğini söylemeyi reddetti.
Hangi şirketlerin şu anda veritabanını kullandığı da kamuya açık değil; geçen yıla kadar sadece 13 üye erişime sahipti. Grup, kaç tanesinin karma kodları paylaşmadan veya eşleşmelere göre işlem yapmadan önce içeriği elle incelediğini - otomasyona güvenmek yerine - bilmiyor. "Bu biraz daha araştırmaya çalıştığım bir şey," diyor GIFCT'nin yeni atanan teknoloji politikası ve çözümler direktörü Skip Gilmour.
Teknoloji konsorsiyumu, zararsız içeriğin veritabanına nadiren girdiğini ısrarla söylüyor. Ancak yönetim kurulu, doğrulanan aksaklıklara rağmen dış denetime izin vermemiş veya kapsamlı iç inceleme emri vermemiştir.
2022'de bir sosyal medya şirketi, veritabanındaki iki karma kodun hizmetinde binlerce kopya bulunan bir müzik videosuyla eşleştiğini fark etti. Söz konusu şarkı? WIRED, bunun Rick Astley'in pop şarkısı "Never Gonna Give You Up", aşk ve şefkat hakkında şaka olarak kullanılan bir meme olduğunu öğrendi. GIFCT daha önce, şarkının adını vermeden bu hatayı açıklamıştı. Şarkının neden başka bir şirket tarafından gönderildiğini paylaşmadı. GIFCT'nin üyelik ve programlar direktörü Erin Saltman, "test" ve "örnek karma kodların" bazen suçlu olduğunu söylüyor.
Birkaç üyenin 2022'de yaptığı küçük bir denetimde de geçersiz gönderimler tespit edildi, teknoloji konsorsiyumu bu gönderimlerin sayısını hiç açıklamadı. Ancak yeni materyaller eklenirken bile, bunları kaldırmak veritabanını, yaklaşık 18 ay önce 2,3 milyon olan karma kod sayısını, o yılın Ekim ayında 2,1 milyona düşürdü.
Bu yıl, Avustralya'nın eGüvenlik Komiseri - İçişleri Bakanlığı'ndaki meslektaşları GIFCT'nin resmi danışmanları - Google, Meta ve X'in teröre karşı mücadele çalışmaları hakkında ayrıntılar vermesini talep etti. Bulguların sonunda yayınlanması bekleniyor. "Bu teknoloji devlerinin sahip olduğu sistemler, süreçler ve kaynaklar hakkında temel soruların birçoğunun cevabını bilmiyoruz," diye yazdı eGüvenlik ofisi.
Meta, YouTube, Microsoft ve X'in teröre karşı mücadele forumunu nasıl yönettiği konusunda bazı eleştirmenler, şirketlerin zaten yasal konuşmayı korumak ve şiddete teşvik eden nefret suçlarını daha iyi engellemek için önlerinde bir playbook'a sahip olduğunu söylüyor. GIFCT, 2021'de yayınlanan ve 47 değişiklik öneren danışmanlık firması BSR'den bir insan hakları etki değerlendirmesi sipariş etti - bunların çoğunu yönetim kurulu henüz uygulamadı.
TikTok veya herhangi birini açıkça adlandırmadan, değerlendiriciler, insan hakları zararlarını en aza indirmek için "uygun önlemlerle" yüksek riskli, ABD dışı şirketlerin üyeliğini onaylamayı önerdiler, çünkü bu durum GIFCT'yi aşırılıkla mücadele etmek için "daha iyi konumda" bırakacaktı. Üyelerin insan incelemesi yapılmadan karma kod göndermesini yasaklamayı önerdiler. Ve sadece dört kurucu üyeden oluşan bir yönetim kurulunu "sürdürülebilir bir model" olarak tanımlamadılar ve aktivistlerin ve akademisyenlerin koltuklara eşit şekilde dağılmasını önerdi.
GIFCT'nin ayrıca 2020'de kurulan bağımsız bir danışmanlık komitesi var, ancak Meta, YouTube, Microsoft ve X her zaman önerilerini uygulamamış. O zamanki GIFCT yürütme direktörü, danışmanları konsorsiyumun vicdanı olarak nitelemişti. Ancak paneli oluşturan yaklaşık iki düzine profesör, hak savunucusu ve hükümetin bazıları bu yıl "sessizce işten ayrıldı". "Aslında hiçbir gücümüz yok," diyor danışmanlık panelindeki ifade özgürlüğü savunucusu Courtney Radsch. "[GIFCT] teknolojinin kendi kendini düzenlemesinin etkisiz ve yetersiz olduğuna dair bir başka örnek. Bu platformlarda gerçekleşen istismarı ele almak için, hesap verebilirlik ve şeffaflık içeren daha anlamlı bir yönetim yapısına ihtiyacımız var."
Mevcut yürütme direktörü Chowdhury Fink, danışmanların yapıcı eleştirilerini takdir ettiğini söylüyor. Kayıtlara göre, GIFCT personeli gizlice danışmanlar ile Meta, YouTube, Microsoft ve X arasında geçen görüşmeleri "gergin" olarak kaydetmiş. (İnsan hakları değerlendirmesi, GIFCT'nin yönetim kurulu ve danışmanlık paneli toplantılarının tutanaklarını yayınlamasını önerdi. Bu gerçekleşmedi.)
Önemli bir anlaşmazlık, GIFCT'nin adındaki "küresel" kelimesinden uzaklaşıp uzaklaşmadığıdır. Personel, şirketlerin yaklaşık 60 ülkede terör saldırılarına yanıt vermesine yardımcı oldu. Ancak bazı danışmanlar, ABD dışında daha fazla etkiye sahip şirketler işe almasını istiyor. Beyaz üstünlüğünü ve aşırı sağcı çeteleri bastırmak için araçlara daha fazla vurgu yapılması; Afrika'daki (Sahra altı bölgesi terörizmin yeni "merkezi" olarak kabul ediliyor) ve Asya'daki şiddeti incelemeye daha fazla dikkat edilmesi; ve İslamcı aşırılığın bastırılmasına aşırı odaklanma olarak gördükleri durumdan bir dönüşüm çağrısı yapıldı.
"Daha az Avrupa-Kuzey Amerika merkezli ve gerçekten daha dünya merkezli," diyor, danışmanlık panelinin başkanı olan Montreal'deki Quebec Üniversitesi'nde klinik psikolog olan Ghayda Hassan, bu yıl Singapur'da düzenlenen konsorsiyumun yıllık zirvesinde sahnede.
Hassan, WIRED'a danışmanların yakın zamanda yönetim kuruluna liderlikleriyle ilgili endişelerini bildirdiğini söylüyor. Yeni yönetim kurulu üyelerinin eklenmesinin hayati önem taşımasını bekliyor. "Yönetim kurulu, GIFCT'nin genel olarak çeşitlilik göstermesi gerektiği gibi daha çeşitli ve kapsayıcı olmalı."
Bazı GIFCT danışmanları ve personeli, yönetim kurulunun konsorsiyumun İsrail'in Hamas ile devam eden savaşına bağlı olarak "terörist ve şiddet içeren aşırılıkçı içeriği kaldırmak için zamanında ve etkili eylem" olarak tanımladığı şeyi kolaylaştırmasına itiraz etti. Grup, diğer savaşlar sırasında içerik kaldırma aracı olmaktan kaçındı ve birkaç çalışan, Gazze krizine müdahalenin İsrail'in yanında yer almak anlamına geldiğini düşündü, doğrudan bilgiye sahip iki kişi söylüyor. GIFCT içinde geçerli olan tanımlamaları kullanan BM, ne Hamas'ı ne de İsrail'i terörist örgüt olarak kabul etmiyor. GIFCT direktörü Saltman, "uzun süren savaş"ı nasıl ele alacağına dair tavsiye topladığını söylüyor.
WIRED ile görüşen hemen hemen herkes, GIFCT'nin eleştirmenleri de dahil olmak üzere, dünyanın bu tür bir koordinasyonsuz daha kötü bir durumda olacağına inanıyor. Alternatif, birbirine bağlı boşlukları kapatmak için mücadele eden bireysel şirketler ve daha sıkı sansür uygulayan hükümetler olurdu. "Küresel kaos," diyor internet yönetişim danışmanlığı Digital Medusa'yı yöneten ve GIFCT araştırmasına ortak yazarlık yapan Farzaneh Badiei.
GIFCT yönetim kurulu tarafından dışlanan, TikTok ve PornHub dahil hizmetler, Kanada, İngiltere ve Fransa gibi hükümetlerin yanı sıra teknoloji şirketleri tarafından finanse edilen bir girişim olan Tech Against Terrorism'dan yardım buldu. Bu girişim, 135 şirkete hizmetlerindeki aşırılıkçı içerikleri otomatik olarak bildiriyor ve yakında bir sertifika programı ve kendi karma kodlarını paylaşmak için bir veritabanı başlatacak.
GIFCT, yıllık olarak Tech Against Terrorism'a potansiyel GIFCT üyelerini değerlendirmek ve eğitmek için yüz binlerce dolar ödüyordu. Ancak iki organizasyonun örtüşen hedefleri ve kimlikleri konusunda artan çatışmalar, ilişkiyi bozdu. Microsoft, YouTube, Meta ve X, Tech Against Terrorism ile sözleşmeyi feshetmeye ve süreci kontrol altına almaya karar verdi: GIFCT personeli, önümüzdeki yıldan itibaren eğitimi üstlenecek.
Vittoria Elliott ve David Gilbert'in ek raporlama çalışmaları.
Meta, YouTube, Twitter ve Microsoft'tan başkan yardımcıları, Mart 2023'te Zoom üzerinden bir araya gelerek, şirketlerinden birinin en korkunç rakiplerinden biri olan TikTok'u özel kulüplerine kabul edip etmemek konusunda görüştüler.
Dört yönetici, şirketlerin platformlarının teröristler için üs haline gelmesini önlemek amacıyla ipuçları paylaştıkları Küresel Teröre Karşı İnternet Forumu'nun (GIFCT) yönetim kurulunu oluşturuyordu ve TikTok'un platformundan aşırıcılık propagandasını uzak tutması için yardıma ihtiyacı olduğunu biliyorlardı. TikTok, gerekli gördükleri bir eğitim programını tamamlamıştı ve Çin ile olan bağlarına ilişkin sorularını yanıtlamıştı. Ancak görüşmelere bilgi veren kişiler, kurulun yine de TikTok'un üyeliğini Çin hükümetine fayda sağlayacak ve ifade özgürlüğünü baltalayacak şekilde kötüye kullanma ihtimalinden endişe ettiğini söylüyor. Üstelik o sırada ABD yasama organları uygulamanın yasaklanması üzerinde düşünüyordu ve TikTok'un içerik denetimiyle ilgili daha fazla hata, durumu daha da kızıştırabilirdi. Kurul nihayetinde TikTok'u onaylamadı.
WIRED'ın GIFCT üzerine yaptığı bir araştırma, TikTok'un konsorsiyuma katılma talebinin, kurulda yer alan dört yöneticiden ikisinin başvuruya oy vermeyi reddetmesi nedeniyle başarısız olduğunu ortaya koydu. Bir hafta sonra, Yeni Zelanda'nın Christchurch kentinde yaşanan ölümcül terörist saldırının dördüncü yıldönümünde araştırmacılar, TikTok'u saldırıyı kutlayan görüntüler barındırdığı için eleştirdi. Bunlar, TikTok'un rakiplerinin kendisine grubun tehdit tespit teknolojisine erişim sağlamış olsaydı kolayca işaretlenecek ve kaldırılacak videolardı.
Aynı dönemde, yönetim kurulu üyeleri, içerik politikalarının üyelik için gereken standarda uygun olup olmadığına dair endişeler nedeniyle PornHub'un ana şirketini kabul etmeyi reddetti. Karşılaştırma olarak, kurul geçen yıl sorunsuz Fransız sosyal uygulaması Yubo'yu hızla onaylamıştı. GIFCT'nin özel tavsiyeleri, başlangıç şirketinin yasalara bildirdiği 50 şüpheli hesabı tespit etmesini sağladı, diyor Yubo'nun operasyon direktörü Marc-Antoine Durand.
Daha yakın zamanda, Meta, Microsoft ve YouTube, yetkileri olmasına rağmen, Elon Musk yönetimindeki platformun gevşek içerik denetimi politikaları GIFCT ve diğer üye şirketlerin genel itibarına zarar verme tehdidi oluşturmasına rağmen, Twitter'ı (şimdi X) kuruldan atmayı reddetti. Bu ay, X sessizce kuruldan gönüllü olarak ayrıldı.
WIRED tarafından ilk kez ortaya çıkarılan bu gizli üyelik kararları, Microsoft, Meta, YouTube ve X'in teröre karşı mücadele kılavuzuna erişimi nasıl kısıtladığını ve internette kullanıcıların karşılaştığı içeriği nasıl etkilediğini gösteriyor. Araştırmamız ayrıca, dört şirketin tartışmalı bağış seçimlerini ve şiddet içeren aşırılığın işaretlenmesi için geliştirdikleri sistemde kalite kontrol eksikliğinin sonuçlarını da ortaya koyuyor.
Konsorsiyumun iç işleyişini anlamak için WIRED, GIFCT'nin iç görüşme kayıtlarını inceledi ve liderlik, personel, danışmanlar ve ortaklar da dahil olmak üzere organizasyonla doğrudan bağlantılı 26 kişiyle görüştü. Bu kişilerin birçoğu, Meta, Microsoft, YouTube ve X'in konsorsiyumu potansiyelini baltalayacak şekilde yönlendirdiğine inanıyor. "Sonuç, neredeyse kesinlikle daha fazla kullanıcının radikalleşmesi" diyor, kuruluşun başlangıcından beri GIFCT ile sürekli iletişim halinde olan kaynaklardan biri. Kişilerin çoğu, işverenlerinin veya GIFCT'nin WIRED ile konuşmalarına izin vermemesi nedeniyle isimsiz kalmayı tercih etti.
Dört teknoloji devi, 2016'da konsorsiyumu duyurduklarından beri, Batı hükümetlerinin onları İslam Devleti'nin gazetecilerin ve insani yardım çalışanlarının başlarının kesildiği korkunç videoları yayınlamalarına izin verdiği için eleştiriyordu. Şu anda sekiz kişilik bir personele sahip olan GIFCT, kurul tarafından Christchurch katliamından sonra 2019'da ABD'de kar amacı gütmeyen bir kuruluş olarak düzenlendi ve teknoloji rakiplerinin çocuk istismarı ve özel görüntülerin yasadışı ticareti de dahil olmak üzere belirli çevrimiçi zararları ele almak için birlikte çalışması gereken gruplardan biri.
Bu çabalar bazı istenmeyen içeriklerin kaldırılmasına yardımcı oldu ve çalışmalarını göstermek şirketlerin ağır düzenlemelerden kurtulmasına yardımcı olabilir. Ancak konsorsiyumları yönetmekle ilgili politika genellikle gizli kalıyor.
GIFCT'nin 25 üye şirketinden sadece sekizi, WIRED'ın yorum taleplerine yanıt verdi. Meta, Microsoft ve YouTube da dahil olmak üzere yanıt verenler, değerli bir grup olarak gördükleri bir organizasyonun parçası olmaktan gurur duyduklarını söylüyor. Konsorsiyumun yürütme direktörü Naureen Chowdhury Fink, WIRED'ın raporlamasını çürütmedi. TikTok'un üyelik kazanma sürecinde olduğunu söylüyor.
GIFCT, yıllık yaklaşık 4 milyon dolar harcamasını finanse etmek için üyelerinden gelen gönüllü bağışlara güvendi. Bu harcama, maaşları, araştırmaları ve seyahatleri kapsıyor. 2020'den 2022'ye kadar Microsoft, Google ve Meta her biri en az 4 milyon dolar bağışladı, Twitter ise 600.000 dolar bağışladı, bunu mevcut kamu dosyaları gösteriyor. Bazı şirketler on binlerce veya yüz binlerce dolar bağışladı ancak çoğu herhangi bir bağış yapmadı.
Geçen yıla kadar, en az iki yönetim kurulu üyesi, bedavacı olarak gördükleri şirketlerden öfkelendi ve kar amacı gütmeyen kuruluşun çalışanları arasında işlerinin tehlikede olup olmadığına dair endişeler yayıldı. Musk yaklaşık bir yıl önce Twitter'ı X'e dönüştürdüğünde, iki doğrudan bilgiye sahip kişiye göre GIFCT'ye yapılan isteğe bağlı bağışlar da dahil olmak üzere maliyetleri kesmeye devam etmesi işe yaramadı.
Fonları çeşitlendirmek için yönetim kurulu, vakıflardan bağış toplamak ve hatta temel olmayan projeler için devlet hibeleri araştırmasını onayladı. "Bunun mantıklı olup olmadığını dikkatlice değerlendirmemiz gerekecek," diyor Chowdhury Fink. "Ancak bazen birden fazla paydaşla çalışmak yararlıdır."
Grubun gizlice danıştığı hak savunucuları, bunun teknoloji devlerine sübvansiyon sayılıp sayılmayacağını ve bu durumun potansiyel olarak daha güçlü aşırılık karşıtı projelerden kaynak çekip çekemeyeceğini sorguladı. Ancak kayıtlara göre personel, İsrail yanlısı hayırseverlik kuruluşu Newton ve Rochelle Becker Hayırseverlik Vakfı'ndan on binlerce dolardan fazla bir hibe alma konusunda düşünüyordu. Chowdhury Fink, GIFCT'nin başvuruyu tamamlamadığını söylüyor.
Bu yıl, Meta, YouTube, Microsoft ve X, GIFCT'nin tüzüğünü, 2025'ten itibaren her üyeden yıllık minimum bağış yapılmasını gerektirecek şekilde değiştirdi, ancak Chowdhury Fink istisnaların mümkün olduğunu söylüyor.
Ücretli üyeler, iki yönetim kurulu üyesi için oy kullanabilecekler. Yönetim kurulu üyeliği için uygunluk, daha büyük bir bağış yapmaya bağlı. İki kaynağa göre, X ücret ödemeyeceğini ve dolayısıyla koltuğunu kaybedeceğini işaret etmişti - bu gelişme bu ay gerçekleşti. 2025'te dört şirketlik yönetim kurulunda berabere kalma yetkisine sahip olması planlanmıştı. (Tüzüğe göre, Meta, YouTube ve Microsoft, Musk şirketi satın aldıktan hemen sonra Twitter'ı kuruldan çıkarabilirdi. Ancak bu yetkiyi kullanmayı tercih etmediler.)
WIRED ile konuşan GIFCT'ye yakın birçok kişi, Meta, YouTube ve Microsoft'un X'i tamamen dışlamaları gerektiğini savunuyor, çünkü X'in platformunda aşırılıkçıların açıkça yasadışı faaliyetlerde bulunmasına, örneğin silah satmasına izin verdiği iddia ediliyor. The Times geçen ay, X'in kovulması çağrılarını bildirdi.
GIFCT'nin "teknoloji çözümleri" etik kurallarının kamuya açık kopyası büyük ölçüde "işletim güvenliği" için sansürlenmiştir, ancak bir şirketin "sürekli uygunsuz davranış" nedeniyle yasaklanabileceğini belirtir. Konsorsiyumun kendi ifadesine göre, "üyelik, internetin ve kullanıcılarının iyi bir şekilde yönetilmesi için güçlü bir gösterge olarak kabul edilmeli ve takdir edilmelidir." X bu ay, şiddet içeren ve nefret içeren varlık politikasını ihlal ettiği gerekçesiyle bu yılın ilk yarısında 57.000'den fazla hesabı askıya aldığını bildirdi. Yorum taleplerine yanıt vermedi.
GIFCT'den sorumlu dört şirketin aynı zamanda organizasyonun en görünür işlevlerinden biri olan kriz müdahalesinde de önemli ve çok az incelenen bir rolü oldu. Grup, teknolojiyi kullanarak - resim, video ve metin dosyalarını kısa ve ayrı kodlara dönüştüren bilgisayar betiklerini - tespit ettikleri sorunlu içeriklerin karma kodlarını GIFCT personeli tarafından işletilen ve Meta sunucularında barındırılan bir veritabanına yüklüyor. Üyeler daha sonra veritabanındaki milyonlarca karma kodu, hizmetlerindeki içeriklerin karma kodlarıyla karşılaştırabilir ve eşleşmelerin kaldırılması gereken gönderileri yansıtabileceğine inanabilirler.
2022'nin başlarında New York, Buffalo'daki bir süpermarkette 10 kişiyi öldüren silahlı bir saldırganın Twitch'te canlı yayın yapması sonrasında, bir üye şirketin çalışanı GIFCT'nin ipuçlarını paylaşmak için düzenlediği bir Slack topluluğuna bir uyarı gönderdi. GIFCT personeli mesajı görünce YouTube, Meta, Twitter ve Microsoft'a ulaşmaya başladı. Yönetim kurulu şirketlerinin en az üçü, grubun en ciddi tehdit alarmını yayınlamak için onay vermek zorunda kaldı, bunu nihayetinde saldırıdan yaklaşık iki saat sonra üçüncü kez yaptılar.
Yönetim kurulu Buffalo için alarmı verdikten sonra geçen yaklaşık 26 saatte, üyeler saldırıya ilişkin yaklaşık 870 sorunlu video ve görüntünün karma kodunu yükledi. Daha sonra GIFCT, insanların muhtemelen övücü şekilde yeniden yayınlayacağı atıcının bildirgesinin bölümlerini kapsayan binlerce karma kodu sağlayan serbest çalışan bir araştırmacı işe aldı.
Şirketler, karma kod paylaşımının karmaşık içerik denetimi alanında verimlilik sağladığını savunuyor. Büyük medya dosyalarını değiştirmenin maliyetinden ve olası kullanıcı gizliliği ihlallerinden kaçınıyorlar, aynı zamanda işbirliği, içerik kontrol edilemez hale gelmeden yayılmasını yavaşlatıyor.
Ancak YouTube, Meta, Twitter ve Microsoft liderliğinde GIFCT, şeffaflığı azaltmış ve şirketlerin şiddet içermeyen içeriği yanlışlıkla silmesini önlemek için çok az önlem getirmiştir. 25 üyesinden hiçbiri, karma kod eşleşmeleri sonucunda kaldırılan içerik miktarını, hatta bu kaldırılmalardan kaçınının kullanıcıları tarafından itiraz edildiğini açıklamıyor. Sadece YouTube, veritabanına yaptığı katkıları bildirdi - geçen yıl yaklaşık 45.000 karma kod. Grup, kendi personeli tarafından veya araştırmacıların veya hükümetlerin ipuçları sonucunda kaç tanesinin eklendiğini veya dışarıdan gelen karma kodları ne ölçüde kontrol ettiğini söylemeyi reddetti.
Hangi şirketlerin şu anda veritabanını kullandığı da kamuya açık değil; geçen yıla kadar sadece 13 üye erişime sahipti. Grup, kaç tanesinin karma kodları paylaşmadan veya eşleşmelere göre işlem yapmadan önce içeriği elle incelediğini - otomasyona güvenmek yerine - bilmiyor. "Bu biraz daha araştırmaya çalıştığım bir şey," diyor GIFCT'nin yeni atanan teknoloji politikası ve çözümler direktörü Skip Gilmour.
Teknoloji konsorsiyumu, zararsız içeriğin veritabanına nadiren girdiğini ısrarla söylüyor. Ancak yönetim kurulu, doğrulanan aksaklıklara rağmen dış denetime izin vermemiş veya kapsamlı iç inceleme emri vermemiştir.
2022'de bir sosyal medya şirketi, veritabanındaki iki karma kodun hizmetinde binlerce kopya bulunan bir müzik videosuyla eşleştiğini fark etti. Söz konusu şarkı? WIRED, bunun Rick Astley'in pop şarkısı "Never Gonna Give You Up", aşk ve şefkat hakkında şaka olarak kullanılan bir meme olduğunu öğrendi. GIFCT daha önce, şarkının adını vermeden bu hatayı açıklamıştı. Şarkının neden başka bir şirket tarafından gönderildiğini paylaşmadı. GIFCT'nin üyelik ve programlar direktörü Erin Saltman, "test" ve "örnek karma kodların" bazen suçlu olduğunu söylüyor.
Birkaç üyenin 2022'de yaptığı küçük bir denetimde de geçersiz gönderimler tespit edildi, teknoloji konsorsiyumu bu gönderimlerin sayısını hiç açıklamadı. Ancak yeni materyaller eklenirken bile, bunları kaldırmak veritabanını, yaklaşık 18 ay önce 2,3 milyon olan karma kod sayısını, o yılın Ekim ayında 2,1 milyona düşürdü.
Bu yıl, Avustralya'nın eGüvenlik Komiseri - İçişleri Bakanlığı'ndaki meslektaşları GIFCT'nin resmi danışmanları - Google, Meta ve X'in teröre karşı mücadele çalışmaları hakkında ayrıntılar vermesini talep etti. Bulguların sonunda yayınlanması bekleniyor. "Bu teknoloji devlerinin sahip olduğu sistemler, süreçler ve kaynaklar hakkında temel soruların birçoğunun cevabını bilmiyoruz," diye yazdı eGüvenlik ofisi.
Meta, YouTube, Microsoft ve X'in teröre karşı mücadele forumunu nasıl yönettiği konusunda bazı eleştirmenler, şirketlerin zaten yasal konuşmayı korumak ve şiddete teşvik eden nefret suçlarını daha iyi engellemek için önlerinde bir playbook'a sahip olduğunu söylüyor. GIFCT, 2021'de yayınlanan ve 47 değişiklik öneren danışmanlık firması BSR'den bir insan hakları etki değerlendirmesi sipariş etti - bunların çoğunu yönetim kurulu henüz uygulamadı.
TikTok veya herhangi birini açıkça adlandırmadan, değerlendiriciler, insan hakları zararlarını en aza indirmek için "uygun önlemlerle" yüksek riskli, ABD dışı şirketlerin üyeliğini onaylamayı önerdiler, çünkü bu durum GIFCT'yi aşırılıkla mücadele etmek için "daha iyi konumda" bırakacaktı. Üyelerin insan incelemesi yapılmadan karma kod göndermesini yasaklamayı önerdiler. Ve sadece dört kurucu üyeden oluşan bir yönetim kurulunu "sürdürülebilir bir model" olarak tanımlamadılar ve aktivistlerin ve akademisyenlerin koltuklara eşit şekilde dağılmasını önerdi.
GIFCT'nin ayrıca 2020'de kurulan bağımsız bir danışmanlık komitesi var, ancak Meta, YouTube, Microsoft ve X her zaman önerilerini uygulamamış. O zamanki GIFCT yürütme direktörü, danışmanları konsorsiyumun vicdanı olarak nitelemişti. Ancak paneli oluşturan yaklaşık iki düzine profesör, hak savunucusu ve hükümetin bazıları bu yıl "sessizce işten ayrıldı". "Aslında hiçbir gücümüz yok," diyor danışmanlık panelindeki ifade özgürlüğü savunucusu Courtney Radsch. "[GIFCT] teknolojinin kendi kendini düzenlemesinin etkisiz ve yetersiz olduğuna dair bir başka örnek. Bu platformlarda gerçekleşen istismarı ele almak için, hesap verebilirlik ve şeffaflık içeren daha anlamlı bir yönetim yapısına ihtiyacımız var."
Mevcut yürütme direktörü Chowdhury Fink, danışmanların yapıcı eleştirilerini takdir ettiğini söylüyor. Kayıtlara göre, GIFCT personeli gizlice danışmanlar ile Meta, YouTube, Microsoft ve X arasında geçen görüşmeleri "gergin" olarak kaydetmiş. (İnsan hakları değerlendirmesi, GIFCT'nin yönetim kurulu ve danışmanlık paneli toplantılarının tutanaklarını yayınlamasını önerdi. Bu gerçekleşmedi.)
Önemli bir anlaşmazlık, GIFCT'nin adındaki "küresel" kelimesinden uzaklaşıp uzaklaşmadığıdır. Personel, şirketlerin yaklaşık 60 ülkede terör saldırılarına yanıt vermesine yardımcı oldu. Ancak bazı danışmanlar, ABD dışında daha fazla etkiye sahip şirketler işe almasını istiyor. Beyaz üstünlüğünü ve aşırı sağcı çeteleri bastırmak için araçlara daha fazla vurgu yapılması; Afrika'daki (Sahra altı bölgesi terörizmin yeni "merkezi" olarak kabul ediliyor) ve Asya'daki şiddeti incelemeye daha fazla dikkat edilmesi; ve İslamcı aşırılığın bastırılmasına aşırı odaklanma olarak gördükleri durumdan bir dönüşüm çağrısı yapıldı.
"Daha az Avrupa-Kuzey Amerika merkezli ve gerçekten daha dünya merkezli," diyor, danışmanlık panelinin başkanı olan Montreal'deki Quebec Üniversitesi'nde klinik psikolog olan Ghayda Hassan, bu yıl Singapur'da düzenlenen konsorsiyumun yıllık zirvesinde sahnede.
Hassan, WIRED'a danışmanların yakın zamanda yönetim kuruluna liderlikleriyle ilgili endişelerini bildirdiğini söylüyor. Yeni yönetim kurulu üyelerinin eklenmesinin hayati önem taşımasını bekliyor. "Yönetim kurulu, GIFCT'nin genel olarak çeşitlilik göstermesi gerektiği gibi daha çeşitli ve kapsayıcı olmalı."
Bazı GIFCT danışmanları ve personeli, yönetim kurulunun konsorsiyumun İsrail'in Hamas ile devam eden savaşına bağlı olarak "terörist ve şiddet içeren aşırılıkçı içeriği kaldırmak için zamanında ve etkili eylem" olarak tanımladığı şeyi kolaylaştırmasına itiraz etti. Grup, diğer savaşlar sırasında içerik kaldırma aracı olmaktan kaçındı ve birkaç çalışan, Gazze krizine müdahalenin İsrail'in yanında yer almak anlamına geldiğini düşündü, doğrudan bilgiye sahip iki kişi söylüyor. GIFCT içinde geçerli olan tanımlamaları kullanan BM, ne Hamas'ı ne de İsrail'i terörist örgüt olarak kabul etmiyor. GIFCT direktörü Saltman, "uzun süren savaş"ı nasıl ele alacağına dair tavsiye topladığını söylüyor.
WIRED ile görüşen hemen hemen herkes, GIFCT'nin eleştirmenleri de dahil olmak üzere, dünyanın bu tür bir koordinasyonsuz daha kötü bir durumda olacağına inanıyor. Alternatif, birbirine bağlı boşlukları kapatmak için mücadele eden bireysel şirketler ve daha sıkı sansür uygulayan hükümetler olurdu. "Küresel kaos," diyor internet yönetişim danışmanlığı Digital Medusa'yı yöneten ve GIFCT araştırmasına ortak yazarlık yapan Farzaneh Badiei.
GIFCT yönetim kurulu tarafından dışlanan, TikTok ve PornHub dahil hizmetler, Kanada, İngiltere ve Fransa gibi hükümetlerin yanı sıra teknoloji şirketleri tarafından finanse edilen bir girişim olan Tech Against Terrorism'dan yardım buldu. Bu girişim, 135 şirkete hizmetlerindeki aşırılıkçı içerikleri otomatik olarak bildiriyor ve yakında bir sertifika programı ve kendi karma kodlarını paylaşmak için bir veritabanı başlatacak.
GIFCT, yıllık olarak Tech Against Terrorism'a potansiyel GIFCT üyelerini değerlendirmek ve eğitmek için yüz binlerce dolar ödüyordu. Ancak iki organizasyonun örtüşen hedefleri ve kimlikleri konusunda artan çatışmalar, ilişkiyi bozdu. Microsoft, YouTube, Meta ve X, Tech Against Terrorism ile sözleşmeyi feshetmeye ve süreci kontrol altına almaya karar verdi: GIFCT personeli, önümüzdeki yıldan itibaren eğitimi üstlenecek.
Vittoria Elliott ve David Gilbert'in ek raporlama çalışmaları.
anahtar kelimeler: inside, turmoil, big, tech's, anti-terrorism, group, gifct, board, companies, meta, youtube, microsoft, content, x, members, hashes, tech, staff, tiktok, wired, gifct’s, database, twitter, membership, advisers, consortium, company, director, thousands, terrorism, didn’t, consortium’s, including, governments, chowdhury