Yeni bir yapay zeka türü, polisin yüz tanıma yasaklarını aşmasına nasıl yardımcı oluyor?
Track'ın ardındaki genel vizyonun, Veritone CEO'su Ryan Steelberg'in de belirttiği gibi, "Eğer insanların yüzlerini takip etmemize izin verilmiyorsa, suçluları veya kötü niyetli davranış veya faaliyetleri potansiyel olarak belirlemede nasıl yardımcı olabiliriz?" sorusuna cevap aramaktı. Steelberg, yüz tanımanın yasal olarak izin verilmediği yerlerde bireyleri takip etmenin yanı sıra, yüzlerin gizlendiği veya görünür olmadığı durumlarda da takip imkanı sağladığını söylüyor.
Ürün, Amerikan Sivil Özgürlükler Birliği'nden (ACLU) eleştiri aldı. MIT Technology Review aracılığıyla araçtan haberdar olduktan sonra, ABD'de bu ölçekte kullanılan ilk biyometrik olmayan takip sistemi olduğunu belirttiler. Bunun, yüz tanıma ile aynı gizlilik endişelerini beraberinde getirdiği, ancak Trump yönetiminin federal kurumları protestocuları, göçmenleri ve öğrencileri daha fazla izleme yönünde zorladığı bir dönemde yeni endişeler de ortaya koyduğu konusunda uyardılar.
Veritone, bize 6 Ocak ayaklanmalarından metro istasyonlarına kadar farklı ortamlardan gelen görüntülerde insanları analiz eden Track'in bir gösterimini sundu. Vücut ölçüsü, cinsiyet, saç rengi ve stili, ayakkabı, kıyafet ve çeşitli aksesuarları belirleyerek kişileri bulabilirsiniz. Araç daha sonra farklı yerlerdeki ve video beslemelerinde bir kişiyi takip eden zaman çizelgeleri oluşturabilir. Amazon ve Microsoft bulut platformları üzerinden erişilebilir.
Steelberg, bir röportajda, Track'in kişileri tanımlamak için kullandığı özellik sayısının artmaya devam edeceğini söyledi. Track'in cilt tonuna göre ayrım yapıp yapmadığı sorulduğunda, şirket sözcüsü, bunun algoritmanın insanları birbirinden ayırmak için kullandığı özelliklerden biri olduğunu, ancak yazılımın şu anda kullanıcıların cilt rengine göre arama yapmasına izin vermediğini söyledi. Track şu anda yalnızca kaydedilmiş videolarda çalışıyor, ancak Steelberg, şirketin bir yıldan az bir süre içinde canlı video beslemelerinde çalıştırılabileceğini iddia ediyor.
Track kullanan kurumlar, polis gövde kameralarından, dronlardan, YouTube'daki kamu videolarından veya polis taleplerine yanıt olarak sözde vatandaş yüklemesi görüntülerinden (örneğin Ring kameralarından veya cep telefonlarından) görüntüler ekleyebilir.
Steelberg, "Bunu Jason Bourne uygulamamız olarak adlandırmayı seviyoruz" diyor. Teknolojinin mahkeme davalarında incelemeye tabi tutulmasını bekliyor, ancak "Umarım insanları beraat ettirdiğimiz kadar polislerin kötü adamları bulmasına da yardımcı oluyoruz" diyor. Kamu sektörü şu anda Veritone'nin işinin yalnızca %6'sını oluşturuyor (müşterilerinin çoğu medya ve eğlence şirketidir), ancak şirket bunun en hızlı büyüyen pazarı olduğunu ve Kaliforniya, Washington, Colorado, New Jersey ve Illinois gibi yerlerde müşterileri olduğunu söylüyor.
Bu hızlı genişleme, bazı çevrelerde endişelere yol açmaya başladı. ACLU'nun kıdemli politika analisti Jay Stanley, 2019'da yapay zekanın bir gün gözetim görüntülerini taramaktaki sıkıcı görevi hızlandıracağını, bir suç işlenmiş olup olmadığına bakılmaksızın otomatik analizi mümkün kılacağını yazdı. O zamandan beri, birçok polis teknolojisi şirketi, örneğin bir kişinin belirli bir alana girdiğini tespit edebilen video analitik sistemleri geliştiriyor. Ancak Stanley, Track'in belirli kişilerin geniş çaplı izlenmesini teknolojik olarak ölçekte mümkün kılan gördüğü ilk ürün olduğunu söylüyor.
Stanley, bu tür kötüye kullanılabilir gözetimin olasılığının, Veritone'nin müşterilerinin bulunduğu federal kurumlarda şu anda özellikle yüksek olduğunu söylüyor. İç Güvenlik Bakanlığı geçen ay göçmenlerin sosyal medya faaliyetlerini izleyeceğini ve orada bulduğu kanıtları vize ve yeşil kartları reddetmek için kullanacağını ve Göçmenlik ve Gümrük Uygulama Bürosu'nun Filistin yanlısı açıklamaların veya protestolarda görünmenin ardından aktivistleri gözaltına aldığını söyledi.
Veritone'nin kamu sektörü işletmesinin genel müdürü Jon Gacek, bir röportajda, Track'in videoların önemli bölümlerini belirleme görevini hızlandırmak için tasarlanmış genel bir gözetim aracı değil, "ayıklama aracı" olduğunu söyledi. Veritone, İç Güvenlik Bakanlığı veya diğer federal kurumlar içinde hangi grupların Track'i kullandığını belirtmedi. Savunma, Adalet ve İç Güvenlik Bakanlıkları yorum taleplerine yanıt vermedi.
Polis departmanları için araç, soruşturmalarda kullanılabilecek video miktarını önemli ölçüde artırıyor. Yüz tanıma, yüzlerin açıkça görülebildiği görüntüler gerektirirken, Track'in böyle bir sınırlaması yoktur. ACLU'nun avukatı Nathan Wessler, bunun polislerin daha önce ilgilenmedikleri videoları tarayabileceği anlamına geldiğini söylüyor.
Wessler, "Bu, insanlık tarihinde daha önce hiç mümkün olmayan kategorik olarak yeni bir gizlilik ihlali ve kötüye kullanım potansiyeli yaratıyor" diyor. "Artık bir polisin yapabileceği şeyi hızlandırmaktan değil, hiçbir polisin daha önce sahip olmadığı bir yetenek yaratmaktan bahsediyoruz."
Track'in genişlemesi, memurların algoritmaların kararlarına aşırı güvendikleri yanlış tutuklamaların tetiklediği yüz tanımanın kullanımını sınırlayan yasaların yaygınlaşmasıyla birlikte geliyor. Çok sayıda çalışma, bu tür algoritmaların beyaz olmayan yüzlerle daha az doğru olduğunu göstermiştir. Montana ve Maine'deki yasalar, polisin bunu ne zaman kullanabileceğini şiddetle sınırlandırıyor - canlı video ile gerçek zamanlı olarak kullanılmasına izin verilmiyor - San Francisco ve Oakland, Kaliforniya ise yüz tanıma konusunda neredeyse tamamen yasaklar getirmiştir. Track bir alternatif sunuyor.
Wessler, bu tür yasaların genellikle "biyometrik veriler"e atıfta bulunmasına rağmen, bu ifadenin açıkça tanımlanmadığını söylüyor. Genellikle yüz, yürüyüş ve parmak izi gibi değişmez özellikler yerine, kıyafet gibi değişen şeylere atıfta bulunur. Ancak vücut ölçüsü gibi bazı özellikler bu ayrımı bulanıklaştırıyor.
Wessler, aynı botları, paltoyu ve sırt çantasını sık sık giyen kışın birisini de düşünün diyor. "Profilleri günlerce aynı olacak" diyor Wessler. "Bir kişinin bir sürü farklı kaydedilmiş video beslemesinde nasıl hareket ettiğine göre zaman içinde takip etme potansiyeli, yüz tanımaya oldukça denktir."
Başka bir deyişle, Track, yüz tanıma ile aynı endişeleri doğuran ancak teknik olarak biyometrik veri içermediği için yüz tanımanın kullanımını kısıtlayan yasalara tabi olmayan bir takip yolu sağlayabilir. Steelberg, Track'ten gelen video kanıtlarını içeren birkaç devam eden dava olduğunu, ancak davaları isimlendiremeyeceğini veya daha fazla yorum yapamayacağını söyledi. Bu nedenle, şu anda yüz tanımanın yasak olduğu yargı bölgelerinde benimsenip benimsenmediği belirsizdir.