Amerikan Sivil Özgürlükler Birliği (ACLU), Amazon'un yüz tanıma yapay zekasının ırksal önyargılı olduğunu tespit etti.
Özet
ACLU'nun Amazon'un yüz tanıma teknolojisi Rekognition üzerinde yaptığı bir test, teknolojinin daha koyu tenli kişileri orantısız bir şekilde suçlu olarak yanlış etiketlediğini ortaya koydu. Testte, Amazon'un aracı Kongre üyelerinin fotoğraflarını 25.000 tutuklama fotoğrafıyla karşılaştırmış ve yanlış eşleşmeler özellikle Siyah Caucus üyelerini etkilemiştir. Bu bulgular, yapay zeka tabanlı otomatik ırksal profilleme yoluyla medeni hakların ihlal edilebileceği endişelerini artırmaktadır. ACLU, bu sonuçların kolluk kuvvetlerinin yüz gözetimini kullanmasına yönelik bir moratoryum çağrısını desteklediğini belirtirken, Amazon metodolojiyi ve varsayılan güven ayarlarını sorgulamıştır.
ACLU tarafından Amazon'un yüz tanıma teknolojisi üzerine yapılan bir test, teknolojinin daha koyu ten rengine sahip kişileri daha sık bir şekilde suçlu olarak yanlış etiketlediğini ortaya çıkardı.
Yapay zeka teknolojisindeki önyargının kolluk kuvvetleri tarafından kullanılması, otomatik ırksal profilleme yoluyla medeni hakların ihlal edilmesine ilişkin endişeleri artırdı.
NIST ve Teksas Üniversitesi, Dallas'taki araştırmacılar tarafından 2010 yılında yapılan bir çalışma, Doğu Asya'da tasarlanan ve test edilen algoritmaların Doğu Asyalıları tanımada daha iyi olduğunu, Batı ülkelerinde tasarlananların ise Kafkasları tespit etmede daha doğru olduğunu buldu.
ACLU (Amerikan Sivil Özgürlükler Birliği), Kongre üyeleri üzerinde Amazon'un yüz tanıma teknolojisinin bir suçlu vesikalık fotoğraf veritabanıyla eşleşip eşleşmediğini görmek için bir test gerçekleştirdi.
Amazon'un Rekognition aracı, Temsilciler Meclisi ve Senato'daki tüm üyelerin fotoğraflarını 25.000 tutuklama fotoğrafıyla karşılaştırmak için kullanıldı ve yanlış eşleşmeler orantısız bir şekilde Kongre Siyah Caucus üyelerini etkiledi.
ACLU bir blog yazısında şunları söyledi:
"Testimizde kullandığımız vesikalık fotoğraf veritabanıyla yanlış eşleşen Kongre üyeleri arasında Cumhuriyetçiler ve Demokratlar, erkekler ve kadınlar ve ülkenin dört bir yanından her yaştan milletvekilleri bulunmaktadır.
Bu sonuçlar, Kongre'nin neden kolluk kuvvetlerinin yüz gözetimini kullanmasına moratoryum çağrısında bulunan ACLU'ya katılması gerektiğini göstermektedir."
AWS (Amazon Web Services) ACLU'nun metodolojisini sorguladı.
Şirket, varsayılan yüzde 80 güven ayarının açık bırakıldığını söylüyor. Amazon, kolluk kuvvetleri için yalnızca yüzde 95 veya üzeri güven eşleşmelerini kaydetme seçeneğini önermektedir.
Yanlışlıkla suçlu vesikalık fotoğrafları arasında işaretlenen Kongre üyeleri sadece 28 kişiydi, ancak yanlış eşleşmelerin neredeyse yüzde 40'ı daha koyu ten rengine sahip insanlardı. Ancak bunu gerçekten perspektife oturtan şey, Kongre'nin yalnızca yüzde 20'sinin renkli insanlardan oluşmasıdır.
ACLU Kuzey Kaliforniya Teknolojisi ve Sivil Özgürlükler Avukatı Jacob Snow, "Testimiz, yüz gözetiminin hükümet kullanımı için güvenli olmadığını pekiştiriyor" dedi. "Yüz gözetimi, renkli toplulukları, göçmenleri ve aktivistleri hedef alan ayrımcı gözetimi ve polisliği desteklemek için kullanılacaktır. Bir kez serbest bırakıldığında, bu zarar geri alınamaz."
Amazon, yüz tanıma teknolojisini Washington County, Oregon ve Orlando, Florida'daki polisler gibi kolluk kuvvetlerine aktif olarak pazarlıyor. Bunu, hem gözetleme görüntülerinden hem de memurların vücut kameralarından kişileri gerçek zamanlı olarak tanımlamanın bir yolu olarak tanıtıyorlar.
ACLU'nun bulguları hakkında ne düşünüyorsunuz? Yorumlarda bize bildirin.