Amazon, yüz tanıma standartlarının oluşturulması çağrılarına katıldı.
Özet
Amazon, yüz tanıma teknolojisinin standartlaştırılması ve yasal düzenlemelerle denetlenmesi çağrılarına destek verdiğini açıklamıştır. Şirket, bu teknolojinin etik kullanımını sağlamak amacıyla yasalara uyum, insan denetimi, şeffaflık ve görsel bildirimler içeren beş temel ilke yayınlamıştır. Öte yandan, Amazon'un 'Rekognition' sisteminin göçmenlik ve kolluk kuvvetlerine pazarlanması, çalışanlar tarafından insan hakları ihlallerine katkıda bulunduğu gerekçesiyle eleştirilmiştir.
Amazon, yüz tanıma standartlarının oluşturulması için şirketler, bireyler ve hak gruplarından gelen ve giderek artan çağrılara destek vermiştir.
Amazon Web Services Küresel Kamu Politikası Başkan Yardımcısı Michael Punke şunları söyledi:
"Geçtiğimiz birkaç ay boyunca, yüz tanıma teknolojisinin faydalarını potansiyel risklerle en iyi şekilde nasıl dengeleyeceğimizi anlamak için müşteriler, araştırmacılar, akademisyenler, politikacılar ve diğer paydaşlarla görüştük.
Herhangi bir yasal düzenlemenin sivil hakları korurken aynı zamanda teknolojinin sürekli inovasyonuna ve pratik uygulamalarına olanak tanması hayati önem taşımaktadır."
Amazon, bugün yayınladığı bir blog yazısında, yüz tanıma teknolojisinin etik bir şekilde geliştirilmesini ve kullanılmasını sağlamak için beş temel ilkeye dikkat çekti.
Bu beş ilkeden ilki, yüz tanıma teknolojisinin sivil özgürlükleri koruyan mevcut yasalara uymasını talep ediyor. Hesap verebilirliği sağlamak amacıyla ikinci ilke, herhangi bir karar alınmadan önce tüm yüz tanıma işlemlerinin insanlar tarafından incelenmesini istiyor.
Diğer ilkeler arasında, kurumların yüz tanıma teknolojisini nasıl kullandığı konusunda şeffaflık çağrısı ve kamuya açık veya ticari alanlarda kullanıldığı yerlere asılacak görsel bildirimler yer alıyor.
Yüz Tanıma Endişeleri
Şirket, polis güçleri tarafından kullanılan ve ABD Göçmenlik ve Gümrük Muhafaza (ICE) gibi kurumlara pazarlanan 'Rekognition' sistemi nedeniyle eleştirilerle karşı karşıya kaldı.
Amazon CEO'su Jeff Bezos'a yazılan bir mektupta çalışanlar şunları yazdı:
"ICE'a güç veren platformu kurmayı reddediyoruz ve insan haklarını ihlal eden araçlara katkıda bulunmayı reddediyoruz.
Etik açıdan kaygı duyan Amerikalılar olarak, ne inşa ettiğimiz konusunda bir seçim hakkı ve bunun nasıl kullanıldığı söz sahibi olmayı talep ediyoruz."
Mektup, ICE'ın ABD sınırındaki göçmen çocukları ailelerinden ayırması ve ardından gözaltına almasının ardından gönderildi. ICE'ın nihayetinde Amazon'un teknolojisini satın aldığını veya kullandığına dair bir kanıt yok.
Geçen yılın temmuz ayında Amerikan Sivil Özgürlükler Birliği (ACLU), Kongre üyelerinin sabıka fotoğraflarından oluşan bir veritabanıyla eşleşip eşleşmediğini görmek için Amazon'un yüz tanıma teknolojisini test etti.
Rekognition, Temsilciler Meclisi ve Senato'nun tüm üyelerinin fotoğraflarını 25.000 tutuklama fotoğrafıyla karşılaştırdı. Yanlış eşleşmeler, Kongre Siyah İttifakı (Congressional Black Caucus) üyelerini orantısız bir şekilde etkiledi.
Amazon Web Services Yapay Zeka Genel Müdürü Dr. Matt Wood, o ayın ilerleyen günlerinde ACLU'nun bulguları hakkında yorum yaptı. ACLU'nun, kolluk kuvvetleri için yüzde 95 veya üzeri önerilirken Rekognition'ın varsayılan güven ayarını yüzde 80 olarak bıraktığını söyledi.
Ancak Wood, bunun yüz tanıma sistemlerinin düzgün kullanılmasını sağlamak için standartların neden gerekli olduğunu gösterdiğini belirtti. "Hükümetin müdahale ederek kolluk kuvvetlerinin kamu güvenliği çalışmalarına yardımcı olmak için hangi eşiği (veya güven seviyelerini) karşılamasını istediğini belirlemesini" talep etti.
Yüz tanıma standartları çağrısı ABD'nin sınırlarını aşıyor. Dünyanın en çok finansman sağlayan yapay zeka girişimlerinden SenseTime'ın CEO'su da Çin'de, daha 'sağlıklı' bir sektör için yüz tanıma standartlarının oluşturulmasını istediğini söyledi.
İngiltere'de Bilgi Komi