Tanıma Yok: Polis, Amazon'un tartışmalı yüz tanıma sistemini kaldırdı
Özet
Orlando Polisi, 15 ay boyunca düzgün çalıştıramadığı için Amazon'un yüz tanıma sistemi Rekognition'dan vazgeçti. Sistem, özellikle daha koyu ten rengine sahip kişileri suçlu olarak etiketlediği için eleştirilmiş ve ayrımcılıkla suçlanmıştı. Amazon, ACLU'nun kullandığı metodolojiyi reddetse de, polis sistemin güvenilir bir akış oluşturamaması nedeniyle sözleşmeyi sonlandırdı. Bu durum, yüz tanıma sistemlerinin gizlilik sonuçları konusunda endişe duyanları rahatlatabilirken, Amazon çalışanlarının da sistemin kullanımı ve satışıyla ilgili endişelerini dile getirdiği bir dönemde gerçekleşti.
Orlando Polisi, teknik sorunlar nedeniyle Amazon'un tartışmalı yüz tanıma sistemi Rekognition'dan vazgeçmeye karar verdi.
Rekognition, Amerikan Sivil Özgürlükler Birliği (ACLU) tarafından, bir sabıka fotoğrafı veri tabanı kullanılarak yapılan bir testte daha koyu ten rengine sahip kişileri sıklıkla suçlu olarak etiketlediği için eleştirilmişti.
ACLU Kuzey Kaliforniya Vakfı'nda Teknoloji ve Sivil Özgürlük Avukatı olan Jacob Snow şunları söyledi:
"Yüz gözetimi, renkli toplulukları, göçmenleri ve aktivistleri hedef alan ayrımcı gözetim ve polislik için kullanılacaktır. Bir kez salıverildikten sonra, bu hasar geri alınamaz."
Amazon, ACLU tarafından kullanılan metodolojiyi, emniyet amaçları için en az %95 önerirken varsayılan %80 'güven' ayarının bırakıldığını iddia ederek reddetti.
Orlando Polisi, gözetim kameraları tarafından çekilen canlı görüntülerde şüpheli suçluları otomatik olarak tespit etmek için Rekognition'u kullanıyordu. Amazon'un yardımına rağmen, polis bunu düzgün bir şekilde çalıştırmakta 15 ay boyunca başarısız oldu.
Şehrin bilgi işlem müdürü Rosa Akhtarkhavari, Orlando Weekly'ye şunları söyledi: "Bugün bile bir akış oluşturmadık. Bir yıldan fazlasından bahsediyoruz. Bugün güvenilir bir akış oluşturmadık."
Amazon çalışanları yakın zamanda CEO Jeff Bezos'a, yüz tanıma yazılımı ve ICE (Göçmenlik ve Gümrük Muhafaza) gibi ABD hükümet organlarına diğer hizmetlerin satışı konusundaki endişelerini dile getiren bir mektup yazdılar.
Amazon çalışanları mektuplarında şunları yazdılar:
"ICE'ye güç veren platformu inşa etmeyi reddediyoruz ve insan haklarını ihlal eden araçlara katkıda bulunmayı reddediyoruz. Etik açıdan endişeli Amazon çalışanları olarak, ne inşa ettiğimiz konusunda bir seçim ve nasıl kullanıldığı konusunda söz sahibi olmayı talep ediyoruz."
Orlando Polisi, Amazon ile olan sözleşmesini iptal etti. Bu haber, bu tür "büyük birader" benzeri sistemlerin gizlilik sonuçları konusunda endişe duyanları bir nebze rahatlatacaktır.