Bugün öğrendim ki: iTutorGroup adlı bir şirket, iş başvurularını değerlendirmek için yapay zekayı kullandı ve açılan bir dava, algoritmanın 55 yaş üstü kadınları ve 60 yaş üstü erkekleri otomatik olarak reddettiğini ortaya çıkardı. Bu, EEOC tarafından çözüme kavuşturulan ilk yapay zeka ayrımcılığı davasıydı.
9 Ağustos 2023'te, Fırsat Eşitliği İstihdam Komisyonu (“EEOC”), ajansın işyerinde yapay zeka (“YZ”) kullanımının ayrımcılık teşkil ettiği iddiasıyla ilgili ilk davasının çözüme ulaştığını duyurdu. EEOC v. iTutorGroup, Inc. davasında EEOC, iTutorGroup'un işe alım yazılımının, Yaş Ayrımcılığı İstihdam Yasası’nı (“ADEA”) ihlal ederek daha yaşlı iş başvuranlarını otomatik olarak reddettiğini iddia etti. Bu anlaşma, EEOC'nin işyeri kararlarında YZ kullanımına ilişkin ayrımcılık karşıtı yasaları uygulama konusundaki beyan ettiği niyetinin ortasında gerçekleşmiştir ve muhtemelen bu alandaki birçok dava ve anlaşmanın ilkidir.
* * *
Arka Plan
EEOC'nin YZ'ye Odaklanmaya Devam Etmesi. YZ, şirketlere süreçleri kolaylaştırmak veya iyileştirmek için birçok fırsat sunmaktadır ve işe alım süreci de bir istisna değildir. Şirketler örneğin, özgeçmişleri veya iş başvurularını taramak için yazılım kullanmayı tercih edebilirler. Ancak, bu tür programların belirli korunan gruplara istemeden ayrımcılık yapma riski vardır. İşe alımda YZ kullanımındaki önemli artışa yanıt olarak EEOC, YZ'ye yönelik sürekli odağını ve işverenlerin işyeri kararları için YZ ürünlerinin kullanımına ilişkin mevcut ayrımcılık karşıtı yasalara uyması gerektiğini vurgulamıştır. Bu çabanın bir parçası olarak EEOC, Ekim 2021'de bir Yapay Zeka ve Algoritmik Adalet Girişimi başlattı. EEOC ayrıca yakın zamanda (a) engellilik ayrımcılığıyla ilgili Mayıs 2022 YZ rehberi ve (b) "1964 Sivil Haklar Yasası Başlık VII Kapsamında İstihdam Seçim Prosedürlerinde Kullanılan Yazılım, Algoritmalar ve Yapay Zekada Olumsuz Etkiyi Değerlendirme" başlıklı Mayıs 2023 rehberi dahil olmak üzere özel YZ rehberleri yayımladı. Ocak 2023'te EEOC, istihdam kararlarında YZ kullanımının faydalarını ve zorluklarını incelemek üzere halka açık bir oturum düzenledi. 25 Nisan 2023'te EEOC Başkanı Charlotte A. Burrows, Adalet Bakanlığı (DOJ), Tüketici Mali Koruma Bürosu (CFPB) ve Federal Ticaret Komisyonu (FTC) yetkilileriyle bir araya gelerek, kurumların yasal ihlaller geleneksel yollarla mı yoksa ileri teknolojiler aracılığıyla mı gerçekleştiğine bakılmaksızın bireylerin haklarını korumak için "kolektif yetkilerini gayretle kullanma" sözünü vurgulayan ortak bir bildiri yayınladılar. Ve bu ayın başlarında, EEOC Başkanı Charlotte Burrows, YZ'nin "temel değerleri ve ilkeleri" tehdit edebilecek ve istihdam veya işe alım kararlarında ayrımcılık riski taşıyabilecek "yeni bir sivil haklar sınırı" olduğunu belirtti.
EEOC Dava Süreci. EEOC, 5 Mayıs 2022'de, Çin'deki öğrencilere uzaktan İngilizce öğretmenleri işe alan bir kuruluş olan iTutorGroup'a karşı New York Doğu Bölge Mahkemesi'nde dava açtı. EEOC, şirketin "kadın başvuranları 55 yaş ve üzeri ve erkek başvuranları 60 yaş ve üzeri otomatik olarak reddederek" "yaşları nedeniyle daha yaşlı başvuranlara kasten ayrımcılık yapan" bir yazılım işe alım programı uygulayarak ADEA'yı ihlal ettiğini iddia etti ve bu durum etkili bir şekilde 200'den fazla başvuranı eledi. İddia edilen ayrımcı yazılım, bir başvuranın doğum tarihi dışında her açıdan aynı olan iki başvuru sunduğunda ortaya çıktı. EEOC'ye göre, başvuru sahibi gerçek doğum tarihi ile bir başvuru ve daha yeni bir doğum tarihi ile ikinci bir başvuru kullandı. Adayın yalnızca daha yeni doğum tarihi ile başvurduğunda mülakata alındığı iddia edildi.
Anlaşma şartları uyarınca iTutorGroup, yaşları nedeniyle başvuruları reddedilen bir grup başvuru sahibine 365.000 $ ödemeyi kabul etti. Anlaşma uyarınca ödeme alacak hak sahiplerine tazminat zararları ve geriye dönük ücretler dağıtılacaktır. Anlaşmada şirket herhangi bir yanlış yaptığını kabul etmedi, ancak EEOC'ye adayların ve çalışanların taranması, işe alınması ve denetimi için "önerilen ayrımcılık karşıtı ve şikayet prosedürlerini" sunmayı kabul etti.
Çıkarımlar
İşverenlerin işyerinde YZ kullanımındaki önemli artış göz önüne alındığında, EEOC'nin YZ kullanımına odaklanmaya devam etmesi ve bu alanda daha fazla dava açması beklenmektedir. Son anlaşma, işverenler için bu alandaki, eyalet ve yerel düzeydekiler de dahil olmak üzere, gelişen yasaları ve rehberliği proaktif olarak izlemeleri için önemli bir hatırlatmadır. Sadece bir örnek olarak, New York Şehri mevzuatı (Yerel Yasa 144) yakın zamanda yürürlüğe girdi ve işverenlerin belirli istihdam kararlarında otomatik karar araçları kullanmasını, işverenin öncelikle aracın önceki yıl içinde önyargı açısından denetlendiğinden emin olmadığı sürece yasaklamaktadır.