ÇEŞITLILIK ve KAPSAYICILIK
mansla ilişkilendirildiyse, esnek çalışma tercih eden çalışanlar performans açısından riskli görülebilir.
Bu noktada sistem açıkça“ kadınları işe alma” veya“ belirli grupları dışla” gibi bir karar vermez. Ancak seçtiği göstergeler belirli grupları sistematik olarak dezavantajlı konuma getirir. Ayrımcılık doğrudan değil, dolaylıdır.
Klasik ayrımcılıkta bir kişi bir başkasını bilerek veya isteyerek farklı değerlendirir. Algoritmik ayrımcılıkta ise karar tarafsız görünür. Çünkü kimse bireysel bir tercih yapmamıştır. Ancak kullanılan kriterler, geçmişteki eşitsizlikleri yeniden üretir. Böylece eşitsizlik bireysel olmaktan çıkar, kurumsallaşır.
14
Örneğin çalışan bağlılığı veya işten ayrılma riskini tahmin eden modeller, geçmiş verilerde işten daha sık ayrılmış çalışanların özelliklerini risk göstergesi olarak kabul edebilir. Bu özellikler arasında ulaşım süresi, çocuk bakım sorumluluğu, çalışma saatlerine esneklik talebi veya belirli departmanlarda çalışma gibi değişkenler bulunabilir. Bu değişkenlerin hiçbiri tek başına ayrımcı değildir. Ancak birlikte değerlendirildiğinde belirli çalışan gruplarını sürekli“ riskli” kategorisine yerleştirebilir.
Benzer şekilde performans değerlendirme araçları, ölçülmesi kolay olan davranışları ölçmeyi tercih eder: toplantı sayısı, platform içi etkileşim, e-posta yanıt hızı veya çevrim içi görünürlük. Oysa ekip içi destek, kriz çözme becerisi veya mentorluk gibi katkılar ölçülemediği için modelin dışında kalır. Sonuçta performans değil, görünürlük ödüllendirilir.
Buradaki kritik nokta şudur: Algoritma ayrımcılığı icat etmez; ölçülebilir olanı ödüllendirir. Ölçülemeyen katkı ise sistematik biçimde değersizleşir.
Algoritmalar yalnızca veriyle değil, varsayımlarla çalışır.“ İyi çalışan”,“ yüksek potansiyel”,“ uygun aday” gibi kavramlar teknik değil normatif tanımlardır. Bu tanımlar çoğu zaman yazılı değildir; ancak modelin içine gömülür.
Böylece şirketler farkında olmadan yeni bir durumla karşılaşır: Karar artık yöneticinin bireysel önyargısından değil, kurumun geçmiş tercihlerini genelleştiren bir sistemden doğar. Ve bu sistem, itiraz edilmesi en zor kararları üretir. Çünkü açıklaması yoktur. Aday reddedilir ama neden reddedildiği
Buradaki kritik nokta şudur: Algoritma ayrımcılığı icat etm ölçülebilir olanı ödüllendirir. Ölçülemeyen katkı ise sistem biçimde değersizleşir.
tam olarak söylenemez. Çalışan düşük potansiyel kategorisine girer ama hangi davranışı nedeniyle olduğu net değildir. Karar kişisel olmadığı için tartışma zemini de ortadan kalkar.
Bu nedenle algoritmik ayrımcılık çoğu zaman görünmezdir. Ama etkisi son derece somuttur: çeşitlilik azalır, benzer profiller çoğalır ve kurum zamanla kendine benzeyen insanları seçen kapalı bir yapıya dönüşür. Hatalı bir model tek bir kişiyi değil, çok sayıda insanı aynı şekilde etkiler.
Bu durum yalnızca teorik bir risk değildir. Amazon’ un birkaç yıl önce geliştirdiği başvuru puanlama sistemi buna iyi bir örnek sunar: Amazon 2014 – 2017 arasında başvuruları puanlayan bir işe alım sistemi geliştirdi. Sistem geçmiş CV’ lerle eğitildiği için erkek adayları tercih etmeyi“ öğrendi”;“ women’ s” gibi ifadeleri içeren başvuruları düşük puanladı ve kadınların mezun olduğu bazı okulları dezavantajlı kabul etti. Proje daha sonra terk edildi 5.
5 https:// incidentdatabase. ai / cite / 37 /