ÇEŞITLILIK ve KAPSAYICILIK
16
Çeşitlilik ve Kapsayıcılık Politikalarının Yeni Alanı: Algoritmik Yönetişim Çeşitlilik ve kapsayıcılık politikaları uzun süre davranışa odaklandı. Önyargı farkındalığı eğitimleri, kapsayıcı dil rehberleri, standardize mülakatlar ve objektif değerlendirme kriterleri bu yaklaşımın ürünleriydi. Ama bugün kurumların karşısında yeni bir gerçeklik var: kararın kendisi dijitalleşiyor.
Bu değişim, çeşitlilik ve kapsayıcılık tartışmasını yeni bir alana taşıyor. Artık mesele yalnızca insanların nasıl karar verdiği değil, kararların hangi sistemler aracılığıyla üretildiğidir.
Bir kurum en kapsayıcı politikalara sahip olabilir; ancak aday eleme aracı belirli profilleri sistematik olarak dışlıyorsa sonuç değişmez. Performans değerlendirme modeli yalnızca ölçülebilir davranışları ödüllendiriyorsa, kapsayı-
Bu değişim, çeşitlilik ve kapsayıcılık tartışmasını yeni bir alana taşıyor. Artık mesele yalnızca insanların nasıl karar verdiği değil, kararların hangi sistemler aracılığıyla üretildiğidir.
cılık hedefleri kâğıt üzerinde kalır. Sorun niyette değil, mekanizmadadır. sorumluluğun parçasıdır.
Belki de bu dönüşümü en iyi anlatan
Algoritmik sistemler yalnızca karar vermek için kullanılmaz; davranışı yönlenrı yöneticilerin kararlarını sınırlamaya
gerçek şudur: eskiden eşitlik politikaladirmek ve düzenlemek için de kullanılır 8. Bu nedenle çeşitlilik ve kapsayıcılık malarının kendisini sorgulamak gere-
çalışıyordu. Bugün ise karar mekaniz-
politikaları için yeni bir başlık ortaya kiyor. Yapay zeka sistemleri izlenebilir, çıkıyor: algoritmik yönetişim. açıklanabilir ve insan denetimine tabi
olmalıdır 9.
Algoritmik yönetişim, kurumların yalnızca çalışan davranışlarını değil karar Çeşitlilik ve kapsayıcılık artık yalnızca altyapılarını da denetlemesi anlamına insan kaynakları politikalarıyla sınırlı gelir. Hangi sistemlerin kullanıldığını değildir; yönetişim alanına taşınmıştır. bilmek, kullanılan veriyi sorgulamak, Kurumlar için belirleyici soru bundan modelin etkilerini izlemek ve sonuçları sonra kararın kimden çıktığı değil, hangi mekanizma tarafından üretildiği ola- düzenli olarak gözden geçirmek artık sadece etik bir tercih değil, kurumsal caktır
8
Karen Yeung, Algorithmic Regulation: A Critical Interrogation,( pre-print), 2017, s. 3 – 4.
9
EU Ethics Guidelines for Trustworthy AI, 2019, s. 14 vd.