politikaları ilk kez, insan davranışının |
ğer yüklüdür 2. Dolayısıyla problemin |
kimin karar verdiği değil, kararın nasıl |
|
ötesine geçerek karar altyapısını sor- |
nasıl tanımlandığı bile sonucu belirler. |
üretildiğidir. |
|
gulamak zorunda kalıyor. |
|||
Algoritma Neden Tarafsız Değildir? |
Örneğin“ iyi çalışan” ı tanımlarken hangi göstergelerin seçildiği— kesin- |
İnsan Kaynaklarında Algoritmik Ayrımcılık Nasıl Ortaya Çıkar? |
|
Yapay zekâ çoğu zaman matematiksel |
tisiz kariyer, uzun çalışma saatleri, be- |
Yapay zekâ tartışmaları çoğu zaman |
|
olduğu için tarafsız kabul edilir. Oysa |
lirli eğitim geçmişleri— aslında teknik |
otonom araçlar veya gelişmiş robotlar |
|
yapay zekâ karar vermez; örüntü tanır. |
bir tercih değil, normatif bir kabuldür. |
üzerinden yürütülüyor. İş dünyasın- |
|
Ve bu örüntüler yeni değildir. Geçmişe |
da insan kaynakları uygulamalarında |
||
|
aittir. Bir algoritma geleceği öğrenmez, geçmişi genelleştirir.
İşe alım verileri üzerinden eğitilen bir sistem, geçmişte“ başarılı” kabul edilmiş çalışanların özelliklerini model alır. Eğer kurum belirli üniversitelerden mezun adayları daha sık işe aldıysa, sistem bunu liyakat göstergesi olarak yorumlar. Eğer belirli kariyer kesintileri olan adaylar daha az terfi ettiyse, model bunu performans sinyali olarak algılar. Sistem kimseyi bilinçli olarak dışlamaz; yalnızca geçmiş ter-
|
NoBiasAI girişimi 3 de yapay zekâ sistemlerinin toplumsal önyargıları yeniden üretebileceğine ve temsil eksikliğinin sonuçları etkilediğine dikkat çekmektedir. NoBiasAI Kurucusu ve CEO’ su Saniye Gülser Corat’ ın aktardığına göre: birinci problem internetteki verilerin % 51’ i İngilizce konuşan veya bilen 20-55 yaş arası beyaz erkeklerden geliyor. Din, mezhep, sosyoekonomik statü, coğrafi konum gibi farklarla son derece önyargılı verilerden bahsediyoruz. İkinci problem ise algoritmaları |
kullanılan teknolojilerin ne kadarının
yapay zekâ, ne kadarının yalnızca otomasyon
olduğu çoğu zaman belirsizdir.
Buna rağmen etkileri ortaktır: karar,
bir kişinin değerlendirmesi olmaktan
çıkar ve bir sistemin çıktısına dönüşür.
Bugün pek çok kurum, aday başvurularını
ön elemeden geçirmek, çalışanların
performansını değerlendirmek, işten
ayrılma riskini tahmin etmek veya
terfi potansiyelini belirlemek için veri
temelli araçlar kullanıyor. Bu sistemler
çoğu zaman nihai kararı vermez; fakat
|
13 |
cihleri normal kabul eder. Bu nedenle |
kim yazdığıdır. Algoritmaları 18-25 yaş |
kararın kimler hakkında verileceğini |
|
|
algoritmik ayrımcılık çoğu zaman niyet içermez. Ancak etkisi sistematiktir.
Yapay zekâ sistemlerinde önyargı yalnızca sonuç aşamasında ortaya çıkmaz. Problemin nasıl tanımlandığı, hangi verinin seçildiği, hangi değişkenlerin önemli kabul edildiği ve modelin nasıl uygulandığı gibi kararların tamamı sonucu etkiler. Yapay zekâ yönetişimi çalışmalarında da haksız ayrımcılığın sistemin tasarım, geliştirme ve kullanım süreçlerinin herhangi bir aşamasında ortaya çıkabileceği kabul
|
arası % 90’ ı beyaz olan ve çok büyük bir oranı ABD’ li olan genç erkekler yazıyor. Şu an teknoloji sektöründeki firmaların verdiği rakamlara bakarsanız % 20-25 arası kadın diyorlar, bu doğru değil, bu oran şirketteki tüm departmanları kapsıyor, sadece teknik elemanlar olarak bakarsanız kadınların oranı % 9’ un altında. Bir başka gerçek ise şudur; yapay zekâ sektöründe çalışan kadınların % 70’ i ilk 5 yıl içinde teknoloji şirketlerinden bir daha hiç girmemek üzere ayrılıyor. Bunun da sebebi teknoloji şirke- |
belirler. Bir başka deyişle, yöneticinin
önüne hangi adayların geleceğini, hangi
çalışanların“ yüksek potansiyel”
sayılacağını ve kimlerin risk grubunda
görüleceğini filtreler.
Bu durum ilk bakışta daha adil görünebilir
. Çünkü süreç kişisel değerlendirmelerden
arındırılmıştır. Ancak sorun
tam da burada başlar.
Bir işe alım algoritması, geçmişte başarılı
kabul edilen çalışanların özelliklerini
model alır. Eğer kurum yıllar bo-
|
|
edilmektedir 1. |
tindeki ataerkil kültürdür 4”. |
yunca belirli üniversitelerden mezun |
|
adayları daha çok işe aldıysa, model |
|||
Bu noktada, algoritmanın bir kurumun |
Bu nedenlerle bugün şirketler yalnızca |
bunu başarı göstergesi olarak öğrenir. |
|
değerlerinden bağımsız olmadığını |
yöneticilerin önyargısıyla değil, karar |
Eğer kesintisiz kariyer geçmişi olan |
|
hatırlamak gerekir. Sistemler, onları |
araçlarının gömülü varsayımlarıyla |
çalışanlar daha sık terfi ettiyse, sistem |
|
geliştiren ekiplerin dünyayı nasıl gör- |
karşı karşıyadır. Çeşitlilik ve kapsayıcı- |
kariyer ara veren adayları düşük po- |
|
düğünü yansıtır. Algoritmalar teknik |
lık tartışması da tam bu noktada yeni |
tansiyel olarak değerlendirebilir. Eğer |
|
araçlar değildir; kaçınılmaz olarak de- |
bir boyut kazanır: sorun artık yalnızca |
uzun çalışma saatleri yüksek perfor- |