şıktır. Çünkü sorun tek bir hatalı karar |
||||
değildir; tekrar eden bir örüntüdür. |
||||
Bir adayın yanlış değerlendirilmesi |
||||
tekil bir hata sayılabilir. Ancak aynı |
||||
özelliklere sahip adayların sistematik |
||||
biçimde elenmesi artık bireysel değil, |
||||
yapısal bir sorundur. |
||||
Bu nedenle güncel yapay zekâ yönetişimi |
||||
tartışmaları, sistemlerin yalnızca |
||||
doğruluğunu değil etkisini sorgulamaya |
||||
başlamıştır. Önemli olan modelin |
||||
teknik olarak doğru çalışması değil, |
||||
sonuçlarının kimleri nasıl etkilediğidir. |
||||
Yapay zekâ riskleri yalnızca model performansıyla |
||||
ilgili değildir; kuruluşların |
||||
bu sistemleri nasıl yönettiğiyle ilgilidir |
||||
6. Nitekim yapay zekâ uygulamalarına |
||||
ilişkin çalışmalar, ayrımcı etkinin |
||||
yalnızca çıktıdan değil sistemin tasa- |
||||
ez; |
rımından, kullanılan veriden ve uygulama biçiminden doğabileceğini kabul etmektedir. 7 |
15 |
||
atik |
Hukuki ve Etik Sorumluluk:“ Sistem Verdi” Savunması Neden Yetmez?
Algoritmik kararların en dikkat çekici
özelliği sorumluluğu belirsizleştirmesidir
. Kararı bir yönetici vermemiştir.
İK uzmanı vermemiştir. Hatta çoğu
zaman sistemi kullanan kişi de kararın
nasıl üretildiğini bilmez. Bu nedenle
kurumlar doğal olarak şu sonuca yönelir
: karar otomatikleştiyse sorumluluk
da azalır.
Oysa gerçekte tam tersi söz konusudur.
Bir kurumun karar süreçlerinde kullandığı
araçlar, o kurumun faaliyetinin
parçasıdır. Bir yöneticinin yaptığı
değerlendirme ile şirketin satın aldığı
|
Bu nedenle güncel yapay zekâ yönetişimi tartışmaları, sistemlerin yalnızca doğruluğunu değil etkisini sorgulamaya başlamıştır.
veya geliştirdiği bir yazılımın ürettiği sonuç arasında hukuki açıdan belirleyici bir fark yoktur. Karar şirket adına doğuruluyorsa, sonuçlarından da şirket sorumludur.
Üstelik algoritmik kararların yarattığı risk, klasik ayrımcılıktan daha karma-
|
Burada ortaya çıkan sorumluluk yalnızca hukuki değildir. Etiktir de. Çünkü algoritmik kararlar çoğu zaman itiraz edilemez hale gelir. İnsan kararına karşı konuşabilirsiniz; gerekçesini sorabilirsiniz. Ancak bir modelin“ düşük uygunluk skoru” üretmesi karşısında çalışan ya da aday kendini savunamaz. Kararın mantığı açıklanamadığında, eşit muamele ilkesi de fiilen zayıflar.
Bu noktada şirketlerin karşı karşıya olduğu risk yalnızca bir ayrımcılık iddiası değildir. Güven kaybıdır. Kurum içi adalet algısının zedelenmesidir. Çalışanların performans değerlendirmelerine inanmadığı, adayların sürecin adil olmadığına kanaat getirdiği bir ortamda en güçlü uyum programları bile etkisini kaybeder. Dolayısıyla“ kararı sistem verdi” ifadesi bir açıklama olabilir; ancak bir gerekçe değildir.
|
|