YAPAY ZEKA
34
İkinci kırılma noktası, iş etiğinin“ değer bildirimi” olmaktan çıkıp ölçülebilir ve denetlenebilir bir kurumsal tasarım konusu haline gelmesidir.
tilmiş yeni bilgiler üretebilmekte ve bu çıkarımsal veriler, bireylerin hassas özelliklerine ilişkin sonuçlar doğurabilmektedir. Bu durum, mahremiyet kavramının yapay zekâ bağlamında genişlediğini ve veri koruma ilkelerinin yeniden yorumlanmasını zorunlu kıldığını göstermektedir. Çıkarıma dayalı veri üretiminin birey hakları üzerinde ciddi etkiler yarattığı ve klasik veri koruma anlayışının bu riskleri tek başına karşılamada yeterli olup olmadığı uyum programı kapsamında mutlaka değerlendirilmelidir 4.
b. Ayrımcılık, Adalet ve Algoritmik Önyargı Yapay zekâ sistemlerinin yarattığı en belirgin etik risklerden bir diğeri, ayrımcılık ve adalet sorunlarıdır. Algoritmik önyargı, çoğu zaman kasıtlı bir tercihten değil, eğitim verilerindeki tarihsel eşitsizliklerin ve temsildeki dengesizliklerin yeniden üretilmesinden kaynaklanmaktadır. Bu bağlamda ortaya çıkan ayrımcılık, bireysel bir hata olarak değil, kurumsal karar alma mekanizmalarının yapısal bir sonucu olarak değerlendirilmelidir. Algoritmik ayrımcılığın tespiti halinde kurumlar yalnızca etik ilkelere değil, aynı zamanda kanıta dayalı açıklama ve düzeltici mekanizmalar kurma yükümlülüğü altındadır 5.
c. Şeffaflık, Açıklanabilirlik ve Denetlenebilirlik Yapay zekâ uygulamalarında etik ve uyum risklerini derinleştiren bir diğer unsur, algoritmik sistemlerin opak yapısıdır. Karar alma süreçlerinin teknik karmaşıklığı, bu süreçlerin anlaşılmasını ve denetlenmesini zorlaştırmaktadır. Bu durum, kurumların hem iç denetim mekanizmaları hem de dış paydaşlara karşı hesap verebilirliği açısından önemli bir zafiyet yaratmaktadır ve yapay zekânın karar alma mekanizmalarına duyulan güveni doğrudan zedeleyen temel unsurlardan biridir. Bir sistemin hangi gerekçelerle belirli bir sonuca vardığı anlaşılmadıkça, o sistemin güvenilirliği ve doğruluğu hakkında sağlıklı bir değerlendirme yapmak mümkün değildir. Bu nedenle yapay zekâ tabanlı karar süreçlerinin açıklanabilir kılınması ve bu süreçleri denetlemeye imkân tanıyan hesap verebilirlik mekanizmalarının oluşturulması, yalnızca
4 ASIL, s. 154.
5 BINNS, 546.