Yapay Zekâ Yönetişimi: Etik, Güven ve İtibarın Yeni Kurumsal Güvencesi
2023 yılında ABD’ de çevrim içi eğitim şirketi iTutorGroup hakkında dikkat çekici bir tespit yapıldı. Şirketin kullandığı işe alım yazılımı, 55 yaş üstü kadın ve 60 yaş üstü erkek adayların başvurularını insan gözetiminden geçmeden otomatik olarak reddediyordu. Bu kapsamda; ABD Eşit İstihdam Fırsatı Komisyonu’ nun( EEOC) ayrımcılık iddiasıyla şirkete karşı açmış olduğu dava; şirketin ihlale yönelik herhangi bir kabulde bulunmaksızın, 365.000 dolar ödemeyi ve işe alım süreçlerinde ayrımcılığı önlemeye yönelik güvenceleri hayata geçirmeyi taahhüt etmesiyle uzlaşmaya sonuçlandı. Dava, Komisyon ' un otomatik karar sistemlerinin ayrımcılığa yol açtığı iddiasıyla açtığı ilk dava olması sebebiyle bir dönüm noktası olarak kabul edilmektedir.
47
Yazı: Burcu Güray Yazı: Burcu Tuzcu Ersin
Benzer bir tartışma bugün çok daha geniş bir zeminde yürümektedir; Mobley v. Workday davasında davacı, çok sayıda işverenin kullandığı işe alım yazılımının 40 yaş üstü adayları sistematik biçimde elediğini, ırk, cinsiyet ve engellilik temelinde de orantısız etki yarattığını ileri sürmektedir. Mahkeme 2024 yılında, işe alım süreci gibi esas olarak işverene ait bir işlevi üstlenen yazılım sağlayıcısının işverenin " temsilcisi "( agent) sıfatıyla sorumlu tutulabileceğine hükmederek davanın Workday ' e karşı sürdürülebilmesini sağlamıştır. Bu gelişme, davanın 40 yaş üstü adaylar bakımından ülke çapında toplu dava( collective action) olarak görülmesinin de önünü açmıştır. Dava halen devam etmektedir; henüz kesinleşmiş bir ihlal tespiti olmamasına karşın mahkemenin yaklaşımı, aynı yazılımı kullanan on binlerce işvereni yakından ilgilendirmektedir.
Her iki örnekte de belirleyici olan, sistemin uygulamaları kadar bu uygulamaların nasıl fark edildiğidir. iTutorGroup örneğinde yazılımdaki yaş eşiği çok sayıda adayın elenmesine yol açmış; uygulama ancak bir adayın aynı başvuruyu farklı bir doğum tarihiyle tekrarlayıp görüşme daveti almasıyla ortaya çıkmıştır. Süreçte şu sorular açıkta kalmıştır: Bu uygulamaya nasıl karar verildi? Kim onayladı? Neden hiçbir kontrol mekanizması devreye girmedi? Workday örneği ise aynı soruların, kullandığı sistemi bağımsız bir tedarikçiden temin eden kurumlar bakımından tedarikçi ilişki yönetimi çerçevesinde ek tedbirler gerektirdiğini göstermektedir.
Aynı sorular bugün yapay zekâ sistemlerini kullanan her kurumu yakından ilgilendirmektedir. Bir kurumun, kullandığı sistemin hangi kararları etkilediğini, hangi verilerle çalıştığını, kim tarafından onaylandığını ve gerektiğinde nasıl durdurulacağını ortaya koyabilmesi gerekir. Yapay zekâ artık yalnızca metin taslağı hazırlayan destekleyici nitelikte bir araç değil; işe alım, müşteri ilişkileri, fiyatlama, dolandırıcılık tespiti ve çalışan yöneti-