YAPAY ZEKA
nın, Yapay Zekâ Hakkında Rapor 6 ile belirlenen risk temelli bir yaklaşıma dayanması da düzenlemeyi daha uygulanabilir kılmış, yasal çerçevenin hazırlanmasında Avrupa Parlamentosu’ nun etik hakkında YZ sistemlerinin insan merkezli ve güvenilir olması gerektiğini vurgulayan 20 Ekim 2020 tarihli kararının 7 da etkili olması, YZ Yasası’ na boyut kazandırmıştır.
Bu kapsamda YZ Yasası, soyut etik ilkeleri somutlaştırarak, her kuruluş için doğrudan bağlayıcı olmamakla birlikte, ilgili durumlarda uygulanabilecek sınırlar ve yol gösterici hükümler ortaya koymaktadır. YZ Yasası, bunu yaparken YZ sistemlerini potansiyel risk seviyelerine göre sınıflandırarak temel haklara ve etik ilkelere aykırı uygulamalara sınırlar getirmektedir. Ayrıca, şeffaflık ve açıklanabilirlik gereklilikleri getirerek YZ’ nin kara kutu özelliğini azaltmakta ve yüksek riskli sistemler için veri yönetişimi, risk değerlendirmesi ve insan gözetimi gibi zorunluluklar getirerek insan odaklı ve etik uygulamaları pekiştirmektedir.
10
Risk Temelli Yaklaşım ile Etik Önceliklendirme Etik riskleri yönetmek için YZ Yasası, risk temelli bir model benimsemektedir. Bu yaklaşım, bir sistemin yaratabileceği zarar olasılığına ve etkisine göre farklı yasal yükümlülükler öngörmektedir. Bu şekilde YZ Yasası, Güvenilir Yapay Zekâ İçin Etik Rehber İlkeler raporundaki soyut etik ilkeleri somut bir hukuki matrise dönüştürmektedir.
YZ Yasası, AB’ nin temel hak ve değerlerine aykırı belirli YZ uygulamalarını kabul edilemez risk kategorisinde değerlendirerek kullanımlarını tamamen yasaklamaktadır. Bu sistemler, insan onurunu, özerkliğini ve güvenliğini tehdit eden özellikleri ile göze çarpmaktadır. Yasaklanan uygulamalar arasında, bireyleri manipüle eden sistemler, sosyal puanlama ve kamuya açık alanlarda haksız gerçek zamanlı biyometrik tanımlama gibi uygulamalar yer almaktadır.
Kabul Edilemez Risk
Yüksek riskli olarak sınıflandırılan YZ sistemleri, insan sağlığına, güvenliğine veya temel haklarına ciddi zarar verme potansiyeli taşımaktadır. YZ Yasası, bu sistemler için kapsamlı ve bağlayıcı yükümlülükler getirerek insan odaklı yaklaşımı sürdürmektedir. Bu kapsamda, kritik altyapı yönetimi, istihdam ve insan kaynakları yönetimi, finansal hizmetler ve kanun yaptırımı gibi bireylerin hayatlarına ve belirli hizmetlerden yararlanmalarına dokunan alanlarda kullanılan sistemler yüksek riskli kabul edilmektedir. Bu sistemlerin geliştirilmesinde teknik standartlar, uygunluk değerlendirmeleri
Yüksek Risk
Sınırlı Risk
Minimal Risk
6 Avrupa Komisyonu, Yapay Zekâ Hakkında Raporu, 2020
7 Avrupa Parlamentosu, Yapay Zekâ, Robotik ve İlgili Teknolojilerin Etik Yönlerine İlişkin Komisyona Tavsiyeler İçeren Kararı, 2020