HUKUK
timi ve insan gözetimi yükümlülükleri getiren bağlayıcı bir çerçeve oluştururken; Singapur ' un Ajan Tabanlı Yapay Zekâ için Model Yönetişim Çerçevesi insan sorumluluğu, yetki sınırları ve izlenebilirliğe odaklanan gönüllü bir rehber niteliğindedir. Küresel görünümde ortak tek bir kural seti olmadığından kurumların hem faaliyet gösterdikleri pazarları hem de kendi sektörlerindeki düzenleyici beklentileri takip etmesi önem taşır.
İnsan gözetimi: Sistem, insan denetimine imkân verecek şekilde tasarlanmalıdır. Yetkili kişi; çıktıyı değerlendirme geçersiz kılabilme ve gerektiğinde sistemi durdurabilme olanağına sahip şekilde belirlenmelidir.
Farklı hukuki rejimlere tabi ve farklı niteliklere sahip olsalarda metinler aynı zeminde buluşmaktadır: İnsan onurunu ve temel hakları koruyan, olası zararları önleyen, insan merkezli bir yapay zekâ kullanımı. Ortak yaklaşım, birbirini tamamlayan aşağıdaki ilkelerde somutlaşmaktadır:
Doğruluk ve güvenilirlik: Sistem amaçlandığı gibi çalışmalı, performansı kullanım öncesinde doğrulanmalı ve kullanım boyunca tutarlılığını korumalıdır.
Emniyet, güvenlik ve dayanıklılık: Sistem yaşam döngüsü boyunca kişilere ve topluma zarar vermemeli, saldırı, kötüye kullanım ve hataya karşı dayanıklı olmalıdır.
Adalet ve ayrımcılık karşıtlığı: Sistem haksız önyargıdan arındırılmalı, belirli kişi ve gruplar aleyhine ayrımcı sonuç üretmeyecek şekilde tasarlanmalıdır.
50
Mahremiyet ve veri yönetişimi: Verinin kaynağı, kalitesi ve kullanımı yaşam döngüsü boyunca yönetilmeli ve kişisel veriler bakımından veri koruma hukuku kuralları dikkate alınmalıdır.
Şeffaflık ve açıklanabilirlik: Sistemin varlığı, yetenekleri ve sınırları hakkında ilgili kişilerin anlayabileceği açıklıkta bilgi verilmeli; çıktılar izlenebilir ve açıklanabilir olmalıdır.
Hesap verebilirlik ve telafi: Her sistemin işleyişinden sorumlu bir merci bulunmalı; kurum sistem aracılığıyla aldığı kararları gerekçelendirebilmeli, zarar hâlinde etkili itiraz ve telafi yolu sunmalıdır.