|
1. Bilgi Tutma, Şeffaflık ve Raporlama Yükümlülüğü GPAI sağlayıcıları, her model için güncel bir teknik dosya oluşturmak ve muhafaza etmekle yükümlüdür. Bu dosyada asgari olarak modelin amaç ve yetkinlikleri, mimarisi, parametre sayısı ve ölçeği, girdi ve çıktı türleri, entegre edilebileceği sistemler ve kullanım senaryoları, piyasaya sürülme tarihi ve yöntemi, kullanım politikaları ve lisans koşulları yer almalıdır. Ayrıca eğitim, test ve doğrulama süreçlerinde kullanılan veri kümelerinin genel özellikleri ve modelin performans değerlendirme sonuçları da belgelenmelidir.
Bu teknik dosya, talep halinde Avrupa Birliği Yapay Zekâ Ofisi( Yapay Zekâ Ofisi) ile ulusal yetkili otoritelere sunulmak üzere hazır tutulmalıdır. Sağlayıcılar ayrıca modeli kendi sistemlerine entegre edecek geliştiricilere,
|
entegrasyon için gerekli teknik gereksinimleri, API bilgileri, kullanım talimatları, modelin sınırlarını ve güvenli kullanım uyarıları gibi pratik bilgileri sağlamakla yükümlüdür. Düzenleyici otoriteler gerek gördüğünde, tasarımın belirli bileşenlerine dair ek teknik açıklamalar veya tahmini enerji tüketimi gibi ek veriler de talep edebilir.
2. Eğitim Verisine İlişkin Kamuya Açık Özet Sunma Yükümlülüğü Şeffaflığı artırmak ve tüm sağlayıcılar için asgari ortak bir standardı sağlamak amacıyla, her GPAI sağlayıcısı, modelin eğitiminde kullanılan veriler hakkında kamuya açık bir özet yayımlamakla yükümlü tutulmuştur. Avrupa Komisyonu tarafından hazırlanan Eğitim Verisi Özeti Şablonu( Özet Şablon), bu belgenin biçim ve içeriğine ilişkin standartları belirlemektedir.
Bu şablona göre söz konusu özet; modelin eğitiminde kullanılan veri miktarı ve türlerini, kullanılan başlıca veri kaynaklarını( kamuya açık veri setleri, özel veri tabanları, kullanıcı verileri, web taraması yoluyla elde edilen içerikler vb.) ve veri temizleme ile eleme yöntemlerini içermelidir. Ayrıca yasa dışı içeriklerin ayıklanması ve telif haklarına tabi verilerin uygun şekilde kullanılması için alınan önlemler de belirtilmelidir.
3. Sistemik Risk Değerlendirmesi ve Ek Yükümlülükler Yasa, çok yüksek hesaplama kapasitesine ve yaygın toplumsal etki potansiyeline sahip bazı GPAI modellerini“ sistemik risk” kategorisinde izlemektedir. Rehber’ de tanımlandığı üzere, eğitiminde 10 ² ⁵ FLOP veya üzeri hesaplama kullanılan modeller kural olarak sistemik risk varsayımı altında
|
değerlendirilmektedir. Bu düzey, yalnızca en gelişmiş jeneratif büyük dil veya multimodal modellerin eğitimine denk düşmektedir. Bununla birlikte, bu eşiğin altında kalan bir model dahi AB genelinde ciddi toplumsal etkiler doğurma potansiyeline sahipse, Avrupa Komisyonu tarafından sistemik risk kategorisine alınabilmektedir. Rehber ayrıca, teknolojik gelişmelere uyum sağlamak amacıyla ölçütlerin güncellenebileceğini de öngörmektedir.
Sistemik risk kategorisinde değerlendirilen GPAI modelleri bakımından, Yasa’ nın yukarıda açıklanan genel şeffaflık ve bilgi paylaşımı yükümlülüklerine ek bazı sorumluluklar getirilmektedir.
Bu kapsamda sağlayıcılar:
• Kapsamlı model değerlendirmesi yürütmekle yükümlüdür; bu değerlendirme, durumun gereklerine uygun standartlaştırılmış protokollere ve güncel teknik araçlara dayanmalıdır.
• Modelin beklenmeyen davranışlarını veya zafiyetlerini ortaya çıkarmak için saldırı simülasyonları( red teaming) gerçekleştirmek ve sonuçlarını belgelendirmek zorundadır.
• Bu değerlendirmeler sonucunda ortaya çıkan veya öngörülen sistemik risk kaynaklarını tespit etmeli; riskleri azaltmak için tasarım değişiklikleri, kullanım kısıtları veya veri süreçlerinde iyileştirmeler yapmalı ve alınan tedbirlerin etkinliğini sürekli izlemelidir.
• Modelin ve destekleyici altyapının yeterli siber güvenlik düzeyinde kurulmasını ve sürdürülmesini temin etmelidir.
• Modelin yol açtığı veya yol açma ihtimali bulunan ciddi olayları düzenli biçimde izlemek, kayıt altına almak ve gerekli düzeltici önlemleri almakla yükümlüdür. Bu olaylar ve alınan tedbir-
|
17 |