27
1. Kontrol Varsayımları Değişirken Kurumsal kontrollerin önemli bir bölümü, işlemin insan tarafından ve insan davranışının doğal sınırları içinde gerçekleştirildiği varsayımıyla tasarlanmıştır. İnsanların tek tek işlem yapacağı çevrimiçi bir randevu sisteminin otomatik araçlarla yüksek hız ve hacimde kullanılabilmesi bunun basit bir örneğidir. Schengen vize randevu sistemlerinin kötüye kullanımı Avrupa Birliği Konseyi’ nin çalışma gündemine kadar taşınmıştır. Bu örnek daha genel bir kontrol sorununa işaret etmektedir: kontrol artık yalnızca“ işlem kurala uygun mu?” sorusunu değil, gerektiğinde“ işlemi kim ve / veya ne yapıyor?” sorusunu da sormak zorundadır.
Üretken yapay zekâ ise aynı değişimi içerik, kimlik ve güven alanına taşımaktadır. Kişiselleştirilmiş içerik üretimi, chatbotların çok sayıda hedefle eş zamanlı etkileşebilmesi ve ses ile görüntünün taklit edilebilmesi suistimal aktörünün ölçeğini ve ikna kapasitesini artırmaktadır. 2024 yılında Arup’ un Hong Kong ofisindeki bir finans çalışanı, CFO ve diğer üst düzey yöneticilerin yapay zekâ ile taklit edildiği bir video gö-