TED Meşale Dergisi 27. Sayı | Page 16

bağlantılarına araç hareket halindeyken kilometrelerce uzaktan erişerek, sileceklerinden ses sitemine kadar her türlü donanımına müdahale edip aracın motorunu durdurmayı başardı. Uzmanlar, test amacıyla yapılan bu müdahale sonrasında üretici ile iletişime geçip güvenlik açıklarının kapatılması hususunda uyarıda bulundu. Bir Parad o ks . . . Sürücüsüz araçlarla ilgili çözümlenmesi gereken belki de en önemli husus, bu araçların, ölümlü ya da yaralamalı trafik kazalarına sebebiyet vermeleri durumunda cezai sorumlunun nasıl tespit edileceğidir. Klasik araçlar trafik kazasına karıştığı zaman sürücünün kusur oranının tespiti araştırma ve yargılamadan sonra ortaya çıkar. Fakat bu tespit, otonom araçların herhangi bir trafik kazasına karışması durumunda aracın her türlü hareketini kaydeden veri tabanları kontrol edilerek yapılacaktır. Trafik kazasının nasıl meydana geldiği, aracın hangi alternatifler arasında tercih yaptığı sadece bu yazılımın verilerinin tutulduğu veri tabanına bakılarak mümkün olacaktır. Çünkü otonom araçların trafik kazasına karışması ile meydana gelecek muhtemel durumların, daha önceden senaryolar halinde yazılımın içine yerleştirilmesinden dolayı otonom aracın herhangi bir riskle karşılaşması durumunda tercihinin ne olacağının bilinmesi mümkündür. Yazılımı geliştiren mühendisler bu 14 durumları hesaplayarak yazılımda gerekli kodlamaları yapacak, otonom araçlar ise riskle karşılaştıklarında daha önceden kendisine öğretilen şekilde davranarak bir hareket tarzı ortaya koyacaktır. Görünüşte bu tercih otonom araç tarafından yapılsa da bu yazılımı geliştiren mühendisler araçların tercihlerini yani “karakterini” bizzat belirlediklerinden, yapacakları tercihler etik ve hukuk kuralları açısından oldukça önemlidir. Araç o kadar hızlıdır ki, durmak için bu gruba çarpmak zorundadır. Eğer araç hemen bir hamle yapmazsa gruptaki tüm insanlara çarpıp öldürecektir. Ama aracın bir şansı daha vardır. Yan taraftaki kaldırıma çıkarak insan grubuna çarpmayı önleyebilir fakat bu sefer de kaldırımda olayla hiç ilgisi olmadan yürüyen bir yayayı öldürecektir. Araç ne yapmalıdır?” Örneğin, otonom araçlar bazı zamanlarda “yaralamayı” ya da “öldürmeyi” tercih edebileceklerdir. Karıştıkları kazalarda kendilerine öğretilen alternatifler arasında değerlendirme yaparak bir tercih yapmak zorunda kalacaklardır. Bir yazılımın tüm veri akışını yönetip akıllı bir karar vermesini sağlamak, aldığı kararların doğruluğu ve yanlışlığından ders çıkarıp karar mekanizmasını iyileştirmek ve etik ikilemler karşısında nasıl hareket etmesi gerektiğini öğretmek hiç de kolay değil. Konunun bu kısmıyla ilgili, onlarca yıldır her kesimden bilim insanını düşündüren bir paradoks var: “Vagon açmazı” (Trolley Problem). Bu dilemma, felsefede zaten var olan bir problemdir ancak sürücüsüz araçlar bu problemin farklı bir versiyonla tekrar gündeme gelmesine sebep oldu. Paradoksun yeni hali şöyle: Tamamen vicdani bir sorgu üzerinden giden bu paradoks, yapay zekânın insani değerler karşısındaki çözümsüzlüğünü ortaya koyar. Ancak biz aracın durdurulmasının mümkün olmadığını, kazanın mutlaka meydana geleceğini varsayarak olaya hukuken bakalım. Aracın, önünde olan ve her durumda çarpacağı bu gruba çarpması taksirli bir cinayeti; gruba çarpmamak için istikamet değiştirerek yalnız olan kişiye çarpıp o kişinin ölümüne sebebiyet vermesi ise kasten adam öldürme olarak ifade edilecektir. Bu durum başka bir ifade ile “kasıtlı hata” şeklinde de izah edilebilir. Bu paradoksun sonucu ne olursa olsun yine aynı soru karşımıza çıkacak: Durum ne olursa olsun cezai sorumlu kim olacak? Otonom araçlar ne kadar test edilirse edilsin, bu tür hesaplanamayan ihtimaller ortaya çıkacaktır. Senaryoları yapay zekâya yükleyen mühendisler mutlaka ilk akla gelen vakaları düşünecektir. Tüm bu tartışmanın ışığında Volvo şirketi, ürettiği otonom araçlardan kazaya karışan olursa tüm sorumluluğun kendisinde olduğunu beyan etti. Ama otonom araçlarla ilgili genel bir yasal düzenlemenin belirlenebilmesi için halen uzun bir zamana, belki de deneyime ihtiyaç var. Otonom arabalarda bulunan birçok sensör bu teknolojinin esas ögelerini oluşturuyor. Ancak sensörlerin kalitesi ve verdiği sonuçların doğruluk oranı fiyatlarıyla doğru orantılı. Yani, otonom bir aracın doğru karar verip güvenle yol alması bu sensörlerin yüksek kalitesine bağlı olduğundan, insan hayatı da üreticilerin pek hoşuna gitmeyen pahalı cihazlara bağlı. Dolayısıyla son teknolojiye sahip olmayan, görece ucuz sistem elemanlarının kullanımı, insan hayatını tehlikeye sokabilir. Bu durumda, otomobili, halkın karşılayabileceği bir fiyata mal etmek ile halkın emniyetini maksimum seviyede tutmak arasındaki denge nasıl sağlanacaktır? “Sürücüsüz bir araç yolda yüksek bir hızla hareket halindedir. Yolun tam ortasına aniden bir grup insan çıkar. 15