mamak lazım. Bu programlar son yıl- |
lıştığını henüz çok az anladığımız. Ve o |
Nedensellik ilişkisi olarak baktığımızda |
||
larda ortaya çıktı. Önümüzdeki yıllarda |
bile tam güvenilebilir bir makina değil. |
beynim de konuşmamı, düşünmemi vb. |
||
bizi neler bekliyor bilmiyoruz. Ayrıca |
( Tıbbın psikiyatri diye bir dalı var.) |
sağlıyor. Mimarisi de ChatGpt ' ye o şekil- |
||
bağlamsal anlamanın yüzde yüz doğ- |
de davranma yeteneğini veriyor. Fakat |
|||
ru olarak nasıl yapılabileceği soyut bir |
Burada söylenecek ve aslında biraz |
bu altyapının pek sık olmasa da ortaya |
||
soru oluyor. Çünkü acaba böyle bir şey |
umut kırıcı şey şu. Sözünü ettiğimiz |
çıkabilecek hatalardan arındırılması ha- |
||
olabilir mi?( Yalnız Tanrı bağlam hata- |
programlar, yani yazı, ses, resim, video |
kikaten zor. Çünkü gözlemlediğimiz bir |
||
ları yapmaz.) |
vb. aracılığıyla etkileşim sağlayan dil |
hatanın lokalize edilmesi ve programı |
||
modelleri, dünya hakkındaki bilgilerini |
değiştirerek giderilmesi çok zahmetli. |
|||
Sonuç olarak bağlam probleminin |
metinlere borçlular. Ama bir sonraki |
İnsan havsalasının alamayacağı kadar |
||
önemli ölçüde çözüldüğünü düşünü- |
aşama olan dünya modelleri( world |
girift bir enterkonnekte sistemden bah- |
||
yorum. Fakat geriye kalan ikinci büyük |
models) dünyadaki değişiklikler ve |
sediyoruz. Dolayısıyla, ancak sofistike |
||
problem, sağduyulu düşünme, konu- |
bunları yaratan aksiyonlar kısmına |
programlar kullanarak anlamaya çalışa- |
||
sunda aynı şeyi söyleyemeyeceğim. |
giriyor. Artık dilden( linguistik) çıkıp |
bileceğimiz bir model bu. ChatGpt ' yi en |
||
Örneğin ben Grok ve ChatGpt çok kul- |
gerçek dünyaya( fizik) geçiyoruz. Ora- |
iyi nasıl debug edebiliriz? Büyük ihtimal- |
||
lanan bir insanım. İkisinin de yüksek |
da bazı aksiyonlar geri döndürülemez. |
le yine ChatGpt ' yi kullanarak edebiliriz. |
||
sağduyu yeteneklerine sahip olduğunu |
( Yanan bir evi geri getiremeyiz.) Orada |
( Ya da örneğin Grok’ u kullanarak.) Belki |
||
görüyorum. Beş sene, on sene sonra- |
nasıl sağduyulu davranılır? Oradaki |
bu programlar birbirleri ile‘ gerçeği bul- |
||
sını |
düşündüğümüzde--ilerlemenin |
bağlamlar nasıl kavranılır?( İngiltere |
ma’ komisyonları kurarak çalışabilirler |
|
kesintisiz devam edeceğini ve insan- |
kraliçesinin önünde reverans yaparım |
ve karşılıklı hatalarını düzeltmek için |
||
lığı tehdit eden boyuta gelmeyeceğini |
da teyzemin önünde yapmam gibi. Bu |
yorulmadan uğraşabilirler.( İş birliği ve |
||
farz ederek( bkz. Eliezer Yudkowsky)--bunların bağlam çözümleme ve |
düğmeye basarsam zemin kata su gitmez ama şu düğmeye basarsam yangın |
yardımın öne çıktığı, içinde yaşadığımız dünyadan oldukça farklı bir ütopya?) |
39 |
|
sağduyulu davranma becerileri çok |
acil hatları iptal olur gibi.) Dil model- |
|||
daha yetkinleşecektir. |
leri ve dünya modelleri bu anlamda |
Sonuç olarak, bu mimarilerin halüsinas- |
||
mutlaka yanlışlar yapacaklar. Bunların |
yonlar veya genel anlamda güvenilirlik |
|||
Her hâlükârda, bağlam olsun, sağdu- |
ortadan tümüyle kaldırılması zor, umut |
konusunda bir zayıflığı var diyebiliriz. |
||
yu olsun, bir programa güvenmekten |
kırıcı olan bu.( Dünyanın en iyi modeli |
Zor ve açık bir problemden bahsediyo- |
||
( trust) bahsediyoruz. Karşımızda bir |
kendisidir!) |
ruz ve bu konuda olumlu, en azından |
||
makina var. Güven konusunu cep te- |
benim bildiğim, çığır açan bir gelişme |
|||
lefonuna güven, dizüstü bilgisayara |
Modelleri üreten şirketlerin, çalıştır- |
henüz yok. Ama unutmayalım: bundan |
||
güven, uçağa güven, asma köprüye gü- |
dıkları yıldız araştırmacıların işi de zor. |
sadece birkaç yıl önce ChatGpt, Grok, |
||
ven, nükleer santrale güvenden farklı |
Çünkü tabiatı gereği durum aynen be- |
Gemini vb. de yoktu. Olmadıkları gibi, |
||
algılamıyorum. Çünkü bunlar insan |
yindeki gibi. Söz konusu modeller beyin |
böylesi güçlü--70 senedir bilgisayar ca- |
||
tarafından tasarlanmış şeyler ve sonuç |
tarzında çalıştıkları için entegre ve da- |
miasını meşgul eden Turing Testi’ ni bir |
||
olarak içlerinde güvenilmez birtakım |
ğıtık bir sistemden bahsediyoruz. Yani |
çırpıda geçerek tozlu arşivlere gönde- |
||
öğeler mutlaka barındıracaklar. Beyin, |
milyonlarca hesap makinesi birbirlerine |
ren--programlar yaratabileceğimize dair |
||
meşhur tanıma göre görebildiğimiz |
çok sayıda bağlantıyla bağlı. Bize yanıt- |
( pek çok bilgisayar uzmanı dahil) umu- |
||
evrendeki en entrikalı makina, nasıl ça- |
lar veren bu mimari, ona hiç kuşku yok. |
dumuz da yoktu |
||