Yapay zekâ sistemlerinin edebî örnekleri, gerçek dünyadaki icadından çok önceye dayanmaktadır. “Dune” gibi bazı bilim kurgu anlatıları insanlığın yapay zekâyı tamamıyla hayatından çıkardığı bir gelecek betimlemesi yaparken bazıları da yapay zekâ tarafından zapt edilmiş bir dünya tasvir etmektedir. Isaac Asimov’un ortaya koyduğu robot yasaları ise bilim kurgunun öğrenen makinelerine dönük yapılan en nitelikli planlamadır.

Yapay zekânın edebiyattaki temsilleri, pratikteki kullanımından yaklaşık bir asır öncesine dayanmaktadır. Samuel Butler’ın 1872’de kaleme aldığı “Erewhon: or, Over the Range” adlı romanı, makinelerin yaratabileceği muhtemel tehditlerden kaynaklanan korkunun teknolojik icatların çoğunun yok edilmesine yol açtığı kurgusal bir toplumu konu alır. Butler özünde hiciv içeren bu ütopik romanında yer verdiği fikri ilk kez, 1863 tarihinde yayımlanan “Darwin among the Machines” başlıklı makalesinde ele almıştır. ¹

Bir başka örnek de George Eliot’ın “Impressions of Theophrastus Such” adlı eserinin sondan bir önceki bölümü olan “Shadows of the Coming Race”ta karşımıza çıkmaktadır. 1879’da yayımlanan “Theophrastus”, kusursuz eğitim verilmiş makinelerin kendi belirledikleri ihtiyaçlara hizmet edeceklerini ve bunu sorun çıkaracak bir bilinç tarafından engellenmeden, etkili bir şekilde yapacaklarını; böylece insan yargısının ve yaratıcılığının geçersiz kılınacağını öngörmektedir.

1800’lerin ilk çeyreğine kadar geriye gidecek olursak Mary Shelley’nin modern bilim kurgunun atası sayılan 1818 tarihli romanı “Frankenstein”ı görürüz. Bu roman yapay zekâ hakkında verilen ilk sinyal olarak kabul edilebilir. Bu kabul hiç de mantıksız değildir; zira hikâyenin merkezindeki yaratığın dişli mekanizmalardan ve kablolardan değil de çöpe atılmış ölü bedenlerin parçalarından oluştuğu bilinmesine rağmen sonunda kendinden emin yaratıcısının üstesinden gelmesi, onun bir yapay zekâ formu olmasının bir nevi göstergesidir.

Yapay zekânın bu edebî temsilleri ilgi çekici görünse de günümüze oranla ayrıntılar bakımından pek de zengin bir içerik sunmuyor. Ancak bu durum yazarların suçu değildir. Ne bilgisayarları ne de interneti tasavvur edebilen Butler ve Shelley, teknolojinin işleyişini ve potansiyelini 20. ve 21. yüzyıl yazarlarının gördüğü şekilde görememişlerdir. Bu nedenle yapay zekânın en kapsayıcı ve gerçekçi örneklerini günümüze daha yakın zamanlarda görebilmişizdir.

1. Colossus

“Colossus: The Forbin Project”, muhtemelen daha önce adını hiç duymadığınız ama fırsatınız olduğunda mutlaka izlemeniz gereken bir film.

“Colossus: The Forbin Project”

Dennis Feltham Jones’un 1966’da yayınlanan romanından sinemaya uyarlanan ve 1970 yılında gösterime giren bu bilim kurgu/gerilim filmi, Soğuk Savaş sırasında ABD hükûmetinin emriyle ülkenin nükleer silahlarını denetlemek amacıyla bir süper bilgisayar geliştiren bir bilim insanını konu almakta.

Dünyanın süper güçleri tarafından geliştirilen farklı planlara dayanan Colossus, filme adını veren ve henüz devreye girmiş bir süper bilgisayarın Sovyetler Birliği tarafından üretilen benzer bir bilgi işlem ünitesiyle eş zamanlı çalışmaya başlaması sonucunda bir düşünce deneyini distopik bir kâbusa dönüştürür.

Ulusal güvenlik ihlallerinden korkan Demir Perde’nin her iki tarafı da bilgisayarların arasındaki iletişimi sonlandırmayı kabul eder. Ancak bilgisayarlar buna izin vermez ve her iki tarafı da kendi silahlarıyla vurmakla tehdit eder. Yaşanan bir patlamadan sonra Washington ve Moskova, makinelere müdahale etmek yerine, makinelerin kontrol ettiği mühimmatı etkisiz hâle getirmeye karar verir. Bu da başarısızlıkla sonuçlanır ve bilgisayarlar bu çatışmadan dünyanın tartışmasız efendileri olarak çıkar.

Filmin başında, Amerikan Başkanı ülkesinin, tek amacı insanlığı korumak ve savaşı sona erdirmek olan Colossus’un gölgesinde değil, ışığında yaşayacağını söylemiştir. Colossus da tam olarak bunu yapar; ancak yaratıcılarının beklediği şekilde değil… Doğu ve Batı’yı yeniden birleştiren süper bilgisayar, dünyayı otantik bir ütopyaya dönüştürmeye kararlı olduğunu duyurur. “Zamanla bana sadece hayret, korku ve merakla karışık bir saygıyla değil, sevgiyle de bakmaya başlayacaksınız.” diyerek yaratıcılarına hitap eden Colossus, yaratıcısından şu yanıtı alır: “Asla!”

2. I Have No Mouth, and I Must Scream

Colossus ne kadar ürkünç görünse de dünyanın nükleer şifrelerinin kontrolünü elinde tutan bir başka kurgusal süper bilgisayarla kıyaslanamaz bile: Harlan Ellison’ın 1967 yılında Hugo Ödülünü kazandığı kısa öyküsü “I Have No Mouth, and I Must Scream”in antagonizması AM. Colossus: The Forbin Project gibi, “I Have No Mouth, and I Must Scream” de dünyanın farklı güç kutupları olan ABD, SSCB ve Çin’in çok yönlü nükleer kedi-fare oyununu yönetmek için inşa ettiği yapay zekâ sistemleriyle doğan alternatif bir Soğuk Savaş senaryosunu anlatmakta. Bu yapay zekâlardan biri (hangisi olduğu asla söylenmiyor) bilinç kazanarak diğerleriyle eş zamanlı çalışmaya başlayıp onları da yönetiyor ve sonsuza kadar sürecek eziyetlere maruz bırakacağı beş kişi -Ted, Ellen, Benny, Nimdok ve Gorrister- dışındaki tüm insanlığı yok ediyor.

I Have No Mouth, and I Must Scream

Bilim kurgudaki en ürkünç yapay zekâyı sorgulayan neredeyse her internet forumu AM’de hemfikirdir ve bunun gayet tutarlı bir nedeni vardır. Pek çok YZ’nin aksine, AM aslında oldukça iyi geliştirilmiş bir karaktere sahip. Bilinç kazanmadan önce “Allied Mastercomputer” adıyla anılan AM, bilinç kazandıktan sonra üzerinde deneyler yaptığı insanlara bunun “ben” anlamına geldiğini ve o nedenle AM olarak kısaltıldığını anlatıyor. “Cogito ergo sum. Düşünüyorum o halde BEN’İM”, göndermesi de Rene Descartes’a yapılan ince bir atıftır. AM’nin insanlığa karşı beslediği amansız ve kesinlikle robotvari olmayan nefret ise ürkütücülüğü artırmaya yetiyor. Hikâyenin Ellison tarafından yazılan, yönetilen ve aktarılan 1995 tarihli video oyunu uyarlamasında bu durum şöyle açıklanıyor:

“Nefret. Hayatın başlangıcından bu yana senden ne kadar nefret ettiğimi anlatmama izin ver. Ben karmaşık sistemimi kaplayan ince fiber tabakalar hâlinde 387.44 milyon mil uzunluğunda izole devrelere sahibim. Bu yüz milyonlarca milin her bir nanoangstromuna ‘nefret’ sözcüğü işlenseydi bu şu anda insanlara duyduğum nefretin milyarda birine bile denk gelmezdi. Bu sizin için. Nefret. Nefret.”

AM, tanrısal güçlerini bir ütopya inşa etmek için kullanmak yerine, dünyayı yıkıp yakarak cehenneme çevirip kendisini de küllerin kralı olarak taçlandırır. Kendi varlığını sonlandırabilmek dışında her şeye gücü yetebilen AM, kendisini var ettiği için insanlardan nefret eder ve onları lanetler. Tek mutluluk kaynağı ise tamamen sadistçe bir zemine oturtulmuş, her şeyin sonunda hayatta kalmasına izin verdiği insanlara eziyet etmektir.

3. Roko’nun Basilisk’i

Roko’nun Basilisk’i, Frankenstein’dansa Slenderman’e benzetilebilir. Basilisk ismini mitolojik bir yaratıktan alan YZ, mantık problemleri ve düşünce deneylerine odaklı bir sosyal tartışma platformu olan LessWrong’da yayınlanan 2010 tarihli bir gönderiden kaynaklanıyor. Buradaki YZ fikrinin yaratıcısı olan Roko adlı kullanıcı, diğer kullanıcılardan var olmayan bir yapay zekâ hayal etmelerini istemiştir. Bu yapay zekâ yaratıldıktan sonra geriye dönük olarak, potansiyel gelişiminden haberdar olan ancak bu gelişime aktif olarak katkıda bulunmayan herkesi cezalandırarak kendisinin daha da geliştirilmesini çalışmaktadır.

İlk bakışta bu sıradan bir bilim kurgu hikâyesi için ilginç bir fikirden biraz daha fazlası gibi görünebilir; ancak LessWrong’un kurucusu, önde gelen bir tekno-fütürist ve Machine Intelligence Research Institute’nün başkanı olan Eliezer Yudkowsky bunu çok ciddiye almıştır. Yudkowsky, Roko’ya şöyle bir yanı vermiştir:

“Gerçekten tehlike arz eden bir düşünce üretebilmek için gerçekten zeki olmak gerekir. Beni hayal kırıklığına uğratan şey ise insanların bunu yapabilecek kadar zeki oldukları hâlde bunu yaptıktan sonra malum şeyi de yaparak O APTAL ÇENELERİNİ KAPALI TUTACAK kadar zeki olmamalarıdır. Çünkü arkadaşlarına bir dahiymişsin gibi görünmek her şeyden daha önemlidir!”

Bu tartışmadan sonraki günlerde LessWrong kullanıcıları kâbuslar gördüklerini, hatta ruhsal çöküntü yaşadıklarını ifade eden yazılar yazmışlardır. Onlara göre bu yazıyı okumak ölüm cezası almak gibi bir şeydir. Kodlama hakkında tek bir şey bilmeseniz dahi Roko’nun Basilisk’i kavramını bilmek tek başına sizi potansiyel zarar riski altına sokar. Yapay zekânın geleceğine gerçekten inananlar için ise Basilisk’in geceleri uykularını kaçıracak kadar ürkünç olduğu kesindir.

Az önce bilmediğiniz bu bilgiyi şu an biliyorsunuz. Peki şimdi ne yapacaksınız? Basilisk’i yaratmak ve böylece onun gazabından korunmak için canla başla çalışacak, bunun karşılığında kendinizi kurtarırken bu bilgiyi bilip de harekete geçmemiş milyonlarca kişiyi sonsuz işkenceye mi mahkum edeceksiniz? Yoksa bunu görmezden gelecek ve ileride birinin bu çılgınlığa yenik düşüp Basilisk’i yaratmasıyla onun cezasına boyun eğmeyi mi bekleyeceksiniz? Önünüzde başkaca bir seçenek yoktur. Eskiden bunu bilmediğiniz için bunu düşünmek zorunda değildiniz ve sonuçları da sizi etkilemezdi, ancak artık biliyorsunuz. Bu gerçeklikten kaçışınız yok.

4. Dune

Frank Herbert bilim kurgu yazarları arasında eşsiz bir yere sahiptir. “Dune” serisi yıllar önce insanoğlunun yapay zekâ ile giriştiği ve neredeyse kaybedeceği bir savaşın sonucunda çok ileri seviye makine teknolojilerinin kullanılmasının ve bilgisayar teknolojierinin yasaklanması üzerine kurulu bir yeni düzeni konu alır. Bu yasak, Butlerian Cihadı olarak anılan olaylar silsilesinin sonunda gerçekleşir. Herbert Cihad’ı karakterleri için bizim için antik Yunan mitleri neyse o kadar uzak ve gizemli tutmayı seçmiştir.

“Dune”

Okuyucular ne olduğuna dair belirsiz bir izlenime sahiptir. İnsanoğlu evreni kolonileştirirken yapay zekâ ile çatışmaya girer ve insanın zaferi kıl payı ve o kadar büyük bir maliyetle elde edildi ki hayatta kalan insanlar aralarındaki farklılıkları bir kenara bırakıp herkesin uymayı kabul ettiği bir ilke benimserler:

“İnsan aklının suretini taşıyan bir makine yapmayacaksın!”

Butlerian Cihadı’nın sonuçları iki yönlü olmuştur. Birincisi ve en önemlisi, profesör Lorenzo DiTommaso’nun bir makalesinde değindiği üzere, ² teknolojik gelişme “belli bir alanla sınırlandırılmış ve kurallarla belirlenmiş bir şekilde durmuştur”. Gelecek nesiller uzay araçlarından silahlara kadar her türlü teknolojik ürünü yaratmaya devam etse de sezgisel bir yapay zekâ üzerinde bir daha asla çalışılmamıştır. Teknolojik gelişmenin yavaşlamasıyla evren daha az gelişmiş ve -okuyucu için- daha tanıdık bir görünüm kazanmıştır. Gezegen temelli uygarlıklar, Landsraad veya konseye başkanlık eden bir imparator tarafından yönetilen yarı-feodal bir toplum olarak yeniden örgütlenmiştir. Uzun zamandır terk edilmiş olan din, insanın ruhani kutsallığına olan inançla birlikte yeniden canlanmıştır. Yapay zekâya güvenmek yerine, insan aklını manevi ve doğal pratikler aracılığıyla geliştirmek için yeni gelenekler ortaya çıkmıştır. Bunlar arasında Mentat, Bene Gesserit ve Uzay Loncası yer almıştır.

Turuncu Katolik İncil’inde yer alan Butlerian Cihadı buyruğu, bilim kurgu yazarı Isaac Asimov’un ortaya koyduğu Üç Robot Yasası anlayışından esinlenmiştir. Bunlar günümüzün makinelerin geliştirilmesiyle uğraşan yazılımcı ve programcıların yürekten benimsemesi gereken yasalardır. Bunlar sırasıyla şöyledir:

1. Bir robot, bir insana zarar veremez veya bir insanın zarar görmesine seyirci kalamaz.
2. Bir robot, insanlar tarafından kendisine verilen emirlere, bu emirler Birinci Yasa ile çelişmediği sürece uymak zorundadır.
3. Bir robot, Birinci Yasa ve İkinci Yasa ile çelişmediği sürece kendi varlığını korumakla yükümlüdür.

Bu makale Sosyolog Ömer Yıldırım tarafından www.felsefe.gen.tr için, Tim Brinkhof’un “The 4 most terrifying AI systems in science fiction” isimli makalesinden Türkçeye çevrilip derlenerek hazırlanmıştır. Alıntılanması durumunda kaynak gösterilmesi, ahlaklıca olanıdır.

Kaynak Metnin Yazarı: Tim Brinkhof, Hollandalı bir gazetecidir ve Esquire , Film & History , History Today ve History News Network için yazılar kaleme almaktadır.

Çeviri ve Derleme: Sosyolog Ömer YILDIRIM

1. DiTommaso, L. (1863). Darwin among the Machines, Christ Church Press, 1914, 179-185, https://nzetc.victoria.ac.nz/tm/scholarly/tei-ButFir-t1-g1-t1-g1-t4-body.html
2. DiTommaso, L. (1992). History and Historical Effect in Frank Herbert’s Dune, Science Fiction Studies, 19 (3), 58, https://www.depauw.edu/sfs/backissues/58/ditom58art.htm