Yapay Zekâ (YZ) etiği üzerine yapılan araştırmaların çoğu bu teknolojinin silahlanma, taşımacılık ya da profil çıkarma gibi amaçlarla kullanılmasıyla ilgilidir. Her ne kadar otonom, faşist bir savaş uçağının yaratacağı tehlikeler küçümsenemez olsa da tüm bunlara başka bir açıdan bakmak da mümkün. Örneğin yarattığımız YZ’lere karşı sorumluluklarımız ne olacak?

Dünya genelinde çok fazla oyuncusu bulunan çevrim içi görev oyunları (World of Warcraft gibi) esas olarak oyuncu olmayan sanal karakterlerle dolu sanal gerçekliklerdir. Şu anda bu tür oyun karakterleri pek akıllı değiller; ama önümüzdeki 50 yıl içinde yüksek ihtimalle akıllı olacaklar.

Nasıl? 50 yıl yeterli olmaz mı dediniz? Peki o hâlde 500 yıl olsun. Ya da haydi 5 milyon yıl diyelim biz buna. Sonuçta böyle bir başarıya ulaşabilmek için sonsuzluğun geri kalanının tamamına sahibiz.

Gezegen büyüklüğünde bilgisayarlar mı istiyorsunuz? Evet, yapabiliriz. İnsanın beyin dokusundan yapılmış bilgisayarlara ne dersiniz? Onları da yapabiliriz. Sonuçta, en az bizim kadar akıllı, hatta bizden daha akıllı ve özgür iradeye sahip karakterlerin oluşturduğu sanal dünyalara sahip olabileceğimizi düşünmek çok da anlamsız değildir. İyi de bu varlıklara karşı sorumluluklarımız ne olacak? Ne de olsa içinde yaşadıkları hakikatin “gerçek Tanrıları” olacağız ve yarattığımız karakterlerin dünyasının bütün hakikatini biz kontrol edeceğiz. Onlara istediğimiz her şeyi yapabileceğiz.

O hâlde, tüm bunları bile bile bunu yine de yapacak mıyız?

İlgili konu: Bilim kurgudaki en çarpıcı 4 yapay zekâ senaryosu

Özgür iradenin etik bakımdan zorlukları

İşin içine “yapmalı” sözcüğü karıştığında, video oyunları için bile etik kurallar devreye giriyor. Sorulması gereken ilk soru, gelecekteki oyun karakterlerimizin ahlaki varlıklar olarak görülmeye değer olup olmadıkları ya da sadece bir veri tabanındaki parçalar olarak mı kabul edilecekleridir. Eğer ikincisiyse vicdanlarımızı onlarla bir kelime işlemcisindeki karakterlerden daha fazla rahatsız etmemize gerek yok.

Aslında bu soru biraz tartışmalı. Eğer karakterlerimizi özgür düşünen varlıklar olarak yaratıyorsak nasıl göründüklerine bakmaksızın onlara sanki öylelermiş gibi davranmalıyız.

Durum böyleyken, sanal dünyayı devre dışı bırakabilir miyiz? Bunu yapmak milyarlarca zeki yaratığı yokluğa mahkûm etmek anlamına gelebilir. Bununla birlikte, dünyalarını sonlandırdığımız anda onun kopyasını saklasaydık bu sorun olur muydu? Teorik olarak dünyalarını aynen eski hâline getirebilme ihtimalimiz, aslında onları öldürmediğimiz anlamına mı geliyor? Ya elimizde orijinal oyun yazılımı yoksa?

Bu karakterlerin acı çekmesine meşru olarak neden olabilir miyiz? Bu fikri biz kendimiz hayata geçiriyoruz, dolayısıyla bu onlara eziyet etmenin doğru olup olmadığından çok, onlara eziyet etmenin bir sorun olup olmadığı ile ilgili bir sorudur. Modern toplumlarda, özgür düşünen bireylere acı çektirmenin, onlar kabul etmedikçe ya da onları (veya bir başkasını) daha kötü bir şeyden kurtarmak için olmadıkça ahlaka aykırı olduğu varsayılır. Karakterlerimizden acı dolu bir dünyada doğmayı kabul etmelerini isteyemeyiz ki zaten oyunu yarattığımızda karakterlerimiz henüz mevcut değildir.

Peki ya “daha kötü bir şey” seçeneği? Eğer özgür iradeye sahipseniz zeki olmalısınız, dolayısıyla ahlaki bir varlık olmalısınız. Bu da sizin ahlaki değerlere sahibi olmanız, dolayısıyla başınıza kötü şeylerin gelmesinin mümkün olması anlamına gelir. Aksi takdirde, etik değerlerinizi yaratmak için neyin doğru, neyin yanlış olduğunu düşünemezdiniz. Başka bir deyişle, kötü şeyler olmadıkça özgür irade de yoktur. Bir varlıktan özgür iradeyi almak, o varlığı daha önce olduğu hâlinden uzaklaştırmakla aynı anlama gelir, dolayısıyla evet, acı çekmeye izin vermeliyiz, yoksa akıllı karakter kavramı bir oksimoron olur.

İlgili konu: Yapay zekâyla ilgili riskler ve endişeler hakkında temel okumalar…

Ölümden sonrası

Karakterlerimizin ölmesine izin verecek miyiz? Bu fikri uygulamak fazladan iş demek. Eğer sonsuza kadar yaşayacaklarsa onları zarar görmez mi yapacağız yoksa sadece ölmelerini mi engelleyeceğiz? Sonuçta bir kamyonun altında ezildikten sonra hayat pek de eğlenceli olmazdı. Eğer ölürlerse onları oyun cennetine veya oyun cehennemine mi taşıyacağız yoksa sadece silecek miyiz?

Sorabileceğimiz sorular yalnızca bunlar değil. Örneğin akıllarına dilediğimiz fikirleri sokabilir miyiz? Onlarla alay etmek için dünyalarını değiştirebilir miyiz? Onlara kendi ahlak kurallarımızı mı empoze edeceğiz yoksa kendi ahlak kurallarını geliştirmelerine izin mi vereceğiz?

Nihayetinde en büyük soru şudur: En başta, akıllı karakterler yaratmalı mıyız?

İnsanlık, tanrısı olduğumuz gerçekliklerin yaratılması için henüz etik bir altyapıya sahip değil. Bize yardımcı olacak bir meta-etik sistemi henüz mevcut değil. Bundan 50, 5 yüz, 5 milyon yıl sonra ya da yarın, özgür iradeye sahip varlıkların yaşadığı dünyalar inşa etmeden önce bu sorunu çözmemiz gerekecek.

İlgili konu: Yapay zekâdan değil, güç arzusuyla yanıp tutuşan insanlardan korkmalıyız…

Bu makale Sosyolog Ömer Yıldırım tarafından www.felsefe.gen.tr için, Richard A. Bartle’in “How to be a god: we might one day create virtual worlds with characters as intelligent as ourselves” isimli makalesinden Türkçeye çevrilip derlenerek hazırlanmıştır. Alıntılanması durumunda kaynak gösterilmesi, ahlaklıca olanıdır.

Çeviri ve Derleme: Sosyolog Ömer YILDIRIM