Yapay zekânın doğuracağı ahlaki dilemmaları aşmak mümkün müdür?

Son zamanların en bilinir konularından birisi şüphesiz yapay zekâ teknolojileridir. Otonom arabaların, makale yazan bilgisayar programlarının, robotların ve türlü robotik mekanizmaların yaşantımızın içine gitgide daha derinden nüfuz etmeye başladığı bu günlerde ortaya çıkan önemli etik sorunlar, felsefeciler tarafından ciddiyetle ele alınmaya başlanmıştır.

Bu bağlamda ele alınacak en öncelikli konulardan birisi, çok yakında yollarda sıkça karşılaşacağımızın düşünüldüğü sürücüsüz motorlu araçların ortaya çıkaracağı ahlaki ikilemlerdir. Sürücüsüz, otonom motorlu araçları en üst teknolojiyle her türlü güvenlik tedbirini alacak biçimde programlayabilmek tabii ki mümkündür; ancak böyle bir aracın çalışmasını sağlayacak olan programlanmış kuralların birbiriyle çelişeceği durumların meydana geleceğini tahayyül etmek de hiç zor değildir.

Şu sorulara cevap bulmaya çalışalım: Otonom bir aracın bir yayaya çarpmak ile kendi taşıdığı yolcuların canını tehlikeye atmak arasında seçim yapmak durumunda kaldığı bir senaryo nasıl sonuçlanacaktır? Peki ya aynı otonom araç birçok yolcu taşıyan bir otobüse veya bir motosiklete çarpmak gibi, her senaryoda insanların yaralanacağı ve eşit derecede tehlikeye düşeceği senaryolarda, iki manevra arasından hangisini seçecektir?

Bu konu üzerine yapılan bir çalışma, toplumun bu türden olası durumlarda otomobilin hangi seçimi yapması gerektiği hususunda yorum yapmakta zorlandığını göstermiştir. İnsanların birçoğu kaybı en aza indiren senaryoyu tercih etmişlerdir. Bu bağlamda otonom arabanın yoldan çıkarak on yayaya çarpmak yerine, içinde sadece bir kişinin bulunduğu bir taşıta zarar verdiği senaryoyu tercih etmesi gerektiğini öne sürmüşlerdir. Ama aynı kişiler, bu aracı alıp kullanmak istemeyeceklerini de dile getirmişlerdir. Kullandıkları aracın öncelikli olarak kendi güvenliklerini garanti altına almasını tercih etmişlerdir.

Bahsini ettiğimiz çalışma “Science” dergisinde “The social dilemma of autonomous vehicles” başlığıyla yayımlanmıştır. Makaleye Rahwan’ın yanı sıra Toulouse School of Economics’ten Jean-Francois Bonnefon ve Oregon Üniversitesinden Prof. Azim Shariff de katkıda bulunmuşlardır.

Çalışmayı yapan ekipte yer alan MIT öğretim üyesi Doçent Iyad Rahwan konu hakkında şöyle bir yorumda bulunmuştur:

“Çoğu insan arabaların olası kazalarda kayıpları en aza indireceği bir dünyada yaşamak istiyor. Ama yine herkes kendi arabasının neye mal olursa olsun kendi canını korumasını da istiyor. Bu durumda herkes bunu talep ederse ağır bir trajedi yaşamamız kaçınılmazdır; çünkü bu bakış açısıyla üretilecek olan arabaların kayıpları en aza indirmesi mümkün değildir.”

Otonom arabaların ortaya çıkaracağı soruları gözler önüne seren şu animasyona bir göz atmalısınız:

Yukarıda bahsettiğimiz çalışmanın sonucunda şu veriler elde edilmiştir:

Sorulara yanıt verenlerin %76’sı otonom bir arabanın on yayaya çarpmak yerine kendi taşıdığı bir yolcunun sağlığını feda etmesinin ahlaka daha uygun olduğunu söylemiştir. Ancak verilen cevaplarla ortaya çıkan bu oran, otonom aracın içindeki kişinin cevabı veren kişinin kendisi olması durumunda, üçte bire kadar azalmıştır. Ayrıca insanlar bu gibi durumlarda devletin kimin yaşayıp kimin öleceğini farklı gerekçelerle belirleyecek olmasından korktuklarını dile getirerek bu tür araçlarla ilgili herhangi bir yasal düzenlemeye karşı olduklarını da belirtmişlerdir.

İşin ilginç yanı, araştırmayı yapanların kendilerinin de herhangi bir cevap üzerinde kesin karara varamamalarıdır:

“Günümüz dünyasında ahlaki değerler ile kişisel çıkarları uzlaştıracak algoritmalar oluşturmanın basit bir yolu yok gibi görünmektedir.”

Her şeye rağmen otonom araç teknolojisinin genel hatlarıyla trafikteki insan faktörünü ve dolayısıyla araba kazalarının birçoğunu ortadan kaldıracak önemli bir potansiyelinin bulunduğu göz ardı edilemeyecektir. Bu nedenle konu hakkında oluşan dilemmaları çözmek elzemdir.

Araştırmacılar bu konuda ise şuraya dikkat çekmişlerdir:

“Bu, hem otomobil üreticilerinin hem de karar vericilerin bilincine varması gereken bir sorumluluktur.”

Bu konuda yapılacak uzun uzadıya müzakereler ve görüşmeler ise ağır sonuçlar doğurabilir. Şöyle ki şu andaki durumdan daha güvenli olan bir teknolojik gerçeğin benimsenmesinin ertelenmesi paradoksal olarak süreç içindeki kayıpları artırabilir konumdadır.

Bilim kurgu yazarı Isaac Asimov 1942 senesinde “Üç Robot Yasası” adıyla robotların işlevlerine ve haklarına dönük bir kurallar dizisi ortaya atmıştır. Bu yasaların etik çerçevesi bugün hâlâ geçerliğini sürdürmektedir. Bu üç yasa şöyledir:

1. Bir robot, bir insana zarar veremez veya bir insanın zarar görmesine seyirci kalamaz.
2. Bir robot, insanlar tarafından kendisine verilen emirlere, bu emirler Birinci Yasa ile çelişmediği sürece uymak zorundadır.
3. Bir robot, Birinci Yasa ve İkinci Yasa ile çelişmediği sürece kendi varlığını korumakla yükümlüdür.

Bütün bu tür soru ve sorunları tartışırken bir de şöyle bir sorular dizisi karşımıza çıkmaktadır: Robotları kim programlayacaktır? Bilgisayar korsanlarının veya robotun kendisinin kodu değiştirmesi nasıl önlenecektir? Kodu devletler mi, şirketler mi, şahıslar mı kontrol edecektir?

Ayrıca robotik teknolojinin hayatımıza daha fazla entegre olması, yanında başkaca toplumsal sorunları da getirecektir. Örneğin bir seks robotuyla yatmak, “aldatma” olarak kabul edilecek midir? Sibernetik implantlara veya robotik eklentilere sahip bir insan, hiçbir implantı ve eklentisi bulunmayan bir insana karşı ne gibi sorumluluklara sahiptir? İnsandan robota doğru uzanan varlık ölçeğinde yeni bir kast sistemi ortaya çıkacak mıdır?

Elbette bu tür ikilemlerin daha nicesiyle karşı karşıya geleceğiz. Hayalini kurduğumuz gelecek çok uzakta değil; bu nedenle ileride, tartıştığımız bu meselelerden daha fazlasını düşünmemiz gerekeceğinden şüpheniz olmamalı…

Bu makale Sosyolog Ömer Yıldırım tarafından www.felsefe.gen.tr için, Paul Ratner’in “Is It Ethical to Program Robots to Kill Us?” isimli makalesinden Türkçeye çevrilip derlenerek hazırlanmıştır. Alıntılanması durumunda kaynak gösterilmesi, ahlaklıca olanıdır.

Kaynak Metnin Yazarı: Paul Ratner, bir film yapımcısı ve eğitimcidir.

Çeviri ve Derleme: Sosyolog Ömer YILDIRIM