Teknoloji korkusu oldukça eskiye dayanan bir duygudur. Burada bilinmesi gereken, bizlerin, teknolojiden korktuğumuzu ifade ederken aslında birbirimizden, birbirimize yapabileceklerimizden korktuğumuzu anlatmak istediğimizdir.

Teknoloji korkusu; kendi ahlaki başarısızlığımızın ve gücü elde etme dürtüsünün ötesine tarih boyunca hiçbir zaman geçememiş olmamızın üstünü örtmek, insanoğlunun bu gerçekliklerini gizlemek için kullandığımız bir araçtır. Yapay zekânın güvenli olup olmadığını tartışırken konu ettiğimiz şey aslında yapay zekâya değil, kendimize güvenip güvenmediğimizdir. Hatta belki de yapay zekâ bu ilkellikten kurtularak ilerleyebilmemiz için bizlere yardımcı olacak bir araçtır.

En güvendiğimiz teknolojik gelişmelerin aynı zamanda en çok korktuğumuz şeyler olduğu tuhaf bir dönemde yaşıyoruz. Öyle ki genetik mühendisliği ve yapay zekâdan nükleer teknoloji ve nanobotlara kadar, hayranlık uyandıran ve son derece hızlı gelişen teknolojilerin bir listesini çıkarmaya kalkarsak işin içinden çıkamayabiliriz. Şu durumda, teknolojideki bu hızlı değişim ve gelişimin kötülük yapmak amacıyla kullanılabileceği fikrinden duyduğumuz ilkilti dahi, önümüze gelen yenilikleri ve gelişmeleri heyecanla karşılamamızı engelleyememektedir.

Günümüzde yaşadığımız makine korkusu göründüğü kadar yeni bir duygu değildir. Teknolojinin güç ve iktidarla olan ilişkisi uzun yıllardır devam eden bir ittifak doğurmuştur. İnsanlık tarihinin karanlık yüzü, genellikle en ileri teknolojiye sahip olanların kazandığı bir savaşlar tarihidir. Bilim ve onun teknolojik çocukları, düzenli biçimde hep parayı takip etmişlerdir.

Teknolojik ilerlemeden kaynaklanan makine korkusu özünde ise yersiz bir duygudur. Çünkü bir makinenin herhangi bir niyetinin olması mümkün değildir. Sadece onu yapanın ve kodlayanın belirli niyetleri olabilir. Bu da demek oluyor ki asıl mesele teknolojiden korkmak değildir; zira korkunun kökenini tamamen yanlış anlamışızdır ya da işimize böyle gelmektedir. Bizler aslında teknolojiden değil, birbirimizden korkmaktayızdır.

YAPAY ZEKÂ YAŞAMIN AKIŞINI NASIL DEĞİŞTİRİR?

Bu soruya elbette bir yanıtınız vardır; fakat unutmamalısınız ki yapay zekâ, her şeyi değiştirebilir. Makine ve yapay zekâ, bu her ne kadar tam olarak açıklanamamış olursa olsun, yine de bir tür özerklik geliştirecektir. Özetle, makinenin kendisinin belirlediği belli kişisel amaçları olacaktır. Bu amaçlar herhangi bir insanın amaçlarına benzediği ölçüde de makine, iyicil olmayacaktır. Hatta bir kısım görüşe göre yapay zekâ ile makinenin birleşimi, onları insanlıktan bir şekilde kurtulmak için bilgi birliğine sevk edecek ve makineler, bir tür olarak, insanlığı tehdit eder boyuta ulaşacaktır.

Mary Shelley, 1818’de yayımlanan “Frankenstein” adlı eserinde bizi bilimin yanlış amaçlara hizmet etmesinin ne gibi sonuçlar doğurabileceği konusunda uyarmıştır. Romanda Dr. Frankenstein, ölüme karşı verilen savaşı kazanmak ve doğanın akışını tersine çevirmek amacındadır. Bu bağlamda bakıldığında herhangi bir hastalığın tedavi edilmesi, her hâlde, doğanın normal işleyişine müdahale etmek demektir. Fakat insanoğlu bilimin hastalıkların tedavilerini bularak insanın ortalama yaşam süresini uzatmış ve yaşam kalitesini de artırmış olmasından ötürü bilimsel çalışmalarla haklı olarak gurur duymaktadır. Bu anlayışa göre bilim bundan daha yüce bir amaca hizmet edemez. Burada işleri altüst eden şey, iyinin peşinde koşmanın gücün peşinde koşmakla karıştırılmasıdır. Bu ölçek o kadar çarpıktır ki bir şey ne kadar güçlü ise o kadar iyi olarak kabul edilir. Sonuç olarak ulaşılmak istenen hedef zamanın, yaşamın ve ölümün efendisi olacak kadar, hatta tanrılar kadar güçlü olmaktır.

Bir Frankenstein çizimi

Yapay zekâya geri dönersek bu yönde ilerleyecek bir teknolojinin bize çok yardımcı olacağına şüphe yoktur. Yapay zekâyla birlikte daha iyi sonuç verecek tıbbi teşhislere, daha iyi işleyen bir trafik düzenine, daha nitelikli bina tasarımlarına, hem sınıfta hem de sanal ortamda kullanılmak üzere hazırlanacak daha iyi eğitsel içeriklere sahip olacağımız açıktır. Ama aynı zamanda borsada daha çok kazanç sağlamanın, daha gelişmiş savaş stratejilerinin, daha güçlü askerlerin ve daha ileri uzaktan öldürme becerilerinin de önü açılmış olacaktır. Bu da en yeni ve güçlü teknolojileri kontrol edenlere gerçek bir iktidar sağlayacaktır. Böylece savaşlarda zaten galip gelenlerin yine savaş çıkarıp yine galip gelme olasılığı istenmedik biçimde artacaktır.

MEDENİYET KADAR ESKİ BİR ANLATI

Ortaya çıkan ilk soru, teknolojik gelişmelerin hangi yöne doğru ilerleyeceğidir. İşlerin ilginç ve karmaşık hâle geldiği nokta tam da burasıdır.

Yapay zekâ devrimiyle başa çıkmak için mevcut güvenlik önlemlerinin, aktif kontrollerin ve yürürlükteki mevzuatın acilen güncellenmesi gerektiği uzmanların ortak fikridir. Bu gerçekten de takdire şayan. Ancak bu makinelerin esasen kendi kendine öğreten sistemsel ağlarla çalıştığı düşünülürse bunlara karşı etkili olacağına kesin olarak inandığımız korunma yöntemleri nasıl uygulanacaktır? Sınırsız veri toplama yeteneğine sahip bir yapay zekânın tıpkı insanların kara kutulara girmesi gibi koruma duvarlarımızı aşmak için yeni yollar bulamamasını nasıl sağlayacağız?

Tartışılacak olan ikinci soru ise küresel kontrol problemidir.

Yeni nesil teknolojileri denetlemek güçtür. Bu açıdan bakılırsa devletler, yapay zekâ teknolojilerini kontrol etmekle yükümlü bir “Dünya Zekâ Örgütü” oluşturmalı mıdır? Peki böyle bir örgütün kurulduğunu varsayalım, bu evrensel yapının yönetim kurulunun organizasyon şeması nasıl oluşturulacaktır? Yönetim yapısı hangi parçalardan ve kimlerden oluşacaktır? Devletlerin ve özel şirketlerin uygulanacak kuralları gizlice çiğnemesini hangi mekanizmalar önleyecektir?

Her zaman olduğu gibi bahsi geçen ileri zamanda da en iyi bilim insanlarına ve en iyi mühendislere sahip ülkeler büyük bir avantaja sahip olacaktır. Soğuk Savaş’ın yarattığı nükleer yumuşamaya benzer biçimde yeni bir uluslararası yumuşama iklimi ortaya çıkacaktır. Ve yine bu yıkıcı teknolojinin yanlış ellere geçmesinden korkacağız; çünkü bunun gerçekleşmesi oldukça kolay olacaktır. Hatta yapay zekâ ile hareket eden makineler nükleer güçte olduğu gibi endüstriyel ölçekte inşa edilmeyeceğinden yapay zekâ tabanlı terörizm, hesaba katılması gereken ciddi bir güç olacaktır.

İşte yeniden aynı noktaya geri dönüyoruz ve kendi yarattığımız teknolojiden korkuyoruz.

Peki siz çizilen bu resimde eksik bir parça görüyor musunuz? Yeni resimde de medeniyetimizin çoğu için geçerli olan aynı yıkıcı açgözlülüğü ve güç modelini görmeye devam etmekteyiz. Medeniyetimizin uğradığı bu yenilgi ahlaki boyutludur ve bu sonucu yalnızca biz değiştirebiliriz.

Medeniyetimizi metalarla tanımlıyoruz ve bu dünya görüşü bizi ne yazık ki yok oluşa sürüklüyor. Mimarisini çizdiğimiz medeniyet projesi kendi kendini tüketmeye devam ediyor. Bunun farkına varmadığımız ve 10 bin yıldır yürüdüğümüz yolda ilerlemeye devam ettiğimiz sürece, teknolojiyi kurallarla kontrol altına almak ve bu kurallara evrensel zeminde uyulmasını sağlamak çok zor olacaktır.

Yapay zekâ bize daha iyi insanlar olmamız yönünde yardımcı olmayacaksa belki de en azından bunca zamandır ne kadar aptalca yaşadığımızı öğretebilir. Geçmiş deneyimlerimize dayanarak yapay zekânın da kime hizmet edeceğini göz önüne aldığımızda, ondan beklediğimiz şeyler kulağa oldukça anlamsız gelecektir. Ama insan umut ile insandır ve yaşam devam ettikçe umut da var olmaya devam edecektir.

Bu makale Sosyolog Ömer Yıldırım tarafından www.felsefe.gen.tr için, Marcelo Gleiser’in “Fear of AI is misplaced. Instead, fear the people who crave power” isimli makalesinden Türkçeye çevrilip derlenerek hazırlanmıştır. Alıntılanması durumunda kaynak gösterilmesi, ahlaklıca olanıdır.

Kaynak Metnin Yazarı: Marcelo Gleiser, Dartmouth College’da doğa felsefesi, fizik ve astronomi profesörüdür. Beyaz Saray ve NSF’den Presidential Faculty Fellows ödülünü almıştır. Ayrıca American Physical Society üyesidir ve 2019 Templeton Ödülü’ne layık görülmüştür.

Çeviri ve Derleme: Sosyolog Ömer YILDIRIM