Geleceğin mühendisleri yapay zekânın ve genel olarak teknolojik ilerlemenin potansiyel etik problemleriyle yüzleşmeye hazırlar mı?

Yapay zekânın yol açtığı ve haberleşmiş sorunlara şöyle bir göz atalım: Bir sohbet robotu, insanlara düşmanca davranmaya başladı. ¹ Bir robot süpürge, özel durumlarda kullanıcılarının görüntülerini kaydetti. ² Siyahi bir kadın, kadınları ve beyaz olmayan kişileri tespit etmede daha düşük doğruluk oranına sahip olan bir yüz tanıma yazılımı nedeniyle yanlışlıkla şüpheli kişi olarak tanımlandı. ³

Bu olaylar sadece cihazlarda yaşanan birer arıza değil, daha temel problemlerin de göstergesidir. Yapay zekâ ve makine öğrenimi araçları günlük hayata daha fazla nüfuz ettikçe, mahremiyet sorunları ve kodlamalardaki ırk ve cinsiyet yanlılıklarından yanlış bilgilerin hızla yayılmasına kadar uzanan birçok etik sorun da giderek daha fazla önem kazanıyor.

Kamuoyu, bu teknolojilerin güvenli ve etik bir biçimde oluşturulmasını sağlamak için yazılım mühendislerine ve bilgisayar bilimcilerine güveniyor. Bilim, teknoloji, mühendislik ve matematik eğitimiyle ilgilenen bir sosyolog ve doktora adayı olarak, şu anda birçok farklı alandaki mühendisin kamuya karşı sorumluluklarını nasıl öğrenip kavrayıp araştırmaktayım.

Ancak bizim ve diğer akademisyenlerin son araştırmalarımız, rahatsız edici bir gerçeğe işaret ediyor: Yeni nesil mühendisler, yaptıkları işin sosyal sonuçlarıyla yüzleşmeye genellikle hazırlıksız görünüyor. Dahası, bazıları mesleklerinin beraberinde getirebileceği ahlaki ikilemler konusunda duyarsız; yapay zekâdaki ilerlemelerin bu tür ikilemleri yoğunlaştırması gibi…

Devam eden araştırmamızın bir parçası olarak, Amerika Birleşik Devletleri’ndeki en iyi mühendislik bölümlerinden birinde okuyan 60’tan fazla elektrik mühendisliği ve bilgisayar bilimleri yüksek lisans öğrencisiyle görüştük. Öğrencilere mühendislik alanındaki etik zorluklarla ilgili deneyimlerini, bu alanda karşılaşacakları olası etik ikilemler hakkındaki bilgilerini ve gelecekte bu senaryolara nasıl müdahale edeceklerini sorduk.

İlk olarak, iyi haberi verelim: Öğrencilerin çoğu yapay zekânın potansiyel tehlikelerinin farkındaydı ve kişisel gizlilik ve zarar verme potansiyeli hakkında endişelerini dile getirdiler. Örneğin ırk ve cinsiyet yanlılıklarının kasıtlı veya kasıtsız olarak algoritmalara nasıl yazılabileceğini yorumladılar.

Mesela bir öğrenci, yapay zekâ şirketlerinin yapay zekânın çevresel etkisinden duyduğu rahatsızlığı dile getirdi. Kimisi de askerî teknoloji ve sahte bilgi ve görüntüler üretmek de dâhil olmak üzere, YZ’nin nerede ve nasıl kullanıldığına dair endişelerini ifade etti. ⁴

Bununla birlikte, “Endişe verici veya etik olmayan durumlarda müdahale etmek için kendinizi yeterli donanıma sahip hissediyor musunuz?” diye sorulduğunda, öğrenciler genellikle hayır yanıtını verdi.

Diğer araştırmacılar da benzer şekilde birçok mühendislik öğrencisinin aldıkları etik eğitiminden memnun olmadıklarını tespit etmiştir. ⁵ Yaygın eğitim genellikle etik karar verme sürecinin altında yatan karmaşık sosyo-teknik faktörlerden ziyade meslekî davranış kurallarını öne çıkarmaktadır. Araştırmalar, belirli senaryolar veya vaka çalışmaları sunulduğunda bile mühendislik öğrencilerinin genellikle etik ikilemleri fark etmekte zorlandıklarını göstermektedir.

Yetkin mühendislik programlarının bir şekilde “meslekî ve etik sorumluluklarla ilgili konuları içermesi” gerekiyor.

Ancak etik eğitimi örgün müfredatta nadiren vurgulanıyor. ⁶ ABD’deki lisans STEM müfredatını değerlendiren bir çalışma, etik konuların kapsamının içerik, nicelik ve ne kadar ciddiyetle sunulduğu açısından büyük farklılıklar gösterdiğini ortaya koymuştur. ⁷ Ayrıca, mühendislik eğitimine ilişkin akademik literatür incelendiğinde, etiğin genellikle gerekli olmayan bir eğitim olarak görüldüğü tespit edilmiştir.

Birçok mühendislik fakültesi, öğrencilerin bu konudaki yaklaşımlarından memnuniyetsizliklerini dile getirirken mühendislik alanındaki meslektaşlarından ve öğrencilerin kendilerinden, sınırlı ders sürelerinde teknik becerilere öncelik vermeleri yönünde baskı hissettiklerini ifade etmişlerdir. ⁸

2018 yılında yapılan bir çalışmada 50’den fazla mühendislik fakültesiyle görüşen araştırmacılar, kamu yararı konularını mühendislik derslerine dâhil etme konusundaki tereddütlerini ve hatta bazen buna açıkça karşı çıktıklarını belgelemişlerdir. Görüştükleri öğretim görevlilerinin dörtte birinden fazlası etik ve sosyolojik etkileri “gerçek” mühendislik çalışmalarının dışında görmüştür. ⁹

Devam eden araştırma projemizde görüştüğümüz öğrencilerin yaklaşık üçte biri etik eğitimine karşı bu ilgisizliği paylaşıyor ve etik derslerini “sadece işaretlenmesi gereken bir kutu” olarak nitelendiriyor. Bir öğrenci, “Bir mühendis olarak etik dersine katılmak için para ödeyeceksem gerçekten çok fena sinirlenirim.” yanıtını dahi vermiştir.

Bu tutumlar bazen öğrencilerin mühendislerin toplumdaki rolünü nasıl gördüklerine kadar uzanıyor. Örneğin, mevcut çalışmamızda görüştüğümüz bir kişi, bir mühendisin “sorumluluğunun sadece o şeyi yaratmak, tasarlamak ve insanlara onu nasıl kullanacaklarını söylemek olduğunu” belirtti. Ona göre bahsi geçen şeyin yanlış kullanımı sonucu ortaya çıkacak sorunlar mühendisleri kesinlikle ilgilendirmiyordu.

Aramızdan biri olan Erin Cech, ABD’deki dört üniversiteden 326 mühendislik öğrencisinin oluşturduğu bir grubu gözlemledi. ¹⁰ 2014’te yayınlanan bu araştırma, mühendislerin eğitimleri boyunca etik sorumlulukları ve teknolojinin toplumsal sonuçlarını değerlendirme konusunda daha az endişe duyduklarını ortaya koydu. Üniversiteden ayrıldıktan sonra onları takip ettiğimizde, bu yeni mezunların iş gücüne katıldıklarında etik konusundaki endişelerinin tekrar ortaya çıkmadığını gördük. ¹¹

Mühendisler eğitimlerinin bir parçası olarak etik eğitimi aldıklarında, bunun işe yaradığı görülüyor. ¹²

Mühendislik profesörü Cynthia Finelli ile birlikte 500’den fazla iş sahibi mühendisle bir anket gerçekleştirdik. Bunun sonucunda okulda örgün etik ve kamu yararı eğitimi alan mühendislerin çalışma hayatlarında kamuya karşı sorumluluklarının bilincinde olma ve kolektif sorun çözme ihtiyacının farkına varma olasılıklarının daha yüksek olduğunu fark ettik. Bu mühendisleri eğitim almayan mühendislerle karşılaştırıldığımızda, eğitim alanların, iş yerlerinde etik bir sorunu fark etme olasılıklarının %30, harekete geçme olasılıklarının ise %52 daha yüksek olduğunu hesap ettik.

Bu mühendislerden dörtte birinden fazlası iş yerinde endişe verici bir etik durumla karşılaştığını bildirmiştir. Ancak yaklaşık üçte biri, ne eğitimleri sırasında ne de kariyerleri boyunca kamu yararı konusunda eğitim aldıklarını belirtmiştir.

Etik eğitimindeki bu boşluk, yeni nesil mühendislerin, özellikle yapay zekâ söz konusu olduğunda, alanlarının karmaşık etik manzarasını ne kadar iyi idare edebilecekleri konusunda ciddi sorular ortaya çıkarmaktadır. ¹³

Elbette, kamu yararını gözetme yükü yalnızca mühendisler, tasarımcılar ve programcılar tarafından omuzlanmıyor. Şirketler ve yasa koyucular da bu sorumluluğu paylaşıyor.

Ancak bu teknolojiyi tasarlayan, deneyen ve üzerinde hassas çalışmalar yapan insanlar, toplumun ilk savunma hattıdır. Eğitim programlarının bu eğitimi ciddiye almasını mühendislere ve bizlere borçlu olduğuna inanıyoruz.

Bu makale Sosyolog Ömer Yıldırım tarafından www.felsefe.gen.tr için, Elana Goldenkoff ve Erin Cech’in “Are tomorrow’s engineers ready to face AI’s ethical challenges?” isimli makalesinden Türkçeye çevrilip derlenerek hazırlanmıştır. Alıntılanması durumunda kaynak gösterilmesi, ahlaklıca olanıdır.

Çeviri ve Derleme: Sosyolog Ömer Yıldırım

1. NPR, Microsoft’s new AI chatbot has been saying some ‘crazy and unhinged things’, erişim: 29.04.2024, https://www.npr.org/2023/03/02/1159895892/ai-microsoft-bing-chatbot
2. MIT Technology Review, A Roomba recorded a woman on the toilet. How did screenshots end up on Facebook?, erişim: 29.04.2024, https://www.technologyreview.com/2022/12/19/1065306/roomba-irobot-robot-vacuums-artificial-intelligence-training-data-privacy/
3. Buolamwini, J. ve Gebru, T., (2018), Conference on Fairness, Accountability, and Transparency, Gender Shades: Intersectional Accuracy Disparities in Commercial Gender Classification, erişim: 29.04.2024, http://proceedings.mlr.press/v81/buolamwini18a/buolamwini18a.pdf
4. Morgan, Forrest E., Benjamin Boudreaux, Andrew J. Lohn, Mark Ashby, Christian Curriden, Kelly Klima, and Derek Grossman, Military Applications of Artificial Intelligence: Ethical Concerns in an Uncertain World, RAND Corporation, RR-3139-1-AF, 2020. 22 Mart 2024: https://www.rand.org/pubs/research_reports/RR3139-1.html
5. Holsapple, M., Sutus, J., Carpenter, D., Finelli, C., Burt, B., Ra, E., ve Trevor, H., (2011). We can’t get no satisfaction!: The relationship between students’ ethical reasoning and their satisfaction with engineering ethics education. American Society for Engineering Education, – (-), s. -, https://hdl.handle.net/2027.42/86096
6. Martin, D.A., Conlon, E. ve Bowe, B., (2021). A Multi-level Review of Engineering Ethics Education: Towards a Socio-technical Orientation of Engineering Education for Ethics. Science and Engineering Ethics, 27, 60, https://doi.org/10.1007/s11948-021-00333-6
7. Colby, A. ve Sullivan, W.M., (2013). Ethics Teaching in Undergraduate Engineering Education. The Research Journal for Engineering Education, 97 (3), s. 327-338, https://onlinelibrary.wiley.com/doi/abs/10.1002/j.2168-9830.2008.tb00982.x
8. Bielefeldt, A.R., Polmear, M., Canney, N., Swan, C. ve Knight, D., (2018). Ethics Education of Undergraduate and Graduate Students in Environmental Engineering and Related Disciplines. Environmental Engineering Science, 35 (7), s. 684-695, https://doi.org/10.1089/ees.2017.0281
9. Polmear, M., & Bielefeldt, A. R., & Knight, D., & Swan, C., & Canney, N. E. (2018), Faculty Perceptions of Challenges to Educating Engineering and Computing Students About Ethics and Societal Impacts Paper presented at 2018 ASEE Annual Conference & Exposition , Salt Lake City, Utah. 10.18260/1-2–30510
10. Cech, E.A., (2013). Culture of Disengagement in Engineering Education?. Science, Technology, & Human Values, 39 (1), s. 42-72, https://journals.sagepub.com/doi/abs/10.1177/0162243913504305
11. Cech, E.A., (2014). Education: Embed social awareness in science curricula. Nature, 505 (-), s. 477-478, https://doi.org/10.1038/505477a
12. Cech, E.A., Finelli, C., (2024). Learning to prioritize the public good: Does training in classes, workplaces, and professional societies shape engineers’ understanding of their public welfare responsibilities?. The Research Journal for Engineering Education, 113 (2), s. 407-438, https://doi.org/10.1002/jee.20590
13. Hess, J.L., Fore, G., (2018). A Systematic Literature Review of US Engineering Ethics Interventions. Science and Engineering Ethics, 24 (-), s. 551-583, https://doi.org/10.1007/s11948-017-9910-6