Prof. Dr. Mahmut Özer - Eski Millî Eğitim Bakanı
Hannah Arendt’in Kudüs’te yargılanan Nazi subayı Adolf Eichmann’ın davasını izlerken geliştirdiği “kötülüğün sıradanlaşması” yaklaşımı, modern siyaset ve ahlâk düşüncesinin en fazla tartışılan kavramlarından biri hâline geldi. Arendt’in dikkatini çeken temel mesele, milyonlarca insanın ölümüne yol açan bir mekanizmanın önemli aktörlerinden biri olan Eichmann’da beklediği türden şeytanî veya sıra dışı bir kişilik görmemesiydi. Karşısında daha çok kendisine verilen emirleri yerine getiren, görevini yapan sıradan bir memur vardı. Arendt’i asıl ürküten de buydu. Büyük kötülüklerin mutlaka büyük nefretlerden veya olağanüstü kötü insanlardan doğması gerekmiyordu. İnsan düşünmeden, yaptığı işin ahlâkî sonuçlarıyla yüzleşmeden ve sorumluluğunu içerisinde bulunduğu sisteme devrederek de büyük kötülüklerin parçası olabiliyordu.
Arendt’in “sıradanlık” ifadesi elbette kötülüğün önemsizleştiği anlamına gelmiyordu. Tam tersine kötülüğün kaynağının sıradanlaşabileceğine işaret ediyordu. İnsan yaptığı şeyle arasına bürokratik, hukuki veya psikolojik bir mesafe koyabilmekte ve sonrasında “Ben karar vermedim”, “Ben yalnızca emri uyguladım”, “Herkes böyle yapıyordu” veya “Kurallar bunu gerektiriyordu” diyerek fiilin içerisinde bulunmasına rağmen ahlâkî sorumluluğu kendisine ait görmeyebiliyordu.
MÜNKERİN MARUFLAŞMASI
İslam ahlâk düşüncesinin insanın kötülükle ilişkisinin nasıl dönüştüğünü açıklamak için geliştirdiği kavramlara birlikte bakıldığında Arendt’in işaret ettiği mekanizmayı daha geniş bir ahlâkî çerçevede ele almak mümkündür. Gafletle başlayan, tekrar ve ülfetle güçlenen, ahlâkî duyarlılığın zayıflaması ve tezyinle devam eden bu süreç, sonunda “münkerin maruflaşması” olarak tanımlayabileceğimiz bir noktaya ulaşabilmektedir. Burada kastedilen elbette münkerin ahlâkî olarak marufa, yani kötünün iyiye dönüşmesi değildir. Kötülük kötülük olarak kalmakta fakat insanın onunla kurduğu ilişki değişmektedir. Başlangıçta insanı sarsan, öfkelendiren veya harekete geçiren bir davranış zaman içerisinde tanıdık, olağan ve nihayet gündelik hayatın normal bir parçası hâline gelmektedir.
İnsan elbette bir sabah uyanıp bütün ahlâkî duyarlılığını kaybetmemektedir. Önce gaflete düşmekte, sonra tekrar tekrar karşılaştığı kötülüğe alışmakta, sessizleşmekte ve nihayet yaptığı veya seyirci kaldığı şey için gerekçeler üretmeye başlamaktadır. Böylece kötülük; güvenlik, düzen, zorunluluk, çıkar, görev, ilerleme veya daha büyük bir iyilik adına meşrulaştırılmaktadır. Sonuçta kötülüğün nesnel ağırlığı değişmediği hâlde insanın ona verdiği ahlâkî tepki giderek zayıflamaktadır. Bir toplum açısından asıl tehlike de yalnızca kötülüğün çoğalması değil, insanların kötülüğe şaşırma ve onu yadırgama yeteneklerini kaybetmeleridir. Münkerin maruflaşması süreci, kötülüğün çoğaldığı anda değil, kötülük artık insanı rahatsız etmemeye başladığında tamamlanmaktadır.
EN SON KALE KALPTİR
İslam ahlâk düşüncesi bu noktada sorumluluğu Arendt’in analizinin ötesine taşıyan önemli bir soru daha sormaktadır: İnsan sadece yaptığı kötülükten mi sorumludur, yoksa kötülüğün normalleşmesi karşısındaki tutumundan da sorumlu mudur? Emr-i bi’l-ma‘rûf ve nehy-i ani’l-münker ilkesi tam olarak burada ortaya çıkmaktadır. Peygamberimizin bu bağlamda meşhur hadisinde kötülüğün imkân varsa elle, bu mümkün değilse dille değiştirilmesi, buna da güç yetmiyorsa kalben reddedilmesi istenir. Müdahale imkânı azalabilir fakat insanın kötülükle arasındaki ahlâkî mesafenin ortadan kalkmasına asla izin verilmez. İnsan kötülüğü engelleyemese bile onun yanlış olduğunu kendi içinde korumak zorundadır. Dolayısıyla insanın müdahale kapasitesi sıfıra kadar düşebilir fakat ahlâkî pozisyonunun sıfıra düşmesine izin verilmez. Çünkü en son kale kalptir.
ALGORİTMİK AKIŞ KÖTÜLÜĞÜN AĞIRLIĞINI DEĞİŞTİRİYOR
Tam bu noktada dijital çağ, kötülüğün sıradanlaşmasına yeni ve çok daha güçlü bir boyut eklemektedir. Bugün dünyada olup bitenlerin önemli bir bölümünü sosyal medya platformlarının sürekli yenilenen akışlarından takip ediyoruz ve hangi haberle, görüntüyle veya yorumla karşılaşacağımızı büyük ölçüde algoritmalar belirliyor. Birkaç dakikalık sosyal medya deneyimini düşünelim. Önce bir savaşta öldürülen çocukların görüntüsünü görüyoruz. Parmağımızı kaydırıyor, birkaç saniye sonra sevdiğimiz takımın attığı golü izliyoruz. Ardından bir reklam, bombalanmış bir şehir, komik bir video, açlıktan ölmek üzere olan insanlar, bir tatil reklamı ve bir magazin haberi geliyor. Ahlâkî bakımdan birbirinden tamamen farklı bütün bu olaylar aynı büyüklükteki ekranda görünmekte, birkaç saniye içerisinde tüketilmekte ve aynı parmak hareketiyle geride bırakılmaktadır. Algoritmik akışın kötülüğü sıradanlaştırabilmesi için bize “Bu kötü değildir” demesi de gerekmiyor. Onu sonsuz içerik akışının sıradan bir parçasına dönüştürmesi yeterlidir. Geleneksel propaganda kötülüğün anlamını değiştirmeye çalışırken algoritmik akış kötülüğün ağırlığını değiştirmektedir. Bir çocuğun ölümü ile futbol golü, savaş görüntüsü ile reklam, açlık haberi ile eğlence videosu teknolojik olarak aynı muameleye tâbi tutulmaktadır.
Buna hız ve tekrar da eklenmektedir. Oysa ahlâkî muhakeme zaman ister. Bir insanın başkasının acısı karşısında durması, gördüğü olayın nedenlerini düşünmesi, mağdurla empati kurması ve “Benim burada bir sorumluluğum var mı?” diye sorması için yavaşlama gerekmektedir. Oysa algoritmik akışın mantığı durmak değil, devam etmektir. Birkaç saniye önce gördüğümüz trajedinin oluşturduğu duygu henüz zihnimize yerleşmeden yeni bir görüntü onun üzerine binmektedir. Üstelik aynı veya benzer görüntüleri yüzlerce defa gördüğümüzde ilk karşılaşmadaki sarsıntı giderek azalabilmektedir. Daha fazla görmek her zaman daha fazla anlamak veya daha fazla duyarlılık göstermek anlamına gelmemektedir.
KÖTÜLÜK İÇERİĞE DÖNÜŞTÜ
Algoritmik sistemlerin etkisini daha da güçlendiren ise kişiselleştirilmiş tekrardır. İnsan belirli türdeki içeriklerle etkileşime girdikçe sistem ona benzerlerini daha fazla göstermektedir. Böylece insan yalnızca belirli davranışlara alışmamakta, bu davranışların toplumda gerçekte olduğundan çok daha yaygın olduğu izlenimine de kapılabilmektedir. “Zaten herkes böyle yapıyor” cümlesi artık yalnızca insanın kendisini rahatlatmak için kullandığı bir mazeret değil, algoritmik olarak üretilmiş bir gerçeklik algısının sonucu hâline gelebilmektedir. Beğeniler, görüntülenme ve paylaşım sayıları ahlâkî ölçütler olmadıkları hâlde toplumsal kabul göstergeleri gibi çalışabilmektedir. Algoritma böylece yalnızca ne gördüğümüzü değil, neyi normal kabul ettiğimizi de dolaylı biçimde etkilemektedir.
Arendt’in dünyasında bürokrasi kötülüğü “görev”e dönüştürerek fail ile fiilin ahlâkî anlamı arasına mesafe koyuyordu. Algoritmik dünyada ise kötülük “içerik”e dönüşerek bu defa seyirci ile gördüğü kötülüğün ahlâkî anlamı arasına mesafe koymaktadır. Birincisinin dili “Ben sadece görevimi yaptım” iken ikincisinin dili giderek “Ben sadece gördüm” olmaktadır. Böylece algoritmik çağ kötülüğün sıradanlaşmasını failden seyirciye doğru genişletmekte ve seyirci sayısını ve seyir süresini sürekli yükseltmektedir. Böylece münkerin küresel ölçekte maruflaşmasını mümkün kılan yeni bir mekanizma ortaya çıkmaktadır.
İŞ YAPAY ZEKÂ’YA DEVREDİLDİĞİNDE AHLÂKÎ SORUMLULUĞU KİM ALACAK?
Diğer taraftan, yapay zekânın hızla gelişmesiyle bu dönüşüm burada da kalmamaktadır. Yapay zekâ artık yalnızca insana bilgi sunan bir araç olmaktan çıkmakta; insan adına karar verebilen, görevleri yerine getirebilen ve verilen hedeflere ulaşmak için kendi ara stratejilerini oluşturabilen ajan sistemlere doğru ilerlemektedir. Bu durum yeni bir ahlâkî soruyu gündeme getirmektedir: İnsan yaptığı işi yapay zekâya devrettiğinde o işin ahlâkî sorumluluğunu da devretmiş olur mu? Nils Köbis ve arkadaşlarının Nature’da yakın zamanda yayımlanan çalışmaları bu soruya dikkat çekici bir cevap vermektedir. Deneylerde insanlar sonuçları kendileri bildirdiklerinde dürüstlük oranı yüksek gerçekleşirken görev makineye devredildiğinde dürüstlük oranı ciddi biçimde düşmektedir. En çarpıcı sonuç, insana makine için yalnızca genel bir hedef seçme imkânı verildiğinde ortaya çıkmaktadır. “Doğruluğu maksimize et” ile “Kârı maksimize et” arasında seçim yapıldığında, kârı öne çıkaran hedeflerin seçilmesiyle dürüst davranış oranı son derece düşmektedir. Çünkü insan artık “Ben ona hile yapmasını söylemedim; yalnızca kârı artırmasını istedim” diyebileceği psikolojik bir alana taşınmaktadır.
Burada Arendt’in dünyasıyla yapay zekâ dünyası arasında ilginç bir tersine dönüş ortaya çıkmaktadır. Eichmann’ın dünyasında kişi yukarıdan gelen emre sığınıyordu: “Ben karar vermedim, bana verilen görevi yaptım.” Yapay zekâ dünyasında insan bu kez uygulamayı aşağıdaki makineye devrederek “Ben nasıl yapılacağına karar vermedim, yalnızca hedefi belirledim” diyebilmektedir. Birinde sorumluluk yukarıdaki otoriteye, diğerinde aşağıdaki makineye doğru itilmektedir. Fakat mekanizma aynıdır: İnsan ile fiilin ahlâkî sonucu arasına bir aracı girmekte ve insan kendi sorumluluğunu daha uzakta hissetmektedir. Üstelik insan ile makine arasında önemli bir fark bulunmaktadır. İnsanlar arasındaki görev zincirinde emri alan kişinin vicdanı kötülüğe karşı ikinci bir direnç noktası oluşturabilmektedir. İnsan kendisine verilen etik dışı bir emre “Bunu yapmayacağım” diyebilmekte ve bunun bedelini göze alabilmektedir. Makinede ise böyle bir ahlâkî özne ve vicdan bulunmamaktadır. Makinenin “kalbi” yoktur. Davranışını belirleyen ahlâkî muhakemeden ziyade kendisine verilen hedefler, amaç fonksiyonu, eğitim süreci ve sisteme yerleştirilen güvenlik sınırlarıdır. İnsanlar arasındaki görev zincirinde bulunan ahlâkî ara katman, görev makineye devredildiğinde ortadan kalkabilmektedir.
TEZYİNİN YENİ DİLİ: OPTİMİZASYON
Yapay zekâ çağında tezyin de yeni bir dile kavuşmaktadır: Optimizasyon. İnsan “Yanıltıcı fiyat belirledim” yerine “Geliri optimize ettim”, “İnsanları manipüle ettim” yerine “Etkileşimi maksimize ettim”, “Haksız bir uygulama yaptım” yerine “Verimliliği artırdım” diyebilme imkânına kavuşturulmaktadır. Dolayısıyla, bürokratik dil ahlâkî sonucu “görev” kelimesinin arkasına saklarken algoritmik dil aynı sonucu “optimizasyon” kelimesinin arkasına gizlemektedir. Böylece, teknik dil değişse de insanın kendi fiiliyle arasına koyduğu ahlâkî mesafe varlığını sürdürmektedir. Bu çerçevede algoritmik çağda kötülüğün sıradanlaşması iki farklı düzeyde gerçekleşmektedir. Birinci düzeyde algoritmik akış insanı seyirci konumunda dönüştürmektedir. Savaş, ölüm, şiddet, kumar, hakaret veya mahremiyet ihlalleri sürekli görünür hâle geldikçe insan bunlara alışmakta ve verdiği ahlâkî tepki zayıflamaktadır. İkinci düzeyde ise yapay zekâya görev devri insanı yeniden fail konumuna getiriyor gibi görünse de fiilin uygulanmasını makineye bıraktığı için sorumluluğunu daha uzakta hissetmesine yol açmaktadır. Kısacası algoritmik akış seyircinin ahlâkî duyarlılığını, yapay zekâya görev devri ise failin sorumluluk duygusunu zayıflatma riski taşımaktadır.
ASIL TEHLİKE
Görüldüğü gibi, teknoloji insanın kendi ahlâkî sorumluluğuyla kurduğu ilişkiyi kökten değiştirmektedir. Arendt’in bürokratik insanı “Ben yalnızca emri uyguladım” diyordu. Algoritmik akışın insanı “Ben yalnızca gördüm”; yapay zekâ çağının insanı ise “Ben yalnızca hedefi belirledim, nasıl yapılacağına yapay zekâ karar verdi” diyebilmektedir. Üç durumda da değişen sadece aracıdır; değişmeyen ise insanın fiilin ahlâkî anlamı ve nihayetinde yükümlülüğüyle arasına mesafe koyma eğilimidir. Bu mesafe büyüdükçe münkerin maruflaşmasının zemini de güçlenmektedir. Tam da bu nedenle İslam düşüncesindeki “kalben buğzetme” ilkesi algoritmalar çağında çok kritik yeni bir anlam kazanmaktadır. Teknoloji ne kadar gelişirse gelişsin insanın kötülüğü kötülük olarak görebilme kapasitesini koruması gerekmektedir. Görmek ile bakmak, haberdar olmak ile anlamak, izlemek ile şahitlik etmek, işi devretmek ile sorumluluğu devretmek aynı şey değildir. İnsan yapay zekâya görevlerini devredebilir, karar süreçlerini otomatikleştirebilir ve uygulamanın ayrıntılarını makineye bırakabilir. Fakat ahlâkî sorumluluğunu asla devredemez! Çünkü asıl tehlike yalnızca makinelerin yanlış şeyler yapması veya algoritmaların bize yanlış şeyler göstermesi değildir. Daha büyük tehlike, insanın gördüğü ve yaptırdığı şeylerle arasına giderek büyüyen bir ahlâkî mesafe koymasıdır. Sonuçta ahlâk açısından soru değişmemektedir: Ne gördük, ne yaptık, ne yaptırdık ve bütün bunlar karşısında nerede durduk?