Daima istediğini elde edemezsin, bir zamanlar genç bir adam şarkı söylemişti. Bu kolay bir aforizma fakat hatırlamaya kıymet. Boris Johnson, 2016’da “politikamız pastamızı yiyip onu yemektir” açıklamasını yapmış olduğu için geniş çapta – ve haklı olarak – alay mevzusu oldu. Bu, Brexit referandumunun Birleşik Krallık hükümetini bazı acı verici kararlar almaya zorladığını kabul etmenin dürüst olmayan bir reddiydi. Sadece Mick Jagger’ın vecizesinin olaya müdahale ettiğini görmek daima o denli kolay olmuyor.
Algoritmaların adil kararlar verip vermediği sorusunu düşünün. 2016 senesinde ProPublica’da Julia Angwin liderliğindeki bir muhabir ekibi “Makine yanlılığı” başlıklı bir yazı yayınladı. Bu, ABD hakkaniyet sisteminde şartlı tahliye, mahkeme öncesi gözaltı ve cezalandırma ile ilgili tavsiyelerde bulunmak için yaygın olarak kullanılan Compas adlı bir algoritma hakkında bir yıldan fazla devam eden araştırmanın sonucuydu. Angwin’in ekibi, Compas’ın beyaz sanıkları siyah sanıklara nazaran daha düşük riskli olarak değerlendirme olasılığının oldukca daha yüksek olduğu sonucuna vardı. Dahası, “siyahi sanıkların daha yüksek riskli olarak değerlendirilmesi sadece tekrardan kabahat işlememesi olasılığı iki kat daha fazlaydı. Ve beyaz sanıkların düşük riskli olarak sınıflandırıldıktan sonrasında yeni suçlarla itham edilme olasılığı iki kat daha fazlaydı.”
Bu fena görünüyor. Compas’ın yapımcıları Northpointe, mesela 3 benzer biçimde bir risk derecesi verilen siyah beyaz sanıkların tekrardan tutuklanma şanslarının eşit olduğuna dikkat çekti. Aynısı, risk derecesi 7 yada başka herhangi bir dereceye haiz siyah beyaz sanıklar için de geçerliydi. Risk puanları, ırktan bağımsız olarak aynı anlama geliyordu.
ProPublica ve Northpointe bulgularını, çürütmelerini ve karşı-çürütmelerini ürettikten kısa bir süre sonrasında, birkaç akademisyen ekibi kolay fakat şaşırtıcı bir noktaya değinen makaleler yayınladı: “adil” yada “yansız” olmanın ne anlama geldiğine dair birkaç değişik tarif vardır ve bu Aynı anda tüm bu şekillerde adil olmak aritmetik olarak imkansızdır. Bir algoritma, ProPublica’nın hakkaniyet tanımını karşılayabilir yada Northpointe’in tanımını karşılayabilir, sadece ikisini birden karşılayamaz.
İşte Corbett-Davies, Pierson, Feller ve Goel: “Aslına bakarsak bir risk puanının her iki hakkaniyet kriterini aynı anda karşılaması imkansızdır.”
Yada Kleinberg, Mullainathan ve Raghavan: “Üç hakkaniyet koşulunu resmileştiriyoruz. . . ve oldukca kısıtlı hususi durumlar haricinde, bu üç koşulu aynı anda sağlayabilecek hiçbir yöntemin olmadığını kanıtlıyoruz.”
Bu yalnız algoritmalarla ilgili bir gerçek değil. Şartlı tahliyeyle ilgili kararlar ister insan yargıçlar, ister robotlar yada dart atan şempanzeler tarafınca alınsın, aynı amansız aritmetik geçerli olacaktır.
Algoritmik karar vermenin yaşam değiştiren büyüsü hakkında daha çok incelemeye ve daha azca inandırıcılığa ihtiyacımız var, bu yüzden en ciddi yargıların otomasyonuna ışık tutmak için ProPublica’nın analizi paha biçilmezdi. Sadece algoritmik karar vermeyi geliştirmek istiyorsak, Jagger’ın özdeyişini hatırlamamız gerekir. Bu kararlar ihtimaller içinde her ölçümde “adil” olması imkansız. Her şeye haiz olmak olanaksız olduğunda, hakkaten neyin mühim bulunduğunu seçmek zorunda kalacağız.
Acı verici seçimler, elbet ekonominin ekmeği ve yağıdır. Ekonomistleri büyüleyen hususi bir tip var: “olanaksız üçlü”. İmkansız üçlemelerin en bilgesi, Armistead Maupin’in More Tales of the City (1980) fanatikleri tarafınca oldukca iyi bilinecektir. Bu “Mona Kanunu”: yakıcı bir işe, yakıcı bir sevgiliye ve yakıcı bir daireye haiz olabilirsiniz, sadece üçüne aynı anda haiz olamazsınız.
Ekonomide, olanaksız üçlüler daha yavandır. En ünlüsü, durağan(durgun) bir döviz kuru, sermayenin sınırlar içinde özgür dolaşımı ve bağımsız bir para politikası isteyebileceğiniz halde, en iyi ihtimalle iki tane seçmelisiniz. Ekonomist Dani Rodrik tarafınca ortaya atılan bir diğeri daha gayri resmi: ulusal düzeyde kurallar koyabilirsiniz, ekonomik olarak yüksek oranda entegre olabilirsiniz yada politikayı halk oylamasına bırakabilirsiniz, sadece üçünü aynı anda yapamazsınız. Ekonomik olarak bütünleşmiş bir ulusal teknokrasi mümkündür; ulusüstü düzeyde demokratik siyaset oluşturma da öyleki. İkisinden de hoşlanmıyorsanız, ekonomik küreselleşmeye sınırlar koymanız gerekir.
Mona Yasası benzer biçimde, bu olanaksız üçlüler matematiksel kanıtlardan oldukca ergonomik kurallara benzer. İstisnalar olabilir, fakat umutlanma.
Matematikçiler bu tür bulguları “imkansızlığın kanıtı” yada yalnız “imkansızlık neticeleri” olarak adlandırırlar. Bazıları kolay: en büyük asal sayıyı asla bulamayacağız şundan dolayı bulunabilecek en büyük asal sayı yok ve ikinin karekökünü kesir olarak ifade edemeyiz.
Ötekiler daha derin ve daha akıl almaz. Kim bilir en derini, Gödel’in 1931’de herhangi bir matematiksel sistem için, o sistemde kanıtlanamayan doğru ifadeler olacağını gösteren eksiklik teoremidir. Bundan dolayı matematik eksiktir ve tam, tutarlı bir matematiksel sistem geliştirmeye çalışan matematikçiler lejyonları zamanlarını boşa harcıyorlardı. Gödel’in bu entelektüel bombayı patlattığı seminerin sonunda, büyük John von Neumann veciz bir halde “her şey bitti” dedi.
Kimse her şeye haiz olamayacağının söylenmesinden hoşlanmaz fakat acı verici bir gerçek, rahatlatıcı bir yalandan daha faydalıdır. Gödel’in eksiklik teoremi, genç bir mantıkçı olarak Liz Truss ile beraber çalıştığım acı gerçeklerden biriydi. Kim bilir sonunda dersi özümsemiştir. Bir şeyin ne vakit olanaksız bulunduğunu idrak etmek önemlidir. Bu gerçek, bizi daima istediğimizi elde etmeye çalışmaktan kurtarmış olur ve bunun yerine ihtiyacımız olanı elde etmeye odaklanmamızı sağlar.
Financial Times için yazılmış ve ilk olarak 28 Ekim 2022’de yayınlanmıştır.
The Data Detective’in ciltsiz kitabı 1 Şubat’ta ABD ve Kanada’da gösterildi. Başka bir yerde başlık: Dünya Iyi mi Eklenmiş olur?
ABD Birleşik Devletleri ve Birleşik Krallık’ta Bookshop’ta bir vitrin kurdum. Bookshop ve Amazon’a verilen bağlantılar yönlendirme tutarına niçin olabilir.