Yapay zekanın yarının dünyasına hazırlanmamıza yardımcı olacağı fikri, kolektif fantezilerimize işlemiştir. Bununla birlikte, şimdiye kadar gördüklerimize dayanarak, AI geleceği tahmin etmekten çok geçmişi yeniden oynama yeteneğine sahip görünüyor.
Bunun nedeni, AI algoritmalarının veriler üzerinde eğitilmiş olmasıdır. Doğası gereği, veri geçmişte olan bir şeyin eseridir. Sağa veya sola döndünüz. Merdivenlerden inip çıktınız. Ceketin kırmızı ya da maviydi. Elektrik faturasını zamanında ödediniz veya geç ödediniz.
Veriler, yalnızca birkaç milisaniye eski olsa bile bir kalıntıdır. Çoğu AI algoritmasının önemli ölçüde daha eski veri kümeleri üzerinde eğitildiğini söylemek güvenlidir. Eskime ve doğruluğun yanı sıra, verileri kimin topladığı, verilerin nerede toplandığı ve veri setinin eksiksiz olup olmadığı veya eksik veri olup olmadığı gibi diğer faktörleri de göz önünde bulundurmanız gerekir.
Mükemmel veri seti diye bir şey yoktur; en iyi ihtimalle, gerçekliğin çarpık ve eksik bir yansımasıdır. Hangi verileri kullanacağımıza ve hangi verileri atacağımıza karar verdiğimizde, doğuştan gelen önyargılarımızdan ve önceden var olan inançlarımızdan etkileniriz.
“Verilerinizin dünyanın mükemmel bir yansıması olduğunu varsayalım. Bu hala sorunlu, çünkü dünyanın kendisi önyargılı, değil mi? Bilgisayar bilimi ve mühendisliği doçenti Julia Stoyanovich, “Artık çarpık bir dünyanın mükemmel görüntüsüne sahipsiniz” diyor. NYU Tandonu ve yönetmen şirketinde NYU’da Sorumlu Yapay Zeka Merkezi.
Yapay zeka, veri kümelerimize sızan ön yargıları ve ön yargıları azaltmamıza yardımcı olabilir mi, yoksa yalnızca onları güçlendirecek mi? Ve hangi önyargıların tolere edilebilir ve hangilerinin gerçekten tehlikeli olduğunu kim belirleyecek? Önyargı ve adalet nasıl bağlantılıdır? Her önyargılı karar haksız bir sonuç doğurur mu? Yoksa ilişki daha mı karmaşık?
Yapay zeka önyargısı hakkında bugünün konuşmaları, ırkçılık, cinsiyetçilik, yaş ayrımcılığı, homofobi, transfobi, yabancı düşmanlığı ve ekonomik eşitsizlik gibi görünürlüğü yüksek sosyal konulara odaklanma eğilimindedir. Ancak düzinelerce ve düzinelerce bilinen önyargı vardır (örneğin, doğrulama yanlılığı, geri görüş yanlılığı, kullanılabilirlik yanlılığı, çıpalama yanlılığı, seçim yanlılığı, kayıptan kaçınma yanlılığı, aykırı değer yanlılığı, hayatta kalma yanlılığı, ihmal edilen değişken yanlılığı ve daha birçokları). Jeff Desjardins, kurucusu ve yazı işleri müdürü Görsel Kapitalistbir yayınladı büyüleyici infografik 188 bilişsel önyargı tasvir ediyor ve bunlar sadece bizim bildiklerimiz.
Ana Chubinidze, kurucusu Adalan AIBerlin merkezli bir AI yönetişim girişimi olan , AI’ların kendi görünmez önyargılarını geliştireceğinden endişe ediyor. Şu anda, “AI önyargısı” terimi, çoğunlukla tarihsel verilere gömülü insan önyargılarını ifade eder. “Yapay zekalar kendi önyargılarını yaratmaya başladığında işler daha da zorlaşacak” diyor.
Yapay zekaların verilerde korelasyonlar bulacağını ve gerçekte bu ilişkiler olmasa bile bunların nedensel ilişkiler olduğunu varsayacağını öngörüyor. Öğrencilere önceki soruları doğru yanıtlama becerilerine dayalı olarak giderek daha zor sorular soran yapay zekaya sahip bir edtech sistemi hayal edin, diyor. Soruları doğru yanıtlamanın açlık, yorgunluk, dikkat dağınıklığı ve kaygı gibi birçok faktöre bağlı olabileceğini hepimiz bilsek de, yapay zeka hangi öğrencilerin “zeki” olduğu ve hangilerinin olmadığı konusunda hızla bir önyargı geliştirir.
Bununla birlikte, edtech yapay zekasının “daha zeki” öğrencileri zorlayıcı sorular alacak ve geri kalanlar daha kolay sorular alacak, bu da dönem bitene kadar fark edilmeyebilecek veya hiç fark edilmeyebilecek eşit olmayan öğrenme sonuçlarıyla sonuçlanacaktır. Daha da kötüsü, yapay zekanın önyargısı muhtemelen sistemin veri tabanına girecek ve öğrencileri bir sınıftan diğerine takip edecektir.
Edtech örneği varsayımsal olsa da, gerçek dünyada alarm gerektirecek kadar yapay zeka yanlılığı vakası olmuştur. 2018 yılında Reuters Amazon’un kadın adaylara karşı bir önyargı geliştiren bir yapay zeka işe alma aracını rafa kaldırdığını bildirdi. 2016 yılında Microsoft’un Tay chatbot’u, kapat ırkçı ve cinsiyetçi yorumlar yaptıktan sonra.
Belki de “Alacakaranlık Kuşağı” ve “Kara Ayna”nın çok fazla bölümünü izledim çünkü bunun sonunu iyi görmek benim için zor. Önyargılarımızın neredeyse tükenmez gücü hakkında herhangi bir şüpheniz varsa, lütfen okuyun Düşünme, Hızlı ve Yavaş Nobel ödüllü Daniel Kahneman tarafından. Önyargıya yatkınlığımızı göstermek için Kahneman bizden 1,10 dolara satılan bir sopa ve beyzbol topu hayal etmemizi istiyor. Sopanın toptan bir dolara mal olduğunu söylüyor. Topun fiyatı ne kadar?
İnsanoğlu olarak basit çözümleri tercih etme eğilimindeyiz. Bu hepimizin paylaştığı bir önyargı. Sonuç olarak, çoğu insan sezgisel olarak en kolay cevaba – sopanın bir dolara, topun da bir kuruşa – bu cevap yanlış olsa ve sadece birkaç dakika daha düşünmek doğru cevabı ortaya çıkarsa bile atlayacaktır. Aslında cebir denklemini yazabilmek için bir parça kağıt ve kalem aramaya koyuldum – dokuzuncu sınıftan beri yapmadığım bir şey.
Önyargılarımız yaygın ve her yerde bulunur. Veri kümelerimiz ne kadar ayrıntılı olursa, kökleşmiş önyargılarımızı o kadar çok yansıtırlar. Sorun şu ki, yapay zeka algoritmalarını eğitmek için bu önyargılı veri kümelerini kullanıyoruz ve ardından algoritmaları işe alma, üniversiteye kabul, mali kredibilite ve kamu güvenliği kaynaklarının tahsisi hakkında kararlar almak için kullanıyoruz.
Ayrıca tedarik zincirlerini optimize etmek, hastalıkları taramak, hayat kurtaran ilaçların gelişimini hızlandırmak, yeni enerji kaynakları bulmak ve dünyada yasa dışı nükleer malzemeler aramak için yapay zeka algoritmaları kullanıyoruz. AI’yı daha geniş bir şekilde uyguladıkça ve sonuçlarıyla boğuştukça, özellikle adaletsizlik fikriyle bir araya getirildiğinde, önyargının kendisinin kaygan ve kesin olmayan bir terim olduğu ortaya çıkıyor. Belirli bir sorunun çözümünün “tarafsız” görünmesi, bunun adil olduğu anlamına gelmez ve bunun tersi de geçerlidir.
Stoyanovich, “Adilliğin gerçekten matematiksel bir tanımı yok” diyor. “Genel olarak konuştuğumuz şeyler pratikte geçerli olabilir veya olmayabilir. Herhangi bir önyargı ve adalet tanımı belirli bir alana dayanmalıdır. “Yapay zeka kimi etkiliyor?” diye sormalısınız. Zararları nelerdir ve kimler zarar görür? Faydaları nelerdir ve kimler faydalanır?’”
ChatGPT üzerinden devam eden çember de dahil olmak üzere yapay zeka hakkındaki mevcut yutturmaca dalgası, yapay zekanın güçlü yönleri ve yetenekleri hakkında gerçekçi olmayan beklentiler üretti. Nükleer silahların yayılmasının önlenmesi ve yapay zekanın ulusal güvenlik uygulamaları konusunda uzman olan Angela Sheffield, “Kıdemli karar vericiler, yapay zekanın önemsiz görevlerde başarısız olacağını öğrenince genellikle şok oluyorlar” diyor. “Bir insan için kolay olan şeyler, bir yapay zeka için genellikle gerçekten zordur.”
Sheffield, temel sağduyudan yoksun olmasının yanı sıra yapay zekanın doğası gereği tarafsız olmadığını belirtiyor. Önyargıyı basitçe ortadan kaldırırsak yapay zekanın adil, tarafsız, yardımcı, faydalı, faydalı, sorumlu ve insani değerlerle uyumlu hale geleceği fikri hayal ürünü bir düşüncedir. “Hedef tarafsız yapay zeka yaratmak değil. Amaç, ayarlanabilir yapay zeka oluşturmak” diyor. “Varsayımlarda bulunmak yerine, önyargıyı ölçmenin ve düzeltmenin yollarını bulmalıyız. Bir yapay zeka oluştururken önyargıyla baş etmezsek, performansı tahmin edemeyeceğimiz şekillerde etkileyecektir.” Taraflı bir veri seti, nükleer silahların yayılmasını azaltmayı zorlaştırıyorsa, o zaman bu bir problemdir.
Gregor Stuhler şirketinin kurucu ortağı ve CEO’sudur. izci, Almanya’nın Würzburg kentinde bulunan ve yapay zeka güdümlü satın alma teknolojisinde uzmanlaşmış bir firma. Onun bakış açısına göre, önyargılı veri kümeleri, AI araçlarının şirketlerin iyi kaynak bulma ortakları bulmasına yardımcı olmasını zorlaştırıyor. “Bir şirketin 100.000 ton çamaşır suyu satın almak istediği ve en iyi tedarikçiyi aradığı bir senaryoyu ele alalım” diyor. Tedarikçi verileri çeşitli şekillerde önyargılı olabilir ve yapay zeka destekli bir arama muhtemelen tedarikçi veri setindeki önyargıları veya yanlışlıkları yansıtacaktır. Ağartma senaryosunda bu, yakındaki bir tedarikçinin farklı bir kıtadaki daha büyük veya daha iyi bilinen bir tedarikçiyle değiştirilmesine neden olabilir.
Benim bakış açıma göre, bu tür örnekler, evrensel veya kapsamlı bir yukarıdan aşağıya çözüm tasarlamaya çalışmak yerine, AI önyargı sorunlarını alan düzeyinde yönetme fikrini destekliyor. Ama bu çok basit bir yaklaşım mı?
On yıllardır teknoloji endüstrisi, en fazla sayıda insan için en iyiyi yaratmaya çalışmamız gerektiğini öne süren faydacı felsefeye başvurarak karmaşık ahlaki sorulardan kaçındı. İçinde Khan’ın Gazabı, Bay Spock, “Çoğunluğun ihtiyaçları, azınlığın ihtiyaçlarından ağır basıyor” diyor. Faydacı ahlakı yakalayan basit bir ifadedir. Bay Spock’a tüm saygımla, ancak, koşulların zaman içinde değiştiğini hesaba katmaz. Dün herkes için harika görünen bir şey, yarın o kadar harika görünmeyebilir.
Fosil yakıtlara olan düşkünlüğümüz iklim değişikliğiyle ilgili endişelerimiz tarafından hafifletildiği gibi, günümüzde yapay zekaya olan tutkumuz da geçebilir. Belki de en iyi hareket tarzı, tüm yapay zekanın önyargılı olduğunu ve sonuçlarını düşünmeden onu basitçe kullanamayacağımızı varsaymaktır.
Stoyanovich, “Bir yapay zeka aracı oluşturmayı düşündüğümüzde, öncelikle kendimize aracın burada gerçekten gerekli olup olmadığını veya bunu bir insanın mı yapması gerektiğini sormalıyız, özellikle de yapay zeka aracının neyin sosyal bir sonuç olduğunu tahmin etmesini istiyorsak,” diyor Stoyanovich. “Yapay zeka bir hata yaptığında riskleri ve birinin ne kadar zarar göreceğini düşünmemiz gerekiyor.”
Yazarın notu: Julia Stoyanovich, bir kitabın ortak yazarıdır. AI üzerine beş ciltlik çizgi roman GitHub’dan ücretsiz olarak indirilebilir.