Alex Wong/Getty
Geçtiğimiz Salı günü, Yüksek Mahkeme internetin geleceğini şekillendirebilecek önemli bir davada sözlü tartışmaları dinlemeye başladığında, bazı önemli bilgilerin eksik olduğu kısa sürede anlaşıldı. İnternetin altında yatan algoritmaların gerçekte nasıl çalıştığını kimse açıklayamıyor gibiydi.
Yargıç Elena Kagan, duruşma sırasında gülerek, “Bunlar internetteki en büyük dokuz uzman gibi değil” dedi. Günün tartışmaları onun kendini küçümseyen görüşünü kanıtlayacaktı. Yargıçların anlayış eksikliği (kodların nasıl ayrımcılık yapıp zarar verebileceğini kavrayamama) davanın sonucunu belirleyebilir.
Dava, Gonzalez v. Google, ABD Yüksek Mahkemesi’nin, 1996 İletişim Ahlakı Yasası’nın 230. Bölümü sayesinde çevrimiçi platformların yararlandığı geniş yasal dokunulmazlığı sınırlamayı ilk kez değerlendireceği tarih. Bölüm 230, internetin ilk günlerinde ortaya çıktı ve çevrimiçi sağlayıcılara üçüncü taraf içeriğiyle ilgili davalardan muafiyet sağladı. Örneğin, bir kullanıcı, bölüm 230 uyarınca bir AOL mesaj panosunda yasa dışı içerik yayınladıysa, AOL bu içerikten sorumlu değildi – onu gönderen kişi sorumluydu. Yasanın kabul edilmesinden bu yana geçen yaklaşık otuz yıl içinde, 230. maddenin dokunulmazlığı mahkemeler tarafından geniş bir şekilde yorumlandı. Bugün, platformların yalnızca yanlış bilgi ve diğer zehirli içerik türlerini barındırmakla kalmayıp, sorumlu tutulmadan algoritmaları aracılığıyla tanıtımını da yapmasının nedeni budur.
içindeki gerçekler Gonzalez v. Google YouTube’un ana şirketi olan Google’ın, teröristlere yardım ve yataklığı yasaklayan bir yasa kapsamında IŞİD videolarının yayılmasındaki rolünden sorumlu tutulup tutulamayacağı endişesi. IŞİD’in 2015 Paris saldırılarında öldürülen Amerikalı öğrenci Nohemi Gonzalez’in ailesi tarafından açılan dava, videoları tanıtmaya yardımcı olarak yalnızca içerik depolamanın ötesine geçtiği için şirketin bölüm 230’un korumasını kaybetmesi gerektiğini iddia ediyor.
Algoritmalarla ilgili cehaletin devreye girdiği yer burasıdır. Elektronik Gizlilik Bilgi Merkezi’nde avukat olan Grant Fergusson, Gonzalez ailesinin YouTube’un algoritmasını “tarafsız” olarak tekrar tekrar tanımlaması üzerine, “Özellikle sözlü tartışmaların başında saçlarımı yoluyordum” diyor. ”
EPIC’in yazılmasına yardımcı olan Fergusson, “algoritmaların dünyada gerçekte işleyiş şeklini açıkça yansıtmadığı” şeklinde açıklıyor. dost kısa davada, mahkemeden Bölüm 230 dokunulmazlığını dizginlemesini istemek.
Aslında algoritmalar, tüm içeriğe ve tüm kullanıcılara aynı şekilde davranan tarafsız, tarafsız araçlar değildir. YouTube’un kendi algoritmasının iç işleyişi tescilli sırlardır. Ancak algoritmaların genellikle toplumun önyargılarını yansıtan veri kümeleri üzerine inşa edildiği ve ister yönlendirmeyle ister öz ilişkilendirmeyle yeni zararlar yaratabileceği bir sır değil.
Fergusson, etkileşimi artırmayı ve kullanıcıları sitede tutmayı amaçlayan YouTube gibi algoritmaların aslında kullanıcıların davranışlarını değiştirdiğine dikkat çekiyor. Ayrıca içerik oluşturucuları yalnızca gönderi paylaşmaya değil, etkileşimi artıran içerik tasarlamaya da teşvik ederler. YouTube’un “içerik açısından tarafsız” olduğu iddia edilen algoritmalarının tarih Algoritma bazı içeriklerin (aşırı içeriğin) daha ilgi çekici olduğunu öğrendiğinden, kullanıcıları daha radikal videolara yönlendirmek.
Grubun amicus brifingine katkıda bulunan başka bir EPIC avukatı olan Thomas McBrien, yargıçların miyop bir şekilde tarafsız kelimesini “içerik agnostik” anlamında kullandıklarını açıklıyor.
Bu daha en başından belliydi. Yargıç Clarence Thomas’tan gelen ilk soru, bir platformun yemek pişirme demoları ile IŞİD propagandasını eşit şekilde ele alan yazılımlardan sorumlu tutulup tutulamayacağını inceledi. “Genel olarak pilav için çalışan ve aynı şekilde IŞİD videoları için de benzer şekilde çalışan bir algoritmanın tarafsız uygulamasından mı bahsediyoruz?” O sordu. Gonzalez ailesinin avukatı Eric Schnapper, YouTube’un tüm içerik için aynı algoritmayı kullandığını ve bu nedenle “tarafsız” olduğunu kabul etti.
İçinde 2008 vakasıDokuzuncu Daire Temyiz Mahkemesi, “tarafsız araçların” Bölüm 230 dokunulmazlığı alması gerektiğine karar verdi. Yargıçlar bu alt mahkeme emsaliyle bağlı olmasa da, Baş Yargıç John Roberts onun mantığını çekici bulmuş gibi görünüyordu: Algoritma her konu için aynıysa, “Seçimin söz konusu olduğunu söylemek sizin için daha zor olabilir” dedi. sorumlu tutulabilecekleri.”
Sözlü tartışmalardan en kalıcı görüntü, bir kitapçı benzetmesiydi. Baş Yargıç Roberts soruyu ortaya koydu: Birisi Roger Maris hakkında bir kitap aramak için içeri giriyor. Kitapçı onları spor bölümüne gönderir. Satıcı, az önce tavsiye ettiği kitapların içeriğinden sorumlu değildir. Bu, birisinin YouTube’da ISIS araması yaptığında ve platformun bu talebe yanıt verebilecek bir dizi video öne sürmesinden neden farklı?
Schnapper, platformun sorumluluğunu savunmak için benzetmeyi yeniden ele aldı: “Sanki kitapçıya gidip ‘Spor kitaplarıyla ilgileniyorum’ dedim ve ‘Spor kitaplarıyla ilgili yazdığımız bir kataloğumuz var’ dediler. , burada spor kitaplarımız var’ dedi ve bana uzattı. Bu içeriği onlar yarattı.” Bu benzetmede, katalog algoritmadır ve şirket tarafından yapılan bir içerik parçası olarak Bölüm 230 tarafından korunmamalıdır.
Kitapçı benzetmesi, davanın basında geniş yer bularak tekrarlandı. Ama benzetme çıldırtıcı. Bir algoritmayı ölü bir ağaç kataloğuna benzetmek, algoritmaların müthiş gücünü gizleyen basit bir tablo çizer. Daha doğru bir benzetme, bir kitapçıya gidip Roger Maris hakkında bir kitap isteyen birine, yalnızca sorguya göre değil, aynı zamanda o tarayıcının yaşına, ırkına, cinsiyetine, gelirine, bulunduğu posta koduna göre kişiselleştirilmiş bir katalog sunulmasıdır. yaşıyorlar, tüm arama geçmişleri ve çok daha fazlası. Ardından, müşteri rafları dolaşırken, kitapçı ona sürekli baktığı kitaplara göre yeni bir katalog veriyor.
Yargıç Neil Gorsuch, algoritmaların nasıl çalıştığına dair eksiksiz bir resimle bilgilendirilmiş gibi görünen tek soruyu sordu: “Bir algoritma her zaman tarafsız mıdır?” merak etti. “Birçoğu karı maksimize etmeye veya kendi ürünlerini tanıtmaya çalışmıyor mu? Hatta bazıları bir bakış açısını diğerine tercih edebilir.” Ama neredeyse retorik olan sorusu daha uzun bir tartışmanın içine gömüldü ve kimse ona yanıt vermedi.
Mahkemenin, algoritmalar tarafından üretilen YouTube önerilerinin 230. Bölüm kapsamında sorumluluktan korunup korunmadığı sorusu, mutlaka algoritmaların nasıl çalıştığına bağlı değildir. Algoritmalardan kanunda bahsedilmez ve mahkeme bu nedenle korunmadıklarına karar verebilir. Ancak birçok algoritmanın neden olduğu zararları doğru bir şekilde yansıtmadaki başarısızlık, davanın çıkarlarını çerçevelemede başarısızlıktır.
Google ve bu durumda destekçileri, Bölüm 230’ü modern interneti ayakta tutan sütun olarak tanımlıyor. Yargıçlar, Bölüm 230 dokunulmazlığını dizginlerse, serbest bırakılacak yükümlülüklerin İnternet’in göğünün düşmesine neden olacağı konusunda uyarıyorlar. Yargıçlar bu kaotik olasılıktan açıkça rahatsız oldular. Ancak aktarılmayan şey, Bölüm 230’un korumaları altında geliştirilen karı maksimize eden algoritmalar tarafından yönetilen modern internetin insanlara nasıl zarar verdiğiydi. Ölümcül yayılmaktan dezenformasyon ile ihlal insanların insan haklarıstatükoyu korumak en az zararlı seçenek olmayabilir, ancak Google gibi şirketler için en karlı olanıdır.