Avrupa Parlamentosu Üyeleri, yapay zeka araçlarının düzenlenmesi, tahmine dayalı polislik teknolojilerinin ve vatandaşların gözetlenmesi için yüz tanımanın yasaklanmasıyla ilgili yeni kuralların kabul edilmesinde 11 Mayıs Perşembe günü önemli bir adım attılar.
Dünyanın dört bir yanındaki düzenleyiciler, yapay zeka tabanlı bir sohbet robotu olan ChatGPT gibi yeni teknolojilerin gelişme hızına yetişmek için yarışıyor.
Perşembe günü iç pazarda ve sivil özgürlükler komitelerinde, Avrupa Parlamentosu Üyeleri temel ve insan haklarını savunma çabasıyla önerilen kuralları sertleştirmeyi seçtiler.
Dosya üzerinde çalışan kilit milletvekillerinden biri olan İtalyan Sosyalistler ve Demokratlar Avrupa Parlamentosu Milletvekili Brando Benifei Çarşamba günü gazetecilere verdiği demeçte, “Yapay zekayı dünyada bu kadar yatay ve kapsamlı bir şekilde düzenlemeye yönelik ilk girişimdi.”
Mevzuata ilişkin önde gelen Avrupa Parlamentosu Üyeleri, genel kurul oylaması öncesinde mevzuatta büyük değişiklikler beklemiyorlar.
İlk olarak 2021’de önerilen Yapay Zeka Yasası, yapay zeka sistemi kullanan tüm ürün ve hizmetleri yöneten kuralları belirleyecekti. Mevzuat, AI araçlarını risk düzeylerine göre minimumdan kabul edilemeze kadar dört sınıfa ayırır.
Daha riskli uygulamalar, daha fazla şeffaflık gerektiren ve daha doğru veriler kullanan daha katı kurallarla karşı karşıyadır.
Örneğin Azınlık Raporu filminde olduğu gibi suçun nerede ve kim tarafından işleneceğinin önceden tespit edilmesini amaçlayan polislik araçları yasaklanacak.
Belirli bir terör tehdidine karşı koyma ve önleme dışında, uzaktan yüz tanıma teknolojisi de yasaklanacak.
Çin’de hâlihazırda geliştirilmekte olan, insanları ve işletmeleri davranışlarına göre yargılayan veya cezalandıran sözde “sosyal puanlama” sistemlerinin yasaklanması bekleniyor.
İstihdam ve eğitim gibi bir kişinin hayatının gidişatını etkileyecek yüksek riskli kategorilerde kullanılan yapay zeka sistemleri, şeffaflık, risk değerlendirmesi ve hafifletme önlemleri açısından zorlu gereksinimlerle karşı karşıyadır.
Benifei Çarşamba günü yaptığı açıklamada, amacın “Yapay zekaya dayalı kontrollü bir toplumdan kaçınmak, bunun yerine yapay zekanın güvenlikçi bir kabus değil, daha fazla özgürlük ve insani gelişmeyi desteklemesini sağlamak” olduğunu söyledi.
Bu teknolojilerin iyiye değil kötüye de kullanılabileceğini düşünüyoruz ve risklerini çok yüksek buluyoruz” dedi.
İtalyan milletvekili, “Metnimizle, nasıl bir toplum istediğimizi de gösteriyoruz” dedi ve ekledi: “Sosyal puanlama, tahmine dayalı polislik, biyometrik sınıflandırma, duygusal tanıma, internetten yüz görüntülerinin gelişigüzel kazınmasının dikkate alındığı bir toplum.” kabul edilemez uygulamalar”
Duygusal tanıma, yorgun işçileri veya sürücüleri belirlemek için işverenler veya polis tarafından kullanılır.
Video oyunları veya spam filtreleri gibi çoğu yapay zeka sistemi, düşük riskli veya sıfır riskli kategorisine girer.
Orijinal mevzuat, sohbet robotlarını ayrıntılı olarak kapsamazken, Avrupa Parlamentosu Üyeleri, ChatGPT ve benzeri üretken yapay zekayı yüksek riskli yapay zeka sistemleriyle aynı seviyeye getirmek için bir değişiklik ekledi.
Yeni bir gereklilik olarak, AI sistemlerine nasıl metin, resim, video veya müzik üretileceğini öğretmek için kullanılan her türlü telif hakkıyla korunan materyal belgelenmelidir, böylece içerik oluşturucular çalışmalarının kullanılıp kullanılmadığına ve bunun için ödeme yapılıp yapılmadığına karar verebilir.
İhlaller, 30 milyon avroya veya bir şirketin yıllık küresel gelirinin yüzde altısına kadar para cezalarına yol açacak şekilde ayarlandı; bu, Google ve Microsoft gibi teknoloji şirketleri söz konusu olduğunda milyarlarca doları bulabilir.
Ancak kuralların yürürlüğe girmesi yıllar alabilir. Genel kuruldaki milletvekilleri yasayı Haziran ayı ortasında oylayacak. Ardından AB hükümetleri ve komisyonla müzakereler başlar.
Nihai metnin yıl sonuna veya en geç 2024’ün başına kadar çıkması ve ardından şirketler için genellikle iki yıl süren bir ödemesiz dönem gelmesi bekleniyor.
boşluklar
Dijital haklar savunucuları, AB’nin Yapay Zeka Yasası’nın kabul edilmesindeki ilk adımı memnuniyetle karşıladı ancak bunu göçmenlerin hakları konusunda eleştirdi.
Avrupa Dijital Haklar Kıdemli Politika Danışmanı Sarah Chander, “Parlamento, yapay zekanın bazı kullanımlarının izin verilemeyecek kadar zararlı olduğu yönündeki sivil toplumun taleplerinin yanında yer alan yasaklar listesiyle hükümetlere ve yapay zeka geliştiricilerine küresel olarak önemli bir mesaj gönderiyor.” (EDRI), bir hak savunuculuğu grubu söyledi.
Chander, “Maalesef Avrupa Parlamentosu’nun insan haklarına verdiği destek, göçmenleri yapay zekanın zararlarından korumakta yetersiz kalıyor” diye ekledi.
EDRi, Avrupa Parlamentosu Üyelerinin, yapay zekanın göçmenlerin yasa dışı geri itilmelerini kolaylaştırmak veya ayrımcı bir şekilde insanların profilini çıkarmak için kullanıldığı yasaklanmış uygulamaları (örneğin, yapay zeka tabanlı yalan dedektörleri ve risk profilleme sistemleri) listeye dahil etmediğini söyledi.
Ancak gerçek zamanlı yüz tanıma teknolojisinin sınır görevlileri tarafından kullanılması da yasaklanacak.
“Daha güçlü bir koruma yok [than this ban]. Sınır geçiş noktası kamusal bir alandır. Renew Europe’dan Romanya’dan Dragos Tudorache, şu anda elimizdeki metne göre, AI biyometrik tanıma teknolojisini kamusal alanda konuşlandıramayacaksınız” dedi.
EDRi ayrıca, neyin yüksek riskli bir yapay zeka oluşturduğu konusunda sulandırmanın tehlikeli boşluklar açacağı konusunda da uyardı.
Dijital bir sivil haklar savunuculuğu grubu olan AccessNow, AI Yasasını “öz düzenlemeye” dönüştürme riskini taşıyan yüksek risk sınıflandırmasından çıkarılan bir öz değerlendirmeyi kaldırmayı savundu.
Sanayi grupları ise düzenlemenin işletmeler için ekstra maliyetler yaratabileceği ve Avrupa’da dijital yeniliği engelleyebileceği konusunda uyarıda bulundu.
Bilgisayar ve İletişim Endüstrisi Derneği, “Avrupalı yapay zeka geliştiricileri, yasaklı yapay zeka sistemleri listesinin geniş bir şekilde genişletilmesi ve yüksek riskli kullanım durumları gibi Avrupa Parlamentosu Üyelerinin yaptığı değişiklikler nedeniyle artık yabancı meslektaşlarına kıyasla dezavantajlı duruma düşecek” dedi. CCIA) Avrupa, üyeleri arasında Amazon, Apple, Facebook, Google, Twitter’ı sayan kar amacı gütmeyen bir kuruluş olduğunu söyledi.