Yapay zeka risklerini düzenleyen Avrupalı milletvekilleri, muhtemelen bu yıl yapılacak müzakereler öncesinde AB devletlerinin direnişiyle karşılaşacak.
Ancak AB Parlamentosu içinde bile, AI Yasası olarak bilinen yapay zeka yasa tasarısını yürüten kilit milletvekillerinden bazıları, kendi akranları arasında yaklaşan bir oylamadan endişe duyuyor.
Rumen liberal MEP Dragoș Tudorache bu hafta başlarında “Nefesimi son saniyeye kadar tutuyorum,” dedi.
Tudorache, İtalyan sosyalist milletvekili Brando Benifei ile birlikte yasa üzerinde parlamentonun baş müzakerecileri.
Avrupa Komisyonu tarafından ilk olarak 2021’de önerilen yasa, Chat GPT gibi genel amaçlı yapay zekanın patlayarak piyasaya çıktığı bir zamanda geliyor.
Üye devletleri temsil eden Konsey, müzakere pozisyonuna geçen Aralık ayında ulaştı.
Şimdi parlamento komitesi, Haziran ayında genel kurula gitmeden önce Tudorache ve Benifei tarafından öne sürülen bir taslağı oylamaya hazırlanıyor.
Tudorache, “Bu, kimsenin odadan mutlu ya da mutsuz çıkamayacağı türden bir müzakeredir” dedi. “Anahtar, kontrolü ve insan gözetimini ve güvenilirliği korumaktır” dedi.
Tudorache bunu “sihirli dokunuş” olarak tanımladı, bu sayede yapay zeka tarafından desteklenen gelecek, insanların hala kontrolün elinde olduğu bir gelecek.
“Eğer bu kontrolü doğru yapmazsak, birçok kişi tarafından dile getirilen bu distopik görüşe sahip olabilirsiniz” dedi.
Yeni kural kitabı, belirli uygulamaların tamamen yasaklanmasını, diğerlerinin ise yüksek riskli olarak listelenmesini içeriyor.
Parlamentonun aksine, konsey, güvenlik merkezli bir karışımın bir parçası olarak, kamusal alanlarda tahmine dayalı polislik, duygu tanıma ve yüz tanıma konularını tamamen yasaklamayı bıraktı.
Tudorache’nin oturduğu liberal hizip olan parlamentodaki Renew Europe dahil olmak üzere herkes bu yasaklardan bazılarına hevesli değil.
Bazı istisnalar dışında, merkez sağ EPP de yasaklardan memnun değilken, Yeşiller ve sosyalistler destek veriyor. Bu çetrefilli sorular ve pozisyonlar muhtemelen 11 Mayıs’ta komite düzeyinde yapılacak bir oylamada sonuçlanacak.
Şimdiye kadar sivil toplum, güçlendirilmiş hak güvenceleri nedeniyle parlamentonun taslağını geniş ölçüde memnuniyetle karşıladı.
Dijital hakları savunan bir STK olan Access Now’ın kıdemli politika analisti Daniel Leufer, “Parlamento sivil toplumun isteklerini gerçekten dinledi ve bazı oldukça büyük değişiklikler yaptı” dedi.
Buna şeffaflık yükümlülükleri ve kullanıcılar için temel haklar etki değerlendirmeleri de dahildir.
Skandalların patlamasını önlemek için böyle bir şeffaflık gerekiyor. Son zamanlarda, Amsterdam merkezli LightHouse Reports tarafından yapılan bir araştırma, İspanya’nın dolandırıcılığı engellemek ve hastalık izni yardımlarına yapılan kamu harcamalarını azaltmak için gizli yapay zeka kullandığını ortaya çıkardı.
Ancak aynı zamanda Leufer, iş yüksek riskleri sınıflandırmaya geldiğinde düzenlemeyi rayından çıkarabilecek boşluklardan endişe ediyor.
“Yüksek risk sınıflandırma sürecinin, vicdansız sağlayıcıların herhangi bir sonuç olmaksızın ve kamu gözetimi olmaksızın kendilerini muaf tutmalarına izin verecek herhangi bir boşluk içermemesi çok önemlidir” dedi.
Bu olasılığa rağmen, meclisin genişletilmiş yasak listesi de övülüyor.
Brüksel merkezli Avrupa Dijital Haklar (EDRi) yapay zeka uzmanı Sarah Chander, bunun hükümetlere ve yapay zeka geliştiricilerine “Yapay zekanın bazı kullanımlarının izin verilemeyecek kadar zararlı olduğu” konusunda net bir mesaj göndereceğini söyledi.
Ama bu göçmenleri AI zararından korumaya gelince hala yetersiz kalıyorgeri itmeleri kolaylaştırmak için yapay zekanın kullanıldığı yerler de dahil olmak üzere, diyor.
Öngörülü polislik için önerilen yasağın, esasen bir tür otomatikleştirilmiş ırksal profilleme olan konum tabanlı tahmini polisliği kapsayacak şekilde iyileştirilmesi gerektiğini söyledi.
Uluslararası Af Örgütü, bu ayın başlarında Avrupa Parlamentosu Üyelerine gönderdiği bir mektupta benzer yorumlarda bulundu.
Mektupta, “Taslak AI Yasası, hareket halindeki insanlara AI kaynaklı zararlara karşı Avrupa vatandaşlarına sağlanan aynı düzeyde korumayı garanti etmiyor” dedi.