İnsanları kurtarmak yerine denizde mahsur bırakmak ve boğulmaya terk etmek. İnsanların hayatlarıyla ilgili kararlar ellerinde güvenilmez yalan makinesi testleri. hakkında önemli kararlar güvenlik algoritmaların elinde.
Bunlar, gitmekte olduğumuz yolun sadece birkaç örneği – AB yasa koyucularının artık nadiren önleme şansı var.
Yunanistan’daki yüksek teknolojili mülteci kamplarını ziyaret ettik, tüm Avrupa’da şiddetli sınırlar gördük ve yüzlerce insanla konuştuk. teknolojik destekli vahşetin keskin ucunda olan insanlar. Göçte yapay zeka, programlandığı ırkçı varsayımlara dayalı tahminler, değerlendirmeler ve değerlendirmeler yapmak için giderek daha fazla kullanılıyor.
Ama yaklaşan ile, Yapay Zekayı düzenleyen mevzuat (AB’nin “Yapay Zeka Yasası”) AB’nin kendi ilan ettiği değerleri yaşama, küresel bir standart belirleme ve en zararlı teknolojilere kırmızı çizgiler çizme şansı var.
Politikacılar göçü siyasi bir silaha dönüştürdü ve AB’nin politikaları giderek daha şiddetli hale geliyor: sınırların sertleştirilmesi, sınır dışı edilmenin artması, defalarca ağır insan hakları ihlallerine karışmış olan Frontex gibi kurumların güçlendirilmesi ve hatta arama yapanların tutuklanmasına ve hapsedilmesine göz yumulması ve -kurtarma gönüllüleri, doktorlar, avukatlar ve gazeteciler.
Gözetleme ve otomatikleştirilmiş teknolojiler, sınırlarda ve göç prosedürlerinde giderek daha fazla test ediliyor ve güvenlik arayan insanlara kobay muamelesi yapılıyor.
Biyometrik veri toplama
Bu teknoloji genellikle insanların kişisel ve biyometrik verilerinin büyük ölçekli sistematik olarak toplanmasına dayanır. Muazzam kaynaklar yatırılıyor Devasa miktarda veriyi depolamak ve yönetmek için BT araçları.
bu AB’nin gizlilik gözlemcisi Avrupa Kalesi’nin hizmetinde temel haklara ilişkin Avrupa’nın taahhütlerinden yan adım atmak için bu mekanizmayı çağırdı.
Bu hafta hızlanan müzakerelerde, Avrupa Parlamentosu’nun hangi teknolojileri yasaklayacağı konusunda bir tercih hakkı olacak. AI Yasasının bu teknolojinin tüm zararlı kullanımlarını yeterince düzenlediğinden emin olabilirler ve hareket halindeki insanların ve halihazırda Avrupa’da yaşayan ırksallaştırılmış insanların yaşamlarında büyük bir fark yaratabilirler.
Sivil toplum, akademisyenler ve uluslararası uzmanlardan oluşan bir koalisyon, çok ihtiyaç duyulan değişiklikleri ve EDRi, AccessNow, PICUM ve Mülteci Hukuku Laboratuvarı liderliğindeki yeni bir kampanyayı destekleyen yaklaşık 200 imza sahibi ile yaklaşık bir yıldır yasada değişiklik yapılması çağrısında bulunuyor. bu konulara ışık tutmak için #ProtectNotSurveil adını verdi.
AI Yasasının sınır şiddeti konusundaki kör noktası, tüm eylemi tehlikeli teknolojiyi düzenleme aracı olarak baltalıyor. Halihazırda Avrupa Parlamentosu’nun kapalı kapılar ardında uzlaşmalar yapılıyor. geçiş bağlamında gerekli yasaklar.
Bu hem zararlı hem de dar görüşlü. Bu tür yasakların yokluğunda, hükümetler ve kurumlar kendilerini bölgesel ve uluslararası yasalarla çelişecek istilacı teknolojiler geliştirecek ve kullanacaklardır.
Spesifik olarak, Avrupa Parlamentosu Üyeleri, yapay zekanın Avrupa’ya ulaşmaya çalışan insanlara karşı şiddeti kolaylaştırmak için kullanılmasına izin verirse, devletler temelden sığınma hakkını baltalıyor olacak.
kırmızı Hat
Tüm insanların haklarını korumak için AI Yasası, kişisel ve hassas verileri kullanan bireysel risk değerlendirmelerinin ve profil oluşturmanın kullanımını yasaklamalıdır; geçiş bağlamında AI yalan dedektörlerini yasaklamak; geri bildirimleri kolaylaştırmak için tahmine dayalı analitik kullanımını yasaklamak; ve sınır ve geçiş kontrolü de dahil olmak üzere kamusal alanlarda uzaktan biyometrik tanımlama ve sınıflandırmayı yasaklayın.
“Yüksek risk” kategorisi, biyometrik tanımlama sistemleri ve sınırlarda izleme ve gözetleme için yapay zeka da dahil olmak üzere, göç bağlamında çeşitli yapay zeka kullanımlarını içerecek şekilde güçlendirilmelidir.
Son olarak, yasanın, uygun olmayan veri paylaşımının insanların temel insan hakları olan hareketlilik ve sığınma haklarını etkileme risklerini tanıyan ve AB’nin kendi göç veritabanlarının yasa kapsamında olmasını sağlayan daha güçlü gözetim ve hesap verebilirlik önlemlerine ihtiyacı var.
Değiştirilmedikçe, AB’nin Yapay Zeka Yasası göçte geri dönüşü olmayan zararları önleyemez ve bunu yaparken asıl amacını baltalar — AI kullanımından etkilenen tüm insanların haklarını korumak.
Teknoloji her zaman politiktir. Onu yaratan toplumu yansıtır ve böylece ırkçılığı, ayrımcılığı ve sistemik şiddeti hızlandırabilir ve otomatikleştirebilir.
Ve biz olmadıkça Şimdi harekete geçAB’nin Yapay Zeka Yasası, göçte tehlikeli teknolojiye olanak sağlayacak ve herkesin haklarının tehdit edildiği bir geleceğin yolunu açacaktır.
AB sınır kuvvetlerinin gözetleme teknolojisi ve ırksal profilleme kullanımlarını genişletmesiyle; ve AB sınırlarında olağan ölümler ve insan hakları ihlalleri; yeni AI sistemleri yalnızca mevcut suiistimalleri güçlendirebilir ve daha fazla hayatı riske atabilir.
Kullanıma girdikten sonra geri dönüş yoktur ve hepimiz deneye sürüklenme riskiyle karşı karşıyayız. Yasa, AI’nın kötü amaçla kullanılmamasını sağlamak için nesilde bir kez elde edilebilecek bir şanstır – Avrupa Parlamentosu onu kurtarmak için harekete geçmelidir.