Birleşik Krallık Parlamentosu’nda yapılan bir duruşmaya göre, AI’nın terör grupları veya paralı askerler gibi devlet dışı aktörler arasında silah sistemlerinde yayılmasını durdurmak neredeyse imkansız olacak.
bu Silah Sistemleri Komitesinde Lordlar Kamarası Yapay Zekası dün, askeri bağlamda kullanılabilecek yapay zeka modellerinin yazılım doğasının onları kontrol altına almayı ve hain ellerden uzak tutmayı nasıl zorlaştırdığını duyduk.
Şiddet yanlısı aşırılık yanlısı örgütlerin görüntülerini çağrıştıran devlet dışı aktörlerden bahsettiğimizde, ancak bu teknolojiyi geliştirmede ön saflarda yer alan büyük çok uluslu şirketleri de içermelidir.
Komiteye konuşan savunma ve güvenlik araştırma grubu RAND Europe’un müdür yardımcısı James Black şunları söyledi: “Doğal yazılım tabanlı doğası nedeniyle, silahların yayılmasını önleme açısından pek çok şeyi kontrol etmek çok zor olacak. • Var olan ihracat kontrollerimizin ve nükleer silahların yayılmasını önleme rejimlerimizin çoğu eski usul geleneksel donanıma odaklanıyor: füzeler, motorlar, nükleer malzemeler.”
Ek bir belirsizlik, devlet dışı aktörlerin yapay zeka tabanlı silahlar kullanarak nasıl davranabileceğine dair yerleşik bir “savaş oyunu” teorisi olmamasıydı.
RAND, 1945’te Douglas Aircraft Company ile özel bir sözleşme kapsamında bir ABD hükümeti birimi olarak başladı, ancak kısa süre sonra bilimsel titizlikle politika oluşturmayı geliştirmeyi amaçlayan bağımsız, kar amacı gütmeyen bir şirkete dönüştü. Oyun teorisini Soğuk Savaş nükleer silahlarının yayılmasına uygulamada liderlerden biriydi.
Black, “Tartışmayla ilgili soru üzerine: Genel olarak, devlet dışı aktörlerin nasıl caydırılacağını anlamak için özellikle iyi bir teorimiz yok. Caydırıcılık teorisinin çoğu [has] SSCB, ABD ve Batı’daki Soğuk Savaş nükleer caydırıcılığından gelişti. Devlet dışı aktörler, özellikle de geleneksel yukarıdan aşağıya orduyla aynı şekilde etkilemeye uygun olmayan, hiyerarşik olmayan gevşek ağ komuta yapılarına sahip devlet dışı aktörler hakkında düşünmek gerçekten aynı şekilde yapılandırılmamıştır. düşman.”
Yapay zeka ile geliştirilmiş silahlarla ilgili durum, daha önceki askeri analizlerden farklıydı, çünkü özel sektör, fiziksel tehditlerde durum böyle değilken, devlet araştırmalarının çok ilerisindeydi.
“Savunmada, özellikle bu alanda inovasyonun odağı, kamu sektöründen uzaklaştı. [to] özel. Şiddet yanlısı aşırılık yanlısı örgütlerin görüntülerini çağrıştıran devlet dışı aktörlerden bahsettiğimizde, ancak bu teknolojiyi geliştirmede oldukça ön saflarda yer alan büyük çok uluslu şirketleri de içermelidir. Bu, daha çok devlet tarafından finanse edilen laboratuvarlardan çıkan erken hesaplama veya jet motoru gibi değil. Bu, özel sektörün öncülük ettiği ve bu nedenle yönetişim türü ve mevcut gerçek yetenekler hakkındaki tartışmaları şekillendirdiği bir şey.”
King’s College London’da strateji profesörü Kenneth Payne, komiteye, hükümetler AI ile geliştirilmiş silahların yayılmasını engellemek için tasarlanmış yasaları yürürlüğe koyabilseler bile, hile yapmak için büyük bir teşvik olacağını söyledi.
Otonom silahların insanları daha kötü hale getirmesini durdurmak için ‘Yavaş AI’ gerekiyordu
“Silah kontrolüne sahipseniz, bir doğrulama sürecine sahip olmanız gerekir” dedi. “Ancak yapay zeka geliştirme imzası oldukça küçük. Örneğin, bu uranyum zenginleştirme tesislerine ihtiyacınız yok. Bilgisayarların ve bilim adamlarının bulunduğu depolardan bahsediyorsunuz. Silah kontrol rejiminden olası bir kaçışı nasıl izleyebilirsiniz? Bu teknolojilerin derin bir askeri avantaj sağladığına inanıyorsanız, düzenlemede hile yapma teşviki. Bu beni biraz rahatsız ediyor… Düzenlemenin geleceği konusunda biraz şüpheliyim.”
Geçen ay yüzlerce bilgisayar bilimcisi, teknoloji endüstrisi lideri ve yapay zeka uzmanı bir anlaşma imzaladı. açık mektup GPT-4’ten daha güçlü AI sistemlerinin eğitimine en az altı ay ara verilmesi çağrısında bulunuyor. İmzacılar arasında Apple’ın kurucu ortağı Steve Wozniak, SpaceX CEO’su Elon Musk ve IEEE bilgi işlem öncüsü Grady Booch da vardı.
Ancak Payne, bir ara verme ihtimalinin tamamen gerçekçi olmadığını söyledi. “İnsanların raydan çıkıp kendilerine doğru geldiğini hissettikleri hızlı değişim hızıyla ilgili toplumsal rahatsızlığın derecesini yansıtıyor. Ancak bunun gerçekçi bir önerme olduğunu düşünmüyorum.” ®