Yapay zeka (AI) endüstrisindeki önemli isimler imzaladı açık mektup insanlık için oluşturdukları derin riskler nedeniyle güçlü yapay zeka sistemlerinin askıya alınması çağrısında bulunuyor.
Twitter CEO’su Elon Musk, Apple’ın kurucu ortağı Steve Wozniak ve Pinterest’in kurucu ortağı Evan Sharp, GPT-4 kapasitesinin üzerindeki AI’ların eğitiminin ve geliştirilmesinin en az altı ay süreyle durdurulmasını isteyenler arasında yer alıyor.
Açık mektuba göre, yapay zeka sistemleri genel görevlerde giderek daha fazla insanla rekabet edebilir hale geliyor ve insan olmayan zihinlerin gelişimi sonunda insanlardan sayıca üstün gelebilir ve bu da uygarlığımızı riske atabilir.
Bu riskleri ele almak için yapay zeka laboratuvarlarını bu yapay zeka sistemlerinin eğitimini duraklatmaya ve gelişmiş yapay zeka tasarımı ve geliştirmesi için ortak güvenlik protokolleri geliştirmek ve uygulamak üzere bireysel uzmanlarla bir araya gelmeye çağırdılar. Bu güvenlik protokolleri, bağımsız dış uzmanlar tarafından titizlikle denetlenmeli ve denetlenmelidir.
Bu duraklama hızlı bir şekilde uygulanamazsa, AI geliştiricilerini “sağlam AI yönetişim sistemlerinin gelişimini hızlandırmak” için politika yapıcılarla birlikte çalışmaya çağırdılar.
Bunlar, son derece yetenekli AI sistemlerini denetleyecek ve takip edecek yeni ve yetenekli düzenleyici makamları, sağlam bir denetim ve belgelendirme ekosistemini, AI güvenlik araştırması için fon sağlamayı ve ayrıca AI’nın neden olacağı ekonomik ve politik aksaklıklarla başa çıkmak için iyi kaynaklara sahip kurumları içermelidir.
Açık mektup, genel olarak yapay zeka gelişiminin durdurulması çağrısında bulunmadığını, bunun yerine, tehlikeli yarıştan, ortaya çıkan yeteneklere sahip, her zamankinden daha büyük, öngörülemeyen kara kutu modellerine geri adım atmaya yönelik bir çağrı olduğunu vurguluyor.
AI araştırma ve geliştirme, bunun yerine günümüzün güçlü, son teknoloji sistemlerini daha doğru, güvenli ve şeffaf hale getirmeye odaklanmalıdır.
AI geliştirme için kılavuzların olması çok önemlidir
Yapay zekanın neredeyse sınırsız potansiyeli göz önüne alındığında, Meta ve Microsoft gibi teknoloji devlerinin daha yetenekli yapay zeka modelleri oluşturmak ve uzayda ilk hamle avantajını elde etmek için yarışıyor olması şaşırtıcı değil.
Ancak dikkat edilmesi gereken önemli nokta, bu şirketlerin temel amacının para kazanmak olduğudur. Kârdan çok sosyal faydaya öncelik veren herhangi bir şirket büyük olasılıkla var olmaktan çıkacaktır.
Bu nedenle, şirketler kendi çıkarlarını göz önünde bulundurarak AI araçlarını ortaya çıkarmak için yarışırken, AI gelişimi için düzenlemelerin olması çok önemlidir.
Şu anda, Singapurlular da dahil olmak üzere Güneydoğu Asyalılar, yapay zekanın olumlu ve olumsuz yönleri konusunda, özellikle de bu teknoloji devlerinin nasıl görüldüğü konusunda kararsızlar. Blackbox-ADNA anketi.
Çoğu, Microsoft, Apple, Alphabet (Google’ın ana şirketi), Meta ve Open AI’ın yapay zekayı sorumlu bir şekilde geliştirip kullanacağını düşünüyor gibi görünüyor.
Öte yandan Meta, AI’yı sorumlu bir şekilde kullanma olasılığı en düşük olan şirket olarak ilk sırada yer alıyor. Bu, Mark Zuckerberg’in ardından geliyor şirketin pivot duyurusu AI’ya.
Bununla birlikte, söylendiği gibi, AI endüstrisi hala emekleme aşamasındadır, bu da onu yapar. düzenlemek çok daha zor. Endüstrinin hızla büyüdüğü bir dönemdeki düzenlemeler de yeniliği engelleyebilir.
Aslında, bir Stanford Üniversitesi’nden eğitim yapay zekayı bir bütün olarak düzenleme girişimlerinin “yanlış yönlendirileceğini”, çünkü hala “yapay zekanın net bir tanımının” bulunmadığını ve söz konusu risklerin ve faktörlerin farklı alanlar ve endüstriler arasında büyük ölçüde değişebileceğini buldu.
Yapay zekanın düzenlenmesini çevreleyen konu karmaşıktır, ancak kesin olan şey, yapay zekanın er ya da geç kesinlikle düzenlemeye ihtiyaç duyacağıdır.
Öne Çıkan Resim Kredisi: The Siasat Daily