Son günlerde çok sayıda AI yanlısı gevezelik duyduysanız, muhtemelen yalnız değilsiniz.
AI geliştiricileri, önde gelen AI etik uzmanları ve hatta Microsoft’un kurucu ortağı Bill Gates geçen haftayı geçirdi. işlerini savunmak. Bu bir yanıt olarak açık mektup tarafından imzalanan Future of Life Enstitüsü tarafından geçen hafta yayınlandı. Tesla CEO’su Elon Musk ve Apple’ın kurucu ortağı Steve Wozniakinsan seviyesindeki zeka ile rekabet edebilecek AI sistemleri üzerinde çalışmaya altı ay ara verilmesi çağrısında bulundu.
Şu anda 13.500’den fazla imzaya sahip olan mektup, OpenAI’ler gibi programlar geliştirmek için “tehlikeli bir yarış” olacağı korkusunu dile getirdi. ChatGPTMicrosoft’un Bing AI sohbet robotu Ve Alfabenin Ozanı kontrol edilmediği takdirde, yaygın dezenformasyondan insan işlerinin makinelere devredilmesine kadar olumsuz sonuçlara yol açabilir.
Ancak en büyük yıldızlarından en az biri de dahil olmak üzere teknoloji endüstrisinin geniş alanları geri adım atıyor.
“Belirli bir gruptan duraklamalarını istemenin zorlukları çözeceğini düşünmüyorum.” Gates Reuters’e söyledi Pazartesi gününde. Gates, küresel bir endüstri genelinde bir ara vermenin zor olacağını ekledi – ancak endüstrinin “zorlu alanları belirlemek” için daha fazla araştırmaya ihtiyacı olduğunu kabul etti.
Uzmanlar, tartışmayı ilginç kılan şeyin bu olduğunu söylüyor: Açık mektupta bazı meşru kaygılar belirtilebilir, ancak önerilen çözüme ulaşmak imkansız görünüyor.
İşte nedeni ve sonrasında ne olabileceği – hükümet düzenlemelerinden herhangi bir potansiyel robot ayaklanmasına kadar.
Musk ve Wozniak neyle ilgileniyor?
Açık mektubun endişeleri nispeten basit: “Son aylarda yapay zeka laboratuvarlarının, hiç kimsenin – yaratıcılarının bile – anlayamayacağı, tahmin edemeyeceği veya güvenilir bir şekilde kontrol edemeyeceği daha güçlü dijital zihinler geliştirmek ve dağıtmak için kontrolden çıkmış bir yarışa kilitlendiğini gördük. .”
AI sistemleri genellikle programlama önyargıları ve potansiyel Gizlilik sorunları. Yaygın olarak yayılabilirler yanlış bilgilendirmeözellikle kötü amaçla kullanıldığında.
Ve para biriktirmeye çalışan şirketleri hayal etmek kolaydır. insan işlerini değiştirmek Yapay zeka dil sistemleriyle kişisel asistanlardan müşteri hizmetleri temsilcilerine kadar.
İtalya zaten geçici olarak yasaklandı Bir OpenAI veri ihlalinden kaynaklanan gizlilik sorunları hakkında ChatGPT. Birleşik Krallık hükümeti yayınlanan düzenleme önerileri geçen hafta ve Avrupa Tüketici Örgütü Avrupa’daki milletvekillerini de düzenlemeleri hızlandırmaya çağırdı.
ABD’de bazı Kongre üyeleri yapay zeka teknolojisini düzenlemek için yeni yasalar çıkarılması çağrısında bulundu. Geçen ay, Federal Ticaret Komisyonu Bu tür sohbet botları geliştiren işletmeler için kılavuz yayınladı ve bu da federal hükümetin dolandırıcılar tarafından kullanılabilecek yapay zeka sistemlerini yakından izlediğini ima ediyor.
ve çoklu devlet gizlilik yasaları geçen yıl kabul edilen amaç, şirketleri AI ürünlerinin ne zaman ve nasıl çalıştığını açıklamaya zorlamak ve müşterilere devre dışı bırakma şansı verin yapay zeka ile otomatikleştirilmiş kararlar için kişisel veriler sağlama.
Bu yasalar şu anda California, Connecticut, Colorado, Utah ve Virginia’da yürürlüktedir.
AI geliştiricileri ne diyor?
En az bir AI güvenlik ve araştırma şirketi henüz endişeli değil: San Francisco merkezli Anthropic, mevcut teknolojilerin “yakın bir endişe oluşturmadığını” yazdı. bir blog yazısı geçen ay.
Şubat ayında Alphabet’ten 400 milyon dolarlık yatırım alan Anthropic’in kendi yapay zeka sohbet robotu var. Blog yazısında, gelecekteki AI sistemlerinin önümüzdeki on yılda “çok daha güçlü” hale gelebileceğini ve artık korkuluklar inşa etmenin yolun aşağısında “riskleri azaltmaya yardımcı olabileceğini” belirtti.
Sorun: Hiç kimse bu korkulukların neye benzeyeceğinden veya nasıl görünmesi gerektiğinden tam olarak emin değil, diye yazdı Anthropic.
Bir şirket sözcüsü, CNBC Make It’e, açık mektubun konu etrafında sohbet başlatma yeteneğinin yararlı olduğunu söyledi. Sözcü, Anthropic’in altı aylık bir ara vermeyi destekleyip desteklemeyeceğini belirtmedi.
Çarşamba günü bir tweet’te OpenAI CEO’su Sam Altman, önde gelen yapay genel zeka (AGI) şirketleri arasında “demokratik yönetişim dahil etkili bir küresel düzenleyici çerçevenin” ve “yeterli koordinasyonun” yardımcı olabileceğini kabul etti.
Ancak Microsoft tarafından finanse edilen şirketi ChatGPT’yi yapan ve Bing’in yapay zeka sohbet robotunun geliştirilmesine yardımcı olan Altman, bu politikaların neleri içerebileceğini belirtmedi veya CNBC Make It’in açık mektupla ilgili yorum talebine yanıt vermedi.
Bazı araştırmacılar başka bir konuyu gündeme getiriyor: Araştırmayı duraklatmak, hızlı hareket eden bir endüstride ilerlemeyi engelleyebilir ve otoriter ülkelerin kendi yapay zeka sistemlerini geliştirmesine izin verebilir.
Yapay zeka araştırmacısı ve yapay zeka destekli arama motoru şirketi You.com’un CEO’su Richard Socher, yapay zekanın potansiyel tehditlerinin vurgulanmasının, kötü aktörleri bu teknolojiyi hain amaçlarla benimsemeye teşvik edebileceğini söylüyor.
Bu tehditlerin yakınlığını abartmak da gereksiz histeri besliyor Konu etrafında, diyor Socher. Açık mektubun önerilerini “uygulamak imkansız ve sorunu yanlış düzeyde ele alıyor” diye ekliyor.
Şimdi ne olacak?
AI geliştiricilerinden gelen açık mektuba sessiz yanıt, teknoloji devlerinin ve yeni başlayanların benzer şekilde çalışmalarını gönüllü olarak durdurma ihtimalinin düşük olduğunu gösteriyor.
Mektubun artan hükümet düzenlemesi çağrısı, özellikle ABD’deki milletvekilleri bu yana daha olası görünüyor. ve Avrupa zaten AI geliştiricilerinden şeffaflık için baskı yapıyor.
ABD’de FTC, AI geliştiricilerinin yalnızca yanlış bilgi veya örtülü önyargı içermeyen veri kümeleriyle yeni sistemler eğitmesini ve bu ürünlerin halka piyasaya sürülmeden önce ve sonra test edilmesini gerektiren kurallar da belirleyebilir. bir Aralık danışmanlığı hukuk firması Alston & Bird’den.
Açık mektubu imzalayan Berkeley Üniversitesi bilgisayar bilimcisi ve önde gelen yapay zeka araştırmacısı Stuart Russell, teknoloji daha fazla ilerlemeden önce bu tür çabaların uygulamaya konması gerektiğini söylüyor.
Russell, bir duraklama, teknoloji şirketlerine gelişmiş AI sistemlerinin “aşırı bir risk oluşturmadığını” kanıtlamaları için daha fazla zaman verebilir. CNN’e söyledi Cumartesi günü.
Her iki taraf da bir konuda hemfikir görünüyor: Hızlı yapay zeka gelişiminin en kötü senaryoları engellenmeye değer. Kısa vadede bu, AI ürün kullanıcılarına şeffaflık sağlamak ve onları dolandırıcılardan korumak anlamına gelir.
Uzun vadede bu, AI sistemlerinin insan seviyesindeki zekayı aşmasını engellemek ve onu etkili bir şekilde kontrol etme yeteneğini sürdürmek anlamına gelebilir.
Gates, “Zeka açısından insanlarla rekabet eden ve onları geride bırakan makineler yapmaya başladığınızda, hayatta kalmamız çok zor olacak” dedi. BBC’ye söyledi 2015’te. “Bu sadece bir kaçınılmazlık.”
KAÇIRMAYIN: Paranız, işiniz ve yaşamınızla daha akıllı ve daha başarılı olmak ister misiniz? Yeni bültenimize kaydolun!