Apple’ın kurucu ortağı Steve Wozniak, üretken yapay zekanın (AI) tehlikelerini tartışmak için medyayı geziyor ve insanları olumsuz etkilerine karşı dikkatli olmaları konusunda uyarıyor. Her ikisiyle de konuşmak BBC Ve Fox HaberAI’nın kişisel verileri kötüye kullanabileceğini vurguladı ve dolandırıcıların kimlik dolandırıcılığından kimlik avına, şifreleri kırmaya ve daha fazlasına kadar daha etkili dolandırıcılıklar oluşturmasına yardımcı olabileceği endişelerini dile getirdi.
Yapay zeka bir spam göndericiyi devreye sokar
“Hesaplarımızı ve şifrelerimizi ele geçirmeye çalışan, bizi kandırmaya çalışan çok fazla spam ile karşılaşıyoruz” dedi.
(Bu aynı zamanda tarafından dile getirilen bir endişedir. Federal Ticaret Komisyonu (FTC) başkanı Kina Khan.)
Wozniak, örneğin ChatGPT gibi teknolojilerin gerçekten inandırıcı sahte e-postalar oluşturmak için kullanılabileceği konusundaki endişelerini dile getirdi. Teknolojinin sağlayabileceği avantajları görebilmesi konusunda kararsız olsa da, bu güçlü araçların kötüye kullanılmasının kötü insanların elinde gerçek bir tehdit haline gelmesinden de korkuyor.
“Yapay zeka o kadar zeki ki kötü oyunculara, kim oldukları konusunda sizi kandırmak isteyenlere açık,” diye uyardı.
İş için bir tehlike
Güvenlik araştırmacıları da aynı derecede endişeli. İş dünyasında, karar vericilerin %53’ü yapay zekanın saldırganların daha inandırıcı e-posta dolandırıcılıkları oluşturmasına yardımcı olacağına inanıyor. En son, BlackBerry uyardı ChatGPT’ye yatırılan başarılı bir saldırının önümüzdeki 12 ay içinde ortaya çıkacağı.
Wozniak bir anlaşmaya imza attı. 1.000’den fazla teknoloji uzmanı tarafından imzalanan açık mektup AI geliştirmede yavaş gitme ihtiyacına dair uyarı. O mektup AI laboratuvarlarından GPT-4’ten daha güçlü sistemlerde eğitimi duraklatmalarını istedi en az 6 ay boyunca.
Buna rağmen Wozniak, ima edilen korkuya karşı diz çökerek tepki vermemesi konusunda da uyarıda bulundu: “Gerçekten objektif olmalıyız,” dedi Fox News programında, Neil Cavuto ile Sizin Dünyanız. “Tehlike noktaları nerede?”
Dilekçede bu noktalardan bazılarına karşı uyarıda bulunuldu, en önemlisi, “Çağdaş yapay zeka sistemleri artık genel görevlerde insanlar arasında rekabet edebilir hale geliyor ve kendimize şu soruyu sormalıyız: ‘Makinelerin bilgi kanallarımızı propaganda ve gerçek dışı şeylerle doldurmasına izin vermeli miyiz?'”
Üretken AI modellerinin kullanılmasının şu sonuçlara yol açtığı durumları da gördük: ticari sırların ifşasıgüvenlik uyarıları isteyen istihbarat ajansları.
Varoluşsal bir tehdit mi?
Woz’un görüşü tek başına bir uyarı değil. Geoffrey Hinton, yapay zekanın sözde vaftiz babası benzer bir görüşe sahip ve yakın zamanda yapay zeka tehlikelerine karşı uyarıda bulunmak için Google’da çalışmayı bıraktı. Hinton, AI’nın büyük ölçekte insan işçilerin yerini aldığını düşünüyor ve bunun etkisinin istikrarı tehdit edebileceği ve potansiyel olarak yok oluşa yol açabileceği konusunda uyarıda bulunuyor.
Teknoloji alanındaki diğerleri gibi Wozniak da endüstri ve hükümetin tehlike noktalarını belirlemesi ve riskleri en aza indirmek için hemen harekete geçmesi gerektiğini savunuyor.
Sosyal medyanın riskleri hakkında şu anda bildiklerimize işaret ederek, “Ya oturup bunu sosyal Web gelmeden önce düşünseydik” dedi ve bu riskleri yönetmeye ve en aza indirmeye yardımcı olacak çerçeveler oluşturdu.
Hükümetler yavaş hareket ediyor
Pek çok hükümet, yapay zeka araçlarının düzenlenmesi gerekip gerekmediğini ve nasıl düzenlenmesi gerektiğini anlamak için harekete geçiyor, ancak bu sürecin yapay zeka gelişimine ayak uydurması pek olası değil. Biden yönetimi kısa bir süre önce isteğe bağlı bir AI kuralları seti duyurdu güvenlik ve mahremiyet konularını ele almayı ve ChatGPT de dahil olmak üzere yapay zeka teknolojilerinin gerçek ve varoluşsal tehdidi hakkında tartışma başlatmayı amaçlıyordu.
AI, zamanımızın en güçlü teknolojilerinden biridir, ancak sunduğu fırsatları değerlendirmek için önce risklerini azaltmalıyız. Beyaz Saray yaptığı açıklamada. “Başkan Biden, yapay zeka söz konusu olduğunda, toplumumuzu, güvenliğimizi ve ekonomimizi korurken kamu yararına hizmet eden sorumlu inovasyonu destekleyerek insanları ve toplulukları merkeze yerleştirmemiz gerektiğini net bir şekilde ortaya koydu.”
Birleşik Krallık’ta, Rekabet ve Piyasalar Otoritesi (CMA) AI için pazarın gözden geçirilmesi. CMA’nın CEO’su Sarah Cardell, “Amacımız, bu yeni, hızla ölçeklenen teknolojinin açık, rekabetçi pazarlar ve etkili tüketici koruması sağlayacak şekilde gelişmesine yardımcı olmaktır” dedi.
Bununla birlikte, Birleşik Krallık hükümeti istekli görünüyor. bu teknolojinin kullanımına yönelik uygulamalı yaklaşım.
Eyleme bir tepki
Bu çabalar, bazı ülkelerde yapay zeka evrimini yavaşlatmanın diğerlerine bunu yapma şansı verebileceğini savunan bazı teknoloji uzmanları arasında bir karşı tepkiyle karşılaşıyor. teknolojinin uygulanmasında öne geçmek. Microsoft’un kurucu ortağı Bill Gates, bu tartışmayı yapanlardan biri.
Hinton kısa süre önce yapay zeka ile ilgili “tek umudunu” söyledi: tüm taraflar varoluşsal bir tehditle karşı karşıya kaldığında, rakip hükümetlerin yapay zekanın kullanımında hüküm sürmeyi kabul etmesi. “Varoluşsal tehdit konusunda hepimiz aynı gemideyiz, bu yüzden hepimiz onu durdurmak için işbirliği yapabilmeliyiz” dedi.
Uyarmıştık
Elbette trajedi, AI’nın doğasında var olan varoluşsal risklerin yıllardır işaretlenmiş olmasıdır. 1863’te, romancı Samuel Butler uyardı: “Sonuç sadece bir zaman meselesidir, ancak makinelerin dünya ve üzerinde yaşayanlar üzerinde gerçek üstünlüğü elinde tutacağı zamanın geleceği, gerçekten felsefi bir zihne sahip hiç kimsenin bir an için bile sorgulayamayacağı bir şeydir.”
Apple’ın kurucu ortağı, bu tür bir kullanımla ilgili etkili kısıtlamaların uygulanacağı konusunda çok iyimser görünmüyor. “Bizi önemsemek, aşk için harekete geçen güçlerle karşılaştırıldığında para peşinde koşan güçler – para peşinde koşan güçler genellikle kazanır. Bu biraz üzücü” dedi BBC’ye.
lütfen beni takip et Mastodonveya bana katılın AppleHolic’in barı ve ızgarası Ve Elma Tartışmalar MeWe’deki gruplar.
Telif hakkı © 2023 IDG Communications, Inc.