Posta kutunuzda daha akıllı bilgiler mi istiyorsunuz? Sadece AI, veri ve güvenlik liderleri için önemli olanı elde etmek için haftalık bültenlerimize kaydolun. Şimdi kaydolun
Araştırmacılar yayınladı En eksiksiz anket SO -CONLED “İşletim sisteminin temsilcileri“-Arabirimleriyle doğrudan etkileşime giren bilgisayarları, cep telefonlarını ve web tarayıcılarını bağımsız olarak kontrol edebilen ortak zeka. 30 sayfalık akademik inceleme, prestijli yayın için kabul edildi Hesaplamalı Dilbilim Derneği Konferans, ana teknolojik şirketlerin milyarlarca yatırımını çeken hızla gelişen bir alan.
Araştırmacılar, “Iron Man’ın hayali jarvis gibi yetenekli ve çok yönlü yapay zeka asistanları yaratma hayali uzun süredir büyüleyici hayal gücüne sahip.” “Dil modellerinin ((m) llms) ((m) llms) evrimi ile bu rüya gerçeğe daha yakın.”
Araştırmacılar tarafından yürütülen anket Zhejiang Üniversitesi VE AI Oppo MerkeziAna teknolojik şirketler, karmaşık dijital görevleri yerine getirebilen yapay zeka ajanlarını dağıtmak için çalışırken gelir. Openii yakın zamanda başlatıldı “Operatör“Antropik çıktı”Bilgisayarın kullanımı“Apple, gelişmek için işlevsellik tanıttı”Elma zekası“Ve Google açıkladı”Proje Mariner” – etkileşimleri otomatikleştirmek için tasarlanmış tüm sistemler.
Teknolojik devler, masaüstünüzü kontrol eden IA’yı dağıtmak için acele ediyor
Akademik araştırmanın hazır ürünlere dönüşme hızı -Silikon Vadisi standartları için de benzeri görülmemiş. . anket Bir araştırma patlaması ortaya koyuyor: 60’ın üzerinde temel modeli ve 50 temsilci çerçevesi, bilgisayar kontrolü için özel olarak geliştirildi ve 2023’ten beri büyük ölçüde hızlanan yayın oranları.
Sınırlarının azaltılması sınırlarını etkiler
Güç sınırları, belirteç maliyetlerindeki artış ve çıkarımların gecikmeleri IA girişimini yeniden şekillendiriyor. En iyi takımların nasıl olduğunu öğrenmek için özel salonumuza katılın:
- Enerjiyi stratejik bir avantaja dönüştürün
- Kraliyet verim kazanımları için etkili bir çıkarımla Architec
- Sürdürülebilir sistemlerle rekabetçi yatırım getirisinin kilidini açın
Öne çıkmak için yerinizi koruyun: https://bit.ly/4mwgngo
Bu sadece artımlı ilerleme değil. Dijital dünyayı insanlar gibi gerçekten anlayabilen ve manipüle edebilen yapay zeka sistemlerinin ortaya çıkmasına tanık oluyoruz. Mevcut sistemler, neyin görüntülendiğini anlamak için gelişmiş bilgisayar görüşünü kullanarak bilgisayar ekranları alarak, ardından tıklama düğmeleri, modüllerle doldurma ve uygulamalar arasında yelken yapma gibi kesin eylemler yaparak çalışır.
Araştırmacılar, “İşletim sisteminin temsilcileri faaliyetleri bağımsız olarak tamamlayabilir ve tüm dünyadaki milyarlarca kullanıcının yaşamını önemli ölçüde iyileştirme potansiyeline sahip olabilir”. “Çevrimiçi alışveriş, rezervasyon anlaşmaları ve diğer günlük aktiviteler gibi ödevlerin bu ajanlar tarafından mükemmel bir şekilde gerçekleştirilebileceği bir dünya hayal edin.”
En sofistike sistemler, farklı uygulamaları benimseyen çeşitli aşamalarda karmaşık çalışma akışlarını yönetebilir: restoranların rezervasyonunu rezerve edin, ardından otomatik olarak takvime ekleyin, ardından trafiği yakında terk etmek için bir hatırlatma yapın. İnsanların tıklama ve yazma dakikalarını alan şey artık insan müdahalesi olmadan birkaç saniye içinde olabilir.
Çünkü güvenlik uzmanları yapay zeka tarafından kontrol edilen şirket sistemlerinde alarmlar oynuyor
Şirket teknolojik liderleri için, verimlilik kazanımları vaadi sizi düşündüren bir gerçeklik içerir: bu sistemler, kuruluşların çoğunun savunmaya istekli olmadığı tamamen yeni bir saldırı yüzeyini temsil eder.
Araştırmacılar diplomatik olarak adlandırdıkları şeye önemli bir dikkat ayırıyor “Güvenlik ve Gizlilik“Endişeler, ancak sonuçlar akademik dillerinin önerdiğinden daha endişe verici.” İşletim sisteminin temsilcileri, özellikle kullanıcı verileri ile kişisel cihazlardaki büyük uygulamalarını göz önünde bulundurarak bu risklerle yüzleşir. “
Belgelenen saldırı yöntemleri BT güvenlik kabusu olarak okunur. “Web isteği için hazır enjeksiyon“Zararlı aktörlerin, yapay zeka ajanının davranışını yönlendirebilecek gizli talimatları web sayfalarına dahil etmelerini sağlar. Daha da önemlisi, görünüşte zararsız web içeriğinin kullanıcı verilerini çalmaya veya yetkisiz eylemler gerçekleştirmeye teşvik edebileceği” çevresel enjeksiyon saldırıları “dır.
Çıkarımları göz önünde bulundurun: Şirket E -Mails, Finansal Sistemler ve Müşteri Veritabanlarına erişimi olan yapay bir zeka ajanı, hassas bilgileri genişletmek için dikkatlice yapılmış bir web sayfası ile manipüle edilebilir. Geleneksel güvenlik modelleri, belirgin kimlik avı girişimlerini belirleyebilen insan kullanıcılarına dayanarak, “kullanıcı” bilgiyi farklı işleyen yapay bir zeka sistemi olduğunda kırın.
Anket, hazırlıkta endişe verici bir boşluk ortaya koymaktadır. Yapay zeka ajanları için genel güvenlik resimleri olsa da, “işletim sisteminin temsilcileri için özel savunmalar üzerine çalışmalar sınırlı kalmaktadır”. Bu sadece akademik bir endişe değildir: bu sistemlerin uygulanmasını düşünen herhangi bir kuruluş için acil bir zorluktur.
Gerçekliğin Kontrolü: Mevcut AI ajanları hala karmaşık dijital görevlerle savaşıyor
Bu sistemleri çevreleyen hype’a rağmen, performansın referans parametreleri üzerindeki anketin analizi, derhal benimsenme beklentilerini yaygınlaştıran önemli sınırlamalar ortaya koymaktadır.
Başarılı oranlar farklı etkinlikler ve platformlar arasında büyük ölçüde değişir. Bazı ticari sistemler, bazı referans parametrelerde – yeni ortaya çıkan bir teknoloji için etkileyici – ancak başkalarıyla savaşan başarı oranlarına ulaşır. Araştırmacılar değerlendirme faaliyetlerini üç türde sınıflandırır: “GUI’nin topraklanması” temel (arayüzün unsurlarının anlaşılması), “Bilginin Kurtarılması” (araştırma ve veri çıkarma) ve karmaşık “ajanlar” (çeşitli aşamalardaki otonom operasyonlar).
Model şunları anlatıyor: Mevcut sistemler basit ve iyi tanımlanmış görevlerde mükemmeldir, ancak iş türünün önünde durur, karmaşık akar ve modern bilgi çalışmasının büyük bir bölümünü tanımlayan bağlama bağlıdır. Belirli bir düğmeyi güvenilir bir şekilde tıklayın veya standart bir form doldurun, ancak beklenmedik arayüz değişikliklerine akıl yürütme veya uzun süreli adaptasyon gerektiren görevlerle savaşın.
Bu performans boşluğu, erken uygulamaların neden genel kullanım için otomasyon yerine kısıtlı ve yüksek hacimli faaliyetlere odaklandığını açıklamaktadır. Teknoloji henüz karmaşık senaryolarda insan yargısının yerini almaya hazır değil, ancak rutin dijital çalışmayı giderek daha fazla yönetebiliyor.
Temsilciler her kullanıcı için kendilerini kişiselleştirmeyi öğrendiklerinde ne olur
Belki de ankette potansiyel olarak dönüştürücü olarak tanımlanan en ilgi çekici olan zorluk, araştırmacıların “kişiselleştirme ve kendini evrim” dediği şeyi içerir. Günümüzün, bağımsız, gelecekteki işletim sistemi ajanları olarak herhangi bir etkileşimle ilgilenen vatansız yapay zeka asistanlarının aksine, kullanıcı etkileşimlerinden öğrenmek ve zaman içinde bireysel tercihlere uyum sağlamak zorunda kalacaktır.
Yazarlar, “Kişiselleştirilmiş işletim sistemi ajanlarının geliştirilmesi, araştırmada uzun süredir devam eden bir hedefti.” “Bir kişisel asistan sürekli olarak uyum sağlamalı ve bireysel kullanıcıların tercihlerine dayanarak gelişmiş deneyimler sağlamalıdır.”
Bu yetenek temel olarak teknoloji ile etkileşim şeklimizi değiştirebilir. Yazınızı ve mail tarzınızı öğrenen, takvim tercihlerinizi içeren, hangi restoranları tercih ettiğinizi bilen ve sizin adınıza giderek daha karmaşık kararlar verebileceğinizi bilen yapay bir zeka ajanı düşünün. Potansiyel verimlilik kazanımları muazzamdır, ancak gizlilik üzerindeki etkileri de vardır.
Teknik zorluklar önemlidir. Anket, sadece metni değil, görüntüleri ve sesi yönetebilen en iyi multimodal bellek sistemlerine duyulan ihtiyacı göstermektedir ve mevcut teknoloji için “önemli zorluklar” sunmaktadır. Dijital yaşamınızın gözetimini tam bir kaydı oluşturmadan tercihlerinizi anımsatan bir sistem nasıl oluşturursunuz?
Bu sistemleri değerlendiren teknoloji yöneticileri için, bu özelleştirme zorluğu hem en büyük fırsatı hem de en büyük riski temsil eder. Önce bunu çözen kuruluşlar önemli rekabet avantajları elde edecektir, ancak kötü yönetilirse gizlilik ve güvenlik üzerindeki etkileri ciddi olabilir.
İnsan kullanıcıları gibi gerçekten çalışabilecek yapay zeka asistanları inşa etme ihalesi hızla yoğunlaşıyor. Güvenlik, güvenilirlik ve kişiselleştirme konusundaki temel zorluklar çözülmezken, yörünge açıktır. Araştırmacılar, “işletim sisteminin ajanlarının hala gelişimin ilk aşamalarında” olduğunu kabul ederek “yeni metodolojiler ve uygulamalar getirmeye devam eden hızlı ilerleme” ile açık kaynak deponunun izlenmesi gelişmelerini sürdürmektedir.
Soru, ajanların bilgisayarlarla etkileşim şeklimizi dönüştürüp dönüştürmeyeceği değil – sonuçlara hazır olup olmadığımızdır. Güvenlik ve gizlilik çerçevesini elde etmek için pencere, teknolojinin ilerlediği hızla daraltılmaktadır.
