Üretken yapay zeka neden sandığınızdan daha tehlikeli?

Tehlikeleri hakkında çok şey yazıldı. üretici yapay zeka son aylarda ve yine de gördüğüm her şey üç basit argümana indirgeniyor ve bunların hiçbiri yolumuza yöneldiğini gördüğüm en büyük riski yansıtmıyor. Üretken yapay zekanın bu gizli tehlikesine girmeden önce, son zamanlarda ortalıkta dolaşan yaygın uyarıları özetlemek faydalı olacaktır:

1. İşler için risk: Üretken yapay zeka artık sanat eseri ve denemelerden bilimsel raporlara kadar insan düzeyinde çalışma ürünleri üretebilir. Bu büyük ölçüde olacak darbe iş piyasası, ancak iş tanımları yapay zekanın gücüne uyum sağladığından bunun yönetilebilir bir risk olduğuna inanıyorum. Bir dönem sancılı olacak, ancak önceki nesillerin diğer iş tasarrufu sağlayan verimliliklere nasıl uyum sağladıklarından farklı olmayacak.

2. Sahte içerik riski: Üretken AI artık oluşturabilir insan kalitesinde eserler sahte ve yanıltıcı makaleler, makaleler, makaleler ve videolar dahil geniş ölçekte. Yanlış bilgilendirme yeni bir sorun değil, ancak üretken yapay zeka, bunun daha önce hiç görülmemiş seviyelerde toplu olarak üretilmesine izin verecek. Bu büyük bir risk ama yönetilebilir. Bunun nedeni, sahte içeriğin, (a) yapay zeka içeriğini oluşturulduktan sonra tanımlayan filigran teknolojilerini zorunlu kılarak veya (b) olaydan sonra yapay zeka içeriğini belirlemek için eğitilmiş yapay zeka tabanlı karşı önlemleri uygulayarak tanımlanabilir hale getirilebilmesidir.

3. Duyarlı makinelerin riski: Birçok araştırmacı, yapay zeka sistemlerinin bir “kendi iradeleri” ve insan çıkarlarıyla çatışan, hatta insan varlığını tehdit eden eylemlerde bulunacaktır. Bunun gerçek bir uzun vadeli risk olduğuna inanıyorum. Aslında ben yazdım A “yetişkinler için resimli kitap” başlıklı varış zihin birkaç yıl önce, bu tehlikeyi basit terimlerle araştıran. Yine de, mevcut AI sistemlerinin, teknolojide büyük yapısal iyileştirmeler olmadan kendiliğinden duyarlı hale geleceğine inanmıyorum. Dolayısıyla bu, endüstrinin odaklanması gereken gerçek bir tehlike olsa da, önümüzde gördüğüm en acil risk değil.

Öyleyse, üretken yapay zekanın yükselişiyle ilgili beni en çok endişelendiren şey nedir?

Benim bakış açıma göre, politika yapıcılar da dahil olmak üzere çoğu güvenlik uzmanının yanıldığı nokta, üretici yapay zekayı öncelikle geniş ölçekte geleneksel içerik oluşturmaya yönelik bir araç olarak görmeleridir. Teknoloji makaleleri, resimleri ve videoları ortaya çıkarma konusunda oldukça yetenekli olsa da, daha önemli olan konu, üretici yapay zekanın son derece kişiselleştirilmiş, tamamen etkileşimli ve potansiyel olarak hedeflenen herhangi bir içerik biçiminden çok daha manipülatif olan tamamen yeni bir medya biçimini ortaya çıkarmasıdır. bugüne kadar karşı karşıya kaldı.

Etkileşimli üretken medya çağına hoş geldiniz

Üretken yapay zekanın en tehlikeli özelliği, sahte makaleler ve videolar üretebilmesi değil, ikna edici etkiyi en üst düzeye çıkarmak için bireysel kullanıcılar için özelleştirilmiş etkileşimli ve uyarlanabilir içerik üretebilmesidir. Bu içerikte, etkileşimli üretken medya alıcı kullanıcı hakkındaki kişisel verilere dayalı olarak etki hedeflerini en üst düzeye çıkarmak için gerçek zamanlı olarak oluşturulan veya değiştirilen hedefli tanıtım materyali olarak tanımlanabilir.

Bu, “hedefli etki kampanyalarını” geniş demografik grupları hedef alan kurşundan, optimum etki için bireysel kişilere odaklanabilen ısı güdümlü füzelere dönüştürecek. Ve aşağıda açıklandığı gibi, bu yeni medya biçiminin muhtemelen iki güçlü çeşidi olacaktır: “hedefli üretken reklamcılık” ve “hedefli konuşma etkisi”.

Hedeflenen üretken reklamcılık geleneksel reklamlar gibi görünen ve hissettiren ancak bireysel kullanıcılar için gerçek zamanlı olarak kişiselleştirilen resimlerin, videoların ve diğer bilgi içeriği biçimlerinin kullanılmasıdır. Bu reklamlar, üretken AI sistemleri tarafından anında oluşturulacaktır. etki hedefleri ile birlikte üçüncü taraf sponsorlar tarafından sağlanan kişisel veri hedeflenen belirli kullanıcı için erişilir. Kişisel veriler, kullanıcının yaşını, cinsiyetini ve eğitim düzeyini, ilgi alanlarını, değerlerini, estetik hassasiyetlerini, satın alma eğilimlerini, siyasi bağlantılarını ve kültürel önyargılarını içerebilir.

Etki hedeflerine ve hedefleme verilerine yanıt olarak, üretken yapay zeka, düzeni, özellik görüntülerini ve promosyon mesajlarını özelleştirecek. o kullanıcı üzerindeki etkinliği en üst düzeye çıkarmak. Renklere, yazı tiplerine ve noktalama işaretlerine kadar her şey, görüntülerde gösterilen herhangi bir kişinin yaşı, ırkı ve giyim tarzı ile birlikte kişiselleştirilebilir. Kent sahnelerinin veya kırsal manzaraların video kliplerini görecek misiniz? Sonbaharda mı yoksa ilkbaharda mı kurulacak? Spor arabaların veya aile minibüslerinin resimlerini görecek misiniz? Kişisel olarak üzerinizdeki ince etkiyi en üst düzeye çıkarmak için her ayrıntı üretken yapay zeka tarafından gerçek zamanlı olarak özelleştirilebilir.

Ve teknoloji platformları kullanıcı katılımını takip edebildiğinden, sistem hangi taktiklerin sizin için en iyi sonucu verdiğini zamanla öğrenecek ve dikkatinizi en iyi çeken saç renklerini ve yüz ifadelerini keşfedecektir.

Bu bilim kurgu gibi görünüyorsa, şunu düşünün: Her ikisi de Meta Ve Google kısa süre önce çevrimiçi reklamların oluşturulmasında üretici yapay zekayı kullanma planlarını duyurdu. Bu taktikler sponsorlar için daha fazla tıklama üretirse, standart uygulama haline gelecek ve tüm büyük platformların promosyon içeriğini mümkün olan en etkili yollarla özelleştirmek için üretken yapay zekayı kullanmak için yarıştığı bir silahlanma yarışı başlayacak.

Bu beni getiriyor Hedeflenen konuşma etkisietki hedeflerinin iletildiği üretken bir teknik etkileşimli konuşma geleneksel belgeler veya videolar yerine.

Sohbetler, sohbet robotları (ChatGPT ve Bard gibi) veya benzer sistemler tarafından desteklenen ses tabanlı sistemler aracılığıyla gerçekleştirilecektir. büyük dil modelleri (LLM’ler). Kullanıcılar bunlarla karşılaşacak “konuşma ajanlarıüçüncü taraf geliştiriciler LLM’leri web sitelerine, uygulamalarına ve etkileşimli dijital asistanlar.

Örneğin, en son hava durumu tahminini arayan bir web sitesine erişebilir ve bir kişiyle sohbet edebilirsiniz. yapay zeka temsilcisi bilgileri istemek için. Bu süreçte, konuşma etkisi ile hedeflenebilirsiniz – iletişim hedefleriyle diyaloğa dokunan ince mesajlar.

Diyalog tabanlı bilgi işlem hayatımızda olağan hale geldikçe, risk konuşma etkisi ödeme yapan sponsorlar iletişim kutusuna bizim fark etmeyebileceğimiz mesajlar ekleyebileceğinden, büyük ölçüde genişleyecektir. Hedeflenen üretken reklamlar gibi, sponsorlar tarafından talep edilen mesajlaşma hedefleri, hedeflenen kullanıcı hakkındaki kişisel verilerle birlikte kullanılacaktır. etkiyi optimize et.

Veriler, kullanıcının yaşını, cinsiyetini ve eğitim düzeyini kişisel ilgi alanları, hobileri, değerleri vb. ile birlikte içerebilir ve böylece söz konusu kişiye en uygun şekilde hitap edecek şekilde tasarlanmış gerçek zamanlı, üretken bir diyaloğu etkinleştirebilir.

Neden konuşma etkisi kullanıyorsunuz?

Daha önce bir satış elemanı olarak çalıştıysanız, muhtemelen bir müşteriyi ikna etmenin en iyi yolunun onlara bir broşür vermek değil, yüz yüze iletişim kurmak olduğunu biliyorsunuzdur. çekinceleri ve argümanlarınızı gerektiği gibi ayarlayın. Bu, onları bir satın almaya “konuşarak” ikna edebilen döngüsel bir satış konuşması ve ayarlama sürecidir.

Bu, geçmişte tamamen insani bir beceri olsa da, üretken yapay zeka artık bu adımları gerçekleştirebilir, ancak daha fazla beceri ve yararlanılacak daha derin bilgiyle.

Ve bir insan satış elemanının yalnızca bir kişiliği olsa da, bu AI aracıları dijital bukalemunlar inek ya da yapmacıktan tatlı ya da havalıya kadar herhangi bir konuşma tarzını benimseyebilen ve müşteriyle arkadaş olmaktan onların bir şeyleri kaçırma korkusunu istismar etmeye kadar her türlü satış taktiğini uygulayabilen. Ve çünkü bu yapay zeka ajanları olacak kişisel verilerle donanmış olarak, sizi dostça diyaloga sokmak için doğru müzik sanatçılarından veya spor takımlarından bahsedebilirler.

Ek olarak, teknoloji platformları, kişisel olarak hangi taktiklerin sizin için en etkili olduğunu öğrenerek, önceki konuşmaların sizi ikna etmede ne kadar işe yaradığını belgeleyebilir. Mantıksal çağrılara mı yoksa duygusal tartışmalara mı cevap veriyorsunuz? En büyük pazarlığı mı yoksa en yüksek kaliteyi mi arıyorsunuz? Zaman baskısı indirimlerinden veya ücretsiz eklentilerden etkileniyor musunuz? Platformlar hızlı bir şekilde öğrenecek tüm iplerini çek.

Tabii ki, toplum için en büyük tehdit, size bir pantolon satma konusunda optimize edilmiş bir yetenek değildir. Asıl tehlike, araba sürmek için aynı tekniklerin kullanılacak olmasıdır. propaganda ve yanlış bilgilendirmeaksi takdirde reddedebileceğiniz yanlış inançlara veya aşırı ideolojilere ikna etmek. Örneğin, bir konuşma ajanı, tamamen güvenli bir ilacın topluma karşı tehlikeli bir komplo olduğuna sizi ikna etmeye yönlendirilebilir. Ve yapay zeka ajanları, bilgi dolu bir internete erişebilecekleri için, en bilgili insanı bile bunaltacak şekillerde kanıtları titizlikle seçebilirler.

Bu genellikle asimetrik bir güç dengesi yaratır. AI manipülasyon sorunu Biz insanlar, konuştuğumuz varlıkların gerçek niyetlerini “okuma” yeteneğimiz yokken, bize hitap etme konusunda oldukça yetenekli yapay ajanlarla sohbet ederken son derece dezavantajlı durumdayız.

Düzenlenmedikçe, hedeflenen üretken reklamlar Ve hedeflenen konuşma etkisi kullanıcıların, düşünme sürecine dair hiçbir fikir vermeyen, ancak kişisel beğenilerimiz, isteklerimiz ve eğilimlerimiz hakkında kapsamlı verilerle donanmış ve argümanlarını beslemek için sınırsız bilgiye erişimi olan opak bir dijital bukalemun tarafından geride bırakıldığı güçlü ikna biçimleri olacaktır. .

Bu nedenlerden dolayı, düzenleyicileri, politika yapıcıları ve endüstri liderlerini etkileşimli, uyarlanabilir, kişiselleştirilmiş ve geniş ölçekte konuşlandırılabilir yeni bir medya biçimi olarak üretken yapay zekaya odaklanmaya davet ediyorum. Anlamlı korumalar olmadan tüketiciler, ince zorlamadan doğrudan manipülasyona kadar uzanan yağmacı uygulamalara maruz kalabilir.

Louis RosenbergDoktora, VR, AR ve AI alanlarında ilk öncülerden biridir ve Immersion Corporation (IMMR: Nasdaq), Microscribe 3D, Outland Research ve Unanimous AI’nın kurucusudur.