Konuşmalı AI’nın derin tehlikesi

Araştırmacılar, AI’nın insan uygarlığı için oluşturduğu riskleri düşündüklerinde, genellikle “devamRsorun” Bu, insanlardan çok daha akıllı olan yapay bir süper zekanın ortaya çıkma olasılığını ifade eder ve bunun üzerindeki kontrolü hızla kaybederiz. Korku, insanüstü bir zekaya sahip duyarlı bir yapay zekanın, bizimkiyle çelişen hedefler ve çıkarlar peşinde koşarak insanlık için tehlikeli bir rakip haline gelmesidir.

Bu, korunmak için çok çalışmamız gereken geçerli bir endişe olsa da, AI’nın toplum için oluşturduğu en büyük tehdit gerçekten bu mu? Muhtemelen değil. 700’den fazla yapay zeka uzmanıyla yakın zamanda yapılan bir anket, çoğunun insan düzeyinde makine zekasının (HLMI) en azından 30 yıl uzakta.

Öte yandan, halihazırda elimizin altında olan ve politika yapıcılar hızlı bir şekilde harekete geçmezse toplum için büyük bir tehdit oluşturabilecek farklı türde bir kontrol sorunu konusunda derin endişe duyuyorum. Şu anda mevcut olan AI teknolojilerinin bireysel kullanıcıları aşırı hassasiyet ve verimlilikle hedeflemek ve manipüle etmek için kullanılabileceği artan olasılığından bahsediyorum. Daha da kötüsü, bu yeni biçim kişiselleştirilmiş manipülasyon geniş kitleleri etkilemek için kurumsal çıkarlar, devlet aktörleri ve hatta haydut despotlar tarafından geniş ölçekte konuşlandırılabilir.

‘Manipülasyon sorunu’

Bu tehdidi yukarıda açıklanan geleneksel Kontrol Sorunu ile karşılaştırmak için, ortaya çıkan bu yapay zeka riskine “Manipülasyon Sorunu” adını veriyorum. Neredeyse yirmi yıldır izini sürdüğüm bir tehlike ama son 18 ayda teorik uzun vadeli bir riskten yakın vadeli acil bir tehdide dönüştü.

Bunun nedeni, yapay zeka güdümlü insan manipülasyonu için en verimli ve etkili dağıtım mekanizmasının, konuşma yapay zekası. Ve geçen yıl boyunca, Büyük Dil Modelleri (LLM’ler) adı verilen dikkate değer bir yapay zeka teknolojisi hızla bir olgunluk düzeyine ulaştı. Bu, birdenbire hedeflenen kullanıcılar ile yapay zeka güdümlü yazılım arasındaki doğal konuşma etkileşimlerini uygulanabilir bir araç haline getirdi. ikna, baskı ve manipülasyon.

Tabii ki, AI teknolojileri zaten sürüş için kullanılıyor etki kampanyaları sosyal medya platformlarında, ancak teknolojinin gittiği yere kıyasla bu ilkel. Bunun nedeni, “hedefli” olarak tanımlanan mevcut kampanyaların kuş sürülerine saçma püskürtmeye daha çok benzemesidir. Bu taktik, birkaç etkinin işe yarayacağı umuduyla, geniş olarak tanımlanmış gruplara bir propaganda veya yanlış bilgilendirme yağmuru yönlendirir. nüfuz etmek topluluküyeleri arasında yankı uyandırır ve yayılır sosyal ağlar.

Bu taktik son derece tehlikelidir ve topluma gerçek zarar, toplulukları kutuplaştırmak, yalanları yaymak ve meşru kurumlara olan güveni azaltmak. Ancak, toplum üzerinde salınmak üzere olan yeni nesil yapay zeka güdümlü etki yöntemlerine kıyasla yavaş ve verimsiz görünecektir.

Gerçek zamanlı AI sistemleri

Hedeflenen kullanıcıları konuşma etkileşimlerine dahil etmek ve kişiselleştirilmiş hassasiyetle etkileme hedeflerini ustaca takip etmek için tasarlanmış gerçek zamanlı AI sistemlerinden bahsediyorum. Bu sistemler, üstü örtülü terimler kullanılarak konuşlandırılacaktır. Diyalog Reklamcılığı, İnteraktif pazarlama, Sanal SözcülerDijital İnsanlar ya da sadece Yapay Zeka Sohbet Robotları.

Ama onlara ne isim verirsek verelim, bu sistemler kötüye kullanım ve suiistimal için korkunç vektörlere sahiptir. Şüphelenmeyen tüketicilerin, hatalarla ve önyargılarla dolu verilerle eğitilmiş sohbet robotlarının çıktılarına güvenmeleri gibi bariz bir tehlikeden bahsetmiyorum. Hayır, çok daha alçakça bir şeyden bahsediyorum – kullanıcıları ikna edici etkileşimli diyalog yoluyla ikna eden gündem odaklı konuşma AI sistemlerinin hedefli konuşlandırılması yoluyla bireylerin kasıtlı olarak manipüle edilmesi.

Bu yeni AI yöntemleri, geniş popülasyonlara kurşun atmak yerine, kullanıcıları bireysel hedefler olarak işaretleyen ve konuşma taktiklerini gerçek zamanlı olarak uyarlayan ve ikna edici etkilerini en üst düzeye çıkarmak için çalışırken her bireye kişisel olarak ayarlanan “ısı güdümlü füzeler” gibi işlev görecek. .

Bu taktiklerin özünde, gerçek zamanlı olarak etkileşimli insan diyaloğu üretebilen ve aynı zamanda konuşma akışını ve bağlamını takip edebilen nispeten yeni LLM teknolojisi vardır. 2022’de ChatGPT’nin kullanıma sunulmasıyla popüler hale gelen bu yapay zeka sistemleri, o kadar büyük veri kümeleri üzerinde eğitiliyor ki, yalnızca öykünme konusunda yetenekli değiller. insan diliancak geniş olgusal bilgi depolarına sahiptirler, etkileyici mantıksal çıkarımlar yapabilirler ve insan benzeri bir sağduyu yanılsaması sağlayabilirler.

Gerçek zamanlı ses üretimi ile birleştirildiğinde, bu tür teknolojiler, insanlar ve makineler arasında son derece ikna edici, görünüşte rasyonel ve şaşırtıcı derecede otoriter olan doğal konuşma etkileşimlerini mümkün kılacaktır.

Dijital insanların ortaya çıkışı

Tabii ki, bedensiz seslerle değil, görsel olarak gerçekçi olan yapay zeka tarafından oluşturulmuş kişilerle etkileşim kuracağız. Bu beni AI Manipülasyon Problemine katkıda bulunacak hızla gelişen ikinci teknolojiye getiriyor: Dijital insanlar. Bu, gerçek insanlar olarak geçebilecekleri kadar otantik görünen, ses çıkaran, hareket eden ve ifadeler yapan fotogerçekçi simüle edilmiş insanları dağıtmayı amaçlayan bilgisayar yazılımının dalıdır.

Bu simülasyonlar etkileşimli olarak dağıtılabilir sözcü video konferans ve diğer düz düzenler aracılığıyla geleneksel 2D bilgi işlem yoluyla tüketicileri hedefleyen. Ya da üç boyutlu sürükleyici dünyalarda konuşlandırılabilirler. karma gerçeklik (MR) gözlük.

Gerçek zamanlı fotogerçekçi insan üretimi sadece birkaç yıl öncesine kadar ulaşılmaz görünse de, bilgi işlem gücü, grafik motorları ve yapay zeka modelleme tekniklerindeki hızlı gelişmeler, dijital insanları yakın vadede geçerli bir teknoloji haline getirdi. Aslında, büyük yazılım satıcıları bunu yaygın bir yetenek haline getirmek için şimdiden araçlar sağlıyor.

Örneğin, Unreal kısa süre önce kullanımı kolay bir araç başlattı. Meta-insan Yaratıcısı. Bu, gerçek zamanlı olarak canlandırılabilen inandırıcı dijital insanların yaratılmasını sağlamak için özel olarak tasarlanmıştır. etkileşimli katılım tüketicilerle. Diğer satıcılar da benzer araçlar geliştiriyor.

Gerçek insanlar gibi görünmek

Dijital insanlar ve LLM’ler birleştiğinde, düzenli olarak etkileşimde bulunduğumuz bir dünyayı mümkün kılacaktır. Sanal Sözcüler Gerçek kişiler gibi görünen, ses çıkaran ve davranan (VSP’ler).

Aslında, Lancaster Üniversitesi ve UC Berkeley’den araştırmacılar tarafından 2022’de yapılan bir araştırma, kullanıcıların artık gerçek insan yüzleri ile yapay zeka tarafından oluşturulan yüzler arasında ayrım yapamadıklarını gösterdi. Daha da rahatsız edici olanı, kullanıcıların yapay zeka tarafından oluşturulan yüzleri “daha güvenilir” gerçek insanlardan daha.

Bu, yakın gelecek için çok tehlikeli iki eğilime işaret ediyor. İlk olarak, gerçek insanlar kılığına girmek için yapay zeka güdümlü sistemleri devreye sokmayı bekleyebiliriz ve yakında aradaki farkı anlama yeteneğinden yoksun kalacağız. İkincisi, yapay zeka güdümlü yapay zeka güdümlü sistemlere gerçek insan temsilcilerinden daha fazla güvenmemiz olasıdır.

AI ile kişiselleştirilmiş görüşmeler

Bu çok tehlikeli çünkü yakında kendimizi içinde bulacağız. kişiselleştirilmiş konuşmalar (a) gerçek insanlardan ayırt edilemeyen, (b) gerçek insanlardan daha fazla güven uyandıran ve (c) şirketler veya devlet aktörleri tarafından, ister insanları ikna etmek olsun, belirli bir konuşma gündemini takip etmek için konuşlandırılabilen yapay zeka güdümlü sözcülerle belirli bir ürünü satın alın veya belirli bir yanlış bilgiye inanın.

Agresif bir şekilde düzenlenmediği takdirde, bu AI güdümlü sistemler aynı zamanda duyguları analiz etmek yüz ifadelerini, göz hareketlerini ve gözbebeği genişlemesini işlemek için gerçek zamanlı olarak web kamerası beslemelerini kullanarak – bunların tümü, konuşma boyunca duygusal tepkileri anlamak için kullanılabilir.

Aynı zamanda, bu AI sistemleri, bir konuşma boyunca değişen duyguları anlayarak vokal çekimleri işleyecektir. Bu, insanları etki odaklı bir sohbete dahil etmek için görevlendirilen sanal bir sözcünün, taktiklerini konuştuğu her kelimeye nasıl tepki verdiklerine göre uyarlayarak hangi etkileme stratejilerinin işe yarayıp hangilerinin yaramadığını tespit edebileceği anlamına gelir. Sohbete dayalı yapay zeka yoluyla yağmacı manipülasyon potansiyeli aşırıdır.

Konuşmaya Dayalı Yapay Zeka: Algısal ve istilacı

Yıllar boyunca, İnsanlardan Konuşmalı Yapay Zeka hakkındaki endişelerimi geri püskürttüm ve bana insan satış görevlilerinin duyguları okuyarak ve taktikleri ayarlayarak aynı şeyi yaptığını söylediler – bu yüzden bu yeni bir tehdit olarak görülmemeli.

Bu, birkaç nedenden dolayı yanlıştır. İlk olarak, bu AI sistemleri, hiçbir insan satış görevlisinin algılayamayacağı tepkileri algılayacaktır. Örneğin, yapay zeka sistemleri yalnızca yüz ifadelerini değil, aynı zamanda “mikro ifadeler“bir insan gözlemcinin fark edemeyeceği kadar hızlı veya çok incelikli, ancak duygusal tepkileri gösteren – kullanıcının ifade ettiğinden ve hatta hissettiğinden habersiz olduğu tepkiler dahil.

Benzer şekilde, AI sistemleri, ten rengindeki “” olarak bilinen ince değişiklikleri okuyabilir.kan akış modelleri” hiçbir insanın algılayamayacağı duygusal değişiklikleri gösteren yüzlerde. Ve son olarak, yapay zeka sistemleri, gözbebeği boyutundaki ve göz hareketlerindeki ince değişiklikleri izleyebilir ve katılım, heyecan ve diğer özel içsel duygular hakkında ipuçları çıkarabilir. Yönetmelikle korunmadığı sürece, Konuşmalı Yapay Zeka ile etkileşim kurmak, herhangi bir insan temsilcisiyle etkileşim kurmaktan çok daha algılayıcı ve istilacı olacaktır.

Uyarlanabilir ve özelleştirilmiş konuşmalar

Diyaloğa dayalı yapay zeka, özel bir sözlü sunum hazırlamada da çok daha stratejik olacaktır. Bunun nedeni, bu sistemlerin büyük olasılıkla bir kişinin ilgi alanları, görüşleri, geçmişi ve zaman içinde derlenen diğer ayrıntıları hakkında kapsamlı veri profillerine sahip büyük çevrimiçi platformlar tarafından dağıtılacak olmasıdır.

Bu, bir insan temsilcisi gibi görünen, ses çıkaran ve hareket eden bir Konuşmaya Dayalı Yapay Zeka sistemi devreye girdiğinde, insanların kendilerini herhangi bir insandan daha iyi tanıyan bir platformla etkileşime girdiği anlamına gelir. Buna ek olarak, önceki konuşma etkileşimleri sırasında nasıl tepki verdiklerine dair bir veri tabanı derleyerek onlar üzerinde hangi ikna edici taktiklerin etkili olduğunu ve hangi taktiklerin etkili olmadığını takip edecek.

Başka bir deyişle, Konuşmaya Dayalı Yapay Zeka sistemleri yalnızca anlık duygusal tepkilere değil, günler, haftalar ve yıllar boyunca davranışsal özelliklere de uyum sağlayacaktır. Sizi nasıl sohbete çekeceklerini öğrenebilirler, yeni fikirleri kabul etmeniz için size rehberlik edebilirler, sizi kızdırmak için düğmelere basabilirler ve sonunda sizi ihtiyacınız olmayan ürünleri ve istemediğiniz hizmetleri satın almaya yönlendirebilirler. Ayrıca, normalde saçma olduğunu fark edeceğiniz yanlış bilgilere inanmanız için sizi cesaretlendirebilirler. Bu son derece tehlikelidir.

Geniş ölçekte insan manipülasyonu

Aslında, Etkileşimli Yapay Zeka’nın etkileşimli tehlikesi, geleneksel veya sosyal medyayı kullanarak tanıtım, propaganda veya ikna dünyasında uğraştığımız her şeyden çok daha kötü olabilir. Bu sebeple inanıyorum düzenleyiciler tehlikeli sistemlerin konuşlandırılması yakında gerçekleşebileceğinden, bu konuya hemen odaklanılmalıdır.

Bu sadece tehlikeli içeriği yaymakla ilgili değil, geniş ölçekte kişiselleştirilmiş insan manipülasyonunu mümkün kılmakla ilgili. Bizi savunacak yasal korumalara ihtiyacımız var. bilişsel özgürlük bu tehdide karşı

Ne de olsa yapay zeka sistemleri şimdiden dünyanın en iyi satranç ve poker oyuncularını yenebilir. Ortalama bir insanın kişisel geçmişine erişimi olan, duygularını gerçek zamanlı olarak işleyen ve taktiklerini yapay zeka güdümlü hassasiyetle ayarlayan bir konuşma etkisi kampanyası tarafından manipüle edilmeye direnme şansı nedir? Hiç şansı yok.

Louis Rosenberg’in kurucusu oybirliğiyle yapay zeka ve VR, AR ve AI teknolojileri için 300’den fazla patent aldı.