Çin hükümeti yanlısı propaganda yapan yapay zeka tarafından oluşturulan haber spikerlerinin yer aldığı çevrimiçi Deepfake videoları, muhtemelen Spamouflage adlı üretken bir dezenformasyon ekibinin yaratımlarıdır.
Bu videolar, “Graphika’nın duruma göre hizalanmış IO’yu ilk kez gözlemlediğini” temsil ediyor [influence operation] sosyal medya analiz firmasının araştırmacıları, bir raporda Spamouflage derin sahtekarlıklarını detaylandırarak, operasyonlarında yapay zeka tarafından oluşturulan hayali kişilerin video görüntülerini kullanan aktörler” dedi. [PDF] Bu hafta.
Videolar, her ikisi de Wolf News adlı bir medya şirketi için habercilik yaptığını iddia eden bir erkek ve kadın yayıncıyı gösteriyor. Birinde, haber spikeri Amerika’yı silahlı şiddeti durdurmadaki başarısızlıklarından dolayı kınıyor. Diğeri, küresel ekonomik toparlanma çabalarında Çin-ABD işbirliğine duyulan ihtiyacı vurguluyor.
Graphika, “İlk bakışta, Wolf News sunucuları gerçek insanlar gibi görünüyor,” dedi. “İlk hipotezimiz, videolarda görünmeleri için işe alınan ücretli oyuncular olduklarıydı.”
Graphika ve diğer araştırmacılar Zalimleri Dragonbridge olarak izleyen ve daha önceki dezenformasyon kampanyalarında kamera önünde gerçek insanları kullandıklarını belgeleyen Google da dahil.
Mürettebatın diğer etki operasyonlarından bazıları, karışmak 2022 Amerikan ara seçimlerinde ve Trollemek Nadir toprak madenciliği şirketlerinin binlerce sahte sosyal medya hesabını kullanarak Pentagon’un sert parmak sallamasına yol açması.
Graphika araştırmacıları, “Ancak daha fazla araştırma, Wolf News sunucularının neredeyse kesinlikle Synthesia adlı bir İngiliz AI video şirketi tarafından sağlanan teknoloji kullanılarak yaratıldığını ortaya çıkardı.”
Ters görüntü aramaları, Spamouflage Wolf News yayınında görünen aynı erkek ve kadın “haber spikerlerini” gösteren bir ton ilgisiz videoyu ortaya çıkardı. AI tarafından üretilen insanlar bu videolarda Arapça, Rumence, İspanyolca ve İngilizce dahil olmak üzere birçok dilde konuşurlar. Bu navlun komisyonculuğu hizmetlerini teşvik etmek.
İçinde erkek spiker, “Merhaba, benim adım Bay Cruise. Ve ben bir avatarım” diyor.
Seyir bunlardan biridir Synthesia’nın “100+” avatarıve adının Jason olduğu ortaya çıktı. Wolf News videolarındaki kadın spiker Anna’dır.
sentez etik sayfası teklif etmeyeceğini söylüyor [its] genel kullanım için yazılım. Tüm içerik, güvenilir müşterilerimize yayınlanmadan önce açık bir dahili tarama sürecinden geçecektir.”
Ek olarak, onun avatar SSS sayfası avatarların söyleyebileceklerinin ve söyleyemeyeceklerinin sınırları olduğunu söylüyor: “Siyasi, cinsel, kişisel, suç teşkil eden ve ayrımcı içeriklere müsamaha gösterilmez veya onaylanmaz.”
Spamouflage’ın sahte haberleri her iki politikayı da ihlal eder. Yorum için Synthesia’ya ulaşılamadı. Synthesia’nın kurucu ortağı ve CEO’su Victor Riparbelli, söylenmiş New York Times bu haftanın başlarında Spamouflage, videolarını yapmak için teknolojiyi kullanarak Synthesia’nın hizmet şartlarını çiğnedi.
Yani Spamouflage bir şekilde Synthesia’nın teknolojisini ele geçirdi ve Synthesia’nın kurallarına aykırı olarak içeriğini üretmek için kullandı. Synthesia’nın yanlış yaptığına dair bir öneri yok.
Sırasında Devlet kurumları Ve güvenlik araştırmacıları Graphika’ya göre, ikisi de çok uzak olmayan bir gelecekte siyasi nüfuz operasyonlarında kullanılan derin sahtekarlıklarla ilgili alarm verdi, şimdiye kadar yapay zeka tarafından üretilen medya büyük ölçüde sahte yüzlerle sınırlıydı – tamamen sahte insanlarla değil.
Ancak, avatarların kullanılmasına rağmen, Spamouflage videolarının geri kalanı “düşük kaliteli siyasi spam” gibi görünüyor, diye yazdı araştırmacılar, yankılanarak Google’ın değerlendirmesi yüzde 83’ü 100’den az izlenen mürettebatın YouTube videolarının yüzdesi.
Rapor, ek olarak, haber yayınlarının derin sahte unsurunun şirket içi yeteneğin aksine “neredeyse kesinlikle ticari bir hizmet kullanılarak oluşturulduğu” sonucuna vardı. Bu, Spamouflage ve diğerlerinin son derece karmaşık derin sahtekarlıkları kaldıracak teknik uzmanlığa sahip olmadığını ve mevcut ticari araçları kullanmaya devam edeceklerini gösteriyor.
Ancak, Graphika’nın da belirttiği gibi, “bu aynı zamanda, bu ürün ve hizmetlerin kullanımının etkin bir şekilde nasıl yönetileceğine dair soruları da gündeme getiriyor.” ®