Fikir – Bir sesle başladı. Temmuz ayı başında, Dışişleri Bakanları, Kongre Amerika Birleşik Devletleri üyesi ve oturan bir ABD Valisi, doğrudan Dışişleri Bakanı Marco Rubio’dan geliyor gibi görünen acil mesajlar aldı. Sinyale gönderilen sesli mesajlar ve metinler, bazı cevaplar ve bazı durumlarda endişe uyandıracak kadar otantikti. Ancak daha sonra bilgisayar güvenlik ekipleri gerçeği doğruladı: Rubio onları hiç göndermemişti. Sesi, kişisi, konuşma tonu bile yapay zeka tarafından ikna edici bir şekilde tahrif edildi, ABD’nin yeni bir dijital aldatma dönemine girdiğinin bir işareti.
Rubio’nun kazası artık nadir değil. Bu bir uyarı çekimi. Aslında, aynı hafta bir yabancı cumhurbaşkanı, bir bilim adamı, aktörler, şarkıcılar, bir askeri subay, bir grup lise kızı, çok sayıda yaşlı insan ve diğerleri hedeflendi. Devlet veya suçlu tarafından desteklenen rakipler, toplumun tüm sektörlerinde pratik olarak hedeflere ulaşmak için derin hiper -gerçekçi kullanıyorlar. Belirli zeka bilgileri arayan geleneksel casusluktan farklı olarak, DeepFakes daha da aşındırıcı bir şeyi hedefliyor: güven bana. Sırları çalmayarak değil, hedefleri aldatarak ve şüpheyi geri bırakarak çalışırlar.
Hem Rusya hem de Çin Halk Cumhuriyeti bu alanı artan bir arıtma ile benimsedi. Şu anda meşhur Doppelgänger kampanyası, Batı kurumlarında Ukrayna ve kırılma güvenini desteklemek için klonlanmış web siteleri ve haber manipülasyonları ile başladı. Geçen yıl, Rus operasyonları, siyasi bölünmeleri alevlendirmek veya yanlış adımlara neden olmak için tasarlanmış politikacıların ve gazetecilerin AS ve ses taklitleri tarafından oluşturulan videoları dağıtmak için genişledi.
Pekin’in yaklaşımı daha sessizdi ama daha az hırslıydı. Onun spamouflage ve Dragonbridge ağları, özellikle Tayvan’ın seçimleri gibi tartışmalı olaylar etrafında, yurtdışında anlatıları ekmek için AI tarafından oluşturulan çapa ve videoları kullanmaya başladı. Bunlar, gerçeği ve aldatmayı rastgele kontrolün üstesinden gelmek için tasarlanmış şekillerde birleştiren kesin ve sofistike etkisidir. Dezenformasyon ve sosyal mühendislik arasındaki çizgi gözlerimizin önünde çözülüyor.
Diğer rakipler de sınırları test etti. Ukrayna’daki Rusya’daki savaşın başlangıcında, Başkan Zelensky’nin teslim olmasını isteyecek derin bir videosu, dağılmadan önce çevrimiçi teslim oldu. 2023’te Slovakya, DeepFake’in seçimlerinde kamuoyunu etkileme girişimleriyle karşılaştı. Ve Avrupa’da, yasa koyucuların üretilen sesleri yanıltıcı, karıştırmak veya utandırmak için kullanılmıştır. Her kaza aşağıdaki aynı gerçekliği yansıtır: Aldatma araçları, bunları tespit etmek veya önlemek için güvendiğimiz sistemlerden daha hızlı, daha ucuz ve daha erişilebilir.
Bugün, DeepFakes tehditleri toplumun her katmanını geçiyor.
Kaydolun BT Girişleri Grubu Pazar bülteninde, bilgisayardaki uzmanlar ve günün teknolojik hikayeleri konusunda doğrudan posta kutunuza bilgiler sağlıyor. Kaydolun CIG bülten Bugün.
Kişisel düzeyde, Amerikalılar zaten yapay zeka tarafından yönlendirilen -uzun zamanında olmayan samimi görüntülerde ve gasp şemalarında bir artışla karşılaşmaya başladılar. Tehlikede olduğunu iddia eden bir çocuk veya eşin ikna edici bir sesli harf çağrısı, herhangi bir aileyi sarsmak için yeterlidir. Suçlular, aile seslerine güvenme içgüdüsünden yararlanıyor ve birçok aile bu dolandırıcılıkların hızı ve gerçekçiliği için hazırlanmıyor.
Organizasyonlar ve endüstriler de manzaralarda. Finansal kurumlar bir süredir vokal kimlik doğrulaması kullanmıştır, ancak bu güven onlara karşı ele alınabilir. Bir üst düzey yöneticinin rutin bir transfer veya eğitime izin veren bir CEO’nun yanlış vokal mesajı, eski güvenlik kontrollerini atlatabilir. Deepfake ile geliştirilen kimlik avı saldırıları zaten özel sektör yöneticilerini hedefliyor ve finans sektörüyle sınırlı kalmayacak. Tedarik zincirinin hem sağlık, enerji, lojistiği veya başkalarının kimliğinin doğrulanmasına dayanan herhangi bir endüstri, aynı artan tehditle yüzleşmek zorunda kalacaktır.
Ulusal düzeyde, çıkarımlar derindir. Deepfakes, zaten kutuplaşmış bir toplum aracılığıyla takozlara rehberlik edebilir. Yetkisiz birliklerin hareketlerini veya yapay zekanın bir üyesi tarafından üretilen bir skandalı onaylayan bir çağrı duyuran bir Amerikan generalinin sentetik bir videosunu hayal edin. Yüzsüz olmasına rağmen, hasar toz olurdu. Rakipler, şüphenin ikna kadar güçlü olabileceğini ve yaygın olarak tekrarlanan sahte anlatıların kurumsal güvenilirliği onarılabileceğinden çok daha hızlı aşındırabileceğini anlıyorlar.
Teknolojinin cevaptan önce çalıştığı bu ortamda, Amerika Birleşik Devletleri zorlukla yüzleşmek için daha fazlasını yapmalıdır. Bugün ikna edici bir vokal klonun oluşturulması, sadece 15 saniye ses gerektirir (sosyal medyanın medya klibinde mevcut olandan daha az). Gerçekçi yanlış videolar, ücretsiz veya düşük maliyetli araçlarla makinenin hızında oluşturulabilir. Federal ajanslar ve özel şirketler tespit yöntemleri geliştirirken, bu sistemler yeni nesil üretken modellerle sürekli bir silahlanma yarışında.
Geleneksel istihbarat tehditlerinden (hatta suçlu) aksine, Derin her zaman sırları çalmayı hedeflemez. Demokrasinin en temel unsurundan yararlanmayı amaçlıyorlar: neyin doğru olduğunu bilme yeteneğimiz. Bu değişim onları tespit etmeyi zorlaştırıyor ve son derece etkili hale getiriyor.
Cipher’in özeti, ulusal ve küresel güvenlik öykülerindeki uzmanlar düzeyinde bir bağlam getiriyor. Dünyada neler olduğunu anlamak hiç bu kadar önemli olmamıştı. Özel içeriğe erişiminizi güncelleyin abone ol.
Ülkeyi derinlemesine tutamamaktan korumak, tehdidin kendisi olarak dinamik ve çok katmanlı bir tepki gerektirir. Teknoloji ilk savunma hattıdır. Diliş, kriptografik imzalar ve yapay zekaya dayalı tespit yoluyla dijital medyanın kökeni ve özgünlüğünü doğrulayabilen araçlar, hükümet ve endüstri boyunca yayılmış araştırma atölyelerinden geçmelidir. Hızlı, birlikte çalışabilir ve birkaç saniye içinde ikna edici yanlış yanlış üretebilen rakiplere ayak uydurabilmelidirler.
Yine de teknoloji tek başına yeterli değil. Amerikalılar artık inanmadıklarını görmek ve dinlemek için yeni bir dünyada gezinmeyi öğrenmek zorundalar. Halk eğitimi kampanyaları ve çalışma eğitimi, insanların şüpheli istekleri tanımasına, alternatif kanallar aracılığıyla bilgileri kontrol etmelerine ve şüpheli manipülasyonu raporlamalarına yardımcı olabilir. Finanstan sağlık hizmetlerine kadar kritik sektörler, derinlerin tehlikede olduğunu ve kilit eylemler için birden fazla faktör için bir doğrulama gerektirdiğini varsayan doğrulama protokollerini benimsemelidir.
Aynı derecede önemli olan, yanıttaki hızdır. Derin bir yayıldığında, hasarını sınırlamak için pencere kısadır. Ajanslar ve halka açık karakterler, krizlerin iletişimi için açık ve önceden hak edilen kanalları korumalıdır ve hızlı müdahale ekipleri taklitleri ortadan kaldırmaya ve halkı güvence altına almaya hazır olmalıdır. Tayvan’ın “222” prensibi – iki saat içinde derinden mezun, iki görüntü ve 200 kelime (sosyal medyanın paylaşılmasını kolaylaştırmak için), demokrasilerin dijital çağda nasıl etkili bir şekilde tepki verebileceği konusunda bir model sunuyor.
Son olarak, Amerika Birleşik Devletleri bu zorlukla tek başına yüzleşemez. Tehdit zekasını paylaşmak, ortak tespit resimleri oluşturmak ve sentetik medyanın kullanımı için uluslararası kurallar oluşturmak, demokratik dünyaya olan güveni savunmak için gerekli olacaktır.
Belirtildiği gibi, Sekreter Rubio’nun taklit derinliği izole bir eylem değildi. Kamu güveninin temellerini doğrulamak uzun bir kampanyada açılış hareketi. Rakipler Amerikalıları liderlerinin seslerinden, haberlerinin özgünlüğünden veya kurumlarının güvenliğinden şüphe duyabilirlerse, çekim yapmadan stratejik hedeflere ulaşabilirler.
Teknik savunmalar gerekli olmasına rağmen, bu zorluğun başarısı daha fazla teknik çözüm gerektirecektir. Güvenin artık saldırı altında olan stratejik bir kaynak olduğunu kabul etmede kültürel bir değişiklik gerektirecektir. Teknoloji, eğitim, siyaset ve uluslararası işbirliğini karıştırarak ABD bu güveni savunabilir. Ve yapay üretken zekadaki teknolojik ilerleme hızı ile, harekete geçmeyi beklemek tüm seçeneklerin en kötüsüdür.
Dijital aldatma dönemi burada ve ulaşmamızı beklemeyecek. Sesler, yüzler ve olaylar birkaç saniye içinde dövülebilir ve sonuçlar gerçeğin ortaya çıkmasından uzun bir süre kalır. Kurumlarımıza, liderlerimize ve karşılıklı olarak güveni korumak artık ulusal güvenlik meselesidir. Yanıtımız, bu yüzyılın hikayesinin kendi sözlerimizle mi yoksa bizi bölünmüş görenlerin kurgularında mı anlatılacağına karar verecektir.
İfade edilen görüşler yazarın görüşleridir ve Cipher’in özetinin görüşlerini veya görüşlerini temsil etmez.
Cipher’in özeti, derin deneyimli ulusal güvenlik profesyonelleri tarafından sunulan ulusal güvenlik sorunları hakkında bir dizi beklenti yayınlamayı taahhüt eder.
Ulusal güvenlik alanındaki deneyiminize dayanarak paylaşmanız gereken bir perspektifiniz var mı? Yayın dikkate almak için [email protected] adresine gönderin.
Uzmanlara, perspektife ve analizlere dayalı ulusal güvenlik hakkında daha fazla bilgi edinin Cixer Briff