Tespit, Derin Sahtekarlıkların Bir Adım Önünde Kalıyor—Şimdilik

Sentetik medya oluşturma ve algılama, her iki tarafın da diğerinin üzerine inşa edildiği bir silahlanma yarışıdır. Yeni bir algılama yöntemi verildiğinde, birisi onu kandırmada daha iyi hale gelmesi için genellikle bir nesil algoritmayı eğitebilir. FakeCatcher’ın önemli bir avantajı, türevlenebilir olmamasıdır; bu matematiksel bir terimdir, yani üreteçleri eğitmek adına kolaylıkla tersine mühendislik uygulanamaz.

Intel’in platformu da sonunda bir sistem Demir ve Çiftçi yakın zamanda yüz hareketine dayanan bir sistem geliştirdiler. Doğal hareket yüz yapısına uyarken, derin hareket farklı görünür. Dolayısıyla, bir sinir ağını ham video üzerinde eğitmek yerine, yöntemleri önce videoya bir hareket büyütme algoritması uygulayarak hareketi bir sinir ağına beslemeden önce daha belirgin hale getiriyor. Bir testte, sistemleri yalnızca bir videonun sahte olup olmadığını değil, aynı zamanda birkaç algoritmadan hangisinin onu oluşturduğunu yüzde 97 doğrulukla tespit etti; bu, bir sonraki en iyi sistemden yüzde üç puan daha iyi.

bilgi

Araştırmacılar Santa Barbara’daki Kaliforniya Üniversitesi yakın tarihli bir makalede benzer bir yaklaşım benimsedi. Michael GöbelUCSB’de elektrik mühendisliği alanında doktora öğrencisi ve bir makalenin ortak yazarı olan , bir algılama yöntemleri yelpazesi olduğunu belirtiyor. “Bir uçta, yalnızca saf derin öğrenme olan çok kısıtlanmamış yöntemleriniz var”, yani mevcut tüm verileri kullanıyorlar. “Diğer uçta, bakışları analiz etmek gibi şeyler yapan yöntemleriniz var. Bizimki biraz ortada.” Onların sistemi, denilen AşamaAdli Tıp, dudaklara odaklanır ve bu sindirilmiş verileri bir sinir ağına sağlamadan önce çeşitli frekanslarda hareketle ilgili bilgileri çıkarır. Goebel, “Hareket özelliklerini kullanarak, sinir ağının öğrenmesini istediğimiz bazı şeyleri bir tür sabit kod haline getiriyoruz” diyor.

Bu orta yolun faydalarından birinin genellenebilirlik olduğunu belirtiyor. Kısıtlanmamış bir detektörü bazı nesil algoritmalardan gelen videolar üzerinde eğitirseniz, bunların imzalarını algılamayı öğrenir, ancak diğer algoritmaların imzalarını algılaması zorunlu değildir. UCSB ekibi PhaseForensics’i bir veri kümesi üzerinde eğitti ve ardından bunu diğer üç veri kümesi üzerinde test etti. Doğruluğu yüzde 78, yüzde 91 ve yüzde 94 idi; ilgili her bir veri kümesindeki en iyi karşılaştırma yönteminden yaklaşık yüzde dört puan daha iyiydi.

Sesli derin sahtekarlıklar da bir sorun haline geldi. Ocak ayında, birisi sahte bir dosya yükledi. klips aktris Emma Watson’ın Hitler’in bir bölümünü okuması Kavgam. Burada da araştırmacılar olayla ilgileniyor. İçinde Tek bir yaklaşımbilim adamları Florida üniversitesi insan ses yolunu modelleyen bir sistem geliştirdi. Gerçek ve sahte ses kayıtları üzerine eğitilerek, ses üreten bir hava yolu boyunca çeşitli mesafelerdeki kesit alanları için bir dizi gerçekçi değer yarattı. Yeni bir şüpheli örnek verildiğinde, bunun biyolojik olarak makul olup olmadığını belirleyebilir. Makale, bir veri kümesinde yaklaşık yüzde 99’luk bir doğruluk bildiriyor.

Algoritmalarının, ona karşı savunma yapmak için belirli bir nesil algoritmadan derin sahte ses görmüş olması gerekmez. Napoli’den Verdoliva, buna benzer başka bir şey geliştirdi. yöntem. Algoritma, eğitim sırasında konuşmacıların biyometrik imzalarını bulmayı öğrenir. Uygulandığında, belirli bir konuşmacının gerçek kayıtlarını alır, biyometrik imzayı bulmak için öğrendiği teknikleri kullanır ve ardından şüpheli bir kayıtta bu imzayı arar. Bir test setinde, 1,0 üzerinden 0,92’lik bir “EAA” puanı (yanlış pozitifleri ve yanlış negatifleri hesaba katar) elde etti. En iyi yarışmacı 0.72 puan aldı.

Verdoliva’nın grubu, yapay zeka tarafından veya Photoshop’ta eski moda kes-yapıştır yöntemiyle değiştirilmiş olsun, oluşturulan ve manipüle edilen görüntülerin belirlenmesi üzerinde de çalıştı. adlı bir sistemi eğittiler. TruFor 1.475 kameradan alınan fotoğraflar üzerinde ve bu tür kameraların bıraktığı imza türlerini tanımayı öğrendi. Yeni bir görüntüye bakıldığında, farklı yamalar arasındaki uyumsuzlukları (hatta yeni kameralardan bile) algılayabilir veya tüm görüntünün makul bir şekilde bir kameradan gelmiş gibi görünüp görünmediğini anlayabilir. Bir testte TruFor, 0,86’lık bir AUC puanı alırken, en iyi rakibi 0,80 puan aldı. Ayrıca, bir görüntünün hangi bölümlerinin yargıya en çok katkıda bulunduğunu vurgulayabilir ve insanların çalışmasını iki kez kontrol etmesine yardımcı olur.

Lise öğrencileri artık içerik oluşturmak için yapay zekayı kullanma oyununu düzenli olarak oynuyor ve metin oluşturma sistemini harekete geçiriyor. ChatGPT denemeler yazmak için Çözümlerden biri, adı verilen bu tür sistemlerin yaratıcılarına sormaktır. büyük dil modelleri, oluşturulan metne filigran eklemek için. Araştırmacılar Maryland Üniversitesi son zamanlarda önerilen yöntem Rastgele bir dizi yeşil listeye alınmış kelime dağarcığı oluşturur, ardından yazarken bu kelimelere hafif bir tercih verir. Yeşil listedeki kelimelerin bu (gizli) listesini biliyorsanız, muhtemelen algoritmadan gelip gelmediğini anlamak için bir metin parçasında bunların baskınlığına bakabilirsiniz. Sorunlardan biri, artan sayıda güçlü dil modelinin olması ve hepsinin çıktılarına filigran eklemesini bekleyemeyiz.

Bir Princeton öğrencisi olan Edward Tian, ​​adında bir araç yarattı. GPTZero tarafından yazıldığına dair işaretler arar. ChatGPT filigran olmadan bile. İnsanlar daha şaşırtıcı kelime seçimleri yapma ve cümle uzunluğunda daha fazla dalgalanma eğilimindedir. Ancak GPTZero’nun sınırları var gibi görünüyor. bir kullanıcı GPTZero’yu küçük bir teste tabi tutmak yapay zeka tarafından yazılan 10 metinden 10’unu doğru bir şekilde sentetik olarak işaretlediğini, ancak aynı zamanda insan tarafından yazılmış 10 metinden 8’ini de yanlış bir şekilde işaretlediğini buldu.

Yapay metin algılama, büyük olasılıkla diğer ortamlarda algılamanın çok gerisinde kalacaktır. Buna göre tom goldsteinMaryland Üniversitesi’nde filigran makalesinin yazarlarından biri olan bilgisayar bilimi profesörü, bunun nedeni, insanların dili kullanma biçiminde çok fazla çeşitlilik olması ve fazla sinyal olmamasıdır. Bir denemede birkaç yüz kelime olabilirken, bir resimdeki bir milyon piksel olabilir ve piksel rengindeki ince varyasyonların aksine kelimeler ayrıktır.

Sentetik içeriği tespit etmede tehlikede olan çok şey var. Öğretmenleri, mahkemeleri veya seçmenleri etkilemek için kullanılabilir. Küçük düşürücü veya korkutucu yetişkin içeriği üretebilir. Deepfakes fikri, dolayımlanmış gerçekliğe olan güveni aşındırabilir. Demir bu geleceği “distopik” olarak adlandırıyor. Kısa vadeli, diyor, algılama algoritmalarına ihtiyacımız var. Uzun vadede, belki de filigranlar veya blok zincirleri içeren, kaynak oluşturan protokollere de ihtiyacımız var.

Verdoliva, algılama yöntemleri hakkında “İnsanlar her şeyi mükemmel bir şekilde yapabilen ve hatta açıklayabilen sihirli bir araca sahip olmak istiyor” diyor. Böyle bir şey yoktur ve muhtemelen olacaktır. “Birden çok araca ihtiyacınız var.” Bir dedektör titremesi derin sahtekarlıkları ortadan kaldırabilse bile, içerik kaybolmadan önce en azından kısa bir çevrimiçi ömre sahip olacaktır. Etkisi olacak. Verdoliva, teknolojinin tek başına bizi kurtaramayacağını söylüyor. Bunun yerine, insanların yeni, gerçeklikle dolu olmayan gerçeklik hakkında eğitilmesi gerekiyor.