Bağımsız filtre yaratıcılarına göre, geçen ay piyasaya sürülmesinden bu yana 16 milyondan fazla indirilen Bold Glamour, akıllı telefonu olan herkesin gerçek zamanlı olarak geliştirilmiş bir sürümünü veya avatarını oluşturmak için kullanabileceği en inandırıcı efektlerden birini sunuyor. , araştırmacılar ve yaratıcı teknoloji uzmanları.
Diğer fotoğraf filtrelerinin aksine Bold Glamour, çok fazla hareket olduğunda veya kullanıcının yüzünün önünden bir el geçtiğinde duraksamıyor. Yüzleri gerçek zamanlı olarak değiştirir ve başıboş sahte kirpikler olmaz. Kullanıcılar yanaklarını çekerek ve kaşlarını çekiştiriyorlar çünkü yapamıyorlar inanmak ne görüyorlar
TikTok sözcüsü Alexa Youssefian, filtrenin arkasındaki teknolojiyi tartışmayı reddetti, ancak kullanıcılar ve araştırmacılar, filtrenin insanların cilt tonlarını, algılanan cinsiyetini ve saç rengini okuduğunu, ardından makyaj miktarını, dudak dolgusunu ve dudak dolgusunu belirlediğini söylüyor. cilt germe belirli bir SoCal etkileyici görünümüne başvurmak için. Ve yapay zeka bu süreci yönlendiriyor olabilir.
Bir sosyal medya filtresi yaratıcısı olan Laura Gouillon, The Washington Post’a “Görünüşe göre filtre Kylie Jenner’ın yüzünü bir makine öğrenme algoritması için model olarak kullanmış ve sonra onun yüzünü benimkiyle harmanlamış” dedi.
Etkisi muhtemelen kendini öğretiyor makyaj teknikleri dedi. Gouillon, “Önceki güzellik filtrelerinde, kullanıcının yüzüne bir yüz ağı yerleştirildi, bu nedenle yüzü bir el veya saç kaplarsa, efekt parladı” dedi. “Bu filtre, bu özellikleri yüzünüzle birleştirmek için muhtemelen makine öğrenimi teknolojisini kullanıyor.”
Berkeley’deki California Üniversitesi’nde bilgisayar bilimi profesörü olan Hany Farid, filtrenin muhtemelen “üretici yapay zekaYeni resimler veya kelimeler oluşturmak için genellikle internetten kazınmış zilyonlarca resim ve metin örneğini inceleyen bir teknoloji. (Farid, 2020’den 2022’ye kadar TikTok’un içerik danışma konseyinin bir üyesiydi.)
Snapchat ve Instagram filtreleri oluşturan Luke Hurd, tweet attı Bold Glamour efektinin makine öğrenimini kullandığını.
“Üretken Düşman Ağı denen bir şey kullanıyorlar,” dedi. “Kullanıcının bir görüntüsünü alıyorlar ve ardından bunu diğer görüntülerden oluşan bir veri kümesiyle karşılaştırıyorlar ve ardından kamera yayınınızın çıktısında yüzünüzü piksel piksel yeniden çiziyorlar.”
MIT Open Documentary Lab’de ikamet eden yaratıcı bir teknoloji uzmanı olan Halsey Burgund, filtrenin erişilebilirliğinin onu önceki görsel manipülasyon araçlarından ayıran şey olduğunu söyledi.
“Videolarda kendinizi ve yakında başkalarını inandırıcı bir şekilde manipüle etme kapasitesi ticarileşti. [through this effect]ve bu gerçek sıçrama, ”dedi. “Bu teknoloji bir süre laboratuvarlarda, şirketlerde ve web’de daha ezoterik ortamlarda yaşadı, ancak artık herkes bunu ücretsiz olarak yapabilir ve nasıl çalıştığını görebilir.”
Bold Glamour içeren videolar, kullanıcının hipergerçekçi etki uyguladığını belirten bir etiket olmadan internette yayınlanabilir ve araştırmacılar, internette neyin gerçek olduğuna inanmanın giderek daha zor hale geleceği konusunda uyardı.
“Bold Glam etkisi, teknolojinin çok yakında yaratacağının bir işaretidir. derin sahtekarlıklar San Diego’daki California Üniversitesi’nde hesaplamalı sanat ve tasarım profesörü olan Memo Akten, “Ayrıca yaygınlaştırılabilir,” dedi. “Bu, teknolojinin piyasaya sürüleceği anlamına gelmiyor, sadece piyasaya sürülebileceğinin bir işareti.”
Deepfake’ler, video veya diğer ortamlardır. yapay zeka insanlara gerçekte hiç olmamış şeyleri yaptıklarını göstermek için.
TikTok’taki Bold Glamour videoları, kullanıcı şeffaflığı için doğrudan video üzerinde bir etiketle gösterilir, ancak videolar uygulamanın dışına taşınırsa bu etiket kaybolur.
Şirket sözcüsü Youssefian, diğer uygulamalara aktarılan videoları bırakan uyarı etiketiyle ilgili endişeleri gidermeyi reddetti. “TikTok, yalnızca kullanıcıların TikTok’taki deneyimleriyle konuşabilir” dedi.
TikTok ana şirketi ByteDance, Çin’e ait şirketin veri toplamasının bir güvenlik tehdidi oluşturabileceği endişeleri nedeniyle yıllardır inceleme altında.
Son zamanlarda, BİZ, Kanadalı ve diğer hükümetler, federal çalışanların TikTok’u hükümet cihazlarından silmesini, potansiyel gözetim konusundaki endişelerini öne sürerek zorunlu kıldı. En az 28 ABD eyaleti uygulamayı yasakladı hükümet cihazları hassas ve gizli verilere yönelik belirtilmemiş riskler nedeniyle. İki partiden oluşan bir senatör grubu tanıtıldı Salı günü, ABD Ticaret Bakanlığı’na TikTok’u veya yabancı ülkelerde bulunan diğer uygulamaları yasaklama yetkisi verecek bir yasa tasarısı.
Çarşamba günü Beyaz Saray basın sekreteri Karine Jean-Pierre, Biden yönetiminin ByteDance ile ilgili olduğu için ulusal güvenlik konusunda “endişeleri” olduğunu söyledi.
Wellesley Kadın Merkezleri’nde kıdemli araştırma bilimcisi Linda Charmaraman, filtrenin ortaya çıkardığı teknolojik kaygıların yanı sıra, Bold Glamour’un özellikle gençler ve diğer gençler olmak üzere kullanıcılarda yetersizlik duygularına ve gerçekçi olmayan beklentilere de katkıda bulunabileceğini söyledi.
Zorladığı gözeneksiz, airbrushed güzellik standardı, binlerce dolar değerinde plastik cerrahi ve makyaj olmadan gerçek dünya normundan çok uzak.
Charmaraman, “Genç insanlar tarafından gözetimsiz kullanılan ve daha sonra içselleştirilen güzellik filtreleri endişe verici” dedi. “Bold Glam filtresi çok gerçekçi ve filtre olduğu daha az belli oluyor. İşte bu yüzden genç kullanıcıların, özellikle de kadınların özgüvenine zarar verebilir.”
İnsanlar, Bold Glamour etkisinin ne kadar “korkutucu iyi” olduğuna dair şok tepkiler verdiler; Bazıları, etkinin onları modelleme için seçmelere katılmaları gerektiğini gösterdiğini söyledi ve diğerleri, filtrenin o kadar gerçek göründüğü ve olması gerektiği konusunda şaka yaptı. yasadışı. Bir TikTok kullanıcısı “Tamamen farklı biri gibi görünüyorum” yazdı.
Akten, uygulamaların yıllardır yüzleri iyileştirdiğini ve görünümleri filtrelediğini, ancak “eğlenceli” göründüğünü söyledi. Bold Glamour etkisinin “uğursuz” hissettirdiğini söyledi.
Akten, “Bilim kurgu filmlerinde gördüğümüz, artık neyin gerçek olduğunu anlayamadığımız bir dünyaya doğru atılmış bir adım” dedi. “Bunun sonucu olarak, artık neye inanacağımızı veya kime güveneceğimizi bilemeyeceğiz.”
Heather Kelly ve Tony Romm bu rapora katkıda bulundu.