Pazartesi günü bir tweet attı Pentagon’da büyük bir patlama olduğunu düşündüren yapay zeka tarafından oluşturulan görüntü, borsada bildirilen küçük bir düşüşü de içeren kısa bir kafa karışıklığına yol açtı. Tanınmış Bloomberg medya şirketiyle bağlantısı olmayan “Bloomberg Feed” adlı doğrulanmış bir Twitter hesabından kaynaklandı ve kısa sürede bir aldatmaca olduğu ortaya çıktı. Ancak, çürütülmeden önce, Russia Today gibi büyük hesaplar zaten yanlış bilgileri yaymıştı. Washington Post bildirdi.
Sahte görüntü, “Washington DC’deki Pentagon Kompleksi yakınlarında Büyük Patlama – İlk Rapor” tweetiyle belli belirsiz Pentagon’u anımsatan bir binanın yanında büyük bir siyah duman bulutunu gösteriyordu. Daha yakından incelendiğinde, yerel makamlar görüntünün Pentagon’u tam olarak yansıtmadığını doğruladı. Ayrıca, bulanık çit çubukları ve bina sütunları ile, aşağıdaki gibi bir model tarafından oluşturulan yapay zeka tarafından oluşturulmuş oldukça özensiz bir görüntüye benziyor: Kararlı Difüzyon.
Post’a göre Twitter, sahte Bloomberg hesabını askıya almadan önce 224.000 kez tweet attı ve 1.000’den az takipçiye ulaştı, ancak hesabı kimin yönettiği veya yanlış imajı paylaşmanın ardındaki nedenler belli değil. Bloomberg Feed’e ek olarak, asılsız raporu paylaşan diğer hesaplar arasında her ikisi de gerçek Bloomberg organizasyonuyla bağlantısı olmayan “Walter Bloomberg” ve “Breaking Market News” yer alıyor.
Bu olay, yapay zeka tarafından üretilen görüntülerin alelacele paylaşılan sosyal medya ve Twitter’daki ücretli bir doğrulama sistemi alanında sunabileceği potansiyel tehditlerin altını çiziyor. Martta, Donald Trump’ın tutuklanmasına ilişkin sahte görüntüler Midjourney ile oluşturulan geniş bir kitleye ulaştı. Açıkça sahte olarak işaretlenmiş olsalar da, gerçekçilikleri nedeniyle onları gerçek fotoğraflarla karıştırma korkusu uyandırdılar. Aynı ay, yapay zeka tarafından oluşturulan görüntüler Beyaz önlüklü Papa Francis sosyal medyada görenleri kandırdılar.
Kabarık paltolu papa bir şeydir, ancak birisi sahte bir tweet’te Birleşik Devletler Savunma Bakanlığı’nın karargahı gibi bir hükümet konusuna yer verdiğinde, sonuçlar potansiyel olarak daha ciddi olabilir. Twitter’daki genel kafa karışıklığının yanı sıra, aldatıcı tweet borsayı etkilemiş olabilir. Washington Post, Dow Jones Sanayi Endeksi’nin tweet’in yayılmasından sonra dört dakika içinde 85 puan düştüğünü ancak hızla toparlandığını söylüyor.
Sahte tweet konusundaki kafa karışıklığının çoğu, yeni sahibi Elon Musk yönetimindeki Twitter’da yapılan değişikliklerle mümkün olmuş olabilir. Misk işten çıkarmak devralmasından kısa bir süre sonra içerik denetleme ekipleri hesap doğrulama sürecini büyük ölçüde otomatikleştirdi ve herkesin mavi onay işareti için ödeme yapabileceği bir sisteme geçiş yaptı. Eleştirmenler tartışmak bu uygulama, platformu yanlış bilgilere karşı daha duyarlı hale getirir.
Yetkililer yanlışlıklar nedeniyle patlama fotoğrafının sahte olduğunu kolayca seçebilse de, Midjourney ve Stable Diffusion gibi görüntü sentezi modellerinin varlığı, ikna edici sahte fotoğraflar oluşturmak için artık sanatsal beceri gerektirmediği, giriş engellerini indirdiği ve potansiyel olarak otomatikleştirilmiş fotoğraf makinelerine kapıyı açtığı anlamına geliyor. yanlış bilgilendirme makineleri Twitter gibi bir platformun viral doğası ile birleştiğinde sahte oluşturmanın kolaylığı, yanlış bilgilerin kontrol edilebileceğinden daha hızlı yayılabileceği anlamına gelir.
Ancak bu durumda, etki yaratmak için görüntünün yüksek kalitede olması gerekmiyordu. İnsan hakları örgütü Witness’ın yönetici direktörü Sam Gregory, The Washington Post’a, insanların inanmak istediklerinde gardlarını indirdiklerini ve paylaşmadan önce bilginin doğruluğuna bakmadıklarını belirtti. Sahte Pentagon imajını “sığ bir sahte” olarak nitelendirdi (daha inandırıcı bir imajın aksine).derin sahte“).
“İnsanların bu sığ sahtekarlıklara maruz kalma biçimleri, bir şeyin dikkat çekmesi için başka bir şeye tıpatıp benzemesine gerek yok” dedi. “İnsanlar tam olarak doğru görünmeyen ama doğru hissettiren şeyleri kolayca alıp paylaşacaklar.”