Kararlı Difüzyon
Perşembe günü, Microsoft Başkanı Brad Smith, AI hakkındaki en büyük endişesinin, derin sahtekarlıklar ve aldatmak için tasarlanmış sentetik medya, Reuters raporları.
Smith, sözlerini açıklarken “taslak yapay zekanın kamu yönetişimi için” başlıklı bir konuşmada gezegen dünya, Washington, DC’de bir dil sanatları müzesi. Endişeleri, büyük ölçüde OpenAI’nin ChatGPT’sinin popülaritesi ve bir siyasi tur OpenAI CEO’su Sam Altman tarafından.
Smith, gerçek fotoğraflar veya videolar ile yapay zeka tarafından oluşturulanlar arasında kullanılabilecekleri zaman ayrım yapmanın yollarını formüle etme konusundaki aciliyet arzusunu dile getirdi. yasadışı amaçlarözellikle toplumu istikrarsızlaştıran dezenformasyona olanak sağlamada.
“Derin sahtekarlıklarla ilgili sorunları ele almamız gerekecek. Özellikle çoğu yabancı siber etki operasyonları hakkında endişelendiğimiz şeyleri, Rus hükümeti, Çinliler ve İranlılar,” dedi Smith, Reuters’e göre. “Yapay zeka kullanarak insanları aldatmak veya dolandırmak amacıyla meşru içeriğin değiştirilmesine karşı koruma sağlamak için adımlar atmamız gerekiyor.”
Smith ayrıca, bu lisansların fiziksel, siber güvenlik veya ulusal güvenlik tehditlerine karşı koruma yükümlülükleri taşıması gerektiğini savunarak yapay zekanın kritik biçimleri için lisans verilmesini savundu. “Bu modellerin çalınmamasını veya ülkenin ihracat kontrol gerekliliklerini ihlal edecek şekillerde kullanılmamasını sağlamak için yeni nesil ihracat kontrollerine, en azından sahip olduğumuz ihracat kontrollerinin evrimine ihtiyacımız olacak” dedi.
Altman, geçen hafta göründü ABD Senatosunda ve gelişmekte olan endüstrinin düzenlenmesi gerektiğini söyleyerek AI ile ilgili endişelerini dile getirdi. OpenAI şirketi Microsoft tarafından desteklenen Altman, yapay zeka konusunda küresel işbirliğini ve güvenlik uyumluluğu için teşvikleri savundu.
Smith, Perşembe günü yaptığı konuşmada bu duyguları yineledi ve insanların yapay zekanın neden olduğu sorunlardan sorumlu tutulması gerektiğinde ısrar etti. İnsan gözetimini sağlamak için elektrik şebekesi ve su kaynağı gibi kritik altyapıyı kontrol eden AI sistemlerine güvenlik önlemleri alınması çağrısında bulundu.
Smith, yapay zeka teknolojileri çevresinde şeffaflığı sürdürme çabası içinde, geliştiricilerin yapay zeka teknolojilerinin nasıl kullanıldığını yakından takip etmek ve yapay zeka tarafından oluşturulan içerik hakkında halkı bilgilendirmek için “müşterinizi tanıyın” tarzı bir sistem geliştirmeleri gerektiğini vurguladı. uydurma içeriği tanımlayın. Bu hatlar boyunca, şirketler gibi Adobe, Googleve Microsoft’un tümü, filigran veya AI tarafından oluşturulan içeriği başka bir şekilde etiketleyin.
Deepfakes, yıllardır Microsoft’ta bir araştırma konusu olmuştur. Eylül ayında, Microsoft’un Bilimsel Baş Sorumlusu Eric Horvitz bir araştırma yazısı kaleme aldı hem etkileşimli derin sahtekarlıkların hem de sentetik geçmişlerin yaratılmasının tehlikeleri hakkında, konular da bir 2020 makalesi FastCompany’de bu yazar tarafından, ayrıca Microsoft’un derin sahtekarlıkları tespit etmeye yönelik daha önceki çabalarından da bahsedilmiştir.
Bu arada, Microsoft aynı anda metni dahil etmek için basmak– ve Office ve Windows dahil olmak üzere ürünlerine görüntü tabanlı üretken yapay zeka teknolojisi. Onun zorlu fırlatma Şubat ayında şartlandırılmamış ve yeterince test edilmemiş bir Bing sohbet robotunun (GPT-4 sürümüne dayalı) ortaya çıkması teşvik edildi derin duygusal tepkiler kullanıcılarından. aynı zamanda yeniden alevlenen gizli korkular dünyaya hakim süper zekanın hemen köşede olabileceğini, bir tepki bazı eleştirmenler iddia ediyor AI satıcılarının bilinçli bir pazarlama kampanyasının parçasıdır.
Öyleyse soru şu: Microsoft gibi şirketlerin bizi uyardıkları ürünü satması ne anlama geliyor?