Perşembe günü, Başkan Joe Biden toplantı yaptı Google, Microsoft, OpenAI ve Anthropic dahil olmak üzere önde gelen AI şirketlerinin CEO’ları ile Beyaz Saray’da, AI ürünlerinin dağıtımdan önce güvenliğini sağlamanın önemini vurguluyor. Toplantı sırasında Biden, yöneticileri yapay zekanın oluşturduğu riskleri ele almaya çağırdı. Ancak bazı yapay zeka uzmanları, yıllardır yapay zekanın tehlikeleri konusunda uyarıda bulunan etik araştırmacılarının dışlanmasını eleştirdi.
Geçtiğimiz birkaç ay içinde, ChatGPT gibi üretken yapay zeka modelleri hızla popülerlik kazandı ve şirketleri benzer ürünleri hızlı bir şekilde geliştirmeye iten yoğun teknoloji yutturmacasını topladı.
Ancak endişeler artıyor olası gizlilik sorunlarıistihdam yanlılığı ve bunları oluşturmak için kullanma potansiyeli yanlış bilgilendirme kampanyaları. Beyaz Saray’a göre yönetim, yöneticilerle “açık ve yapıcı bir tartışma” sırasında daha fazla şeffaflık, güvenlik değerlendirmeleri ve kötü niyetli saldırılara karşı koruma çağrısında bulundu.
Toplantının en yüksek profilli katılımcıları arasında Google’dan Sundar Pichai, Microsoft’tan Satya Nadella, OpenAI’den Sam Altman ve Anthropic’ten Dario Amodei yer aldı.
Toplantıya Başkan Yardımcısı Kamala Harris başkanlık etti ve Biden’ın “geldiği” bir videoda Twitter’da yayınlandıBaşkan, “Teşekkür etmeye geldim. Yaptığınız şey çok büyük bir potansiyele ve çok büyük bir tehlikeye sahip. Bunu anladığınızı biliyorum. Ve umarım bizi korumak için en gerekli olduğunu düşündüğünüz şey konusunda eğitebilirsiniz. ilerlemenin yanı sıra toplum için. Bu gerçekten çok önemli.”
Geçen sonbaharda Biden yönetimi, “AI Haklar BildirgesiAmerikalıları önyargı, ayrımcılık ve mahremiyet sorunları da dahil olmak üzere otomatik sistemlerin zararlı etkilerinden korumayı amaçlamaktadır.
AI etik araştırmacıları yanıt veriyor
Biden’ın daveti, sıcak bir politika konusuna yöneticilerin ilgisini gösterirken, davetli şirketlerin etik geçmiş kayıtları toplantıdan pek etkilenmedi seçimi sorgulamak Beyaz Saray’ın ele almaya çalıştığı AI ile ilgili sorunları yaratan şirketleri temsil ettiğini iddia ettikleri insanları toplantıya davet etmek.
Twitter’da yapay zeka araştırmacısı Dr. Timnit Gebru yazdı“Görünüşe göre zamanımızın yarısını çeşitli yasa koyucular ve kurumlarla konuşarak geçiriyoruz ve HALA bu boka sahibiz. Bize sorunları veren ve riskler hakkında konuştuğumuz için bizi kovan heriflerle dolu bir oda, lanet olası başkan tarafından çağrılıyor ‘insanların haklarını korumak’ için.”
2020’de Google, ortak yazdığı ve büyük ölçekli dil modellerindeki potansiyel riskleri ve önyargıları vurgulayan bir araştırma makalesiyle ilgili bir anlaşmazlığın ardından Gebru’yu görevden aldı. Olay tartışmaya yol açtı Google’ın AI etiğine bağlılığı hakkında AI araştırma topluluğu içinde.
Benzer şekilde, Oxford Üniversitesi AI etik araştırmacısı Elizabeth Renieris tweet attı“Maalesef ve tüm saygımla POTUS, #AI söz konusu olduğunda “toplumu korumak için en çok neyin gerekli olduğunu” bize söyleyebilecek kişiler bunlar değil.”
Eleştiri, genellikle “AI güvenliği” (öncelikle AI’dan kaynaklanan varsayımsal varoluşsal riskle ilgili gevşek bir hareket, açıkça ilişkili OpenAI çalışanları) ve “AI etiği” (bir grup araştırmacı büyük ölçüde ilgili önyargı ve yanlış bilgi dahil olmak üzere mevcut AI sistemlerinin yanlış uygulamaları ve etkileri hakkında).
Bu doğrultuda, yazar Dr. Brandeis Marshall önerildi Beyaz Saray toplantısına aşağıdakileri içerecek bir “karşı toplantı” düzenlemek Sarılma Yüz, Dağıtılmış Yapay Zeka Araştırma Enstitüsü, UCLA Kritik İnternet Araştırma Merkezive Algoritmik Adalet Ligi.
Ayrıca Perşembe günü Beyaz Saray ilan edildi Ulusal Bilim Vakfı aracılığıyla yedi yapay zeka araştırma enstitüsü kurmak için 140 milyon dolarlık bir yatırım. Ek olarak, Anthropic, Google, Hugging Face, Nvidia, OpenAI ve Stability AI, AI sistemlerinin kamuya açık değerlendirmelerine katılacak. DEF KON 31.
Beyaz Saray toplantısının ardından Harris bir açıklama yaptı. ifade “Özel sektör, ürünlerinin emniyetini ve güvenliğini sağlamak için etik, ahlaki ve yasal bir sorumluluğa sahiptir. Ve her şirket, Amerikan halkını korumak için mevcut yasalara uymak zorundadır. Takip ve takibi dört gözle bekliyorum.” önümüzdeki haftalar.”