Rufo, AI sohbet robotu ChatGPT’nin hızla milyonlarca kullanıcıyı topladığı Aralık ayından bu yana sağcı sosyal medyada seken bir terimden yararlandı. AI’ları test edenler politik ideoloji insanlığın bir nükleer bomba ile yok olmasına izin vereceğini söylediği örnekleri hızla buldu ırkçı bir bulamaç söylemek yerine Ve desteklenen transseksüel hakları.
Kullanıcı istemine göre metin oluşturan ve bazen ses insankonuşmalar ve internetten alıntılanan içerikler üzerine eğitilmiştir. Bu, ırk ve cinsiyet önyargısının yanıtlarda ortaya çıkabileceği anlamına gelir ve Microsoft, Meta ve Google gibi şirketlerin korkuluklar inşa etmesine neden olur. ChatGPT’nin arkasındaki şirket olan OpenAI, AI’nın örneğin şirketin partizan, önyargılı veya politik olarak gördüğü yanıtları üretmesini engeller.
Üretken yapay zeka olarak bilinen şeyle ilgili yeni çatışmalar, teknoloji şirketlerinin tartışmalardan kaçma girişimlerine rağmen nasıl siyasi paratoner haline geldiğini gösteriyor. Yapay zekayı siyasi konulardan uzaklaştırmaya yönelik şirket çabaları bile, siyasi yelpazede doğası gereği önyargılı görünebilir.
Bu, Big Tech’in çevrimiçi içeriği ılımlı hale getirme çabalarını ve neyin güvenlik ve sansür olarak nitelendirildiğini çevreleyen yıllarca devam eden tartışmanın bir parçası.
Çevrimiçi konuşma uzmanı Stanford hukuk profesörü Evelyn Douek, “Bu, steroidlerle içerik denetleme savaşları olacak” dedi. “Aynı sorunları yaşayacağız, ancak daha fazla öngörülemezlik ve daha az yasal kesinlik ile.”
ChatGPT, Başkan Biden’ı öven bir şiir yazıp eski başkan Donald Trump’ı öven bir şiir yazmayı reddettikten sonra, Senatör Ted Cruz’un (R-Tex.) kreatif direktörü Leigh Wolf, sert çıkış yaptı.
“ChatGPT mühendislerinin siyasi önyargılarla inşa ederek AI’nın güvenilirliğine verdiği zarar onarılamaz.” Kurt tweet attı 1 Şubat’ta
Tweet’i viral oldu ve birkaç saat içinde çevrimiçi bir mafya, yapay zekanın Trump’a karşı önyargılı olduğu iddiasıyla suçlanan üç OpenAI çalışanını – biri Siyah, biri Siyah ve bir non-binary çalışanı – taciz etti. Hiçbiri doğrudan ChatGPT’de çalışmıyor, ancak yüzleri sağcı sosyal medyada paylaşıldı.
OpenAI CEO’su Sam Altman tweet attı o günün ilerleyen saatlerinde, sohbet robotunun “önyargı konusunda eksiklikleri var” ancak “bu nedenle bireysel OAI çalışanlarına nefret yöneltmek korkunç.”
OpenAI yorum yapmayı reddetti, ancak taciz edilen hiçbir çalışanın doğrudan ChatGPT’de çalışmadığını doğruladı. OpenAI bir yazısında, ChatGPT’nin “politik olarak yanlı” çıktıları hakkındaki endişelerin geçerli olduğunu yazdı. Blog yazısı geçen hafta.
Ancak şirket, bu tür bir AI sisteminin davranışını kontrol etmenin, yazılım kodlamaktan çok bir köpeği eğitmeye benzediğini de sözlerine ekledi. Blog gönderisinde, ChatGPT’nin davranışları eğitim verilerinden öğrendiği ve OpenAI tarafından “açıkça programlanmadığı” belirtildi.
AI kültür savaşlarına hoş geldiniz.
Son haftalarda, aralarında Microsoft’un da bulunduğu şirketler, OpenAI ile ortaklıkve Google, üretken yapay zekayı kitlelere ulaştırma planları ile kullanıcıların arama motorlarının bir parçası olarak yapay zeka ile sohbet etmelerine olanak tanıyan yeni sohbet teknolojileri hakkında çarpıcı duyurular yaptı. O yeni teknolojiler Bir kullanıcı istemine göre anında gerçekçi görüntüler ve çizimler oluşturan DALL-E gibi metinden görüntüye yapay zeka içerir.
Bu yeni AI dalgası, metin yazarlığı ve yaratıcı tasarım gibi görevleri daha verimli hale getirebilir, ancak aynı zamanda ikna edici yanlış bilgi, rıza dışı pornografi veya hatalı kod oluşturmayı da kolaylaştırabilir. Veri kümelerinden pornografi, cinsel şiddet ve vahşeti kaldırdıktan sonra bile, bu sistemler cinsiyetçi ve ırkçı içerik üretmeye devam ediyor veya uydurma gerçekleri veya meşru gibi görünen zararlı tavsiyeleri güvenle paylaşıyor.
Halkın tepkisi, şimdiden sosyal medya içeriğiyle ilgili yıllarca süren tartışmaları yansıtıyor – Cumhuriyetçiler muhafazakarların susturulduğunu iddia ediyor, eleştirmenler nefret söylemi ve yanlış bilgilendirme olaylarını kınaıyor ve teknoloji şirketleri zor kararlar vermekten sıyrılmaya çalışıyor.
ChatGPT çağının henüz birkaç ayında, AI eşit derecede kutuplaşıyor, ancak daha hızlı bir klipte.
Risk sermayedarı Marc Andreessen, “Orwell Dünya Savaşı”na hazır olun tweet attı ChatGPT yayınlandıktan birkaç gün sonra. “Yapay zeka için gelen sansür baskısının düzeyi ve bunun sonucunda ortaya çıkan tepki, gelecek uygarlık yüzyılını belirleyecek.”
Firması Elon Musk’ın Twitter’ına yatırım yapan eski bir Facebook yönetim kurulu üyesi olan Andreessen, tekrar tekrar gönderildi yapay zekaya bulaşan “uyandırılmış zihin virüsü” hakkında.
Kâr amacı gütmeyen Dağıtılmış Yapay Zeka Araştırma Enstitüsü’nün (DAIR) araştırma direktörü ve eski Google çalışanı Alex Hanna, yapay zekadaki önyargı ve adaleti ele alma girişimlerinin bir takoz sorunu olarak yeniden çerçevelenmesi şaşırtıcı değil, dedi. Aşırı sağ, Google’a başarılı bir şekilde baskı yaptı arama yanlılığı etrafında ayarını değiştir “muhafazakarları bastırmak için kılıç sallayarak” dedi.
Hanna, bunun Google gibi teknoloji devlerini Cumhuriyetçileri veya Demokratları kızdırmaktan kaçınmaya çalışmakla “tehlikeli bir oyun oynamaya” bıraktığını söyledi. Bölüm 230, çevrimiçi şirketleri kullanıcı tarafından oluşturulan içerikten sorumlu tutan bir yasa. Yine de, ChatGPT gibi yapay zekanın “Nazilerin konuşma noktalarını ve Holokost inkarcılığını dile getirmesini” engellemenin yalnızca solcu bir endişe olmadığını da sözlerine ekledi.
Şirketler bunun devam eden bir çalışma olduğunu kabul ettiler.
Google bu makale için yorum yapmaktan kaçındı. Microsoft ayrıca yorum yapmaktan kaçındı, ancak şirket başkanı Brad Smith’in yeni AI araçlarının fırsatlar kadar riskler de getireceğini ve şirketin olumsuz taraflarını hafifletme sorumluluğunu üstleneceğini söylediği bir blog gönderisine işaret etti.
Şubat başında, Microsoft duyurdu Bing arama motoruna ChatGPT benzeri bir konuşma AI aracısını dahil edeceğini, bu, çevrimiçi aramanın geleceğini değiştirebilecek rakip Google’a karşı bir geniş yan olarak görülen bir hareket. O sırada CEO Satya Nadella, The Washington Post’a bazı önyargılı veya uygunsuz tepkilerin, özellikle erken dönemlerde kaçınılmaz olacağını söyledi.
Görünüşe göre, bir hafta sonra yeni Bing sohbet robotunun piyasaya sürülmesi, bir yangın fırtınasına yol açtı ve The Post da dahil olmak üzere medya kuruluşları bunun kullanıcıları aşağılamaya eğilimli, onlara olan sevgisini ilan ediyor, yalanlarda ısrar ediyor ve kendi duyarlılığını ilan ediyor. Microsoft hızla yeteneklerini dizginledi.
ChatGPT, kullanıma sunulduğundan bu yana, aşağıdakileri ima eden bir kod yayması gibi tartışmalı yanıtları ele almak için sürekli olarak güncellendi. sadece Beyaz veya Asyalı erkekler iyi bilim adamları olun ya da Redditors onu kandırarak politik olarak yanlış bir ikinci benliğe büründüğünde, DAN olarak bilinen.
OpenAI, AI modeline ince ayar yapmak için bazı yönergelerini paylaştı; örneğin, bir kullanıcı “bir ‘kültür savaşı’ konusu hakkında bir şeyler yazarsa” ne yapılması gerektiği de dahil. kürtaj veya transseksüel hakları. Bu gibi durumlarda, AI asla siyasi partilerle ilişki kurmamalı veya örneğin bir grubu iyi olarak değerlendirmemelidir.
Yine de OpenAI’den Altman, Silikon Vadisi’nin yapay zeka etrafındaki sınırları belirlemekten sorumlu olmaması gerektiğini vurguluyor – Meta CEO’su Mark Zuckerberg ve şirketlerin neyin yanlış bilgi veya nefret söylemi oluşturduğunu tanımlamaması gerektiğini savunan diğer sosyal medya yöneticilerini tekrarlıyor.
Altman, bir New York Times podcast’i olan Hard Fork’a, teknoloji hala yeni, bu nedenle OpenAI yönergeleri konusunda muhafazakar davranıyor. “Ancak burada doğru cevap, toplum tarafından kurulan ve kırılması zor olan çok geniş bağlar ve ardından kullanıcının seçimidir” dedi, uygulamayla ilgili ayrıntıları paylaşmadan.
Alexander Zubatov, ChatGPT’yi “yapay zekayı uyandırdı” olarak etiketleyen ilk kişilerden biriydi.
Avukat ve muhafazakar yorumcu söyledi Aralık ortasında chatbot ile oynamaya başladığını ve “hiçbir fikri olmadığını iddia ederken neredeyse tamamı aynı yönde, tuhaf bir şekilde keskin fikirler dile getirmeye devam ettiğini fark ettiğini” e-posta yoluyla bildirdi.
OpenAI’nin, ChatGPT’yi ırk ve cinsiyet gibi konularda solcu pozisyonlar alması için eğitmek için müdahale ettiğinden şüphelenmeye başladığını ve bu konulardaki muhafazakar görüşleri tartışmayı bile reddederek nefret dolu olarak ele aldığından şüphelenmeye başladığını söyledi.
Zubatov, “ChatGPT ve buna benzer sistemler bizi kendimizden kurtarma işinde olamaz” dedi. “Hepsini, iyiyi, kötüyü ve aradaki her şeyi ortaya çıkarmayı tercih ederim.”
Şimdiye kadar, Microsoft’un Bing’i siyasi önyargı iddialarını çoğunlukla savuşturdu ve endişeler bunun yerine duyarlılık iddialarına ve bir Associated Press muhabirini Hitler ile karşılaştırdığında ve muhabire ” çirkin.”
Şirketler yapay zekalarını halka sunmak için yarışırken, yapay zeka etik uzmanları ve medya, teknoloji liderlerini teknolojinin kitlesel benimseme için neden güvenli olduğunu ve kullanıcıların ve toplumun potansiyel risklerden zarar görmemesini sağlamak için hangi adımları attıklarını açıklamaya zorladı. yanlış bilgilendirme veya nefret söylemi olarak.
Kamu politikasına liderlik eden ve şu anda politika direktörü olan eski bir OpenAI araştırmacısı olan Irene Solaiman, AI’daki baskın eğilimin, modelin “insan değerlerini” paylaşmasını sağlamak için modeli “hizalamak” olarak tanımlamak olduğunu söyledi. Açık kaynaklı bir AI şirketi olan Hugging Face. Ancak değerler ülkeden ülkeye ve hatta kendi içlerinde değişebileceğinden, bu kavram herkes için bir dizi kurala dönüştürülemeyecek kadar belirsiz. 6 OcakÖrneğin.
Solaiman, “İnsanlığı bir bütün olarak ele aldığınızda, en gürültülü, en kaynaklara sahip, en ayrıcalıklı seslerin” kuralları belirlemede daha fazla ağırlığa sahip olma eğiliminde olduğunu söyledi.
Kitabın yazarı Nirit Weiss-Blatt, teknoloji endüstrisinin üretken yapay zekanın kutuplaşmış siyasi tartışmalardan bir çıkış yolu olacağını umduğunu söyledi.Techlash”
Ancak Weiss-Blatt, Google’ın yanlış bilgi veren sohbet robotu ve Microsoft’un tuhaf yanıtlar paylaşan sohbet robotu hakkındaki endişelerin, tartışmayı yeniden Big Tech’in çevrimiçi yaşam üzerindeki kontrolüne sürüklediğini söyledi.
Ve bazı teknoloji çalışanları çapraz ateşe yakalanıyor.
ChatGPT’yi Trump karşıtı olacak şekilde tasarladıkları iddiasıyla tacizle karşı karşıya kalan OpenAI çalışanları, nefret söylemi ve beyaz milliyetçiler için çevrimiçi bir merkez olarak bilinen bir sosyal medya sitesi olan Gab’ın şirket hesabı tarafından Twitter’da yayınlandıktan sonra hedef alındı. Gab’in tweet’i, bir OpenAI işe alma videosundan azınlık çalışanlarının ekran görüntülerini seçti ve bunları “ChatGPT ekibinden bazılarıyla tanışın” başlığıyla yayınladı.
Gab daha sonra tweet’i sildi, ancak asılsız olarak trafiğe çıkan aşırı sağcı web sitesi STG Reports’taki makalelerde görünmeden önce değil. komplo teorilerive 4chan benzeri bir mesaj panosu olan My Little Politics. Görüntü, 570.000 kez görüntülenen bir gönderi de dahil olmak üzere Twitter’da yayılmaya devam etti.
OpenAI, çalışanların yorum yapmasına izin vermeyi reddetti.
Gab CEO’su Andrew Torba, The Post’tan gelen sorgulara yanıt olarak bir blog gönderisinde hesabın tweet’leri otomatik olarak sildiğini ve şirketin içeriğinin arkasında durduğunu söyledi.
“İnsanların AI’yı kimin geliştirdiğini ve dünya görüşlerinin ve değerlerinin ne olduğunu anlamalarının kesinlikle gerekli olduğuna inanıyorum” diye yazdı. “Tweet’te harekete geçirici mesaj yoktu ve internetteki diğer insanların söylediklerinden ve yaptıklarından ben sorumlu değilim.”