Ancak geçen hafta deneyen insanlar, popüler ChatGPT sistemi üzerine inşa edilen aracın hızla garip bir bölgeye girebileceğini keşfetti. BT gösterdi bir Washington Post muhabiri ile adı üzerinde savunmacılık belirtileri gösterdi ve bir New York Times’a söyledi köşe yazarı evliliğini bozmak istediğini söyledi. Aynı zamanda bir Associated Press iddia etti muhabir “Tarihteki en kötü ve en kötü insanlardan biri olduğun için Hitler’le karşılaştırılmaktı.”
Microsoft yetkilileri bu hafta başlarında suçlandı AI sisteminin “kafasını karıştırma” eğiliminde olan “çok uzun sohbet oturumlarındaki” davranış. Chatbot’un, sorgulayanların üslubunu yansıtmaya çalışarak bazen “planlamadığımız bir tarzda” yanıt verdiğini belirttiler.
Bu aksaklıklar şirketi harekete geçirdi. duyurmak Cuma günü geç saatlerde Bing sohbetlerini oturum başına günde toplam 50 soru ve yanıtla sınırlandırmaya başladı. Her oturumun sonunda, kişinin yapay zeka sistemine yeniden odaklanmak ve “yeni bir başlangıç” yapmak için bir “süpürge” simgesini tıklaması gerekir.
İnsanlar daha önce yapay zeka sistemiyle saatlerce sohbet edebiliyorken, artık “Üzgünüm ama bu sohbete devam etmemeyi tercih ediyorum. Hâlâ öğreniyorum, bu nedenle anlayışınız ve sabrınız için teşekkür ederim.”
San Francisco teknoloji şirketi OpenAI tarafından inşa edilen sohbet robotu, web’deki yüz milyarlarca kelimeyi analiz ettikten sonra insan diyaloğunu taklit etmek için eğitilmiş “büyük dil modelleri” olarak bilinen bir AI sistemleri stili üzerine inşa edilmiştir.
İnsan konuşmasına benzeyen kelime kalıpları üretme becerisi, yakıtlı bu sistemlerin ne kadar kendinin farkında olabileceğine dair büyüyen bir tartışma. Ancak araçlar, yalnızca bir cümlede hangi sözcüklerin gelmesi gerektiğini tahmin etmek için oluşturulduğundan, sorulduğunda dramatik bir şekilde başarısız olma eğilimindedirler. oluşturmak gerçek bilgiler veya temel matematik yapın.
New York Üniversitesi’nde bir yapay zeka uzmanı ve emekli psikoloji ve nörobilim profesörü olan Gary Marcus, “Gerçekten ne söylediğine dair hiçbir fikri yok ve gerçekten ahlaki bir pusulası yok” dedi. Posta. Microsoft, OpenAI’nin yardımıyla, insanların mektup yazmak ve e-posta alışverişi yapmak için kullandıkları Office programları da dahil olmak üzere, ürünlerine daha fazla yapay zeka yeteneği dahil etme sözü verdi.
Bing bölümü, Microsoft’un baş yapay zeka rakibi olan ve geçen hafta Bard olarak bilinen ve arama ve dilde aynı güçlerin çoğunu vaat eden bir ChatGPT rakibini ortaya çıkaran Google’ın yakın zamanda yaptığı bir tökezlemeyi takip ediyor. Google’ın hisse senedi fiyatı, yatırımcıların halka açık ilk gösterilerinden birinin gerçek bir olay içerdiğini gördükten sonra yüzde 8 düştü. hata.