Benj Edwards / Snap, Inc.
Pazartesi günü Snapchat, “adlı yapay zeka destekli deneysel bir sohbet robotunu duyurdu.yapay zekam,” OpenAI’nin ChatGPT tarzı teknolojisi tarafından desteklenmektedir. AI’m, Snapchat+ aboneleri için ayda 3,99 ABD Doları karşılığında satışa sunulacak ve bir açıklamaya göre “bu hafta” kullanıma sunulacak. haber yazısı Snap, Inc.’den
Kullanıcılar, yapay zeka botuna özel bir ad vererek kişiselleştirebilecek. AI modeliyle yapılan görüşmeler, bir insanla yapılan normal sohbete benzer bir arayüzde gerçekleşecek. Snap CEO’su Evan Spiegel, “Asıl fikir, her gün arkadaşlarımız ve ailemizle konuşmanın yanı sıra, yapay zeka ile de her gün konuşacağız” dedi. The Verge’e anlattı.
Ancak GPT destekli kuzenleri gibi, ChatGPT Ve Bing Sohbeti, Snap, My AI’ın bir AI modeli tarafından üretilen beklenmedik yanlışlıklar olan “halüsinasyonlara” eğilimli olduğunu söylüyor. Bu noktada Snap, AI’mda oldukça uzun bir sorumluluk reddi beyanı içerir. duyuru yazısı:
“Yapay zeka destekli tüm sohbet robotlarında olduğu gibi, My AI halüsinasyona eğilimlidir ve hemen hemen her şeyi söylemesi için kandırılabilir. Lütfen birçok eksikliğinin farkında olun ve şimdiden özür dilerim! My AI ile yapılan tüm konuşmalar saklanacak ve şu kişiler için incelenebilir: ürün deneyimini geliştirin. Lütfen My AI ile herhangi bir sır paylaşmayın ve tavsiye için ona güvenmeyin.”
Makine öğrenimi araştırmacıları arasında “halüsinasyon”, terim Bu, bir yapay zeka modelinin, eğitim veri setinde yer almayan bir konu veya durum hakkında yanlış çıkarımlar yaptığını açıklar. Bu, ChatGPT gibi mevcut büyük dil modellerinin iyi bilinen bir dezavantajıdır ve kulağa inandırıcı gelen yalanları kolayca uydurabilir. akademik makaleler var olmayan ve yanlış biyografiler.
Snap’in My AI’ın bir şeyler uydurma eğilimi hakkındaki güçlü reddine rağmen, firma yeni Snapchat botunun Snapchat uygulamasındaki kendi sekmesinde arkadaşlarla yapılan konuşmaların üzerine sabitleneceğini ve “en iyi arkadaşınız için doğum günü hediyesi fikirleri önereceğini, bir yürüyüş gezisi planlayacağını” söylüyor. uzun bir hafta sonu için, akşam yemeği için bir tarif önerin, hatta çedar takıntılı dostunuz için peynir hakkında bir haiku yazın.”
Snap, aynı botun “rel” olamayacağını uzlaştırmaz.[ied] tavsiye için” ayrıca “uzun bir hafta sonu için doğru ve güvenli bir yürüyüş gezisi” planlayabilir. ele geçirildi bu tür bir uyumsuzluk, belki de bu sohbet robotlarının, özellikle referans olarak sunulduğunda, yaygın kullanıma hazır olmadığını göstermek için.
İnsanlar atlatmaya çalışan bir oyun gibi bir şey yapmışken ChatGPT Ve Bing Sohbetleri Snap’in GPT modelini seks, küfür, şiddet veya siyasi görüşleri tartışmayacak şekilde eğittiği bildirildi. Bu kısıtlamalar, dengesiz davranışlardan kaçınmak için özellikle gerekli olabilir. gördük Bing Chat ile birkaç hafta önce.
Ve iki kez, çünkü “Yapay Zekam”ın altında güçlü bir şey olabilir: OpenAI’nin yeni nesil büyük dil modeli. The Verge’e göre Snap, “adlı yeni bir OpenAI kurumsal planını kullanıyor.dökümhaneOpenAI bu ayın başlarında sessiz bir şekilde kullanıma sunuldu. Şirketlere OpenAI’nin GPT-3.5 ve “DV” modellerine özel bulut erişimi sağlıyor. Birkaç yapay zeka uzmanı, spekülasyon “DV”, GPT-3’ün devamı olduğu söylenen yüksek güçlü GPT-4’e eşdeğer olabilir.
Diğer bir deyişle, Snap’in haber bülteninde bahsedilen “halüsinasyonlar”, ChatGPT’den daha hızlı gelebilir ve daha ayrıntılı olabilir. Diğer GPT modellerinin son derece inandırıcı doğası göz önüne alındığında, uyarılara rağmen insanlar buna inanabilir. Önümüzdeki aylarda GPT destekli yeni ticari hizmetler çevrimiçi hale gelirken izlenmesi gereken bir şey.