Intelligent Security Summit’teki tüm isteğe bağlı oturumlara göz atın Burada.
saldırısı ChatGPT Ve üretici yapay zeka haberler, günümüzün kurumsal karar vericileri için mutlaka yararlı değildir.
Erken belirtiler, OpenAI’nin eğitimli dil modeli bazı garip yollar alabilir. Yine de, yenilikçilerin bu AI teknolojisinin kullanım durumlarıyla ilgilenmesi, keşfetmesi ve araştırması gerekiyor.
Bu, Forrester Research analisti Rowan Curran’ın sözü. Üretken yapay zeka veri kümelerinin büyük ölçeği yeni bir karmaşıklık getirse de, yakın zamanda üretici yapay zeka ve işletme hakkında diğer Forrester analistleriyle bir raporun ortak yazarlığını yapan Curran’a göre, sağlam yapay zeka yönetişimine zaten rehberlik eden aynı temel kuralların geçerli olması muhtemeldir. Öğrenmek ve deney yapmak, iyi harcanan zamandır, diye önerdi.
Deney ve heyecan – ve dikkat
Curran, VentureBeat’e, üretken yapay zekanın geniş olası kullanım durumlarını eleştirel bir şekilde keşfetmek henüz kolay olmasa da, teknolojiyi küçümsemenin bir hata olacağını söyledi. Forrester, insanları bu alanın deneylerini ve heyecanını kucaklamaya teşvik ediyor, ancak bunu, inşa ettiğiniz şeyin bugün görülen ChatGPT ve kardeşlerinden oldukça farklı görüneceğini bilerek yapmaya teşvik ediyor.
>>VentureBeat’in devam edenlerini takip edin üretici yapay zeka kapsama alanı<<
“Liderler için önemli olan – ister C düzeyinde olsun, ister birkaç tık aşağıda olsun – üretken yapay zekayı benimsemede çok araştırmacı, şüpheci ve sorgulayıcı bir yaklaşım benimsemektir” dedi.
Üretken AI, hem metin hem de görüntü oluşturma tarafında içerik oluşturma ve özetleme için umut vaat ediyor. Forrester’ın tahminine göre bu, kuruluşlar içindeki işbirliğini ilerletebilir. Farklı programlama şemaları üzerinde kod yazmaya ve araştırmayı desteklemeye başlayabilir.
Yine de, Forrester’ın Üretken Yapay Zekası Kuruluşta Üretkenliği, Hayal Gücünü ve İnovasyonu Artırıyor’da belirtildiği gibi rapor: “Üretken yapay zeka korkunç derecede yanlış gidebilir ve üretken yapay zeka modellerinin geniş ölçekte nasıl performans göstereceği hakkında henüz bilmediğimiz çok şey var.”
Kutunun içinde ne var?
Bazı erken deneyimler, bu modellerin büyük ölçekli veri kümelerinin istenmeyen yanlılığı yeni seviyelere taşıyabileceğini de öne sürüyor.
Kara kutu olarak yapay zeka – açıklanamayan sonuçlar yaratan – uzun zamandır CEO’ları, teknoloji uzmanlarını ve genel olarak toplumu ilgilendiren bir konu olmuştur. VentureBeat, Curran’a üretken yapay zekanın bu kara kutu sorunlarını herhangi bir şekilde atlatıp aşmadığını sordu.
“Kesinlikle hayır,” diye yanıtladı. “Veri kalitesi, yanlılık ve bu modellerin kabul edilebilir bir şekilde çalışmasını sağlama konusunda hâlâ aynı sorunları yaşıyoruz. Onlarla ilgili mevcut zorluklardan biri, büyük dil modellerinden (LLM’ler) söz konusu olduğunda, birçok yönden kara kutulara çok benzemeleridir.”
Yine de, bu LLM’lerde neler olup bittiğini belirlemek için birçok çalışma yapılmaktadır. Ancak Curran, iç işleyişine dair net bir resmin olmamasının dikkatli deneyler için caydırıcı olmaması gerektiğini söyledi. Ve birçokları için bu deneyim tanıdık gelecek.
“Biz kullanıyoruz nöral ağlar yıllardır çeşitli farklı kullanım durumlarında ve bir sinir ağının ne yaptığını anlamak hala çok zor” dedi. “Büyük dil modelleri bir kara kutu, ancak bu onları nasıl uygulayacağımızı yönlendirmeli, onlardan tamamen çekilmemizi sağlamamalı.”
Ama bazı farklılıklar da var. LLM’nin kendisi sadece izleyici için bir kara kutu değil, üzerinde çalıştığı veri kümeleri de öyle. Ve büyük, büyük demektir.
Curran, “Modellerin boyutu, makul bir süre içinde ve makul bir maliyetle eksiksiz bir inceleme yapılmasını çok zorlaştırıyor” dedi.
Üretken yapay zekayı tartmak
İleriye bakıldığında, ChatGTP tarzı üretken yapay zeka modelleriyle neyin mantıklı ve yapılabilir olduğunu ayırt etmek kurumsal karar vericilere kalmış. Curran, artılarını ve eksilerini anlamamanın maliyetli bir hata olabileceğini tavsiye etti.
Artıları arasında gelişmiş geliştirici üretkenliği, güvenlik güçlendirme için daha kapsamlı test setleri ve insan yaratıcı ifadesinin kapsamını genişletmek yer alır. Dezavantajları arasında önyargı eğilimi, güvenlik saldırılarına karşı savunmasızlık, silahsızlandıran insan benzeri davranış ve önemli maliyetler yer alır.
Curran, bu yeniliklere kurumsal araçlar olarak bakmanın önemli olduğunu söyledi. Herkes için her sorunu çözen bir kurumsal araç olmadığını söyledi. “Üretken yapay zekaya böyle bir yaklaşım benimsemek sadece hayal kırıklığıyla sonuçlanacak,” diye azarladı.
Her kuruluşun, kendi kuruluşundaki yeni araçların güçlü yanlarından yararlanabilecekleri vakaları incelemesi gerekecektir. Curran, başlangıçta bunun içerik düşüncesi ve özetlemeyi içerebileceğini söyledi.
VentureBeat’in misyonu teknik karar vericilerin dönüştürücü kurumsal teknoloji ve işlemler hakkında bilgi edinmeleri için dijital bir şehir meydanı olmaktır. Brifinglerimizi keşfedin.