ChatGPT dili anlıyor mu? | GirişimBeat

Davranışlarımızı taklit etmek için çok miktarda insan yaratımı tüketen sistemler, yapay zekadaki en son teknolojiyi ileriye taşıyor. Ver ona Ve Kararlı Difüzyon istemlerden görüntüler oluşturmayı öğrendi, bu da süper kahramanların yorumlarını Renoir’ın çizmiş olabileceği gibi görmemize olanak sağladı.

Büyük dil modelleri (LLM’ler), gerçekçi basın bültenleri veya kod incelemeleri gibi dil ile benzer bir numara yapar. bir korsan tarafından gerçekleştirilen. En son yineleme, ChatGPTinsanlar sonsuz derecede eğlenceli varyasyonlarda yeteneklerinin kapsamını keşfettikçe büyük ilgi gördü.

Peki, tüm bunlar gerçek yapay zekaya doğru ilerleme için ne anlama geliyor? Gerçek anlaşma bu mu? Bundan bir adım geri mi? Ya da basit bir papağan, bizim insan yapıtlarımız sadece lunaparktaki kodun aynasından bize yansıyan?

Gangsterler ve soneler benzer

Bu en son algoritma sınıfının açıkça gösterdiği şey, kavramların birleştirici bir anlayışıdır. Bilgisayar bilimi algoritmalarını şu şekilde açıklamaları istendiğinde: Bilge Adam 1940’ların gangster filminden, ChatGPT her iki görevi de yerine getirir. Konuştuğu karakteri veya konuşmasını istediğimiz konuyu değiştirebiliriz.

Başka bir örnekte Alan Turing, “Taklit OyunuMakale, bir insan araştırmacı onları bir insandan ayırt edemediğinde bilgisayarların düşündüğünün söylenebileceği Turing Testi konusunu gündeme getirdi. Turing, “Forth Bridge konusunda bir sone yazma” talebini örnek olarak verdi. Görevi GPT’ye sorduğumda, yanıtı şu kıtayı içeriyordu:

“Köprü görkemli, zamanının bir simgesi,

gururlu İskoç halkı için bir işaret,

Bugün duruyor, bir gurur vasiyeti,

Bize rüyaların gürültülü olduğu günleri hatırlatıyor.”

Her kafiye ve ölçü işe yaramadı — GPT’nin hiçbir zaman işe yaramadığını hatırlayın. duyulmuş bir ses ama bu kavramları cümlelerdeki sözcükleri tahmin etmekten çıkardı – ama açıkça iambik beşli ölçü oluşturmaya ve uygun kafiye şemasını izlemeye çabaladı. Konuda kaldı. Şiirsel olarak yazılmıştır.

Zorlayıcı bilişsel yetenekler

Sınırlı aramamda, “rüyalar gürültülüydü” ifadesinin bir metafor olarak daha önce kullanıldığını bulamadım (sadece rüyaları tarafından uyandırılmaktan şikayet eden insanlar). Bu bariz bir mecaz, nispeten sığ, ama gerçek.

besleyen birçok şiire işaret edebiliriz. GPT-3 ve çıktısında gerçekten yeni olanı sorgulayın. Ancak yapı taşları biliniyorsa, kesişme noktaları benzersiz ve yenidir. Bilinen yapı taşlarını yeni kalıplarda bir araya getirmek, zorlayıcı bir bilişsel yetenektir.

İlgili eğitim veri hacimleri çok büyük olmasına rağmen, düzenliliklerin tümü bu ağlar tarafından keşfedildi – sonelerin ve limeriklerin kuralları, korsan dilinin dilsel tuhaflıkları. Programcılar, her görev için dikkatlice eğitim setleri oluşturmadı. Modeller bağımsız olarak kuralları bulmuşlardır.

GPT-3 nerede eksik? Yukarıdaki dörtlük şiir olarak yeterlidir ama bizi şaşırtmaz veya zorlamaz. Bir korsanı taklit ettiğinde role yeni bir nüans katmaz. GPT-3, cümlelerdeki en olası kelimelere yaklaşma konusunda eğitildi. Onu daha rastgele çıktılara doğru itebiliriz – en olası değil ama en olası 5. – ama tekrar tekrar söylenenlerin izini güçlü bir şekilde takip ediyor.

Bilinen görevleri iyi açıklayabilir ancak yeni öneriler ve çözümler sunmakta zorlanır. Hedefleri, kendi itici gücü yok. Doğru olanla söylenmesi muhtemel bir şey arasında anlamlı bir ayrımdan yoksundur. Uzun süreli hafızası yoktur: Bir makale oluşturmak mümkündür, ancak bir kitap kendi bağlamına uymaz.

Daha incelikli dil anlayışı

Dil modellerinin her yeni ölçeklendirme faktöründe ve baskıdan yeni çıkan her araştırma makalesinde, daha incelikli bir dil anlayışı gözlemliyoruz. Çıktıları daha çeşitli hale gelir ve yetenekleri daha kapsamlı hale gelir. Dili giderek belirsizleşen ve teknik alanlarda kullanır. Ancak sınırlamalar ve bayağılık eğilimi devam ediyor.

Karmaşık bir dünyada kalıpları bulmak için bir sinir ağı kavramı olarak kendine dikkatin ne kadar güçlü olduğuna giderek daha fazla ikna oldum. Öte yandan, pek çok alandaki hızlı gelişmeye kıyasla bilgisayarın anlayışındaki boşluklar daha da netleşiyor.

Bakmak GPT’ler anlamsal olarak belirsiz durumlarda zamirleri anlama, mizah anlayışı veya karmaşık cümle yapıları, mevcut versiyonun bile genel dil anlayışı için yeterli olduğunu tahmin ediyorum. Ancak henüz icat edilmemiş başka bir algoritma veya gerçek zekaya yaklaşmak için gerekli olan mevcut algoritmaların ve eğitim görevlerinin en azından belirli bir kombinasyonu var.

Dili anlamak: Anlamlı kalıpları belirlemek

İlk ipucuna dönecek olursak: İster basit kelime tahmini görevlerinin tozundan bir Shakespeare sonesinin ortaya çıktığını görmenin bilim dışı harikası olsun, isterse yapay dil anlayışının derinliğine inmek için sayısız görevdeki insan boşluğunun sürekli aşınması olsun, dil modelleri günümüzde kullanımda olan sadece bir salon hilesi değildir. Bu süreçler sadece insan dilini papağan gibi tekrarlamakla kalmaz, aynı zamanda sözdizimsel, anlamsal veya pragmatik olsun, içindeki anlamlı kalıpları bulur.

Yine de, başka bir soyutlama düzeyinde kendi kendine uygulanan aynı teknikler olsa bile, kafamızda daha fazlası oluyor. Bazı zekice yeni teknikler olmadan, etkileyici araçlarımızın sınırlamalarına kafalarımızı vurmaya devam edeceğiz. Ve ilham şimşeklerinin orada ne zaman vuracağını kim söyleyebilir?

Yani hayır, gerçek yapay zekalar henüz gelmedi. Ancak daha önce olduğumuzdan önemli ölçüde daha yakınız ve tahmin ediyorum ki bu gerçekleştiğinde, kişisel dikkatin bazı varyasyonları ve karşılaştırmalı öğrenme bu çözümün önemli bir parçası olacak.

Paul Barba, bir InMoment Şirketi olan Lexalytics’te Baş Bilim İnsanıdır.