Benj Edwards / Kararlı Difüzyon
Perşembe günü, AI şirketi Anthropic ilan edildi ChatGPT benzeri özelliğini verdi Claude AI dili, bir kitabın değerindeki tüm materyali bir dakikadan kısa sürede analiz etme becerisini modelliyor. Bu yeni yetenek, Claude’un bağlam penceresini 100.000 simgeye veya yaklaşık 75.000 kelimeye genişletmekten gelir.
OpenAI’ler gibi GPT-4, Claude, belirli bir girdi verildiğinde sıradaki bir sonraki belirteci tahmin ederek çalışan bir büyük dil modelidir (LLM). Belirteçler, AI veri işlemeyi basitleştirmek için kullanılan sözcük parçalarıdır ve bir “bağlam penceresi”, kısa süreli belleğe benzer; yani bir LLM’nin aynı anda ne kadar insan tarafından sağlanan girdi verisini işleyebileceği.
Anthropic’e göre daha geniş bir bağlam penceresi, bir LLM’nin kitaplar gibi daha büyük çalışmaları değerlendirebileceği veya “saatleri hatta günleri” kapsayan çok uzun etkileşimli konuşmalara katılabileceği anlamına gelir:
Ortalama bir kişi ~5+ saatte 100.000 belirteçlik metin okuyabilir ve ardından bu bilgiyi sindirmek, hatırlamak ve analiz etmek için çok daha uzun süreye ihtiyaç duyabilir. Claude artık bunu bir dakikadan daha kısa sürede yapabilir. Örneğin, The Great Gatsby’nin tüm metnini Claude-Instant’a (72 bin jeton) yükledik ve bir satırı Bay Carraway’in “Anthropic’te makine öğrenimi araçları üzerinde çalışan bir yazılım mühendisi” olduğunu söyleyecek şekilde değiştirdik. Modelden neyin farklı olduğunu bulmasını istediğimizde, 22 saniyede doğru cevapla yanıt verdi.
Bir metindeki değişiklikleri seçmek kulağa etkileyici gelmese de (Microsoft Word bunu ancak karşılaştırılacak iki belgeye sahipse yapabilir), Claude’a şu metni besledikten sonra şunu düşünün: Muhteşem Gatsby, yapay zeka modeli daha sonra onunla ilgili soruları etkileşimli olarak yanıtlayabilir veya anlamını analiz edebilir. 100.000 jeton, LLM’ler için büyük bir yükseltmedir. Karşılaştırıldığında, OpenAI’ler GPT-4 LLM, ChatGPT’nin bir parçası olarak kullanıldığında 4.096 belirteç (yaklaşık 3.000 kelime) ve GPT-4 API aracılığıyla (şu anda yalnızca bekleme listesi aracılığıyla kullanılabilen) 8.192 veya 32.768 belirteç içeren bağlam penceresi uzunluklarına sahiptir.
Daha geniş bir bağlam penceresinin ChatGPT veya Claude gibi bir sohbet robotuyla nasıl daha uzun bir sohbete yol açtığını anlamak için, bir diyagram oluşturduk. önceki makale bu, bilgi isteminin boyutunun (bağlam penceresinde tutulan) konuşmanın tüm metnini içerecek şekilde nasıl büyüdüğünü gösterir. Bu, bir konuşmanın, sohbet “hafızasını” kaybetmeden önce daha uzun sürebileceği anlamına gelir.
Benj Edwards / Ars Technica
Anthropic’e göre, Claude’un gelişmiş yetenekleri geçmiş işlem kitaplarını genişletiyor. Genişletilmiş bağlam penceresi, potansiyel olarak işletmelerin bir konuşma etkileşimi yoluyla birden çok belgeden önemli bilgileri çıkarmasına yardımcı olabilir. Şirket, karmaşık sorgularla uğraşırken bu yaklaşımın vektör arama tabanlı yöntemlerden daha iyi performans gösterebileceğini öne sürüyor.
Anthropic tarafından sağlanan, Claude’u bir iş analisti olarak kullanma demosu.
Yapay zekada Microsoft ve Google kadar büyük bir isim olmasa da Anthropic, LLM’lerdeki rekabetçi teklifler ve API erişimi açısından OpenAI’ye kayda değer bir rakip olarak ortaya çıktı. Eski OpenAI Araştırma Başkan Yardımcısı Dario Amodei ve kız kardeşi Daniela kurulan OpenAI’nin ticari yönüyle ilgili bir anlaşmazlığın ardından 2021’de antropik. Özellikle, Anthropic 300 milyon dolar aldı yatırım 2022’nin sonlarında Google’ın şirketin yüzde 10 hissesini satın almasıyla birlikte Google’dan.
Anthropic, 100.000 içerik penceresinin şu anda kullanıcılar için mevcut olduğunu söylüyor. Claude API’sişu anda bir bekleme listesi.