OpenAI’nin arkasındaki makine öğrenimi teknolojisi Ray, Ray 2.0’a yükselir

Son iki yılda, kuruluşların giderek daha büyük ve karmaşık yapay zeka (AI) iş yüklerini ölçeklendirmesi ve çalıştırması için en yaygın yollardan biri, OpenAI’den Shopify ve Instacart’a kadar şirketler tarafından kullanılan açık kaynaklı Ray çerçevesi olmuştur.

Ray, makine öğrenimi (ML) modellerinin donanım kaynakları arasında ölçeklenmesini sağlar ve ayrıca farklı ML araçlarında MLops iş akışlarını desteklemek için kullanılabilir. Ray 1.0, Eylül 2020’de çıktı ve son iki yılda bir dizi yineleme geçirdi.

Bugün, Ray 2.0’ın San Francisco’daki Ray Zirvesi’nde genel kullanıma sunulmasıyla bir sonraki önemli dönüm noktası yayınlandı. Ray 2.0, makine öğrenimi hizmetlerini yürütmek için bir çalışma zamanı katmanı olarak çalışması amaçlanan yeni Ray AI Runtime (AIR) ile teknolojiyi genişletiyor. Ray 2.0 ayrıca AI iş yüklerini oluşturmayı ve yönetmeyi basitleştirmeye yardımcı olmak için tasarlanmış yetenekler içerir.

Ray’in önde gelen ticari destekçisi Anyscale, yeni sürümün yanı sıra Ray’i çalıştırmak için yeni bir kurumsal platform duyurdu. Anyscale ayrıca, mevcut yatırımcılar Addition ve Intel Capital tarafından ortaklaşa yönetilen ve Foundation Capital’in katılımıyla 99 milyon dolarlık yeni bir finansman turunu duyurdu.

Anyscale’in kurucu ortağı ve CEO’su Robert Nishihara, Ray Zirvesi’ndeki açılış konuşmasında, “Ray, UC Berkeley’de küçük bir proje olarak başladı ve başlangıçta hayal ettiğimizin çok ötesinde büyüdü” dedi.

OpenAI’nin GPT-3’ü Ray üzerinde eğitildi

Ray’in günümüzde yapay zeka alanındaki temel önemini ve erişimini küçümsemek zor.

Nishihara, açılış konuşması sırasında Ray’i kullanan BT endüstrisindeki büyük isimlerin bir çamaşırhane listesini gözden geçirdi. Bahsettiği şirketler arasında, TensorFlow ve PyTorch’u kullanan ML platformunu ölçeklendirmeye yardımcı olmak için Ray’i kullanan e-ticaret platformu satıcısı Shopify yer alıyor. Bakkal teslimat hizmeti Instacart, binlerce ML modelini eğitmeye yardımcı olmak için teknolojiden yararlanan başka bir Ray kullanıcısıdır. Nishihara, Amazon’un aynı zamanda birden çok iş yükü türünde bir Ray kullanıcısı olduğunu belirtti.

Ray aynı zamanda önde gelen AI yenilikçilerinden biri olan ve GPT-3 Büyük Dil Modeli ve DALL-E görüntü oluşturma teknolojisinin arkasındaki grup olan OpenAI için temel bir unsurdur.

OpenAI’nin CTO’su ve kurucu ortağı Greg Brockman, Ray Summit’te “En büyük modellerimizi eğitmek için Ray kullanıyoruz” dedi. “Yani, oldukça benzeri görülmemiş bir ölçeğe ölçeklenebilmemiz açısından bizim için çok yardımcı oldu.”

Brockman, Ray’i geliştirici dostu bir araç olarak gördüğünü ve OpenAI’nin sürdürmek zorunda olmadığı üçüncü taraf bir araç olmasının da yararlı olduğunu söyledi.

Brockman, “Bir şeyler ters gittiğinde, GitHub’dan şikayet edebilir ve bir mühendisin üzerinde çalışmasını sağlayabiliriz, böylece altyapı oluşturma ve bakım yükünün bir kısmını azaltır” dedi.

Ray 2.0’da daha fazla makine öğrenimi özelliği yerleşik olarak geliyor

Ray 2.0 için, Nishihara’nın birincil hedefi, büyük ve küçük kullanıcılara fayda sağlayan performans optimizasyonları sağlarken daha fazla kullanıcının teknolojiden yararlanmasını kolaylaştırmaktı.

Nishihara, AI’daki ortak bir acı noktasının, kuruluşların belirli bir iş yükü için belirli bir çerçeveye bağlanabilmeleri, ancak zamanla diğer çerçeveleri de kullanmak istediklerini fark etmeleri olduğu yorumunu yaptı. Örneğin, bir kuruluş yalnızca TensorFlow’u kullanmaya başlayabilir, ancak aynı ML iş yükünde PyTorch ve HuggingFace’i de kullanmak istediklerini fark edebilir. Ray 2.0’daki Ray AI Runtime (AIR) ile, kullanıcıların ML iş yüklerini birden çok araçta birleştirmesi artık daha kolay olacak.

Model dağıtımı, Ray 2.0’ın Ray Serve dağıtım grafiği özelliğiyle çözmeye yardımcı olmak istediği bir diğer ortak sorundur.

“Bir avuç makine öğrenimi modelini dağıtmak bir şeydir. Birkaç yüz makine öğrenimi modelini dağıtmak tamamen başka bir şey, özellikle bu modeller birbirine bağlı olduğunda ve farklı bağımlılıklara sahip olduğunda, ”dedi Nishihara. “Ray 2.0’ın bir parçası olarak, bu sorunu çözen ve ölçeklenebilir model kompozisyonu için basit bir Python arabirimi sağlayan Ray Serve dağıtım grafiklerini duyuruyoruz.”

İleriye dönük olarak, Nishihara’nın Ray ile hedefi, makine öğrenimi iş yüklerini geliştirmeyi ve yönetmeyi kolaylaştırarak daha geniş bir AI kullanımına yardımcı olmaktır.

Nishihara, “Herhangi bir geliştiricinin veya herhangi bir organizasyonun AI ile başarılı olabileceği ve AI’dan değer alabileceği bir noktaya gelmek istiyoruz” dedi.