Microsoft + NVIDIA tarafından sunulur
Amaca yönelik bulut altyapısı, iş değeri ve büyüme yaratmak için yapay zekayı ölçekte hızlı ve ekonomik bir şekilde büyütmenin en iyi yoludur. Bu VB Spot Işığında, Microsoft ve NVIDIA uzmanları, yapay zeka stratejinizin başarısında altyapının kalıcı veya kalıcı rolünü keşfediyor.
İsteğe bağlı olarak ücretsiz izleyin.
Microsoft’ta Azure HPC ve Yapay Zeka Genel Müdürü Nidhi Chappell, “Bugün işletmelerin yapabileceği en önemli şey, yapay zeka söz konusu olduğunda büyüme zihniyetini benimsemek ve onu iki koluyla kucaklamaktır” diyor. “Ön sırada oturma ayrıcalığına sahibim, bu yüzden ne kadar büyük bir fark yarattığını ve ne kadar yeniliğe yol açtığını gördüm.”
Ancak bir AI stratejisini uygulamanın, özellikle de pilotları üretime sokmanın karmaşıklığı ve maliyeti, büyük bir zorluk olmaya devam ediyor. İşte burada yüksek performanslı yapay zeka altyapısı devreye giriyor.
Bulut tabanlı uçtan uca amaca yönelik bir platform optimize edilmiş işlemcileri, hızlandırıcıları, ağları, depolamayı ve yazılımı kapsar – kuruluşların yapay zekayı başarılı bir şekilde operasyonelleştirmesine ve gelişmiş standardizasyon, maliyet kontrolü ve yönetişim ile üretime ölçeklendirmesine olanak tanır.
“Önce yapay zeka” temeli, yönetilmeyen satın alma, düzensiz geliştirme ve belirsiz model performansını ortadan kaldırabilir, mükerrer çabaları azaltmaya yardımcı olabilir, iş akışlarını sıkılaştırabilir ve teknoloji yığınının tüm parçalarının birlikte güzelce çalışmasını sağlamanın birçok kaynak ve zaman maliyetini ortadan kaldırabilir.
Çeşitli AI iş yükleri için optimize edilmiş altyapı
Chappell, “AI pek de yekpare değil” diye hatırlatıyor. “Birçok farklı türde iş yükünü kapsayan genel bir terimdir – maliyet profilleri, özellikle yapay zeka olgunluğunun çeşitli aşamalarındaki kuruluşlar için büyük ölçüde farklılık gösterir”.
Yelpazenin bir ucunda, üst düzey model eğitimi ve büyük miktarda veri çıkarımı yapan işletmeler yer alır. Diğer uçta, çok hafif, önceden oluşturulmuş modeller kullanan ve bunları sahada çıkarım yapan işletmeler var.
Bir devi daha küçük bir ayak iziyle boğuşmak yerine, standartlaştırılmış, bulut tabanlı bir yapay zeka altyapısı, çok çeşitli kullanım durumları, iş yükleri ve bir şirketin belirli senaryoları için optimize edilebilir. Örneğin, bir perakendeci, mağaza düzeyinde günlük veya haftalık envanter yönetimi için AI kullanabilir. Her bir uçtan uca çözüm için maliyet yapısı da geniş ölçüde değişir.
Açık olmak gerekirse, bir yapay zeka platformunda ve bulutta standartlaştırma, satıcıya kilitlenmek veya geliştirme dizginlerini bırakmak anlamına gelmez. Bunun yerine, konteynerleştirme, Kubernetes ve diğer açık, bulut tabanlı yaklaşımlar, işletmelere sağlayıcılar ve bulutlar arasında taşınabilirlik sağlayarak CIO’lara yeniliği engellemeden ihtiyaç duydukları görünürlük ve kontrolü sağlar.
Maliyetlerin hesaplanması
“Amaca uygun” gibi terimler, BT karar vericilerini maliyetler konusunda endişelendirebilir.
Chappell, “Kendi sofistike modellerini geliştiren, fikri mülkiyetleriyle ilgilenen ve büyük model eğitimi için binlerce GPU’yu bir araya getirmesi gereken şirketler için maliyet genellikle bir engel değildir” diyor. Bununla birlikte, “Genel kurumsal pazar, eğitim veya önceden oluşturulmuş bir modelde ince ayar, düşük güç ve ucuz çıkarım için maliyeti optimize edilmiş GPU’lara ihtiyaç duyuyor” diye ekliyor.
Her işletme için bu hassas bir dengedir. Aşırı tedarik, pahalı, yetersiz kullanılan altyapı anlamına gelir; yetersiz tedarik, geliştirme ve dağıtımı yavaşlatır ve bulut hizmetlerindeki boşlukları veya fazlalıkları kapatmak için beklenmeyen masraflar anlamına gelebilir. Daha az karmaşık yapay zeka kullanan şirketler için amaca yönelik altyapı, uygun maliyetli bir düzeye ölçeklendirilebilir.
Standartlaştırılmış altyapı, geliştirme ve dağıtımı hızlandırdığı için şirketler, yapay zekayı daha hızlı üretime sokarak rekabet avantajı elde eder ve bu da toplam sahip olma maliyetini (TCO) azaltabilir.
Chappell’e şu tavsiyede bulunuyor: “Altyapı maliyetine bakmayın, bir model geliştirmenin veya çıkarım yapmanın maliyetine bakın. Gerçek ölçü budur. O zaman geliştirmekte olduğunuz fikri mülkiyeti düşünün – bunun değeri nedir?
Amaca yönelik yapay zeka platformları, uçtan uca yapay zeka ortamlarının maliyetleri düşürmeye, inovasyonu iyileştirmeye ve üretim süresini ve gerçek dünyadaki yatırım getirisini hızlandırmaya nasıl yardımcı olduğu hakkında daha fazla bilgi edinmek için bu VB Spotlight’ı kaçırmayın.
Burada talep üzerine ücretsiz izleyin.
Gündem
- Düzenli, hızlı, uygun maliyetli geliştirme ve dağıtıma olanak sağlama
- Devam eden yenilik ve değer için odaklanma ve fonları serbest bırakma
- Hesap verebilirlik, ölçülebilirlik ve şeffaflığın sağlanması
- Altyapı doğrudan kârlılığı nasıl etkiler?
Konuşmacılar
- Nidhi ChappellGenel Müdür, Azure HPC ve AI, Microsoft
- Manuvir DasKurumsal Bilgi İşlem Başkanı, NVIDIA
- Joe MaglittaSunucu ve Moderatör, VentureBeat