Şirketlerin makine öğrenimi modellerini dağıtmaları neden bir ay veya daha uzun sürüyor ve neler yapabilirsiniz?

0

Transform 2022’yi 19 Temmuz’da tekrar şahsen ve 20-28 Temmuz arasında sanal olarak sunmayı sabırsızlıkla bekliyoruz. Bilgilendirici sohbetler ve heyecan verici ağ oluşturma fırsatları için bize katılın. Bugün kayıt Ol!


Makine Öğrenimi (ML), her alanda modern işletmeler için paha biçilmez bir varlıktır. Bununla birlikte, makine öğrenimi modelleri söz konusu olduğunda, hem B2C hem de B2B şirketleri piyasaya sürme süresinin gecikmesi sorunuyla karşı karşıyadır. Algoritmaya göre, şirketlerin büyük çoğunluğunun makine öğrenimi modellerini geliştirmesi ve ardından devreye alması en az bir ay veya daha fazla zaman alır.

Bunun nedeni, karmaşık ve genellikle çok pahalı iki aşamalı bir süreçtir. Kendi başına bir ML modeli geliştirmek, uzun ve potansiyel olarak pahalı bir süreç olabilir. Bununla birlikte, çoğu şirketin erken dönemde fark edemediği şey, ilk aşamanın ardından muhtemelen daha zorlayıcı olan başka bir aşamanın devreye alınması gerektiğidir. Bu ikinci aşamada, bitmiş model üretime aktarılır, test edilir ve rafine edilir ve ardından buna göre ölçeklendirilir.

Tüm şirketlerin yalnızca %10’unun, tamamlanmasından sonraki bir hafta içinde yeni bir ML modelini üretime sokacak deneyime, finansal kaynaklara ve teknik bilgiye sahip olduğu tahmin edilmektedir. Birçoğu bir yıla kadar mücadele ediyor ve tüm kuruluşların en az %30’unun dağıtımdan sonra en az üç ay geçmesi gerekiyor. Tam olarak ne kadar süreceği, büyük ölçüde şirketin üç yaygın model türünden hangisini seçtiğine bağlıdır.

Stok, özel ve özel uyarlanabilir modeller

Halihazırda piyasada bulunan ML modelleri arasında şunlar bulunur: genel modeller, özel modeller ve özel uyarlanabilir modeller.

Genel ve özel modeller temelde zıt kutuplardır. Aradaki fark, genel modellerin hem ucuz hem de doğru olması, özel modellerin ise hem pahalı hem de doğru olmasıdır. Bunun nedeni, genel modellerin bu sektördeki hemen hemen her işletmeye uyacak şekilde tasarlanmış olmasıdır. Bunlar genellikle ResNet, BERT/GPT ve benzeri standart teknolojileri temel alır. Sonuç olarak, bu modeller uygun fiyatlı ve güvenilirdir, ancak aynı zamanda mükemmel bir uyumdan da uzaktırlar.

Özel yapım ürünler ise her zaman ilgili göreve göre uyarlanır ve bu nedenle çok daha hassastır. Ancak, yüksek geliştirme ve bakım maliyetleri nedeniyle, çok daha yüksek bir fiyat etiketi ile gelirler. Genel bir çözümle başlayıp daha sonra ML modellerini geliştirmeye çalışanlar, genellikle modelin temel mimarisinin ötesine geçerler. Sonunda elde ettikleri şey özel bir model. Anında daha geniş iş gereksinimlerine göre ölçeklendirilebilen ve dağıtım sonrası sıkıcı ince ayar işlemlerinin çoğunu ortadan kaldıran özel bir model, özel uyarlanabilir bir modeldir.

Bu nedenle uyarlanabilir bir model, genel modellerin sunduğu bazı avantajlara sahip bir özel model türüdür. Diğer tüm özel modeller gibi, uyarlanabilir modeller de belirli iş ihtiyaçları göz önünde bulundurularak geliştirilir. Bu nedenle, çok doğrular. Aynı zamanda, şirketin ilk geliştirme aşamasından sonra MLop’ları bulmasını gerektirmezler. Sonuç olarak, nispeten düşük bakım maliyetleri ve daha kısa pazara sunma süresi ile dağıtım ve dağıtım sonrası aşamalarda genel modeller gibi çalışırlar.

Bir ML modeli seçme

Şirketinizin hangi modele ihtiyacı olduğu, yani ekstra ücrete değip değmeyeceği, sizin özel durumunuza bağlıdır. İşletmenizin şu kadar basit bir şeye ihtiyacı olabilir: B. Lokasyona bağlı olarak farklı depolara online sipariş gönderme. Bu durumda, özellikle küçük bir işletmeyseniz, genel bir ML modeli yalnızca bilet olabilir.

Öte yandan, tıbbi cihazları tartışan çevrimiçi bir doktor topluluğu için içeriği denetlemek gibi belirli bir şeyse, özel bir model daha iyi çalışır. Genel bir ML modelinin uygunsuz dil olarak görebileceği, örneğin cinsel organlardan bahsetmek, tıbbi tartışmalar bağlamında sadece uygun değil, aynı zamanda gereklidir. Bu durumda, eğitim modeli şirketin bireysel ihtiyaçlarına göre uyarlanmalıdır. Ve bu kişiye özel model uyarlanabilir olabilir veya olmayabilir.

Her modelin artılarına ve eksilerine bakalım:

ML model türlerinin karşılaştırılması. Yazara göre resim

Özel uyarlanabilir modeller

Özel makine öğrenimi modelleri, dağıtımdan önce ve sonra genellikle öngörülemeyen maliyetler nedeniyle pahalıdır. Bu tipik olarak yüksek başlangıç ​​maliyetleri nedeniyle, bazı şirketler özelleştirilmiş seçenekten kaçınma eğiliminde olup, bunun yerine daha az doğru fakat aynı zamanda daha az pahalı olan genel yolu tercih etmektedir. Bir eğitim modelinin gerçekte ne kadar pahalı hale geleceği, modelin esnekliğine veya eksikliğine yansıyan, seçilen veri etiketleme metodolojisi de dahil olmak üzere bir dizi faktöre bağlıdır.

Aşağıdaki örnek, eylem halindeki kitle kaynaklı özel uyarlanabilir bir modeli, yani döngüdeki insan etiketlemesine dayanan uyarlanabilir bir modeli göstermektedir:

Mühendislik düzenleme ortamı sunan tanınmış bir şirket, yazılımlarının doğruluğunu artırmak ve modelin eğitim maliyetini azaltmak istedi. Mühendislik ekibinin İngilizce cümleleri düzeltmek için daha verimli bir çözüm bulması gerekiyordu. Her çözümün mevcut bir tamamen manuel etiketleme hattına uyması gerekiyordu.

Nihai çözüm, müşterinin ihtiyaçlarına göre özelleştirilmiş, dilsel işleme için önceden var olan özel bir model kullanmaktı. Hedef cümlelerde metin sınıflandırması için üçüncü taraf AutoML kullanıldı. Ardından, ifade kontrolünün doğruluğu %6 artarak %76’dan %82’ye yükseldi. Bu da modelin eğitim maliyetlerini %3 oranında azalttı. Ayrıca, müşterinin çoğu özel modelde olduğu gibi, modelin altyapısına finansal veya başka türlü herhangi bir ek yatırım yapması gerekmedi.

Dikkate alınması gereken önemli noktalar

İşletmeniz için doğru ML modelini seçmek göz korkutucu bir görev olabilir. Bilgilendirilmiş bir karar vermek için göz önünde bulundurmanız gerekenlerin bir özeti:

  • İhtiyaçlarınızın ne kadar spesifik olduğunu düşünün: Genel bir kural olarak, ihtiyaçlar ne kadar spesifik olursa, genel modelden o kadar uzaklaşmalısınız.
  • Her zaman ölçeklenebilirliği göz önünde bulundurun – ihtiyacınız olduğunu biliyorsanız, yalnızca size özel bir şey için fazladan ödeme yapmayı düşünün.
  • Yüksek doğruluğa değil, hızlı dağıtıma ihtiyacınız varsa, genel rotaya gidin.
  • Doğruluk sizin için önemliyse, pazarlamak için ne kadar zaman ayırabileceğinizi düşünün.
  • Zamanınız kısıtlıysa ve yüksek doğruluğa ihtiyacınız varsa, Özel Uyarlanabilir Rotayı düşünün. Aksi takdirde, herhangi bir özel çözüm de ihtiyaçlarınıza hizmet edebilir.
  • Genel maliyet açısından, genel yol hepsinden en ucuzudur – bunu, MLops maliyetlerinin çoğunu atlayan özel uyarlamalı yol izler – ve son olarak, dağıtımdan sonra maliyeti önemli ölçüde artırabilen diğer tüm özel çözümler (tam sayılar farklıdır) bireysel durumlarda güçlü bir şekilde etkiler).
  • Şirket içi veri bilimcileriniz ve MLE’leriniz olup olmadığını düşünün – varsa, şirket içinde geliştirilen geleneksel özel seçeneği kullanmak uygun olabilir. Değilse – diğer ikisini (genel veya özel uyarlamalı) düşünün.
  • Özel ve özel uyarlanabilir seçenekler arasında seçim yaparken, ML modelinin nihai olarak müşterilerinizin ihtiyaçlarına göre ne kadar doğru ve spesifik olması gerektiğini düşünün. Doğruluk ve uyarlanabilirlik ne kadar yüksek olursa, modelin oluşturulması ve bakımı için maliyet ve bekleme süresi de o kadar uzun olur.

Fedor Zhdanov, Toloka AI’da ML Ürünleri Başkanıdır.

veri karar verici

VentureBeat topluluğuna hoş geldiniz!

DataDecisionMakers, teknik personel de dahil olmak üzere verilerle çalışan uzmanların verilerle ilgili içgörüleri ve yenilikleri paylaşabileceği yerdir.

Yenilikçi fikirler ve güncel bilgiler, en iyi uygulamalar ve veri ve veri teknolojisinin geleceği hakkında bilgi almak istiyorsanız DataDecisionMakers’da bizi ziyaret edin.

Kendi makalenize katkıda bulunmayı bile düşünebilirsiniz!

DataDecisionMakers’tan daha fazlasını okuyun