Uçta birleşik öğrenme, gizlilik, hız ve maliyet açısından bulutla rekabet edebilir

2000’li yıllarda Bulut” havalanmaya başladı. Programcılar ve işletmeler, yazılımlarını ve uygulamalarını çalıştırmak için talep üzerine sanal bilgi işlem kaynakları tedarik etmeye başladı.

Son yirmi yılda geliştiriciler, başka biri tarafından yönetilen ve sürdürülen anında kullanılabilir altyapıya alıştı ve bu altyapıya güvendi. Ve bu sürpriz değil. Donanım ve altyapıyı soyutlamak, geliştiricilerin ve şirketlerin her şeyden önce ürün yeniliğine ve kullanıcı özelliklerine odaklanmasını sağlar.

Amazon Web Services, Microsoft Azure ve Google Cloud, depolama ve bilgi işlemi her yerde hazır, isteğe bağlı ve kurulumu kolay hale getirdi. Ve bu hiper ölçekleyiciler, bu yaklaşımın üzerine sağlam, yüksek marjlı işler inşa ettiler. Buluta güvenen kuruluşlar, sermaye harcamalarını (sunucular ve donanım) işletim harcamaları (kullandıkça öde bilgi işlem ve depolama kaynakları) karşılığında takas ettiler.

Birleşik öğrenime girin

Bulutun kullanım kolaylığı, her ne pahasına olursa olsun yenilik yapmaya çalışan herhangi bir yeni başlayan ekip için bir nimet olsa da, bir şirket ölçeklenirken bulut merkezli mimari önemli bir gelir maliyetidir. Aslında, büyük SaaS şirket gelirlerinin %50’si bulut altyapısına gidiyor.

Makine öğreniminin (ML) popülaritesi ve kullanışlılığı artmaya devam ettikçe, kuruluşlar bulutta artan miktarda veri depolar ve daha yüksek model doğruluğu ve daha fazla kullanıcı yararı arayışıyla daha büyük ve daha büyük modeller eğitir. Bu, bulut sağlayıcılarına olan güveni daha da artırıyor ve kuruluşlar, iş yüklerini şirket içi çözümlere geri döndürmeyi zor buluyor. Aslında, bunu yapmak, yıldız bir altyapı ekibi tutmalarını ve sistemlerini tamamen yeniden tasarlamalarını gerektirecektir.

Kuruluşlar, yeni ürün yeniliğine olanak tanıyan ve düşük gecikmeyle yüksek doğruluk sunarken yine de uygun maliyetli araçlar arıyor.

Uçta birleştirilmiş öğrenmeye (FL) girin.

Uçta Birleşik Öğrenme (FL) nedir?

FL veya işbirlikçi öğrenme, veri depolama ve hesaplamaya farklı bir yaklaşım getirir. Örneğin, popüler bulut merkezli makine öğrenimi yaklaşımları verileri telefonunuzdan merkezi sunuculara gönderip bu verileri bir siloda toplarken, uçtaki FL verileri cihazda (yani cep telefonunuzda veya tabletinizde) tutar. Aşağıdaki şekilde çalışır:

Aşama 1: Senin kenar cihazı (veya cep telefonu) bir FL sunucusundan bir başlangıç ​​modeli indirir.

Adım 2: Cihaz içi eğitim daha sonra gerçekleştirilir; cihazdaki veriler modeli geliştirir.

Aşama 3: Temel alınan veriler kullanıcının cihazında güvenli bir şekilde dururken, şifrelenmiş eğitim sonuçları model iyileştirmesi için sunucuya geri gönderilir.

Adım 4: Cihazdaki model ile tamamen dağıtık ve merkezi olmayan bir şekilde uçta eğitim ve çıkarım yaparsınız.

Bu döngü yinelemeli olarak devam eder ve modelinizin doğruluğu artar.

Kullanıcı için birleşik öğrenme avantajları

Verilerin merkezileştirilmesine bağımlı olmadığınızda veya darboğaz yaşamadığınızda, kullanıcı önemli ölçüde fayda sağlar. Geliştiriciler uçta FL ile gecikmeyi iyileştirebilir, ağ aramalarını azaltabilir ve güç verimliliğini artırırken kullanıcı gizliliğini ve gelişmiş model doğruluğunu geliştirebilir.

Kenardaki FL cebimizdeki telefonların her geçen gün artan donanım kapasitesiyle mümkün oluyor. Her yıl, cihazdaki hesaplama ve pil ömrü iyileşir. Cebimizdeki akıllı telefon işlemcisi ve donanımı geliştikçe, FL teknikleri giderek daha karmaşık ve kişiselleştirilmiş kullanım durumlarının kilidini açacaktır.

Örneğin, telefonunuzda gizlilik odaklı bir şekilde oturan ve gelen e-postalara sizin kişisel tonunuz, noktalama stiliniz, argo ve diğer hiper kişiselleştirilmiş özelliklerle yanıtları otomatik olarak hazırlayabilen bir yazılım düşünün – tek yapmanız gereken gönder’e tıklamak.

Kurumsal çekicilik güçlü

Birden fazla Fortune 500 şirketiyle yaptığım görüşmelerde, sektörler arasında sınırda FL’ye ne kadar talep olduğu kör edici bir şekilde açıktı. CTO’lar, FL tekniklerini hayata geçirmek için nasıl bir çözüm aradıklarını ifade ediyorlar. CFO’lar, aksi takdirde FL yaklaşımında tasarruf edilebilecek olan altyapı ve model dağıtımı için harcanan milyonlarca doları referans alır.

Bana göre, birleşik öğrenmenin meyvelerini toplama potansiyeli en yüksek olan üç sektör finans, medya ve e-ticarettir. Nedenini açıklayayım.

Kullanım Örneği No.1: Finans — iyileştirilmiş gecikme ve güvenlik

Birçok büyük çok uluslu finans şirketi (Mastercard, PayPal), hesap devralmalarını, kara para aklamayı ve sahtekarlığı tespit etmede kendilerine yardımcı olması için uçta FL’yi benimsemeye heveslidir. Daha doğru modeller rafta bekliyor ve piyasaya sürülmesi onaylanmadı.

Neden? Bu modeller, gecikmeyi kullanıcı deneyimini olumsuz yönde etkileyecek kadar artırıyor — açılması çok uzun sürdüğü veya kilitlendiği için artık kullanmadığımız uygulamaları hepimiz düşünebiliriz. Şirketler bu sebeplerden dolayı kullanıcı kaybetmeyi göze alamazlar.

Bunun yerine, daha yüksek bir yanlış negatif oranı kabul ediyorlar ve fazladan hesap ele geçirme, aklama ve dolandırıcılıktan mustarip oluyorlar. Uçta FL, şirketlerin geleneksel bulut merkezli dağıtımlara kıyasla model performansında göreceli bir artış gösterirken aynı anda gecikmeyi iyileştirmesine olanak tanır.

Medya sektöründe, Netflix ve YouTube gibi şirketler, hangi filmlerin veya videoların izleneceğine dair önerilerinin alaka düzeyini artırmak istiyor. bu Netflix Ödülü kendi algoritmasına kıyasla performansta %10’luk bir artış için 1 milyon dolar ödüllendirdi.

Kenardaki FL, benzer bir etki sunma potansiyeline sahiptir. Bugün, yeni bir şov başlatıldığında veya popüler bir spor etkinliği (Superbowl gibi) canlı yayınlandığında, şirketler kullanıcılarından topladıkları sinyalleri azaltıyor.

Aksi takdirde, devasa veri hacmi (saniyede milyonlarca istek oranında), geniş ölçekte içerik önermelerini engelleyen bir ağ darboğazına neden olur. Edge bilişim ile şirketler, bireysel kullanıcıların zevk ve tercihlerinden elde edilen bilgilere dayalı olarak kişiselleştirilmiş içerik önermek için bu sinyallerden yararlanabilir.

3. Kullanım Örneği: E-ticaret — daha zamanında ve alakalı öneriler

Son olarak, e-ticaret ve pazar yeri şirketleri, tıklama oranlarını (TO) artırmak ve gerçek zamanlı özellikli mağazalara dayalı dönüşümleri artırmak istiyor. Bu, müşterilerin önerilerini yeniden sıralamalarına ve geleneksel bulut tabanlı önerilerin gecikmesi olmadan daha doğru tahminler sunmalarına olanak tanır.

Örneğin, telefonunuzda Target uygulamasını açtığınızı ve tamamen gizlilik merkezli bir şekilde ürünler için son derece kişiselleştirilmiş öneriler aldığınızı hayal edin; telefonunuzdan hiçbir tanımlayıcı veri çıkmazdı. Birleşik öğrenim, kullanıcılara daha zamanında ve ilgili öneriler sunan daha performanslı, gizliliğe duyarlı bir model sayesinde TO’yu artırabilir.

Pazar manzarası

Teknolojik gelişmeler sayesinde, hem büyük şirketler hem de yeni kurulan şirketler, FL’yi daha yaygın hale getirmek için çalışıyor, böylece hem şirketler hem de tüketiciler faydalanabiliyor. Şirketler için bu muhtemelen daha düşük maliyetler anlamına gelir; tüketiciler için daha iyi bir kullanıcı deneyimi anlamına gelebilir.

Alanda zaten birkaç erken oyuncu var: Amazon SageMaker, geliştiricilerin makine öğrenimi modellerini öncelikle uç cihazlar ve gömülü sistemler; Google Dağıtılmış Bulut, altyapısını uca genişletiyor; ve yeni kurulan Nimbleedge şirketleri altyapı yığınını yeniden tasarlıyor.

Erken vuruşlardayken, kenardaki FL burada ve hiper ölçekleyiciler bir görevdeki ikilem içinde. Bulut sağlayıcılarının bilgi işlem, depolama ve veriler için kazandığı gelir risk altındadır; uç bilgi işlem mimarisini benimseyen modern sağlayıcılar, müşterilere birinci sınıf makine öğrenimi modeli doğruluğu ve azaltılmış gecikme süresi sunabilir. Bu, kullanıcı deneyimini iyileştirir ve uzun süre göz ardı edemeyeceğiniz bir değer önerisi olan karlılığı artırır.

Neeraj Hablani şu şirketin ortağıdır: Neokabile Girişimleri çığır açan teknolojiler üreten erken aşamadaki şirketlere odaklandı.