Sıcak cips AMD, son iki yılda bilgi işlem portföyünü istikrarlı bir şekilde genişletti. Bu, 2020’de Xilinx’in ve bu yılın başlarında Pensando’nun satın alınması yoluyla FPGA’ların ve akıllı NIC’lerin eklenmesini içeriyordu.
Bu haftaki Hot Chips konferansında AMD, bulut, kurumsal veri merkezi ve telekomünikasyon ağı için daha iyi bir altyapı işlemcisi oluşturmak için bu teknolojileri nasıl birleştirmeyi planladığına dair bir fikir verdi.
AMD Kıdemli Üyesi Jaideep Dastidar açılış konuşmasında, daha hızlı ağ talepleri ve artan güvenlik gereksinimleriyle birleşen çok sayıda VM ve konteyner iş yüklerinin, özünde kiracı iş yüklerini çalıştırmak üzere tasarlanmış CPU’lara muazzam bir yük getirdiğini söyledi.
VM’lerin veya kapsayıcıların kendilerine ek olarak, CPU’ların VM’den VM’ye ağ oluşturma ve anahtarlama, depolama sanallaştırması ve şifreleme ile de mücadele etmesi gerekir – yalnızca birkaç çekirdek olmayan iş yükünü adlandırmak için.
“SmartNIC’ler ve DPU’lar kurtarmaya geldi, çünkü bu iş yüklerini ana bilgisayar CPU’sundan boşaltmaya yardımcı oldular” dedi.
Bununla birlikte, çoğu smartNIC, yüksek hızlı, sabit işlevli ASIC’lere, programlanabilir FPGA’lara, genel hesaplama çekirdeklerine veya bu teknolojilerin en fazla ikisinin birleşimine dayanır. Dastidar, bunun genellikle bir yerde performans veya esneklikten ödün vermek anlamına geldiğini savundu.
ASIC benzeri, sabit işlevli mantık, herhangi bir smartNIC platformunun watt başına en iyi performansını sunduğu için çekici bir seçenektir, dedi, “ancak bu yalnızca sabit işlevler için kullanıyorsanız çekicidir.”
Gömülü işlemciler, diye ekledi, daha esnek bir alternatif sunuyor, ancak CPU ile aynı sınırlamaların çoğundan muzdarip.
Bu nedenle, bugün piyasadaki birçok DPU ve smartNIC, iş yüklerini hızlandırmak için sabit işlevli mantık ve yüksek düzeyde programlanabilir Arm-CPU çekirdeklerinin bir kombinasyonunu kullanır. Örnekler arasında Marvell’in Octeon 10’u ve Nvidia’nın BlueField DPU’ları sayılabilir.
Ve sonra, saf hesaplama ve programlanabilirlik açısından ASIC’ler ve genel amaçlı işlemciler arasında bir yere düşen FPGA’lar var. Intel, burada FPGA tabanlı IPU’ları ile başarıyı yakaladı.
Üç dünyanın en iyisi
Xilinx artık şirket içindeyken, AMD üç yaklaşımdan herhangi birini takip edebilirdi. Bunun yerine Dastidar, kendisi ve ekibinin güç tüketimini en aza indirirken mümkün olan en yüksek esnekliği ve performansı elde etmek için FPGA’ları, ASIC’leri ve genel bilgi işlem çekirdeklerini birleştirmeyi planladığını söyledi.
Buradaki fikir oldukça basittir: hızlandırıcıların her birini birbirine bağlayın ve yazılımda heterojen bir hesaplama platformu için programlama ile ilişkili karmaşıklığı soyutlayın.
Dastidar’a göre bu, iş yüklerini ASIC, FGPA, genel bilgi işlem çekirdeklerinde çalıştırmalarına veya iş yükünü parçalayıp üçüne dağıtmalarına olanak tanır.
“Belirli bir heterojen bileşenin işlevi veya heterojen işlevlerin bir kombinasyonunu çözmesi önemli değil. Yazılım açısından bakıldığında, sadece bir SoC gibi görünmelidir” dedi.
Bununla birlikte AMD, belirli iş yüklerinin belirli bileşenleri desteklemesini bekliyor. Dastidar, “ASIC mantığını en iyi olduğu yerde uyguluyoruz: kripto boşaltma, DMA boşaltma, hatta tam ağ veri düzlemi boşaltma.”
Sık sık değişmeyecek işlevler eklemek isteyen müşteriler için, “programlanabilir mantıkta yeni hızlandırıcı işlevlerini tamamen sıcak ekleyip kaldırabilirsiniz.”
Genel hesaplama için AMD, merakla Ryzen ve Epyc portföyünün temelini oluşturan Zen çekirdek mimarisine güvenmeyecek ve bunun yerine Arm işlemci çekirdeklerini kullanacak.
Özellikle smartNIC, yüksek performanslı iş yükleri için 16 A78-AE çekirdeğine ve düşük güç ve ışıksız işlemler için dört R52 çekirdeğine sahiptir.
Bellek, dört adede kadar 32 GB LPDDR5 veya DDR5 bellek DIMM’i aracılığıyla kartın kendisine sağlanır.
Son olarak, ağ iletişimi ve ana bilgisayar iletişimi, bir çift 200 Gbps arabirim ve 16 şeritli PCIe 5.0 veya CXL 2.0 bağlantısı ile sağlanacaktır.
Her şeyi boşalt
AMD, SmartNIC’leri için Open vSwitch ve Virtio gibi yaygın sanallaştırma görevlerinin boşaltılması da dahil olmak üzere çok sayıda kullanım senaryosu öngörüyor.
Dastidar, “vSwitch’i geleneksel SDN uygulaması olarak açın. VM’den VM’ye iletişim ve VM geçişi için çok kullanışlıdır. Ancak, OVS tüm CPU’yu vergilendirme eğilimindedir,” diyerek bir uygulamanın OVS kontrol düzlemine sahip olabileceğini açıkladı. ana bilgisayar CPU’sunda çalışır ve gerçek anahtarlama işlevini smartNIC’ye boşaltır.
“Virtio Net çok popüler çünkü VM’ler için ağ bağdaştırıcısını sanallaştırmanıza olanak tanıyor. Virtio Net için iki modeli destekliyoruz. Biri, tüm kontrol düzleminin ve veri düzleminin smartNIC SoC tarafından tüketildiği çıplak metal Virtio’dur… biz de veri yolunun uyarlanabilir smartNIC SoC’de olduğu, ancak kontrol düzleminin ana bilgisayarda kalabileceği BBVA modelini destekleyin.”
Dastidar’a göre smartNIC, ters yönde de çalışabilir. Bu, harici ana bilgisayarların ağ üzerinden NVMe depolaması gibi kaynaklara erişmesini sağlayarak bir sunucudaki kaynaklara bir başkası tarafından etkin bir şekilde erişilmesini sağlar.
“SoC içinde sahip olduğumuz şey, farklı uç noktalara sahip sanal bir anahtardır. Bu PCIe uç noktaları, aslında kendilerini farklı smartNIC hizmetleri için sunuyorlar,” diye açıkladı.
AMD, smartNIC’nin bir TSMC 7nm işlemine dayanacağını söylüyor, ancak bu üç hızlandırıcıdan ilkini piyasada ne zaman görebileceğimiz belirsizliğini koruyor. ®