目前，數(shù)據(jù)中心在異構(gòu)計算和算法標準上不斷變化，越來越多的應(yīng)用領(lǐng)域需要專用的架構(gòu)，使得硬件能夠和算法去進行匹配以達到最佳運行效果或者是提高它的運行速度。網(wǎng)絡(luò)上有很多不同的數(shù)據(jù)，這些數(shù)據(jù)在運行過程當中有不同的要求，而且網(wǎng)絡(luò)自身也在不斷迭代，計算、網(wǎng)絡(luò)和存儲對加速的要求都在水漲船高。對于硬件而言，理想的方式是能在不改變硬件的情況下，加速任何工作負載，并能降低總體擁有成本。

針對這一需求趨勢，去年10月份的時候，賽靈思推出了Alveo系列加速卡。賽靈思數(shù)據(jù)中心業(yè)務(wù)部產(chǎn)品規(guī)劃和市場營銷總監(jiān)Jamon u280 Bowen將這一系列產(chǎn)品的規(guī)劃目的總結(jié)為三個：快速、靈活應(yīng)變和方便易用。即高吞吐量同時具有超低時延，能夠為多種工作負載進行加速，并且可以運用于云和本地各種場景。Alveo系列包括U200、U250和U280,區(qū)別主要是FPGA中的LUT規(guī)模和總線資源。今天，該公司宣布推出了Alveo系列最新的一款加速卡Alveo U50。

輕

輕量級加速

和該系列之前的產(chǎn)品不同，Alveo U50是業(yè)界首款輕量級PCIe Gen4自適應(yīng)計算加速卡，并且面向所有服務(wù)器、各種云和邊緣的數(shù)據(jù)中心應(yīng)用，包括網(wǎng)絡(luò)和存儲加速?！斑@是之前的產(chǎn)品做不到的?！盉owen說。

nb200奔牛SGTNB 2

圖：從賽靈思提供的資料看，U50似乎是U280的迷你版。

Alveo U50支持PCIe Gen4這一最新的服務(wù)器總線和CCIX互聯(lián)標準，不同于GPU加速器的尺寸，U50要小的多，“GPU加速器的尺寸適合電腦，但不適用于網(wǎng)絡(luò)和存儲，”Bowen說，“采用賽靈思UltraScale+架構(gòu)以及集成超高帶寬的HBM2存儲器技術(shù)大大減少了U50的尺寸。”

采用HBM2這種片上存儲不僅僅是出于體積的考慮，還在于這能提升性能——HBM性能是DDR的10倍。U50內(nèi)置8GB HBM2,可實現(xiàn)超過400Gbps的數(shù)據(jù)傳輸速度。PCIe Gen4也是目前最快的總線技術(shù)，這些都是存儲加速的要素。在網(wǎng)絡(luò)端口方面，U50的QSFP28端口可以實現(xiàn)100Gbps的網(wǎng)絡(luò)連接，并支持多種前沿應(yīng)用，如VMe-oF（NVM Express over Fabrics）、解耦計算存儲和專業(yè)金融服務(wù)應(yīng)用。滿足所有u280這些性能只需要不到75W的功耗，這可以讓很多應(yīng)用不再為功耗預算而擔心。

在一組針對語音翻譯（深度學習推斷加速）、數(shù)據(jù)庫分析（數(shù)據(jù)分析加速）、數(shù)據(jù)壓縮（計算存儲加速）、電子交易（網(wǎng)絡(luò)加速）和金融建模（網(wǎng)格計算）的加速測試中，與GPU和CPU加速相比，U50的表現(xiàn)優(yōu)異。

其中，語音翻譯的時延降低25倍，吞吐量擴大10倍，在翻譯性能方面，和英偉達T4 相比，U50 性能提升高達10倍；

在運行TPC-H Query基準測試（數(shù)據(jù)庫分析）時，相比CPU，U50每小時吞吐量提升4倍，運營成本降低3倍；

在數(shù)據(jù)壓縮上，U50將壓縮/解壓縮吞吐量提高了20倍，實現(xiàn)了更快的Hadoop和大數(shù)據(jù)分析，同時相比僅CPU節(jié)點將每節(jié)點成本降低了40%；

在電子交易中，U50相比僅CPU的10us延時，能將時延降低20%，交易時間不到500ns；

在金融建模時，運行蒙特卡洛模擬，U50的功效相比GPU提升了7倍。

圖：U50在吞吐量，延遲和功效方面實現(xiàn)了10-20倍的改善

總的來說，U50在吞吐量，延遲和功效方面實現(xiàn)了10-20倍的改善。“我們的戰(zhàn)略是致力于讓賽靈思靈活應(yīng)變的加速技術(shù)應(yīng)用于數(shù)據(jù)中心的所有領(lǐng)域，具體來說就是計算、網(wǎng)絡(luò)和存儲，”Bowen說，“所有的計算工作負載都是這三個領(lǐng)域的一部分，這也是我們看到Alveo可以大展宏圖的地方。”

重

兩個重要堆棧

計算、網(wǎng)絡(luò)和存儲為什么需要加速？因為諸如AlexNet、GoogleNet、DenseNet這些網(wǎng)絡(luò)結(jié)構(gòu)都需要不同的硬件架構(gòu)來實現(xiàn)高吞吐量、低時延和高效率。對于應(yīng)用而言，加速可以靈活適應(yīng)不同的需求。而數(shù)據(jù)中心要優(yōu)化性能，需要定制數(shù)據(jù)路徑、定制精度和定制存儲器層級，沒有比可編程的硬件更適合來進行定制化的加速了。不過，對于數(shù)據(jù)中心開發(fā)者而言，F(xiàn)PGA編程是個令人頭痛的事情。

“我們從數(shù)據(jù)中心的客戶那里聽到的一個最大的抱怨就是FPGA的編程非常困難，”Bowen說，“Alveo提供開放的平臺和開發(fā)環(huán)境，讓開發(fā)者能夠更加便捷地使用，隨著越來越多的開發(fā)者到這個平臺上來開發(fā)，會有更多的云和相關(guān)產(chǎn)品加入，并且能夠?qū)崿F(xiàn)原來只有在軟件部分才有可能實現(xiàn)的硬件IP的靈活應(yīng)變能力?！?/p>

對于賽靈思而言，這個開放平臺正在形成一個解決方案的堆棧，好消息是，自去年10月份推出Alveo以來，目前已發(fā)布的應(yīng)用已經(jīng)是當初的2倍，而其培訓的開發(fā)者已經(jīng)是當初的4倍。

圖：解決方案堆棧

開發(fā)堆棧解決了FPGA加速卡的開發(fā)難題，接下來就是大規(guī)模部署落地的難題。Alveo系列的應(yīng)用領(lǐng)域包括數(shù)據(jù)分析、視頻與圖象處理、機器學習、生命科學和金融計算——不僅是云的覆蓋，還要部署落地。在諸多調(diào)動IT業(yè)者積極性的因素中，“充分商業(yè)化的標準化產(chǎn)品”是重要的一個，這使得賽靈思的標準產(chǎn)品的開源框架很容易被Kubernetes和docker這類免費的微服務(wù)內(nèi)容平臺連接。

“因為我們是一個非常標準化的產(chǎn)品，所以Kubernetes可以在系統(tǒng)內(nèi)反映出Alveo插件，開發(fā)者也可以把它和docker配合起來，通過對Alveo進行編程而在系統(tǒng)中體現(xiàn)出加速應(yīng)用。”Bowen解釋道，“所有編排、云管理和應(yīng)用都和這些免費的生態(tài)系統(tǒng)結(jié)合，如果沒有這樣一個標準化的產(chǎn)品配置，客戶可能需要花費大量的投資才能夠?qū)崿F(xiàn)這樣一個功能，這對于一些超大規(guī)模數(shù)據(jù)中心的應(yīng)用來說是非常有必要的，既可以在云端，也可以用Alveo在本地進行加速，而且是一個非常開放式的框架，可以進行全面的加速?！?/p>

這個生態(tài)就是一個大規(guī)模部署堆棧，賽靈思在其中開發(fā)了一個標準框架，然后提供Alveo產(chǎn)品，讓開發(fā)者像加速軟件那樣給服務(wù)器加速——重要的是，通過開發(fā)這個標準框架，賽靈思決定了應(yīng)用場景的加速方式。

圖：大規(guī)模部署堆棧

據(jù)悉，賽靈思選擇在今天（8月7日）發(fā)布Alveo U50，是因為這兩天（8月6-8日），閃存峰會（Flash Memory Summit (FMS) 2019）正在美國加州圣克拉拉會議中心舉辦，賽靈思執(zhí)行副總裁兼數(shù)據(jù)中心部總經(jīng)理Salil Raje將發(fā)表有關(guān)高速存儲系統(tǒng)加速的的主題演講，該公司同時也會在現(xiàn)場演示這款最新的產(chǎn)品。

2404華夏2404輪式拖拉機