“到2020年，行業(yè)前15%的企業(yè)都將采用機(jī)器學(xué)習(xí)；到2023年，人工智能將取代50%的IT業(yè)務(wù)工作量”。

也許你還沒有察覺，但I(xiàn)DC的這些預(yù)測(cè)數(shù)據(jù)在提醒著我們每一個(gè)人，人工智能時(shí)代正加速到來，其已不再僅僅是實(shí)驗(yàn)室中的數(shù)據(jù)模型，產(chǎn)業(yè)界正在不懈地探索人工智能應(yīng)用落地的路徑。

政府、金融、互聯(lián)網(wǎng)、新零售、新制造、醫(yī)療，未來這六大行業(yè)應(yīng)用AI的3年復(fù)合增長(zhǎng)率將超過30%。不過要說的是，人工智能“撲面而來”，能夠?qū)ζ淦鸬疥P(guān)鍵支撐作用的底層基礎(chǔ)設(shè)施已經(jīng)準(zhǔn)備好了嗎？

算法、算力、數(shù)據(jù)被稱為推動(dòng)AI發(fā)展的“三駕馬車”，到今天深度學(xué)習(xí)算法已經(jīng)形成突破，不過算法驅(qū)動(dòng)的智能程度嚴(yán)重依賴海量的樣本數(shù)據(jù)和高性能的計(jì)算能力。當(dāng)下，在提升AI數(shù)據(jù)處理的效率方面，存儲(chǔ)和計(jì)算領(lǐng)域已經(jīng)發(fā)生革命性的變化。

存儲(chǔ)介質(zhì)從機(jī)械硬盤(HDD)演進(jìn)到閃存盤(SSD)，來滿足數(shù)據(jù)的實(shí)時(shí)存取要求，介質(zhì)時(shí)延降低了不止100倍；在算力方面，業(yè)界已經(jīng)在采用GPU甚至專用的AI芯片，處理數(shù)據(jù)的能力提升了100倍以上。

不過雖然存儲(chǔ)介質(zhì)和計(jì)算能力在大幅提升，但當(dāng)前網(wǎng)絡(luò)通信時(shí)延卻成為性能進(jìn)一步提升的瓶頸。通信時(shí)延在整個(gè)存儲(chǔ)E2E時(shí)延中占比從10%躍遷到60%以上，也就是說，寶貴的存儲(chǔ)介質(zhì)有一半以上的時(shí)間是空閑通信等待；計(jì)算瓶頸也類似，如某語音識(shí)別訓(xùn)練，每次迭代任務(wù)時(shí)長(zhǎng)為650ms~700ms，通信時(shí)延為400ms，同樣，昂貴的處理器也有一半時(shí)間在等待模型參數(shù)的通信同步。

所以回到上面那個(gè)問題，在推動(dòng)AI發(fā)展起到關(guān)鍵支撐作用的底層網(wǎng)絡(luò)基礎(chǔ)設(shè)施是否已經(jīng)準(zhǔn)備好？答案是Yes也是No。

（圖）網(wǎng)絡(luò)通信成為系統(tǒng)性能的短木板

RDMA的變遷和AI網(wǎng)絡(luò)的新訴求

可能有的人對(duì)這個(gè)結(jié)論產(chǎn)生疑問，他們會(huì)說RDMA（Remote Direct Memory Access，即遠(yuǎn)程直接數(shù)據(jù)存?。┮汛蟠蠼档土送ㄐ艜r(shí)延。的確，RDMA在AI運(yùn)算和SSD分布式存儲(chǔ)追求極致性能的網(wǎng)絡(luò)大潮中，替換TCP/IP已是趨勢(shì)。目前，國(guó)內(nèi)外不少互聯(lián)網(wǎng)公司已經(jīng)開始部署RDMA，甚至大規(guī)模部署，例如微軟等企業(yè)。

因?yàn)镽DMA的內(nèi)核旁路機(jī)制，允許應(yīng)用與網(wǎng)卡之間的直接數(shù)據(jù)讀寫，將服務(wù)器內(nèi)的數(shù)據(jù)傳輸時(shí)延降低到接近1us（微秒）。同時(shí)，RDMA的內(nèi)存零拷貝機(jī)制，允許接收端直接從發(fā)送端的內(nèi)存讀取數(shù)據(jù)，極大地減少了CPU的負(fù)擔(dān)，提升CPU效率。

但RDMA并不完美，專用InfiniBand和傳統(tǒng)以太網(wǎng)絡(luò)是RDMA的兩類網(wǎng)絡(luò)承載方案。具體說來：

InfiniBand是一個(gè)用于高性能計(jì)算的計(jì)算機(jī)網(wǎng)絡(luò)通信標(biāo)準(zhǔn)，不同于傳統(tǒng)TCP/IP協(xié)議棧，Infiniband擁有自己的網(wǎng)絡(luò)層和傳輸層協(xié)議。而絕大多數(shù)現(xiàn)網(wǎng)都采用IP以太網(wǎng)絡(luò)，所以對(duì)于需要廣泛互聯(lián)的AI計(jì)算和分布式存儲(chǔ)系統(tǒng)，采用InfiniBand無法滿足互通性需求。并且，作為專用的網(wǎng)絡(luò)技術(shù)，Infiniband無法繼承用戶在IP網(wǎng)絡(luò)上運(yùn)維的積累和平臺(tái)。

對(duì)于基于傳統(tǒng)的IP以太網(wǎng)絡(luò)來承載RDMA方案來說，其缺乏完善的丟包保護(hù)機(jī)制，>0.001的丟包率，將導(dǎo)致RDMA有效吞吐急劇下降。很多廠家會(huì)采用PFC和ECN機(jī)制來避免丟包提升吞吐率，而現(xiàn)有的RDMA擁塞&調(diào)度算法，導(dǎo)致網(wǎng)絡(luò)設(shè)備極易出現(xiàn)隊(duì)列累積，從而觸發(fā)PFC。網(wǎng)絡(luò)中如果出現(xiàn)大量PFC，極有可能誘發(fā)網(wǎng)絡(luò)死鎖，導(dǎo)致網(wǎng)絡(luò)系統(tǒng)性風(fēng)險(xiǎn)。

所以，RDMA的高效運(yùn)行，離不開一個(gè)0丟包、高吞吐的開放以太網(wǎng)作為承載。并且，在由應(yīng)用架構(gòu)從集中式走向分布式架構(gòu)過程中造成的incast突發(fā)流量和“大包”特征，也進(jìn)一步加劇了網(wǎng)絡(luò)擁塞。

總之，無論是應(yīng)用分布式架構(gòu)，還是RDMA通信效率的角度，均呼吁網(wǎng)絡(luò)發(fā)生變革。近日，華為發(fā)布了《AI Fabric,面向AI時(shí)代的智能無損數(shù)據(jù)中心網(wǎng)絡(luò)》白皮書（以下簡(jiǎn)稱“白皮書”），白皮書指出，這場(chǎng)AI驅(qū)動(dòng)的網(wǎng)絡(luò)變革需要更智能的調(diào)度和無損的轉(zhuǎn)發(fā)，實(shí)現(xiàn)零丟包、低時(shí)延、高吞吐的智能無損數(shù)據(jù)中心網(wǎng)絡(luò)。

AI Fabric打造面向AI時(shí)代的智能無損網(wǎng)絡(luò)

在HUAWEI CONNECT 2018上，華為正式發(fā)布了AI Fabric智能無損數(shù)據(jù)中心網(wǎng)絡(luò)方案。“0丟包”，“低時(shí)延”和“高吞吐”即是AI Fabric的三個(gè)核心特征，這背后源自于華為創(chuàng)新的iLossless AI算法技術(shù)，提供獨(dú)特的精確擁塞流識(shí)別、動(dòng)態(tài)擁塞水線設(shè)定和快速反壓機(jī)制等系列擁塞管理和流量控制能力，從而帶來極致網(wǎng)絡(luò)性能。

白皮書指出，面對(duì)動(dòng)態(tài)流量和海量參數(shù)挑戰(zhàn)，華為一方面投入研究團(tuán)隊(duì)分析各種應(yīng)用，提煉出流量模型特征；另一方面通過在交換機(jī)集成AI芯片，實(shí)時(shí)采集流量特征和網(wǎng)絡(luò)狀態(tài)，基于AI算法，本地實(shí)時(shí)決策并動(dòng)態(tài)調(diào)整網(wǎng)絡(luò)參數(shù)配置，使得交換機(jī)緩存被合理高效利用，實(shí)現(xiàn)整網(wǎng)0丟包。

AI Fabric帶來的卓越性能進(jìn)一步也提升了其所帶來收益：45倍的ROI（投資回報(bào)率）。怎么得出來的？

據(jù)權(quán)威第三方測(cè)試機(jī)構(gòu)ENTAC測(cè)試結(jié)論，AI Fabric可以在HPC場(chǎng)景下最高降低44.3%的計(jì)算時(shí)延，在分布式存儲(chǔ)場(chǎng)景下提升25%的IOPS能力。從商業(yè)價(jià)值角度看，25%的IOPS性能提升相當(dāng)于同性能下存儲(chǔ)投資減少25%。以512個(gè)節(jié)點(diǎn)組成的分布式存儲(chǔ)系統(tǒng)為例，采用AI Fabric意味著384個(gè)存儲(chǔ)節(jié)點(diǎn)即可獲得采用傳統(tǒng)網(wǎng)絡(luò)512個(gè)存儲(chǔ)節(jié)點(diǎn)的IOPS性能。綜合測(cè)算，存儲(chǔ)CAPEX降低的收益與AI Fabric的投資相比，至少可帶來45倍的ROI收益率。

并且同樣重要的是，基于標(biāo)準(zhǔn)的以太網(wǎng)架構(gòu)，華為AI Fabric帶來了一張統(tǒng)一融合的網(wǎng)絡(luò)。一張網(wǎng)可承載LAN（局域網(wǎng)）、SAN（存儲(chǔ)區(qū)域網(wǎng)絡(luò)）和IPC（進(jìn)程間通信）三種流量，避免了專網(wǎng)獨(dú)立維護(hù)。

一般說來，當(dāng)前的數(shù)據(jù)中心內(nèi)部有三張不同的網(wǎng)絡(luò):Infiniband網(wǎng)絡(luò)提供低時(shí)延的網(wǎng)絡(luò)IPC通信，F(xiàn)C網(wǎng)絡(luò)提供高可靠0丟包的存儲(chǔ)網(wǎng)絡(luò)，而傳統(tǒng)的以太網(wǎng)承載一般的業(yè)務(wù)。顯然，這樣當(dāng)前數(shù)據(jù)中心網(wǎng)絡(luò)整體成本很高。AI Fabric同時(shí)承載SAN和IPC流量和一般LAN流量，成為AI時(shí)代的數(shù)據(jù)中心構(gòu)建統(tǒng)一融合網(wǎng)絡(luò)架構(gòu)的最佳選擇。

在產(chǎn)品端，華為則提供了AI Ready的交換機(jī)硬件架構(gòu)，支撐AI Fabric長(zhǎng)期演進(jìn)。AI Fabric通過內(nèi)嵌AI智能芯片的CloudEngine交換機(jī)，基于CLOS組網(wǎng)模型構(gòu)建Spine-Leaf兩級(jí)智能架構(gòu)：計(jì)算智能和網(wǎng)絡(luò)智能結(jié)合，全局智能和本地智能協(xié)同。

在核心層設(shè)備智能方面，華為將于2019年1月9日發(fā)布內(nèi)嵌AI芯片的下一代智能數(shù)據(jù)中心交換機(jī)，從而為AI Fabric的未來智能演進(jìn)提供硬件架構(gòu)保證。

AI Fabric的實(shí)踐和未來

當(dāng)然，華為打造的AI Fabric智能無損數(shù)據(jù)中心網(wǎng)絡(luò)方案并不是一套理論方案，它已經(jīng)得到檢驗(yàn)和實(shí)踐。就像上文所說，AI Fabric經(jīng)過了EANTC的嚴(yán)格測(cè)試驗(yàn)證，在高性能計(jì)算和分布式存儲(chǔ)的所有場(chǎng)景測(cè)試用例中，都實(shí)現(xiàn)了高吞吐和零丟包，并基于網(wǎng)絡(luò)時(shí)延的優(yōu)化有效縮短高達(dá)40%的HPC節(jié)點(diǎn)間通信時(shí)長(zhǎng)，大幅提升AI訓(xùn)練等創(chuàng)新業(yè)務(wù)效率。在今年的東京Interop展上，華為AI Fabric還榮獲了官方發(fā)布的Best of Show Award金獎(jiǎng)。

目前，AI Fabric已經(jīng)在互聯(lián)網(wǎng)和金融行業(yè)得到應(yīng)用。

某互聯(lián)網(wǎng)巨頭布局無人駕駛，但因涉及到大量的AI計(jì)算（1天采集的數(shù)據(jù)，需要幾百的GPU服務(wù)器7天才能訓(xùn)練完），嚴(yán)重影響無人駕駛的上市時(shí)間。通過華為AI Fabric提供0丟包、低時(shí)延、高吞吐的極速無損以太網(wǎng)絡(luò)，最終使得整體訓(xùn)練的時(shí)長(zhǎng)縮短40%。

在招商銀行，AI Fabric智能擁塞調(diào)度加速網(wǎng)絡(luò)通信，經(jīng)實(shí)測(cè)最終存儲(chǔ)集群IOPS性能提升了20%，單卷性能達(dá)到35萬IOPS。加速了招商銀行分行云性能，為用戶提供了像訪問本地盤一樣的使用體驗(yàn)。

總之來說，AI正在走進(jìn)越來越多的企業(yè)，就像華為GIV(Global Industry Vision)所預(yù)測(cè)：到2025年企業(yè)對(duì)AI的采用率將達(dá)到86%，越來越多的企業(yè)將AI視為數(shù)字化轉(zhuǎn)型的下一站。

在這一轉(zhuǎn)型進(jìn)程中，數(shù)據(jù)中心網(wǎng)絡(luò)亟需消除自身短板，從而轉(zhuǎn)向更高吞吐、更低時(shí)延、更可靠、穩(wěn)定和融合的鏈路技術(shù)和網(wǎng)絡(luò)協(xié)議。AI Fabric智能無損數(shù)據(jù)中心網(wǎng)絡(luò)無疑為市場(chǎng)提供了一個(gè)面向AI時(shí)代的極佳選擇。