近日， OPEN AI LAB(開放智能)面向AIoT場景推出的邊緣AI計算框架Tengine成功完成了百度飛槳2.x系列版本的適配。后續(xù)雙方將共同發(fā)力，攜手降低企業(yè)人工智能應(yīng)用開發(fā)門檻、推動人工智能產(chǎn)業(yè)落地，助力AI落地更簡單。

　　面對萬億級的AIoT市場，行業(yè)落地必然離不開場景。如何以場景為驅(qū)動、數(shù)據(jù)為核心、芯片為骨架、平臺工具為依托加速行業(yè)智能化進(jìn)程是關(guān)鍵。

　　在過去的4年中，開放智能打造了一套開放的邊緣AI計算框架Tengine，實現(xiàn)最廣泛的芯片層適配，為開發(fā)者及合作伙伴提供芯片級易用性及業(yè)務(wù)加速，為行業(yè)落地提供邊緣計算模式下的基礎(chǔ)支撐，幫助開發(fā)者真正解決產(chǎn)業(yè)化的全棧工作難題，整體提升體系化生產(chǎn)力，讓 AI場景落地不再困難重重。作為開放的邊緣 AI 計算框架，Tengine 不僅能幫助開發(fā)者在開發(fā)過程中進(jìn)一步提升算法移植和部署效能;從長期看，它也為打破 AIoT 產(chǎn)業(yè)壁壘，快速整合上下游以實現(xiàn) AIoT 產(chǎn)業(yè)的落地和應(yīng)用，為豐富全球 AI 開源生態(tài)提供了重要的推動力。

　　Tengine攜手百度飛槳，讓算法落地部署更簡單

　　OPEN AI LAB的邊緣AI計算框架Tengine可適配百度飛槳2.x的模型格式，方便開發(fā)者使用。本次適配了卷積、池化、激活、全連接、歸一化等常用算子，同時打通了PaddleClas/PaddleDetection 中的MobileNetV2分類網(wǎng)絡(luò)和YOLOv3目標(biāo)檢測網(wǎng)絡(luò)。

　　Tengine在NPU側(cè)部署有成熟的工具，支持使用飛槳訓(xùn)練的模型通過Tengine直接部署，發(fā)揮兩家的長處，降低部署難度;讓用戶可以直接加載飛槳產(chǎn)業(yè)級模型庫里面的模型，提供更簡單的開發(fā)算法和應(yīng)用，從而達(dá)到實際落地的需求，從而擴(kuò)大其訓(xùn)練框架部署的生態(tài)，助力其算法開發(fā)能力更便捷，算法落地部署更簡單。

　　本次雙方的合作，意味著Tengine已經(jīng)完成對百度飛槳的適配，進(jìn)一步擴(kuò)大了雙方在AI產(chǎn)業(yè)的生態(tài)。

Tengine Framework框架圖

　　如何走順深度學(xué)習(xí)的最后一公里

　　5月20日，深度學(xué)習(xí)技術(shù)及應(yīng)用國家工程實驗室與百度聯(lián)合主辦的WAVE SUMMIT 2021深度學(xué)習(xí)開發(fā)者峰會在北京召開。Tengine開源項目技術(shù)負(fù)責(zé)人圈圈蟲受邀參加了《如何走順深度學(xué)習(xí)的最后一公里》圓桌對話。

　　圈圈蟲在對談中表示，深度學(xué)習(xí)最后一公里在端側(cè)面臨最大的困境是不同訓(xùn)練框架導(dǎo)出的模型在差異化的邊緣計算設(shè)備上部署難以解耦，以及邊緣計算設(shè)備低比特量化策略層出不窮、精度難以統(tǒng)一評估的問題。OPEN AI LAB的Tengine項目通過增強(qiáng)垮硬件平臺的移植性，解耦前端模型與后端硬件，支持計算圖自動切分、混合精度，增強(qiáng)異構(gòu)計算單元使用的靈活性等方式去解決這樣的問題，并提出了軟件廠商應(yīng)該結(jié)合開源硬件設(shè)備，推廣普及1-2種低比特量化方案的倡議。

　　Tengine作為第三方部署平臺，一直持有開放、合作的精神，與飛槳及多家訓(xùn)練框架合作，希望能成為國內(nèi)訓(xùn)練框架技術(shù)互通的橋梁。

　　關(guān)于OPEN AI LAB Tengine

　　Tengine是OPEN AI LAB推出的邊緣AI計算框架，致力于解決AIoT產(chǎn)業(yè)鏈碎片化問題，加速AI產(chǎn)業(yè)化落地。Tengine為了解決AIoT應(yīng)用落地問題，重點關(guān)注嵌入式設(shè)備上的邊緣AI計算推理，為海量AIoT應(yīng)用和設(shè)備提供高性能AI推理的技術(shù)賦能。

　　一方面可以通過異構(gòu)計算技術(shù)同時調(diào)用CPU、GPU、DSP、NPU等不同計算單元來完成AI網(wǎng)絡(luò)計算，另一方面，它支持TensorFlow、Caffe、MXNet、PyTorch、MegEngine、DarkNet、ONNX、ncnn等業(yè)內(nèi)主流框架，簡化并加速面向場景的AI算法在嵌入式邊緣設(shè)備上快速遷移，以及實際應(yīng)用部署落地，提升十倍基礎(chǔ)開發(fā)的效率。

　　OPEN AI LAB是國際上為數(shù)不多的通過ONNX官方認(rèn)證的戰(zhàn)略合作伙伴之一。在CSDN發(fā)布的《中國 AI 應(yīng)用開發(fā)者報告》上，被評為“開發(fā)者最喜愛的本土 AI軟件 工具”。

　　OPEN AI LAB將在 “Powered by Tengine” 生態(tài)伙伴合作項目平臺上，與更多同道一起，共同構(gòu)建AIoT產(chǎn)業(yè)生態(tài)，助力產(chǎn)業(yè)智能化的變革，賦能萬物，萬物智能!

　　關(guān)于百度飛槳(PaddlePaddle)

　　飛槳(PaddlePaddle)以百度多年的深度學(xué)習(xí)技術(shù)研究和業(yè)務(wù)應(yīng)用為基礎(chǔ)，是中國首個開源開放、技術(shù)領(lǐng)先、功能完備的產(chǎn)業(yè)級深度學(xué)習(xí)平臺。百度飛槳已經(jīng)凝聚了320萬開發(fā)者，累計commits超過16萬次，以PR或ISSUE提交形式的開源貢獻(xiàn)者超過了5000位，其中有120位優(yōu)秀的開發(fā)者通過層層篩選成為了百度飛槳開發(fā)者技術(shù)專家(PPDE)。產(chǎn)業(yè)應(yīng)用方面，飛槳服務(wù)了12萬家企業(yè)，平臺上擁有36萬個模型。秉持開源開放、技術(shù)創(chuàng)新，產(chǎn)學(xué)研用通力融合，飛槳在產(chǎn)業(yè)應(yīng)用、人才培養(yǎng)、開源社區(qū)三方面實現(xiàn)了生態(tài)的全面繁榮。

　　關(guān)于OPEN AI LAB

　　OPEN AI LAB(開放智能)是一家專注邊緣智能計算及應(yīng)用的高科技企業(yè)，提供邊緣AI計算框架與場景化能力生產(chǎn)力工具，簡化應(yīng)用部署，致力于打造中國最易用的人工智能邊緣開發(fā)部署平臺。未來將用十年時間構(gòu)建起中國最領(lǐng)先的邊緣計算生態(tài)體系，助力中國成千上萬的企業(yè)高效、低門檻地實現(xiàn)智能化升級轉(zhuǎn)型。