TensorFlow 官方博客宣布開源新的運行時 TFRT，該運行時提供了統(tǒng)一的、可擴展的基礎(chǔ)結(jié)構(gòu)層，并在各類硬件上均具有高性能。

　　TFRT 產(chǎn)品經(jīng)理 Eric Johnson 表示，TFRT 將取代現(xiàn)有的 TensorFlow 運行時。原有的 TensorFlow 運行時最初是為圖形執(zhí)行和訓練模型的工作負載而構(gòu)建的。與之相比，新的運行時將急切的執(zhí)行需求放在第一位，同時特別強調(diào)架構(gòu)的可擴展性和模塊化。

　　它能夠很好地滿足開發(fā)復雜模型時尋求更快的迭代時間的開發(fā)者需求、在訓練和服務生產(chǎn)模型時改進性能的需求，以及希望以模塊化方式將邊緣和數(shù)據(jù)中心設備集成到 TensorFlow 中的硬件制造商需求。

　　簡單來講，TFRT 可以減少開發(fā)、驗證和部署企業(yè)級模型所需的時間。

　　TFRT 利用了 eager 和圖形執(zhí)行的通用抽象，為了獲得更好的性能，其圖執(zhí)行器支持并發(fā)執(zhí)行操作和異步 API 調(diào)用。在性能測試中，與 TensorFlow 當前的運行時相比，TFRT 將經(jīng)過訓練的 ResNet-50 模型(一種流行的圖像識別算法)在圖形卡上的推理時間縮短了 28%。

　　TFRT 仍處在早期開發(fā)階段，它已經(jīng)與 TensorFlow 集成，最終將成為其默認運行時。

　　關(guān)于 TFRT 的更多信息，可查看 TensorFlow 官方博客：

　　https://blog.tensorflow.org/2020/04/tfrt-new-tensorflow-runtime.html

特別提醒：本網(wǎng)內(nèi)容轉(zhuǎn)載自其他媒體，目的在于傳遞更多信息，并不代表本網(wǎng)贊同其觀點。其原創(chuàng)性以及文中陳述文字和內(nèi)容未經(jīng)本站證實，對本文以及其中全部或者部分內(nèi)容、文字的真實性、完整性、及時性本站不作任何保證或承諾，并請自行核實相關(guān)內(nèi)容。本站不承擔此類作品侵權(quán)行為的直接責任及連帶責任。如若本網(wǎng)有任何內(nèi)容侵犯您的權(quán)益，請及時聯(lián)系我們，本站將會在24小時內(nèi)處理完畢。