新聞與活動
03-12
2024
AI推理框架軟件ONNX Runtime正式支持龍架構
近日,知名AI推理框架開源社區ONNX Runtime正式發布支持龍架構的版本1.17.0。今後,用戶可以直接使用ONNX Runtime開源社區發布的版本在龍芯平台完成AI推理類應用的開發和部署,標誌著龍架構軟件生態得到進一步完善。

ONNX Runtime(ORT)是近年來興(xing) 起的AI推理框架軟件,被大量AI應用作為(wei) 基礎AI推理引擎。ORT可支持PyTorch、Tensorflow、TFLite等多種格式的模型輸入,以及CPU、GPU、IoT、NPU、FPGA等多樣化算力後端。
在ONNX Runtime 社區1.17.0版本的研製過程中,新利体育18官方网站技術團隊與(yu) 社區保持緊密合作,期間向ONNX Runtime社區代碼倉(cang) 庫提交了7697行代碼,對矩陣乘法、卷積、轉置等核心算子進行深度向量優(you) 化。在社區支持下,龍架構優(you) 化代碼通過了檢視、測試驗證等質量保證流程,ONNX Runtime社區自1.17.0版本起正式實現對龍架構的原生支持。
未來,新利体育18官方网站將繼續與(yu) AI領域的國際開源軟件社區攜手合作,助力AI領域的生態發展和技術創新,為(wei) 用戶帶來更優(you) 產(chan) 品,實現更大價(jia) 值。
