ONNX Runtime 1.10版现在支持Android和iOS。开发人员现在可以使用Xamarin.Forms为Android和iOS构建人工智能应用程序,以在移动设备上通过ONNX Runtime执行ONNX模型。
- 这个新软件包支持使用默认的CPU执行程序在设备的CPU上执行ONNX模型。一些手机硬件包含专门的硬件(NPU),可通过 NNAPI(安卓)和 CoreML(iOS)接口高效执行 ML。
- 利用 ONNX Runtime 移动软件包,开发人员可以选择使用软件包中的 NNAPI(安卓)或 CoreML(iOS)执行程序。
开发人员可以选择两种ONNX运行时移动软件包。一个是预建包,包含专注于移动人工智能场景的ONNX操作员集子集;另一个是定制包,可根据人工智能应用的特定模型生成。