rknn模型（rknn模型推理）



非RKNN模型在转换成RKNN模型时，可以选择量化或浮点两种精度模式。量化模式可以有效降低模型的存储空间和计算资源消耗，但可能会降低模型的推理精度。浮点模式可以获得更高的推理精度，但需要更大的存储空间和计算资源消耗。

注：非RKNN模型经过转换得到的RKNN模型可以在模拟器上推理，也可以在开发板上推理；而直接加载的RKNN模型不能再模拟器上推理，只能在开发板上推理。

以上区别总结起来，可以用下面表格表示：

本教程配套的源码包获取方法为文章末扫码到公众号中回复关键字：RKNN评估与推理。获取下载链接。

源码包下载解压后的样子如下：

加载非RKNN模型推理的流程图如下所示：

需要修改的地方如下：

代码对应源码包中的inference_pytorch.py，具体代码见下：

运行脚步后输出的结果：

打开imagnet1000标签.txt文件查找812，预测结果正确，如下：

加载RKNN模型进行模型推理的流程图如下：

需要修改的地方如下：

代码对应于源码包中的inference_rknn.py脚本，具体代码如下：

以上就是RKNN模型的评估和推理测试详细过程，希望能帮到你！

总结不易，多多支持，谢谢！

版权声明：

本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。
如若内容造成侵权、违法违规、事实不符，请将相关资料发送至xkadmin@xkablog.com进行投诉反馈，一经查实，立即处理！

转载请注明出处，原文链接：https://www.xkablog.com/rfx/43939.html