文章目录前言1、前期准备2、PC端环境配置2.1创建虚拟环境2.2依赖库安装2.3其他库安装3、虚拟端环境配置3.1安装Ubuntu系统3.2下载并安装anaconda3.3创建py36虚拟环境4、虚拟端安装RKNN-Toolkit4.1下载RKNN-Toolkit4.2安装RKNN-Toolkit4.3验证环境是否正确前言 RKNN支持许多框架训练的模型,但由于本人目前主要使用pytorch框架来训练模型,因此该部署教程是以Pytorch模型部署过程为例进行说明,后面再继续补充ONNX模型部署过程。1、前期准备 首先根据下表,确定RKNNToolkit以及Pytorch的版本。 由于P
文章目录🍉零、引言🍍一、主要功能🍎二、系统依赖🍌三、安装RKNN-Toolkit1、安装Python3.6和pip32、安装相关依赖3、获取RKNN-Toolkit2安装包4、安装Python环境5、安装RKNN-Toolkit26、检验是否安装成功🍇四、在PC上仿真运行示例1、进入目录2、运行程序3、模型和推理结果🍉零、引言本文完成于2022-07-0220:21:55。博主在瑞芯微RK3588的开发板上跑了deepsort跟踪算法,从IP相机中的server拉取rtsp视频流,但是fps只有1.2,和放PPT一样卡顿,无法投入实际应用。本来想使用tensorrt进行加速推理,但是前提需要c
文章目录参考开发环境介绍宿主机安装Docker安装Docker状态查看开机自启设置运行docker子系统1.拉取系统镜像(此处我们拉取的是ubuntu20.04版本镜像)2.以ubuntu20.04镜像启动一个容器,可以想象成创建一个虚拟机:3.docker容器的退出与进入配置docker搭建rknn开发环境配置githubgithub上拉代码(在docker上进行)rknn开发环境配置1.rknn仓库代码获取2.docker容器安装基本的开发所需要的包3.安装所需的python环境,环境测试参考瑞芯微rknn-tookit2开发环境介绍宿主机HostPC:装有ubuntu22.04(其它亦可
文章目录一、Caffe模型加载接口二、TensorFlow模型加载接口三、TensorFlowLite模型加载接口四、ONNX模型加载五、DarkNet模型加载接口六、PyTorch模型加载接口沉淀、分享、成长,让自己和他人都能有所收获!😄📢RKNN-Toolkit2目前支持Caffe、TensorFlow、TensorFlowLite、ONNX、DarkNet、PyTorch等模型的加载转换,这些模型在加载时需调用对应的接口,以下为这些接口的详细说明。一、Caffe模型加载接口
文章目录一、查询SDK版本二、查询输入输出tensor个数三、查询输入tensor属性(用于通用API接口)四、查询输出tensor属性(用于通用API接口)五、查询模型推理的逐层耗时六、查询模型推理的总耗时七、查询模型的内存占用情况八、查询模型里用户自定义字符串九、查询原始输入tensor属性(用于零拷贝API接口)十、查询原始输出tensor属性(用于零拷贝API接口)十一、查询原始输入tensor属性(用于零拷贝API接口)十二、查询原始输出tenso
特别说明:参考官方开源的yolov8代码、瑞芯微官方文档、地平线的官方文档,如有侵权告知删,谢谢。 由于yolov8的官方代码结构进行了很大的调整,之前yolov8刚出来的时候写的部署博客,有网友反馈找不到对应的地方,基于截至2023年11月官方最新代码结构进行部署博客来了。写博文时使用的训练代码-版本到2023年11月15日。 之前给出过完整的部署仿真代码和模型,今天只对如何导出能上板端芯片,且效率高的流程进行梳理。 模型和完整仿真测试代码,放在github上参考链接模型和代码。 本篇博客中给出的示例,是基于船舶检测一个数据集进行训练的,只检测船舶一个类别,只是来验证流程,给出的
在yolov5训练的模型,转onnx,再转rknn后,测试发现:rknn模型,量化与非量化,相较于pytorch模型,测试精度都有降低onnx模型,相较于pytorch模型,测试精度也有降低,且与rknn模型的精度更接近于是,根据这种测试情况,rknn模型的上游,就是onnx。onnx这里发现不对劲,肯定是这步就出现了问题。于是就查pytorch转onnx阶段,就存在转化的精度降低了。本篇就是记录这样一个过程,也请各位针对本文的问题,给一些建议,毕竟目前是发现了问题,同时还存在一些问题在。一、pytorch转onnx:torch.onnx.exportyolov5export.py:defex
RockX和RKNN都是什么,如何进行应用呢?RockX的介绍RockX用来做什么?RKNN是介绍和应用一.功能和作用二.应用场景三.使用方法RockX的介绍瑞芯微的RockX是一款为AI开发者打造的开放式AI计算库,专门针对瑞芯微RockchipSoCs进行优化和加速。RockX提供了一套独立的、助你快速实现高性能AI应用的接口规范,且能够无缝兼容瑞芯微的最新AI芯片。Rock-XSDK是一套高效AI组件库,其初始版本囊括了人脸检测、人脸识别、活体检测、人脸属性分析、人脸特征点、头部检测、人体骨骼关键点、手指关键点以及人车物检测等功能。开发者只需几行API调用,就可以在嵌入式产品中离线使用这
零、写在前面由于距离写这篇文章过去很久,有的部分,官方已更新,请多结合其他人的看,并多琢磨、讨论~另外打个小广告:博客https://blog.vrxiaojie.top/欢迎大家前来做客玩耍,提出问题~~以后的文章都会在博客发布了,CSDN这边可能这是最后一篇文章。一、烧录系统1.准备工作:(1)使用官方提供的Ubuntu镜像:OrangePi5系统下载(我使用Orangepi5_1.1.4_ubuntu_jammy_desktop_gnome_linux5.10.110)(2)下载balenaEtcher用于烧录系统(3)准备一个大于等于32GB的TF卡、一个读卡器。2.打开软件,根据软件
一.准备好Pytorch模型和yolov5-6.0项目并配置好环境首先需要在官网下载yolov5-6.0的项目1我们打开yolov的官网,Tags选择6.0版本2.下载该压缩包并解压到工程目录下3.我们这里使用pycharm,专门针对python的IDE,用起来非常方便,下载方式就是官网直接下载,用的是社区版4.我们需要安装环境,这里我推荐安装Anaconda在电脑上,这是一个非常方便的包管理工具,可以选择不同版本的python和pip以及基础的tools工具。这里不多说,直接推荐教程https://blog.csdn.net/whc18858/article/details/12713255