栖霞做网站价格,模板建网站,图片在线设计网站,学软件开发需要多少钱最近悄悄出了yolov12框架#xff0c;标志着目标检测又多了一个检测利器#xff0c;于是尝试在windows下部署yolov12的tensorrt模型#xff0c;并最终成功。
重要说明#xff1a;安装环境视为最基础操作#xff0c;博文不做环境具体步骤#xff0c;可以百度查询对应安装步…最近悄悄出了yolov12框架标志着目标检测又多了一个检测利器于是尝试在windows下部署yolov12的tensorrt模型并最终成功。
重要说明安装环境视为最基础操作博文不做环境具体步骤可以百度查询对应安装步骤即可。
测试通过环境
vs2019
windows 10 RTX2070 8G显存
cmake3.30.1
cuda11.8.0cudnn8.9.7
Tensorrt8.6.1.6
opencv4.9.0
anaconda3python3.10
torch2.5.1cu124 部署过程
部署最费时间是安装环境。首先确保自己电脑是win10或者win11并确保电脑有一块nvidia显卡。查看自己显卡就是打开任务管理器(win10是ctrlaltdelete,win11是ctrlshiftESC)在性能里面查看如下图 如果看到GPU0和GPU1等等表示有显卡但是需要看到NVIDIA字样才能表示有独立显卡。其他是AMD显卡或者核心显卡这些都是不能用于cuda的也就是电脑不支持tensorrt加速和cuda使用的。
首先需要大家安装好VS2019或者VS2022还有如下环境由于安装包很多需要去官方搜索下载需要自己安装其中版本可以有区别但是如果快速复现这个项目最好安装位一致版本这样更快复现出项目。
cmake3.30.1
cuda11.8.0cudnn8.9.7
Tensorrt8.6.1.6
opencv4.9.0
anaconda3python3.10
torch2.5.1cu124
假设大家安装好上面的环境。下面具体怎么部署首先去yolov12官方仓库下载yolo12模型这样下载yolov12n.pt
然后将pt模型放进项目里面切换自己安装好的yolov12环境里面并切换到项目目录使用下面命令直接转换
yolo export modelyolov12n.pt formatonnx dynamicFalse opset12
得到onnx模型以后我们开始编译源码。
首先我们修改CMakeLists.txt文件将源码里面opencv路径和tensorrt路径修改成自己路径
# Find and include OpenCV
set(OpenCV_DIR D:\\lufiles\\opencv490\\build\\x64\\vc16\\lib)
# Set TensorRT path if not set in environment variables
set(TENSORRT_DIR D:\\lufiles\\TensorRT-8.6.1.6)
然后执行
mkdir build
cd build
cmake ..
之后去build文件夹找到sln文件用vs打开它,然后选择x64 release并选中ALL_BUILD右键单击选择生成 之后build\Release文件夹下面有个yolov12-tensorrt.exe生成。之后我们开始转换onnx模型到tensorrt模型执行命令
trtexec --onnxyolov12n.onnx --saveEngineyolov12n.engine --fp16
稍等20多分钟后会自动生成yolov12n.engine文件.
下面我们开始测试图片
yolov12-tensorrt.exe yolov12n.engine test.jpg
然后测试视频
yolov12-tensorrt.exe yolov12n.engine car.mp4
特别注意
tensorrt模型依赖于硬件所以不是通用的需要在电脑重新转换否则可能无法使用如需要二次开发需要读懂调用代码需要有一定c基础才行否则无法进行二次开发。
