yolov8实战——yolov8TensorRT部署（python推理）（保姆教学）

最近用到yolov8，但是寻找了一圈才找到了yolov8最佳的部署方法，限于python，所以在此进行总结记录，方便众人，看完此篇，不会纯属自己问题，与我无瓜0.0

一 、准备好代码和环境

先创建一个环境吧：

conda create -n trt python=3.9

安装TensorRt

TensorRt下载链接
下载之后，解压，吧其中的bin、include、lib的文件都放到安装cuda的对应文件里即可，然后激活环境trt，pip install python/tensorrt-8.6.1-cp39-none-win_amd64.whl

下载代码和安装环境

git clone https://github.com/triple-Mu/YOLOv8-TensorRT.git
cd YOLOv8-TensorRT
pip install -r requirements.txt

部署和推理

构建ONNX

python export-det.py --weights weights/v8s4/weights/last.pt --iou-thres 0.65 --conf-thres 0.25 --topk 100 --opset 14  --input-shape 1 3 640 640 --device cuda:0 --sim

构建engine

这是集成了nms，速度更快

python build.py --weights weights/v8s-faster-twoc-Lcls-coco802/weights/best.onnx --iou-thres 0.65 --conf-thres 0.25 --topk 100 --device cuda:0 --fp16

无torch推理

python infer-det-without-torch.py --engine best.engine --imgs data --show --method pycuda

torch推理

python infer-det.py --engine best.engine --imgs data --show