超值套餐

套餐一
共2门课程,零售价¥156.00
套餐价 : 
128.00 立省¥28.00
购买套餐
查看详情

你将收获

掌握YOLOv8目标检测的TensorRT加速和INT8量化部署方法

学习TensorRT及INT8量化部署的原理

学习YOLOv8的TensorRT加速的代码解析

适用人群

希望学习YOLOv8目标检测TensorRT部署方法的学员

课程介绍

PyTorch版的YOLOv8是先进的高性能实时目标检测方法。 TensorRT是针对英伟达GPU的加速工具。

本课程讲述如何使用TensorRT对YOLOv8目标检测进行加速和部署。

  • 采用改进后的tensorrtx/yolov8的代码,使用TensorRT API构建优化推理引擎
  • 支持在GPU上端到端TensorRT加速部署,包括预处理(图像resize, BGR->RGB,归一化)、网络推理、后处理(非极大抑制) 均在GPU上执行
  • 支持FP16和INT8量化加速
  • 提供C++和Python的TensorRT加速命令接口
  • 分别在Windows和Ubuntu系统上做YOLOv8的TensorRT加速和部署演示
  • 支持图片、图片文件夹、视频文件的TensorRT的加速推理
  • 提供YOLOv8的TensorRT加速部署代码和代码解析文档

实测推理速度提高3倍以上,采用INT8量化加速后推理速度更快。RTX 3060 GPU上端到端处理速度约2.5毫秒,INT8量化加速后推理速度可小于2毫秒。

课程内容包括:原理篇(YOLOv8网络架构与组件、TensorRT基础、TensorRT INT8量化、CUDA编程方法)、实践篇(Windows和Ubuntu系统上的TensorRT加速和INT8量化部署演示)、代码解析篇(YOLOv8的TensorRT加速的代码解析) 。本课程提供YOLOv8的TensorRT加速部署代码和代码解析文档。

课程内容

课程目录

讨论留言
9 条回复 进入帖子
切换为未回复评论
切换为时间正序
请发表友善的回复…
发表回复
易个rocketeen2024-03-05
  • 打赏
  • 举报
回复

这个该如何检测摄像头呢

易个rocketeen2024-05-16
  • 举报
回复
@易个rocketeen这个能检测视频流吗
bai666ai2024-03-01
  • 打赏
  • 举报
回复

购课后可加课程QQ群:564189992

Nautaluder2023-10-31
  • 打赏
  • 举报
回复

执行TensorRT加速后的yolov8命令(Python)
在这个步骤的时候,提示:
(mypytorch) D:\tensorrtx\yolov8\workspace>python yolov8_trt.py yolov8s.engine D:/tensorrtx/yolov8/workspace/images/bus.jpg
Traceback (most recent call last):
File "D:\tensorrtx\yolov8\workspace\yolov8_trt.py", line 15, in
import tensorrt as trt
ModuleNotFoundError: No module named 'tensorrt'

缺少tensorrt库,教程里面好像没有提到这个库应该如何安装,网上的方法都试过,仍然安装不上。

群申请了好几次,期待通过

Nautaluder2023-10-31
  • 举报
回复
@Nautaluder解决了: 找你解压后的【D:\TensorRT-8.6.1.6\python\tensorrt-8.6.1-cp39-none-win_amd64.whl】 把这个whl文件复制到【‪C:\Users\你的用户名\tensorrt-8.6.1-cp39-none-win_amd64.whl】,然后进入你的虚拟环境,pip install tensorrt-8.6.1-cp39-none-win_amd64.whl 就好了,老师应该是本身就有tensorrt库,所以没有讲到安装这个步骤(当然这个步骤有可能就在官网里,不过我没认真看,不知道在不在)
Nautaluder2023-10-31
  • 打赏
  • 举报
回复

我在执行到这一步骤时候:
yolov8.exe -s yolov8s.wts yolov8s.engine s

提示找不到 opencv_word470.dll,前面安装opencv后正确配置了环境变量也重启的电脑,最后手动把 opencv_word470.dll 放到C:\Windows\System32 里面,才可以正常运行。

群申请了,通过一下啦

Goafan2023-09-21
  • 打赏
  • 举报
回复

老师,我用engine文件推理图片的时候,报错:AttributeError: ‘NoneType’ object has no attribute ‘create_execution_context’ 。 重新生成了一下engine文件还是不行,这个要怎么办啊

bai666ai2023-09-25
  • 举报
回复1
@Goafan可加QQ群讨论一下:883479387 这个错误通常发生在加载 engine 文件失败的时候。换句话说,你的 engine 可能没有正确地加载进来,导致你得到了一个 None 对象。
bai666ai2023-09-02
  • 打赏
  • 举报
回复

电脑端播放课程视频时,在屏幕左上方会有“下载课件”的按钮。项目流程的课件中有网盘链接可下载其它课程资料。