我看到有帖子说tensorrt加速yolov5后得到的engine不能在不同版本的GPU上运行,比如我用1080加速然后在2080上跑,是跑不了的,是这样的么?
如果是这样的,有解决办法么?我想把我训练的yolov5模型使用tensorrt加速,然后将加速后的模型封装成exe,并且exe可以在不同版本的GPU上运行,也就是在不同的电脑上运行,做得到么?如果tensorrt不行,还有没有别的加速yolov5推理的方法?
我看到有帖子说tensorrt加速yolov5后得到的engine不能在不同版本的GPU上运行,比如我用1080加速然后在2080上跑,是跑不了的,是这样的么?
如果是这样的,有解决办法么?我想把我训练的yolov5模型使用tensorrt加速,然后将加速后的模型封装成exe,并且exe可以在不同版本的GPU上运行,也就是在不同的电脑上运行,做得到么?如果tensorrt不行,还有没有别的加速yolov5推理的方法?