神经网络推理速度会掉

在使用yolo系列网络在推理的时候,会出现速度越来越慢的情况

已经排除的问题

  1. 温度,温度还没有到达我温度墙 cpu75°左右 gpu70°左右
  2. 显存,我在推理的时候,显存也没有跑满,我是3090 24G显存 大概是使用8G左右
  3. cuda,我显示的我的cuda使用率是20%左右(跑不起来)
  4. cpu,我的cpu是3950x我感觉有可能是cpu不行
  5. 内存条,我的内存条是DDR4 3200HZ 32G*1 我只有一根内存

请有经验的大佬指导一下,可能是哪个地方卡住了,需要加强一点

还有就是ubuntu系统会快很多,win10慢 相同的代码 大概是慢5倍

114 views
Comments
登录后评论
Sign In
·

windows 会有各种小 bug,训练环境不统一, ubuntu + 远程就行

2,3,CUDA 有硬件调优参数查一下,有的模型跑起来就是 50%,不会跑满

4,5,htop 命令看下内存、cpu 使用率