jingrow 0e1a99d975 优化GPU推理性能:复用转换器并减少不必要的显存清理
- 复用 ToPILImage() 转换器,避免循环中重复创建对象
- 移除批处理前不必要的显存清理(批处理会重用显存)
- 移除批处理后的 gc.collect(),减少阻塞开销
- 保留单张处理的 gc.collect(),确保及时释放内存

预期性能提升:3-8%
2025-11-23 16:22:31 +08:00
..
2025-05-12 02:39:56 +08:00
2025-06-27 20:16:13 +08:00