本博客为全网首发,所涉及到的代码和库均是可运行的,在博文下面有具体链接,可直接迁移至项目。本项目处理1024×1024大小的图像在750Ti上实测速度为2.8s,在1080Ti上实测170ms;处理512×512大小的图像在750Ti上实测速度为780ms,在1080Ti上实测65ms。
先给大家看四组经过图像降噪网络后的对比效果效果~
怎么样,是不是感觉还不错呢。我们能够选择的有两条路线实现C++的部署:
- 1)onnx + 多线程:这种方法适用于多种框架,比如ncnn。但是无法将N卡性能完全发挥出来。
- 2)用Trt的engine文件推理。该方法不仅可以做到C++推理,还可以将N卡的性能最大限度的