c++使用libtorch 库运行python下pytorch保存的模型

智能学习者

已于 2022-03-28 15:08:24 修改

阅读量1.6k

点赞数

CC 4.0 BY-SA版权

分类专栏： pytorch 文章标签：深度学习 c++ pytorch libtorch

于 2019-12-24 22:37:45 首次发布

本文链接：https://blog.csdn.net/qq_43790749/article/details/103690335

pytorch 专栏收录该内容

21 篇文章 ¥49.90 ¥99.00

订阅专栏

超级会员免费看

本文介绍了如何在C++中利用libtorch库调用Python PyTorch环境中保存的模型。首先从PyTorch官网下载libtorch，然后在Python环境下保存模型。在C++中，通过libtorch的API实现模型调用。提供了test.cpp的代码示例以及CMakeLists.txt的配置。编译方法包括终端编译和使用Qt5.7.1进行编译，其中Qt提供更便捷的方式。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

1.到pytorch的官网下载libtorch,可放在任意位置.
2.在python下保存c++可调用的模型.保存代码如下:

net.cpu().eval()
# An example input you would normally provide to your model's forward() method.
#example = torch.rand(1, 4)
example = torch.ones(1,

了解本专栏

订阅专栏解锁全文

超级会员免费看

确定要放弃本次机会？

福利倒计时

: :

立减 ¥

普通VIP年卡可用

立即使用

智能学习者

关注关注

0
点赞
踩
2

收藏

觉得还不错? 一键收藏
0
评论
分享

复制链接

分享到 QQ

分享到新浪微博

扫一扫
打赏
打赏
打赏举报

举报

专栏目录

订阅专栏

libtorch调用模型

jacke121的专栏

06-22

5406

这个也是调用模型，读取图片： https://github.com/zacario-li/libtorch_cpp_mobilenetv2_5classes/blob/master/c%2B%2B/src/model_load.cpp https://github.com/BIGBALLON/PyTorch-CPP/blob/master/prediction.cpp ...

部署模型：Libtorch使用笔记【Pytorch的C++版本】【把用Pytorch训练好的模型打包保存为.pt格式，使用Libtorch去加载.pt格式模型，在C++工程中去用就好了】

u013250861的博客

04-08

2755

A : Libtorch是pytorch的C++版本，现在的很多大型项目都是用C++写的，想使用训练好的模型，需要通过caffe等方式去集成，比较麻烦。这里pytorch官方提出了Libtorch，我们就可以把pytorch训练好的模型，打包起来，直接在C++工程中去用就好了，相比较caffe等，非常方便！虽然对于许多需要动态性和易迭代性的场景来说，Python是一种合适且首选的语言，但在同样的情况下，Python的这些特性恰恰是不利的。生产环境是一个需要低延迟和有严格部署要求的领域，一般选择C++。

参与评论您还未登录，请先登录后发表或查看评论

【LibTorch】C++中部署TorchScript模型与Tensor保存/加载

尊新必威的博客

06-30

2272

下载cuda版本为11.3的安装包并解压即完成安装：如果需要cpu版本的安装包按照上面注释方法替换即可。保存函数： 2.2 C++加载tensor并调用模型首先需要将PyTorch模型转换为C++支持的TorchScript模型，具体步骤以后找个时间再写一篇笔记，这边先略过。C++调用TorchScript模型代码： 3. 编译执行C++推理用例 3.1 编写CMakeLists 需要安装cuda和cudnn才能进行cmake；创建文件，写入： 3.2 编译并执行用例在同级目录下执行命令：输出：.

CMake与LibTorch深度学习项目构建指南

最新发布

weixin_35982453的博客

06-30

561

CMake是一个跨平台的自动化构建系统，它使用平台无关的文件来配置和生成原生的构建环境，如Makefile（Unix系统）、Visual Studio项目文件（Windows），或其他IDE专用项目文件。CMake由Kitware公司开发，目前广泛应用于开源和商业软件项目中，它将软件编译的复杂性抽象出来，让开发者更专注于代码本身。LibTorch是PyTorch的C++前端，它为C++开发者提供了使用深度学习模型的能力，而无需依赖Python环境。

python将txt转为json_将maskrcnn_benchmark的python模型转为C++ libtorch的模型

weixin_39876002的博客

11-27

161

深度学习需要巨大的计算量，对于开发原型可以用python,matlab比较方便，但是真正实用化的话，c++作为底层语言明显更具优势。目前大部分的优秀的深度学习项目仍然是以python为主流语言，但随着libtorch的出现，相信未来会有更多利用C++作为深度学习开发的项目。这篇文章主要是给大家介绍如何将经典的maskrcnn_benchmark的模型转为libtorch可以用的C++模型。mask...

libtorch调试——如何保存libtorch生成的张量并在python中加载

weixin_41693877的博客

07-27

1481

如何保存libtorch生成的张量并在python中加载

C++：利用Libtorch调用保存的pytorch模型（.pt）进行前向计算（预测）

u013250861的博客

11-16

7808

在写C++代码调用.pt模型时，也要注意预处理方式要和之前保持一致，不然在C++环境下的模型预测结果会和在python环境下的结果相差很大。在pytorch的.pth网络模型转.pt过程中，要保证图像image的预处理方式与之前在训练.pth模型时保持一致。

C++ 使用CLion + LibTorch 调用Python训练的PyTorch模型-MNIST

weixin_38582851的博客

12-26

1003

C++ 使用CLion + LibTorch 调用Python训练的PyTorch模型-MNIST

如何使用LibTorch进行C++调用pytorch模型

sq_damowang的博客

10-11

2336

LibTorch学习笔记（一）前天由于某些原因需要利用C++调用PyTorch，于是接触到了LibTorch，配了两天最终有了一定的效果，于是记录一下。配置环境 PyTorch1.6.0 cuda10.2 opencv4.4.0 VS2017 具体过程下载LibTorch 去PyTorch官网下载LibTorch包，选择对应的版本，这里我选择Stable(1.6.0)，Windows，LibTorch，C++/JAVA，10.2，然后我选择release版本下载，如下图下载完后先不用管它，之后再用

在C++环境下利用Libtorch调用pytorch模型

Fredzj的博客

06-13

1694

利用Libtorch在C++环境下调用Pytorch模型

如何使用C++调用Pytorch模型进行推理测试：使用libtorch库

weixin_42364196的博客

07-05

2518

介绍如何通过libtorch库，使用C++调用Pytorch模型进行推理测试

libtorch学习笔记（11）- 保存和加载训练结果

大飞的博客

08-18

3042

保存和加载训练结果 libtorch/pytorch提供了很好的serialize操作，可以很容把训练结果保存起来，最初我认为训练结果包括网络拓补结构，权重和偏置量等，后来发现应该只包含权重和偏置量，这样一来就需要在这个文档中存储一些扩展值，用于下一次重构网络。保存网络权重和偏置量 torch::nn:Module提供了一个方法save方法，我们构建的网络又是集成这个类，所以可以调用此方法存储网络权重和偏置量。 torch::serialize::OutputArchive archive; save(a

利用LibTorch部署PyTorch模型

lovely_yoshino的博客

10-21

3708

PyTorch如今发布到1.1稳定版本，新增的功能让模型部署变得更为地简单，本文记录如何利用C++来调用PyTorch训练好的模型，其实也是利用官方强大的LibTorch库。 LibTorch的安装虽然说安装，其实就是下载官方的LibTorch包而已，从官方网站PyTorch中选择PyTorch(1.1)，libtorch，以及cuda的版本，其中会出现下载链接，这里为cuda9.0的链接 https://download.pytorch.org/libtorch/cu90/libtorch-shared

03 深度学习模型部署(C++)-Libtorch初探

君子之学必日新，日新者日进也。不日新者必日退，未有不进而不退者

07-15

3109

Libtorch（c++）模型部署

部署模型之Libtorch学习（一）

weixin_42028608的博客

06-18

2551

最近接触到一些工程落地的任务，大体是将pytorch的模型转成Libtorch，去部署到c++工程上，特此记录一下 1. Libtorch安装 pytorch官网上下载libtorch各个版本的url（1.0 - 1.4） 1.5版本官网下载就好注：安装时尽量pytorch版本和libtorch版本保持一致 2. 转换模型 import torch import torchvision # An instance of your model. model = torchvision.models.

python3 安装 torchtext

咖乐部

06-17

390

conda install -c derickl torchtext 抄自：https://blog.csdn.net/qq_40210472/article/details/88046669

VS2019使用C++调用并部署pytorch VGG模型全过程(libtorch+opencv)(cpu+gpu)

W9XM96的博客

10-13

6462

环境配置vs2019+libtorch1.9.0+opencv3.4.2+cuda11.0+cudnn8.0（实测可用，不踩坑）须知 Libtorch版本需与pytorch版本兼容（最好一致），系统下载与pytorch版本相同的CUDA和Cudnn,否则导入模型将出错。若想使程序在GPU上运行，需下载GPU版libtorch,其也支持cpu运行。文中给出图片或许版本与标题不一致，不影响实际操作，作者已亲测可行 libtorch 用C++调用pytorch模型，其目的在于：使用C++及多线程可以加快模

libtorch (pytorch c++) 教程（四）

浩瀚之水的专栏

05-12

1236

title: libtorch教程（四） date: 2021-01-18 19:50:16 tags: libtorch 本章将详细介绍如何使用libtorch自带的数据加载模块，使用该模块是实现模型训练的重要条件。除非这个数据加载模块功能不够，不然继承libtorch的数据加载类还是很有必要的，简单高效。使用前置条件 libtorch提供了丰富的基类供用户自定义派生类，torch::data::Dataset就是其中一个常用基类。使用该类需要明白基类和派生类，以及所谓的继承和多态。有c++编程经

C++调pytorch模型的全过程记录

己亥谷雨

10-30

2965

前面已经记录过了，流程就是这么个流程：配置libtorch --->python训练的模型怎么在C++使用？_己亥谷雨-CSDN博客 pytorch模型转化编写C++调用程序这里就来记录一下模型转化和C++调用程序。关于模型的训练就不多说了，不会训练模型还扯什么调用。好在之前记录过一点：训练模型PyTorch：VGG16简单入门版_己亥谷雨-CSDN博客保存测试模型PyTorch：保存/加载训练好的模型测试_己亥谷雨-CSDN博客_pytorch训练好的模型去检测 ==..