TensorRT -- github

最新推荐文章于 2024-12-16 18:00:09 发布

量化交易曾小健(金融号)

最新推荐文章于 2024-12-16 18:00:09 发布

阅读量362

点赞数

CC 4.0 BY-SA版权

文章标签： caffe 人工智能深度学习

本文链接：https://blog.csdn.net/qq_39970492/article/details/130795145

该存储库包含TensorRT的开源组件，包括插件、解析器(Caffe和ONNX)的源代码及示例应用。这些是TensorRTGA版本的子集，提供扩展和修复。用户可以找到贡献和编码指南，以及变更日志。若需企业支持，可考虑NVIDIAAIEnterprise套件，而预构建的TensorRTPython包简化了安装过程。此外，文章提到了使用Docker构建TensorRT-OSS容器的方法，以及针对Jetson平台的JetPackSDK下载和构建环境设置。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

此存储库包含 NVIDIA TensorRT 的开源软件 (OSS) 组件。它包括 TensorRT 插件和解析器（Caffe 和 ONNX）的源代码，以及演示 TensorRT 平台用法和功能的示例应用程序。这些开源软件组件是 TensorRT 通用版 (GA) 版本的子集，具有一些扩展和错误修复。

有关对 TensorRT-OSS 的代码贡献，请参阅我们的贡献指南和编码指南。
有关 TensorRT-OSS 版本附带的新增功能和更新的摘要，请参阅变更日志。
如需业务咨询，请联系 researchinquiries@nvidia.com
有关媒体和其他查询，请通过 hmarinez@nvidia.com 联系 Hector Marinez
需要企业支持？ NVIDIA AI Enterprise 软件套件为 TensorRT 提供 NVIDIA 全球支持。查看 NVIDIA LaunchPad，免费访问一组使用托管在 NVIDIA 基础设施上的 TensorRT 的动手实验室。

加入 TensorRT 和 Triton 社区，随时了解最新的产品更新、错误修复、内容、最佳实践等。

预构建的 TensorRT Python 包
我们提供了 TensorRT Python 包以便于安装。
安装：

下载 TensorRT OSS
git clone -b main https://github.com/nvidia/TensorRT TensorRT
cd张量RT
git 子模块更新 --init --recursive
（可选 - 如果不使用 TensorRT 容器）指定 TensorRT GA 发布构建路径
如果使用 TensorRT OSS 构建容器，TensorRT 库预安装在 /usr/lib/x86_64-linux-gnu 下，您可以跳过此步骤。

否则从 NVIDIA 开发者专区下载并提取 TensorRT GA 版本。

示例：带有 cuda-12.0 的 x86-64 上的 Ubuntu 20.04

cd ~/下载
tar -xvzf TensorRT-8.6.1.6.Linux.x86_64-gnu.cuda-12.0.tar.gz
export TRT_LIBPATH=`pwd`/TensorRT-8.6.1.6
（可选 - 仅适用于 Jetson 构建）下载 JetPack SDK
下载并启动 JetPack SDK 管理器。使用您的 NVIDIA 开发者帐户登录。
选择平台和目标操作系统（例如：Jetson AGX Xavier、Linux Jetpack 5.0），然后单击继续。
在下载和安装选项下更改下载文件夹并选择立即下载，稍后安装。同意许可条款并单击继续。
将提取的文件移动到 TensorRT-OSS /docker/jetpack_files 文件夹中。
设置构建环境
对于 Linux 平台，我们建议您生成一个用于构建 TensorRT OSS 的 docker 容器，如下所述。对于本机构建，请安装必备系统包。

生成 TensorRT-OSS 构建容器。
可以使用提供的 Dockerfile 和构建脚本生成 TensorRT-OSS 构建容器。构建容器配置为开箱即用地构建 TensorRT OSS。