查看GPU使用情况、信息

查看GPU利用率的最佳工具nvitop

nvtop如果在 Ubuntu/Debian 上运行 sudo apt install nvtop 时遇到 E: Unable to locate package nvtop 错误，可能是因为你的系统没有添加包含 nvtop 的软件源。

在利用GPU进行深度学习时，GPU资源的利用会极大的影响训练的效率，准确分析和探查GPU使用情况可以事半功倍

要查看 GPU 的占用情况，可以使用几种不同的命令和工具，取决于你的操作系统和你安装的软件。这里将列出一些在 Linux 和 Windows 上常用的方法。

当运行深度学习命令时，我们总想查看GPU占用了多少显存，以便及时调整模型的参数。我之前总是’nvidia-smi’，然后一直↑+enter，一直盯着屏幕看显存占用情况。后来感觉太麻烦了，还要一直手动点击，真是费劲。现在我推荐使用以下两种方法查看显存占用情况。

在使用TensorFlow跑深度学习的时候，经常出现显存不足的情况，所以我们希望能够随时查看GPU时使用率。如果你是Nvidia的GPU，那么在命令行下，只需要一行命令就可以实现。1. 显示当前GPU使用情况Nvidia自带了一个nvidia-smi的命令行工具，会显示显存使用情况：$ nvidia-smi输出： 2. 周期性输出GPU使用情况但是有时我们希望不仅知道那一固定时刻的GPU使用情况，

想要查看gpu的使用情况，可以找到nvidia-smi.exe文件位置，把它拖入cmd中，就会直接复制位置信息，回车，就会出现如下图： 对照下表就可以知道gpu的相关信息了

【Linux】监控NVIDIA GPU显卡占用状态的命令

1：GPU 目前运行功率279W，官方设定的额定最大功率消耗 300W。2：GPU 目前运行功率252W，官方设定的额定最大功率消耗 300W。3：GPU 目前运行功率278W，官方设定的额定最大功率消耗 300W。2：目前显存占用10788MiB，官方设定显存49140MiB。（3）功耗：0：GPU 目前运行功率289W，官方设定的额定最大功率消耗 300W。（2）设备温度：0：87摄氏度；（4）显存：0：目前显存占用11064MiB，官方设定显存49140MiB。进入终端后，执行以下命令。

查看GPU的使用情况及输出详解 1. 查看GPU的使用情况 1.1nvidia-smi 1.2nvidia-smi -l 1.3watch -n 1 nvidia-smi 2. 输出详解 2.1 标题部分 2.2 GPU 信息部分 2.3 性能和功耗部分 2.4 内存和利用率部分 2.5 进程部分

1. nvidia-smi 2. gpustat 3. ps -f -p PID（进程号）

【代码】查看GPU是否可以使用。

纳入内核管理的内存不见得都在使用中，还包括过去使用过的现在可以被重复利用的内存，内核并不把这些可被重新使用的内存交还到free中去，因此在linux上free内存会越来越少，但不用为此担心。对于内存监控，在top里我们要时刻监控第五行swap交换分区的used，如果这个数值在不断的变化，说明内核在不断进行内存和swap的数据交换，这是真正的内存不够用了。，显卡是由GPU和显存等组成的，显存和GPU的关系有点类似于内存和CPU的关系。第四行中使用中的内存总量（used）指的是现在系统内核控制的内存数，

我们使用GPU做计算的时候,想了解GPU的使用情况,但是任务管理器没有GPU的信息.还好NVIDIA提供了相关的命令.是在路径C:\Program Files\NVIDIA Corporation\NVSMI目录下nvidia-smi.exe.为了方便使用,我们将路径C:\Program Files\NVIDIA Corporation\NVSMI加入系统环境变量.在cmd下执行: nvidia