GPU常用命令

### GPU 服务器管理常用命令及用法 #### 查看 Linux 系统信息和配置信息 为了确保系统的兼容性和稳定性，在安装任何软件之前，了解当前的操作系统版本及其内核是非常重要的。可以使用 `uname` 和 `cat /etc/os-release` 命令来获取这些基本信息[^1]。 ```bash uname -a cat /etc/os-release ``` #### 检查 GPU 使用情况 对于 GPU 的监控至关重要，这有助于管理员及时发现并解决问题。通过运行 `nvidia-smi` 可以实时查看 NVIDIA 显卡的状态以及资源占用率；而利用 `watch -n 1 nvidia-smi` 则能每隔一秒刷新一次显示结果，便于持续跟踪性能变化[^4]。 ```bash nvidia-smi watch -n 1 nvidia-smi ``` 当遇到 `nvidia-smi` 执行失败的情况时，可能是因为缺少必要的驱动支持或是现有驱动存在问题所致。此时应当考虑重新部署最新的官方推荐版次的 GPU 驱动程序[^2]。 #### 控制特定 GPU 设备可见性 有时项目开发过程中仅需调用某一块或多块指定编号的 GPU 资源工作，则可通过设置环境变量的方式实现这一需求。下面的例子展示了如何限定应用程序只看到 ID 编号为 “0”的那张显卡： ```python import os os.environ["CUDA_VISIBLE_DEVICES"] = "0" ``` #### 限制单个进程所能消耗的最大 GPU 内存比例 为了避免某个任务独占过多硬件资源从而影响其他正在排队等待计算的任务正常运转，可以通过 TensorFlow 提供的相关 API 接口设定每个会话允许使用的最大内存份额。这里给出了一段 Python 代码片段用于控制每次启动模型训练期间最多可分配给该过程多少百分比的可用图形处理单元空间。 ```python import tensorflow as tf from keras.backend.tensorflow_backend import set_session config = tf.ConfigProto() config.gpu_options.per_process_gpu_memory_fraction = 0.3 set_session(tf.Session(config=config)) ```