Linux 服务器上Nvidia相关指令

1、GPU驱动的内存常驻模式

1）操作命令:

1. 确保你具有root或sudo权限，以执行下面的命令。
2. 打开终端或命令行界面。
3. 运行以下命令来设置GPU驱动的内存常驻模式：

nvidia-smi -pm 1

这会将GPU驱动程序设置为内存常驻模式。
4. 验证设置是否成功。运行以下命令：

nvidia-smi

这会显示GPU的状态信息。在输出中，你应该看到"Persistence Mode"（持久模式）的值为"Enabled"（已启用）。

       请注意，上述命令是基于NVIDIA的官方驱动程序。如果你使用的是第三方驱动程序或不同版本的驱动程序，命令可能会有所不同。在执行上述命令之前，建议参考NVIDIA驱动程序的文档或帮助资源，以获取适用于你的驱动程序版本的正确命令和选项。

       此外，需要注意的是，启用GPU驱动的内存常驻模式会持续占用系统资源，并增加能耗。因此，在使用完毕后，如果不再需要常驻模式，建议将其禁用，以节省资源和能源。可以使用以下命令将GPU驱动程序设置为非常驻模式：

nvidia-smi -pm 0

这将禁用GPU驱动的内存常驻模式。

2）优缺点分析：

优点：
        快速应对任务：开启内存常驻模式后，GPU驱动程序将一直保持加载状态，可以立即响应新的计算任务，而无需重新加载驱动程序。这可以减少启动和加载时间，提高任务响应速度。
        减少资源开销：在内存常驻模式下，GPU驱动程序会保持已分配的显存和上下文状态，避免了重复分配和释放显存的开销。这对于频繁执行计算任务或长时间运行的应用程序来说特别有用，可以减少资源的浪费。

缺点：
       能耗增加：开启内存常驻模式会使GPU驱动程序一直保持加载状态，这会导致显卡持续消耗电力，即使在空闲或轻负载时也会增加能耗。
       系统稳定性风险：长时间运行的应用程序可能会导致GPU驱动程序处于加载状态，并持续占用系统资源，这可能增加系统的稳定性风险。如果驱动程序发生问题或崩溃，可能需要重新启动系统才能恢复正常。
       综上所述，开启GPU驱动的内存常驻模式可以提高任务响应速度和资源利用效率，但需要权衡能耗和系统稳定性风险。是否打开内存常驻模式应根据具体的使用场景和需求来决定。

2、单独重启GPU显卡驱动

在CentOS系统下，你可以尝试单独重启GPU显卡驱动而无需重启整个服务器。可以通过以下步骤来实现：

1. 确保你具有root或sudo权限，以执行下面的命令。
2. 停止使用GPU的应用程序或服务，以确保没有正在运行的进程使用GPU。
3. 卸载当前的NVIDIA驱动程序。你可以使用以下命令：

sudo nvidia-uninstall

这将卸载当前安装的NVIDIA驱动程序。
4. 重新加载NVIDIA内核模块。使用以下命令：

sudo modprobe nvidia

这将重新加载NVIDIA内核模块，实际上相当于重启GPU驱动。
5. 检查驱动程序是否成功加载。使用以下命令：

lsmod | grep nvidia

如果输出中显示了nvidia相关的模块，则表示驱动程序已成功加载。

请注意，尽管你不需要重新启动整个服务器，但这种方法并不是适用于所有情况的解决方案。某些情况下，可能仍然需要重启服务器来确保驱动程序的正确加载和配置。此外，如果你进行了新的驱动程序安装或系统更新，重启服务器可能是更安全和可靠的做法。