模块资料|GPU 硬件、拓扑与健康

原图深度模块的结构化资料摘录,保留目标、知识、命令线索、风险、排障、练习与验收。它不是一张原子知识卡,也不是可直接执行的操作手册。

所属方向:AI Infra

目标

  • 理解 GPU、显存、PCIe/NVLink、NUMA 与故障特征。

知识拆解

  • SM/tensor core/HBM
  • PCIe/NVLink/NVSwitch
  • NUMA locality
  • ECC/Xid
  • power/thermal
  • MIG

命令 / 配置 / 关键对象

以下是原图中的命令名、缩写或配置对象,并非经校验的完整命令行;其中可能含写操作。执行前必须补齐版本、权限、目标和风险。

  • nvidia-smi -q/dmon/topo
  • lspci
  • numactl
  • DCGM diagnostics
  • Xid logs

高频故障与风险

  • GPU lost/Xid
  • ECC error
  • thermal throttle
  • PCIe 降速
  • NUMA 远端
  • 显存泄漏

排障路径

  • 应用→CUDA→driver→device→fabric
  • 核对 Xid/ECC/温度/功耗
  • 拓扑与进程绑定

实战练习

  • 建立 GPU 健康看板
  • 模拟 GPU reset/进程泄漏处理流程

验收标准

  • 故障分类与更换标准明确
  • 拓扑用于调度
  • 关键告警有 Runbook

对应优秀开源项目

  • NVIDIA/dcgm-exporter;原链接:https://github.com/NVIDIA/dcgm-exporter

继续拆卡的规则

本页是资料入口。只在形成一个能独立解释、带依据与边界的认识后,提炼为 Concept;故障观察进入 Troubleshooting,满足诊断条件的处置进入 Runbook,真实事件进入 Incident。

来源

查看完整原图节点与备注