模块资料|GPU 硬件、拓扑与健康
原图深度模块的结构化资料摘录,保留目标、知识、命令线索、风险、排障、练习与验收。它不是一张原子知识卡,也不是可直接执行的操作手册。
所属方向:AI Infra。
目标
- 理解 GPU、显存、PCIe/NVLink、NUMA 与故障特征。
知识拆解
- SM/tensor core/HBM
- PCIe/NVLink/NVSwitch
- NUMA locality
- ECC/Xid
- power/thermal
- MIG
命令 / 配置 / 关键对象
以下是原图中的命令名、缩写或配置对象,并非经校验的完整命令行;其中可能含写操作。执行前必须补齐版本、权限、目标和风险。
- nvidia-smi -q/dmon/topo
- lspci
- numactl
- DCGM diagnostics
- Xid logs
高频故障与风险
- GPU lost/Xid
- ECC error
- thermal throttle
- PCIe 降速
- NUMA 远端
- 显存泄漏
排障路径
- 应用→CUDA→driver→device→fabric
- 核对 Xid/ECC/温度/功耗
- 拓扑与进程绑定
实战练习
- 建立 GPU 健康看板
- 模拟 GPU reset/进程泄漏处理流程
验收标准
- 故障分类与更换标准明确
- 拓扑用于调度
- 关键告警有 Runbook
对应优秀开源项目
- NVIDIA/dcgm-exporter;原链接:
https://github.com/NVIDIA/dcgm-exporter
继续拆卡的规则
本页是资料入口。只在形成一个能独立解释、带依据与边界的认识后,提炼为 Concept;故障观察进入 Troubleshooting,满足诊断条件的处置进入 Runbook,真实事件进入 Incident。