AI Infra
本页是技术方向导航。正文按 Type 存储;表中模块都是来自原图的资料摘录,不等于已完成的永久知识卡或生产手册。
这个方向解决什么
分别管理算力、推理服务、模型应用与智能运维的运行边界。
GPU 硬件拓扑、驱动/CUDA/容器兼容、Kubernetes GPU 调度、模型推理、LLMOps、RAG、AIOps 数据与检测、运维 Agent/MCP、Agent 评测。
原图分支:AI/GPU平台;含 565 个主题节点、11 个深度模块。节点数仅反映原图展开程度,不代表掌握度或岗位重要性。
知识模块
| 模块资料 | 原图目标 |
|---|---|
| GPU 硬件、拓扑与健康 | 理解 GPU、显存、PCIe/NVLink、NUMA 与故障特征。 |
| 驱动、CUDA、容器与兼容矩阵 | 稳定管理 driver/CUDA/runtime/framework/容器版本。 |
| Kubernetes GPU 调度与隔离 | 用 Device Plugin/GPU Operator/MIG/时间切片管理 GPU。 |
| 模型推理服务与容量 | 运营低延迟、高吞吐、可回滚的模型服务。 |
| LLMOps:网关、评估、可观测与安全 | 管理模型、提示、数据、工具、质量、成本和风险。 |
| AIOps 数据底座与事件规范 | 把指标、日志、链路、事件、拓扑和变更转成可关联数据。 |
| 日志解析、聚类与异常检测 | 从非结构日志提取模板并建立可评估异常检测基线。 |
| 指标异常检测、预测与告警关联 | 发现变化并把大量症状聚合为少量可行动事件。 |
| 根因定位与证据推理 | 结合拓扑、变化、跨信号证据给出可验证根因候选。 |
| 运维 Agent、MCP 与自动处置 | 构建只读优先、可停止、可审计、可评估的运维 Agent。 |
| AIOps Agent 评测与实验场 | 在可复现故障、负载和遥测环境中评价 Agent。 |
已提炼的概念卡
有道笔记提炼线索
- 模型笔记先声明符号和维度:记录每份推导的符号约定,逐项核对张量形状与实现。
从故障现象进入
已确认诊断后的处置
下列均是未验证草稿;须先完成前置检查,再补齐环境、命令、授权和演练。
项目与可验收产出
GPU 故障证据、推理压测、模型与请求观测、只读调查助手及安全评测。
跨方向关联
虚拟化与云原生;可观测性;安全与合规;架构与容量。同一个知识对象只维护一份正文,从多个导航进入。
其他原有分支
真实案例
没有把知识题库伪装成历史事故。记录真实故障或演练时,进入 案例目录说明。