AI Infra

AI Infra

本页是技术方向导航。正文按 Type 存储;表中模块都是来自原图的资料摘录,不等于已完成的永久知识卡或生产手册。

这个方向解决什么

分别管理算力、推理服务、模型应用与智能运维的运行边界。

GPU 硬件拓扑、驱动/CUDA/容器兼容、Kubernetes GPU 调度、模型推理、LLMOps、RAG、AIOps 数据与检测、运维 Agent/MCP、Agent 评测。

原图分支:AI/GPU平台;含 565 个主题节点、11 个深度模块。节点数仅反映原图展开程度,不代表掌握度或岗位重要性。

知识模块

模块资料原图目标
GPU 硬件、拓扑与健康理解 GPU、显存、PCIe/NVLink、NUMA 与故障特征。
驱动、CUDA、容器与兼容矩阵稳定管理 driver/CUDA/runtime/framework/容器版本。
Kubernetes GPU 调度与隔离用 Device Plugin/GPU Operator/MIG/时间切片管理 GPU。
模型推理服务与容量运营低延迟、高吞吐、可回滚的模型服务。
LLMOps:网关、评估、可观测与安全管理模型、提示、数据、工具、质量、成本和风险。
AIOps 数据底座与事件规范把指标、日志、链路、事件、拓扑和变更转成可关联数据。
日志解析、聚类与异常检测从非结构日志提取模板并建立可评估异常检测基线。
指标异常检测、预测与告警关联发现变化并把大量症状聚合为少量可行动事件。
根因定位与证据推理结合拓扑、变化、跨信号证据给出可验证根因候选。
运维 Agent、MCP 与自动处置构建只读优先、可停止、可审计、可评估的运维 Agent。
AIOps Agent 评测与实验场在可复现故障、负载和遥测环境中评价 Agent。

已提炼的概念卡

有道笔记提炼线索

从故障现象进入

已确认诊断后的处置

下列均是未验证草稿;须先完成前置检查,再补齐环境、命令、授权和演练。

项目与可验收产出

GPU 故障证据、推理压测、模型与请求观测、只读调查助手及安全评测。

跨方向关联

虚拟化与云原生;可观测性;安全与合规;架构与容量。同一个知识对象只维护一份正文,从多个导航进入。

其他原有分支

真实案例

没有把知识题库伪装成历史事故。记录真实故障或演练时,进入 案例目录说明。

来源

原图节点