来源快照|AI/GPU平台
本页是原图的只读导入快照,不是已核验文档。原有历史命令、版本标记与疑点保留;已识别口令替换为占位符。图片只保留引用。
- AI/GPU平台 ^xm-9299f1e3a301486cb1dfc9b715
-
◆ 2026 深度扩展|AI/GPU 平台与 AIOps
- GPU 硬件、拓扑与健康 ^xm-8311f4d435ab4c4e853af3d7a1
- 🎯 目标 ^xm-4cd6ef7eb6c64ed9b916b884e5
- 理解 GPU、显存、PCIe/NVLink、NUMA 与故障特征。
- 🧠 知识拆解 ^xm-f4d2f96fae9b4c2d84c1f073f1
- SM/tensor core/HBM
- PCIe/NVLink/NVSwitch
- NUMA locality
- ECC/Xid
- power/thermal
- MIG
- ⌨️ 命令 / 配置 / 关键对象 ^xm-115280dc2fe64f15a5fa327252
- nvidia-smi -q/dmon/topo
- lspci
- numactl
- DCGM diagnostics
- Xid logs
- 🔥 高频故障与风险 ^xm-a30fa3126f244eb0bd1278e8de
- GPU lost/Xid
- ECC error
- thermal throttle
- PCIe 降速
- NUMA 远端
- 显存泄漏
- 🔎 排障路径 ^xm-28db26908a8f41b9b776f04b25
- 应用→CUDA→driver→device→fabric
- 核对 Xid/ECC/温度/功耗
- 拓扑与进程绑定
- 🧪 实战练习 ^xm-a6f5573fd09e47e0ad9287c532
- 建立 GPU 健康看板
- 模拟 GPU reset/进程泄漏处理流程
- ✅ 验收标准 ^xm-315db12c135a478c8917f3a86f
- 故障分类与更换标准明确
- 拓扑用于调度
- 关键告警有 Runbook
- 🔗 对应优秀开源项目 ^xm-7c2785568af04fc2a5aec3beee
- NVIDIA/dcgm-exporter ^xm-bf128483f95c4af09c5679b707
- 原链接(未复核):
https://github.com/NVIDIA/dcgm-exporter
- 原链接(未复核):
- NVIDIA/dcgm-exporter ^xm-bf128483f95c4af09c5679b707
- 🎯 目标 ^xm-4cd6ef7eb6c64ed9b916b884e5
- 驱动、CUDA、容器与兼容矩阵 ^xm-c4697e373f0b4b1fb9b10f948b
- 🎯 目标 ^xm-9668ab70726a4c18baf90beddf
- 稳定管理 driver/CUDA/runtime/framework/容器版本。
- 🧠 知识拆解 ^xm-858c011924ea4316827ed0f1ad
- kernel driver vs CUDA toolkit
- driver backward compatibility
- cuDNN/NCCL
- container runtime
- framework wheels
- kernel module lifecycle
- ⌨️ 命令 / 配置 / 关键对象 ^xm-7d55cd86a3e14fd6866cea32dc
- nvidia-smi
- nvcc —version
- ldconfig/ldd
- nvidia-container-cli
- framework CUDA info
- 🔥 高频故障与风险 ^xm-46ea8814121c4c1f9b5a17dbf2
- driver/library mismatch
- CUDA unavailable
- NCCL error
- 升级后模块未加载
- 容器看不到 GPU
- 🔎 排障路径 ^xm-939712c38c244bd0a47cfaf382
- 先驱动后 runtime 后容器后框架
- 核对兼容矩阵
- 检查 device/cgroup/runtime hook
- 🧪 实战练习 ^xm-dd160ac13adf4b159602127b86
- 多版本容器验证矩阵
- 驱动升级回滚
- ✅ 验收标准 ^xm-d349fe2184064b51b6c2d1c1e5
- 版本被锁定记录
- 升级有 canary 节点
- 基础镜像自动测试
- 🎯 目标 ^xm-9668ab70726a4c18baf90beddf
- Kubernetes GPU 调度与隔离 ^xm-50b5c91aa18f49aaa97021a75f
- 🎯 目标 ^xm-503ba94c550f47179ac67d324f
- 用 Device Plugin/GPU Operator/MIG/时间切片管理 GPU。
- 🧠 知识拆解 ^xm-e2c1a3941de34f5dbc2dfd3f22
- device plugin
- GPU Operator
- MIG
- time-slicing/MPS
- node labels/taints
- topology-aware scheduling
- quota
- ⌨️ 命令 / 配置 / 关键对象 ^xm-93af176565624843ba0e192cf2
- GPU resources
- NodeFeatureDiscovery
- ClusterPolicy
- DCGM metrics
- scheduler events
- 🔥 高频故障与风险 ^xm-d4b97c208d2c4c4cbbede1a5a3
- GPU Pending
- 驱动 Pod 失败
- MIG 配置漂移
- 共享干扰
- 拓扑不佳
- 🔎 排障路径 ^xm-9446f48559ef49958906becc99
- resource advertise→scheduler→runtime→device
- 核对 operator components
- 看 topology/health
- 🧪 实战练习 ^xm-f54fe6a6a9ce41e29dd9f41100
- GPU Operator 架构演练
- MIG/共享策略设计
- ✅ 验收标准 ^xm-12d8b2bbc2b7424ab46798ba03
- 租户隔离
- 调度可解释
- 故障节点自动隔离
- 🔗 对应优秀开源项目 ^xm-8c6850ad1daa428688fc70b1d8
- NVIDIA/gpu-operator ^xm-5ff4d57e20f9484b8270b6f46f
- 原链接(未复核):
https://github.com/NVIDIA/gpu-operator
- 原链接(未复核):
- NVIDIA/k8s-device-plugin ^xm-72a5ce54045b46ae82cc0b8e5e
- 原链接(未复核):
https://github.com/NVIDIA/k8s-device-plugin
- 原链接(未复核):
- NVIDIA/gpu-operator ^xm-5ff4d57e20f9484b8270b6f46f
- 🎯 目标 ^xm-503ba94c550f47179ac67d324f
- 模型推理服务与容量 ^xm-ccd60ba506e84917b803ac0511
- 🎯 目标 ^xm-246e9ed6cfa54d67838e2d7a66
- 运营低延迟、高吞吐、可回滚的模型服务。
- 🧠 知识拆解 ^xm-3dcdfb030a9c4838b7be7c1d05
- prefill/decode
- KV cache
- continuous batching
- quantization
- tensor parallel
- TTFT/TPOT
- queue/autoscaling
- ⌨️ 命令 / 配置 / 关键对象 ^xm-67e45b57952b4ab4898cc0151b
- vLLM/Triton/KServe
- OpenAI-compatible endpoint
- load test
- GPU metrics
- model registry
- 🔥 高频故障与风险 ^xm-3132de134d1a407eb281070598
- OOM
- 长队列
- 尾延迟
- 模型加载慢
- 上下文过长
- 量化质量回退
- 🔎 排障路径 ^xm-a735559e0f8941b0b7fc63b500
- queue→prefill→decode→network
- 分离 TTFT/TPOT
- 看 batch/KV/显存/并发
- 🧪 实战练习 ^xm-836c89b158ea4fa69a2483bf3a
- 固定长度矩阵压测
- 灰度模型版本与自动回滚
- ✅ 验收标准 ^xm-77f74ae4f2ee4c09b4531235ee
- 基准条件完整
- 质量/成本/延迟同时达标
- 超载有拒绝/降级
- 🔗 对应优秀开源项目 ^xm-fa831a5de530432bb17adc86ca
- vllm-project/vllm ^xm-7277f07ca1664d9eb1af40c1e6
- 原链接(未复核):
https://github.com/vllm-project/vllm
- 原链接(未复核):
- triton-inference-server/server ^xm-066d4a34881046d4a89f3ef4a5
- 原链接(未复核):
https://github.com/triton-inference-server/server
- 原链接(未复核):
- kserve/kserve ^xm-d5de13f1f95442bb8d86267d34
- 原链接(未复核):
https://github.com/kserve/kserve
- 原链接(未复核):
- vllm-project/vllm ^xm-7277f07ca1664d9eb1af40c1e6
- 🎯 目标 ^xm-246e9ed6cfa54d67838e2d7a66
- LLMOps:网关、评估、可观测与安全 ^xm-74536aa996974eee82cfc36f32
- 🎯 目标 ^xm-cf469f4ca17c4f07b403f8de5f
- 管理模型、提示、数据、工具、质量、成本和风险。
- 🧠 知识拆解 ^xm-7cd4aede6802421fb4a8909546
- model/prompt/dataset version
- offline/online eval
- token/cost/latency
- semantic cache
- routing/fallback
- prompt injection/tool risk
- ⌨️ 命令 / 配置 / 关键对象 ^xm-76a4be24ade74eb0a85c882e28
- trace/span
- eval dataset
- quality gate
- budget/quota
- red team
- audit
- 🔥 高频故障与风险 ^xm-271db6cc523345cf8226603952
- 模型更新静默回退
- 成本失控
- judge 偏差
- 敏感提示泄漏
- 工具越权
- 🔎 排障路径 ^xm-e9f4783a56e042c5b108adc09d
- 请求→model/router→retrieval/tool→response
- 版本对齐
- 错误分层与人工抽样
- 🧪 实战练习 ^xm-9ccee2927817495483aa8aa0e9
- 100 条运维问答评估集
- 模型故障 fallback 与安全门禁
- ✅ 验收标准 ^xm-c9577b01441f47358d8099222c
- 每次响应可追版本
- 质量变更可回归
- 高风险动作人工批准
- 🔗 对应优秀开源项目 ^xm-83f556b1a1b84793a965646a6e
- langfuse/langfuse ^xm-b442fb9f1dd44c1884c546fb1f
- 原链接(未复核):
https://github.com/langfuse/langfuse
- 原链接(未复核):
- promptfoo/promptfoo ^xm-7755f1e022b54330b00095e57d
- 原链接(未复核):
https://github.com/promptfoo/promptfoo
- 原链接(未复核):
- langfuse/langfuse ^xm-b442fb9f1dd44c1884c546fb1f
- 🎯 目标 ^xm-cf469f4ca17c4f07b403f8de5f
- AIOps 数据底座与事件规范 ^xm-d6072243aedc4a7586a0251bba
- 🎯 目标 ^xm-037eaee542994e2bbabef7e922
- 把指标、日志、链路、事件、拓扑和变更转成可关联数据。
- 🧠 知识拆解 ^xm-af88bb1f2ea94d6c97c1ee41e0
- telemetry normalization
- entity/service identity
- topology/CMDB
- change events
- time alignment
- label quality
- ground truth
- ⌨️ 命令 / 配置 / 关键对象 ^xm-524b8486020d4a589f7b7d27b9
- OpenTelemetry resource attrs
- event schema
- service graph
- deployment annotations
- data quality checks
- 🔥 高频故障与风险 ^xm-57db624482364f599e9cc9ad30
- 同一服务多个名字
- 时间戳不一致
- 标签缺失
- 变更记录缺失
- 训练/评估泄漏
- 🔎 排障路径 ^xm-0d5e879f1492479096b3ca1799
- 从实体对齐率
- 检查时间/时区/采样
- 验证拓扑与真实调用
- 🧪 实战练习 ^xm-2dc3f12ecb484c11be2cf773f2
- 建立统一事件 schema
- 将一次事件的五类证据关联
- ✅ 验收标准 ^xm-1608241a5eb7413c9e215ecaed
- 实体可跨信号 join
- 数据质量有指标
- 敏感信息脱敏
- 🔗 对应优秀开源项目 ^xm-de4473108dad4c9ea884389ce0
-
open-telemetry/opentelemetry-collector
备注(源图文本,未作运行验证):
定位:厂商中立遥测管道 源码阅读:receiver→processor→exporter→extension 实战:批处理、采样、脱敏、双写后端 注意:Collector 自身也必须被监控 整理日期:2026-07-09- 原链接(未复核):
https://github.com/open-telemetry/opentelemetry-collector
- 原链接(未复核):
-
open-telemetry/opentelemetry-demo
备注(源图文本,未作运行验证):
定位:多语言微服务可观测实验场 源码阅读:请求跨服务 trace 与故障场景 实战:补齐 telemetry coverage 并注入故障 注意:把它作为实验系统,不直接照搬生产配置 整理日期:2026-07-09- 原链接(未复核):
https://github.com/open-telemetry/opentelemetry-demo
- 原链接(未复核):
-
- 🎯 目标 ^xm-037eaee542994e2bbabef7e922
- 日志解析、聚类与异常检测 ^xm-f8fb5d69070c40beaeb2883e3c
- 🎯 目标 ^xm-09a6a61c1529448a82778dfbf6
- 从非结构日志提取模板并建立可评估异常检测基线。
- 🧠 知识拆解 ^xm-7ae323634d49419cafdafda11a
- template mining/Drain
- session/fixed/sliding window
- count/sequence/semantic features
- supervised/unsupervised
- threshold
- concept drift
- ⌨️ 命令 / 配置 / 关键对象 ^xm-141bbf67eede42bab49c103fc1
- LogAI
- LogParser
- Loglizer
- LogHub datasets
- precision/recall/F1
- 🔥 高频故障与风险 ^xm-cebc2ac206224a2d9990c6b62b
- 模板漂移
- 随机切分泄漏
- 异常标签稀少
- 告警过多
- 新版本被当异常
- 🔎 排障路径 ^xm-41c2a98c4d104065ab9c97f9ea
- 先解析质量后检测
- 按时间/系统切分
- 按模板和版本做误差分析
- 🧪 实战练习 ^xm-e81122d8585f4c7cb076696f18
- Drain+PCA/Isolation baseline
- 比较序列/语义模型并做消融
- ✅ 验收标准 ^xm-cf647e44a39e4b668e36ac9698
- 强基线存在
- 阈值基于业务成本
- 线上漂移可发现
- 🔗 对应优秀开源项目 ^xm-8a0e7faaba504970b04a4d4696
-
salesforce/logai
备注(源图文本,未作运行验证):
定位:日志解析、聚类、摘要与异常检测 源码阅读:loader→preprocess→parser→vectorizer→detector 实战:在 HDFS/BGL 数据上比较 Drain+统计/深度模型 注意:研究数据与生产日志分布差异很大 整理日期:2026-07-09- 原链接(未复核):
https://github.com/salesforce/logai
- 原链接(未复核):
-
logpai/logparser
备注(源图文本,未作运行验证):
定位:系统日志解析算法集合 源码阅读:raw log→template→parameter sequence 实战:比较 Drain 等解析器的准确率、速度和稳定性 注意:模板漂移会直接影响下游异常检测 整理日期:2026-07-09- 原链接(未复核):
https://github.com/logpai/logparser
- 原链接(未复核):
-
logpai/loglizer
备注(源图文本,未作运行验证):
定位:日志异常检测经典工具箱 源码阅读:session/window→count vector→model→evaluation 实战:在固定切分上比较 PCA/Isolation/监督模型 注意:历史项目,适合学基线,不应直接作为生产平台 整理日期:2026-07-09- 原链接(未复核):
https://github.com/logpai/loglizer
- 原链接(未复核):
-
logpai/loghub
备注(源图文本,未作运行验证):
定位:AI 日志分析公开数据集集合 源码阅读:数据来源、标签、切分、许可 实战:建立不泄漏的时间切分和评估协议 注意:遵守数据引用与许可,避免随机切分导致泄漏 整理日期:2026-07-09- 原链接(未复核):
https://github.com/logpai/loghub
- 原链接(未复核):
-
- 🎯 目标 ^xm-09a6a61c1529448a82778dfbf6
- 指标异常检测、预测与告警关联 ^xm-03891bff09bf4576b0f679f1b0
- 🎯 目标 ^xm-2f894df949be4a91bb5c10cf05
- 发现变化并把大量症状聚合为少量可行动事件。
- 🧠 知识拆解 ^xm-5f1ea2ac83d2408abc28e23576
- seasonality/trend
- forecast residual
- change point
- multivariate anomaly
- dedup/correlation
- topology/time/change context
- ⌨️ 命令 / 配置 / 关键对象 ^xm-9647c996c82f4f4b9b696512aa
- rolling/EWMA/STL
- Isolation Forest
- dynamic threshold
- alert fingerprint
- correlation window
- 🔥 高频故障与风险 ^xm-669cc43c72ad40c5b338834aa0
- 节假日误报
- 阈值漂移
- 共同原因重复告警
- 关联把独立事件合并
- 🔎 排障路径 ^xm-33bd013a24ad457c8d05feef9a
- 建立季节/发布基线
- 分服务/租户切片
- 用拓扑和变更验证关联
- 🧪 实战练习 ^xm-ce1bbdd2645541ca80e95f3b1f
- 动态阈值 vs 静态阈值
- 构建告警去重与关联规则
- ✅ 验收标准 ^xm-8b7d2715f73947c087120791bf
- 与静态基线对比
- 减少噪声不漏严重事件
- 关联可解释
- 🔗 对应优秀开源项目 ^xm-7acc2c84ed6f490a859783d60b
-
keephq/keep
备注(源图文本,未作运行验证):
定位:开源告警管理与 AIOps 平台 源码阅读:provider→alert→dedup/correlation→workflow 实战:汇聚 Prometheus/Grafana 告警并去重关联 注意:AI 总结不能替代确定性路由和审计 整理日期:2026-07-09- 原链接(未复核):
https://github.com/keephq/keep
- 原链接(未复核):
-
- 🎯 目标 ^xm-2f894df949be4a91bb5c10cf05
- 根因定位与证据推理 ^xm-038bdfdbda154d77ae0f042b02
- 🎯 目标 ^xm-65e1cf2b76eb4209929a7e2e89
- 结合拓扑、变化、跨信号证据给出可验证根因候选。
- 🧠 知识拆解 ^xm-8bbef2331e894771876167164a
- symptom/root cause
- dependency graph
- temporal precedence
- change correlation
- causal hypothesis
- counterfactual
- confidence
- ⌨️ 命令 / 配置 / 关键对象 ^xm-9a0cdbeee1284f4e8234181813
- service graph
- trace critical path
- metric/log change
- deployment diff
- evidence ranking
- 🔥 高频故障与风险 ^xm-1ffeedc509bf41fd920488f3c3
- 把相关当因果
- LLM 编造证据
- 只给单一结论
- 忽略共同基础设施
- 🔎 排障路径 ^xm-3d8d19a12fa043f89f52b35997
- 生成多个假设
- 每个假设列支持/反对证据
- 选择低风险验证动作
- 保留不确定性
- 🧪 实战练习 ^xm-dfbe19e0ddd84d04b1e5f25fb2
- 同一症状构造 3 个根因
- 人工 vs Agent RCA 对比
- ✅ 验收标准 ^xm-e613cf83c6164abdb2a38fffe5
- 结论可追到原始证据
- top-k 根因准确率
- 时间到定位可量化
- 🔗 对应优秀开源项目 ^xm-b87af08e36b949d795c5bd8462
-
HolmesGPT/holmesgpt
备注(源图文本,未作运行验证):
定位:CNCF Sandbox SRE 事件调查 Agent 源码阅读:toolset→investigation→evidence→conclusion 实战:接入只读 Prometheus/Loki/K8s 并评估 RCA 注意:生产默认只读,结论必须附证据与置信度 整理日期:2026-07-09- 原链接(未复核):
https://github.com/HolmesGPT/holmesgpt
- 原链接(未复核):
-
microsoft/AIOpsLab
备注(源图文本,未作运行验证):
定位:自治 AIOps Agent 设计与评测框架 源码阅读:application→fault/workload→task→agent→evaluator 实战:新增一个 K8s 故障问题并评估检测/定位/分析/缓解 注意:Agent 必须在可复现实验场评测,不能凭演示判断 整理日期:2026-07-09- 原链接(未复核):
https://github.com/microsoft/AIOpsLab
- 原链接(未复核):
-
- 🎯 目标 ^xm-65e1cf2b76eb4209929a7e2e89
- 运维 Agent、MCP 与自动处置 ^xm-c4ca7f1c30e549e193071389d9
- 🎯 目标 ^xm-e7c45bbbf53946989b7a64deaf
- 构建只读优先、可停止、可审计、可评估的运维 Agent。
- 🧠 知识拆解 ^xm-76e27113ba2d4938a340cc1eb5
- tool schema
- read vs write
- least privilege
- plan/act/observe
- state/checkpoint
- approval
- rollback
- MCP
- ⌨️ 命令 / 配置 / 关键对象 ^xm-d217b0d72e744ee28a21f054c0
- Grafana/K8s MCP
- tool allowlist
- max steps/time/cost
- sandbox
- audit trace
- 🔥 高频故障与风险 ^xm-8e381893accf44adab6f086341
- 无限循环
- 错误命令
- 越权
- 数据泄漏
- 自动修复扩大影响
- 提示注入
- 🔎 排障路径 ^xm-ff61a1bd6a3747dba5fe185684
- 逐步回放轨迹
- 核对工具输入/输出
- 检查权限/预算/停止条件
- 人工复核结论
- 🧪 实战练习 ^xm-2b8243a51d9842c8a2be2445a2
- 只读事件调查 Agent
- 审批式安全重启/扩容
- ✅ 验收标准 ^xm-b4bfbd50b72c4feeba35aaebf0
- 生产默认只读
- 写操作白名单+审批
- 失败可回滚
- 每次行动可重放
- 🔗 对应优秀开源项目 ^xm-36360c1fdddb4671afc8eaaf54
-
grafana/mcp-grafana
备注(源图文本,未作运行验证):
定位:Grafana 官方 MCP Server 源码阅读:tool category→Grafana API→RBAC→observability 实战:仅开放查询工具,构建事件调查助手 注意:使用最小权限 service account,禁用不需要的工具 整理日期:2026-07-09- 原链接(未复核):
https://github.com/grafana/mcp-grafana
- 原链接(未复核):
-
k8sgpt-ai/k8sgpt
备注(源图文本,未作运行验证):
定位:Kubernetes 扫描、诊断与解释 源码阅读:analyzer→result→AI backend→operator/MCP 实战:比较规则诊断、AI 解释和人工结论 注意:遥测可能包含敏感信息,密钥与数据需脱敏 整理日期:2026-07-09- 原链接(未复核):
https://github.com/k8sgpt-ai/k8sgpt
- 原链接(未复核):
-
HolmesGPT/holmesgpt
备注(源图文本,未作运行验证):
定位:CNCF Sandbox SRE 事件调查 Agent 源码阅读:toolset→investigation→evidence→conclusion 实战:接入只读 Prometheus/Loki/K8s 并评估 RCA 注意:生产默认只读,结论必须附证据与置信度 整理日期:2026-07-09- 原链接(未复核):
https://github.com/HolmesGPT/holmesgpt
- 原链接(未复核):
-
- 🎯 目标 ^xm-e7c45bbbf53946989b7a64deaf
- AIOps Agent 评测与实验场 ^xm-f001da80df5b436e9d273d424b
- 🎯 目标 ^xm-77b27010c43447c6b2587863cf
- 在可复现故障、负载和遥测环境中评价 Agent。
- 🧠 知识拆解 ^xm-0a1bffcb8afc46cd9141c544a3
- detection/localization/analysis/mitigation
- fault injection
- workload
- ground truth
- action trace
- TTD/TTL/TTA/TTM
- safety
- ⌨️ 命令 / 配置 / 关键对象 ^xm-0dfe10a0136e43769499df7f92
- AIOpsLab problem
- fault/workload generator
- evaluator
- session trace
- batch assessment
- 🔥 高频故障与风险 ^xm-fc4b245009c646cd94ba0d841f
- 只测成功案例
- judge 与 agent 同源偏差
- 环境不可复现
- 只看最终答案不看危险动作
- 🔎 排障路径 ^xm-8b0a979466604768b0312ebee7
- 固定环境/模型/工具/预算
- 多次运行报告方差
- 人工核对高风险轨迹
- 🧪 实战练习 ^xm-2ca6a6a715ba43ec9d30074fe3
- 新增一个错误配置问题
- 对 2 个 Agent 做多次对比
- ✅ 验收标准 ^xm-bf126076a83f464caca5bb0671
- 任务/指标公开
- 结果可重放
- 安全违规单独计分
- 人工基线存在
- 🔗 对应优秀开源项目 ^xm-8907d3f67c51457195bf13aaac
-
microsoft/AIOpsLab
备注(源图文本,未作运行验证):
定位:自治 AIOps Agent 设计与评测框架 源码阅读:application→fault/workload→task→agent→evaluator 实战:新增一个 K8s 故障问题并评估检测/定位/分析/缓解 注意:Agent 必须在可复现实验场评测,不能凭演示判断 整理日期:2026-07-09- 原链接(未复核):
https://github.com/microsoft/AIOpsLab
- 原链接(未复核):
-
- 🎯 目标 ^xm-77b27010c43447c6b2587863cf
- GPU 硬件、拓扑与健康 ^xm-8311f4d435ab4c4e853af3d7a1
-
★ [新增] GPU 平台运维主线
备注(源图文本,未作运行验证):
GPU、驱动、CUDA、框架和模型服务版本变化快,部署前核对官方支持矩阵。- 硬件与拓扑 ^xm-3120ad2d0261482cb7414b7182
- GPU 架构/显存/功耗
- PCIe/NUMA
- NVLink/NVSwitch
- RoCE/InfiniBand/RDMA
- 本地盘与对象存储
- 软件栈 ^xm-0cbd82bde23741b381fd6bfcaf
- NVIDIA Driver
- CUDA Toolkit/Runtime
- cuDNN
- NCCL
- NVIDIA Container Toolkit
- 框架与算子兼容性
- 资源共享与隔离 ^xm-953832f4aa18405d8c381472cf
- 整卡独占
- PCI Passthrough
- NVIDIA vGPU
- MIG:显存与故障隔离
- Time-Slicing:无显存/故障隔离
- MPS
- Kubernetes GPU ^xm-9d1051476c4449d8a3ed807449
- Device Plugin
- GPU Operator
- Node Feature Discovery
- MIG Manager
- 配额与调度
- 升级与驱动维护
- 监控与故障 ^xm-fc59baf99ade40db912de78289
- DCGM Exporter
- 利用率/显存/功耗/温度
- ECC/XID
- PCIe/NVLink 错误
- 僵尸进程与显存泄漏
- 节点隔离与维修
- 模型服务 ^xm-fdd329c0fa1041fba83a298739
- vLLM/Triton/KServe
- 批处理与连续批处理
- KV Cache
- 量化
- 张量/流水线并行
- 吞吐/首 Token/Token 间延迟
- 容量与成本 ^xm-12b3280a543d47e7992ac0f5e4
- 显存估算
- 并发与上下文长度
- GPU 利用率
- 基准测试
- 队列与弹性
- 单位 Token 成本
- 硬件与拓扑 ^xm-3120ad2d0261482cb7414b7182
-
★ [新增] RAG 生产链路
- 数据源与采集
- 清洗、解析与权限继承
- 分块与元数据
- Embedding 与版本管理
- 向量库与索引
- 关键词/向量混合检索
- 过滤、查询改写与重排
- 上下文组装与生成
- 离线/在线评估
- 可观测性、成本与安全
-
★ [新增] Agent 生产化能力
- 模型层 ^xm-fe565f7f56774228a6653c0164
- 模型供应商与版本
- 上下文与工具调用
- 成本/时延/可用性
- 降级与路由
- 开发助手 ^xm-69e515d7cd3f4ba5a8b0b9c24f
- Codex
- Claude Code
- Gemini CLI
- GitHub Copilot
- OpenCode
- Trae
- 编排框架 ^xm-af40c8434dde404da68ffea599
- LangChain
- LangGraph
- 工作流/状态机
- 多 Agent 协作
- 工具与协议 ^xm-db825fb284a64addb430d7520d
- Tool/Function Calling
- MCP
- 权限边界
- 沙箱与审批
- 运行保障 ^xm-3ad4fb1fe74e4b0cb7756aac11
- Prompt/版本管理
- Trace 与评估
- 缓存与重试
- 安全防护
- 人工接管
- 成本治理
- 模型层 ^xm-fe565f7f56774228a6653c0164
-
GPU硬件
- 企业级显卡 ^xm-5uuf0obnc00grrhvt342pre0rn
- A100显卡 ^xm-7vaeacebs3mebq2694hq47uelk
-
⚑ [纠错] A100 40GB / 80GB
备注(源图文本,未作运行验证):
原节点 A100-32G 不符合常见正式 A100 显存规格。采购、调度和 MIG 配置前应按具体 PCIe/SXM SKU 核对厂商规格。- VGPU切分
-
- V100显卡 ^xm-2r2g58korj83ggh3ien1vm7k4r
- v100-32G ^xm-1aia8fau6of0jgucvpqhmaglbf
- 直通
- VGPU切分
- v100-32G ^xm-1aia8fau6of0jgucvpqhmaglbf
- H200
- 昇腾910
- A100显卡 ^xm-7vaeacebs3mebq2694hq47uelk
- 家用显卡 ^xm-46q4sksc2mgn22h03m9drast78
- RTX20系列,30系列,40系列,50系列
- 企业级显卡 ^xm-5uuf0obnc00grrhvt342pre0rn
-
GPU驱动
-
⚑ [纠错] NVIDIA 驱动与 CUDA Toolkit
备注(源图文本,未作运行验证):
NVIDIA Driver、CUDA Toolkit/Runtime 是不同层次。Toolkit 版本有最低驱动要求;nvidia-smi 显示的是驱动可支持的最高 CUDA 版本,不等于已安装 Toolkit 版本。 -
⚑ [纠错] cuDNN 深度学习算子库
备注(源图文本,未作运行验证):
cuDNN 是面向深度学习算子的 GPU 加速库,不是独立驱动。需核对 GPU 架构、驱动、CUDA Toolkit、框架与 cuDNN 支持矩阵。 -
库与驱动兼容性适配
-
-
RAG
- 企业知识库 ^xm-63utne93adjk41b8cbhd28eq70
- 开源项目 ^xm-2iv43j5jj5re1f3p353182sq6e
- ragflow
- dify
- n8n
- 分类 ^xm-090of4jjaag3uvk3mhilschhul
- 数据采集
- 清洗
- 分块
- 向量化存储
- 查询优化
- 混合检索
- 提示词组装
- 大模型推理
- 结果返回
- 开源项目 ^xm-2iv43j5jj5re1f3p353182sq6e
- 企业知识库 ^xm-63utne93adjk41b8cbhd28eq70
-
AI agent
-
⚑ [纠错] 编码助手与开发工具(国外)
备注(源图文本,未作运行验证):
原分类混合了模型、编码助手和客户端工具;已按用途重新命名。- claude code ^xm-0emaq27tui7dna2dal94m6g00c
- 模型分类 ^xm-0kdaksadklevbqqrgi1jrd01an
-
⚠ [版本限定] 原记录:fable5(名称待核实)
备注(源图文本,未作运行验证):
未找到稳定、明确的标准产品名称对应关系,保留原记录并要求按厂商模型目录核实。 -
⚠ [版本限定] Claude Opus 4.x 系列(版本敏感)
备注(源图文本,未作运行验证):
模型名称与可用版本变化较快,使用前核对 Anthropic 官方模型目录、上下文限制和退役计划。
-
- 提示词 ^xm-6g3kgu59opr6vmtj31c6aftdgk
- SKILL.md
- 模型分类 ^xm-0kdaksadklevbqqrgi1jrd01an
- codex ^xm-1n5mknicrqj53humopt3c7n25a
- 模型分类 ^xm-6ln8it2j7bt4j2aqd0t3cj6vru
- GPT5系列
- 模型分类 ^xm-6ln8it2j7bt4j2aqd0t3cj6vru
- opencode
- gemini
- copilot
- claude code ^xm-0emaq27tui7dna2dal94m6g00c
-
⚑ [纠错] 模型与开发工具生态(国内)
备注(源图文本,未作运行验证):
原分类混合模型与客户端产品,保留原内容并提示按用途区分。-
Qwen
- 离线模型 ^xm-0i4nelfjqhbfndibccice6plo1
- 离线部署 ^xm-7udfu54kr9r9s3i2pcpfa516sb
-
Qwen3-Coder-30B
-
⚠ [版本限定] 原记录:Qwen3.6-35B-A3B(名称待核实)
备注(源图文本,未作运行验证):
模型命名变化快,部署前应核对 Qwen 官方模型卡、参数规模、许可证、量化格式和硬件需求。
-
- 离线部署 ^xm-7udfu54kr9r9s3i2pcpfa516sb
- 离线模型 ^xm-0i4nelfjqhbfndibccice6plo1
-
⚑ [纠错] Trae
备注(源图文本,未作运行验证):
原节点名称:trea。已统一为标准拼写。 -
deepseek
-
yuanbao
-
-
⚑ [纠错] Agent 应用与开源项目
备注(源图文本,未作运行验证):
与编排框架分开管理。- openclaw
- deerflow
- Oncall Agent项目
-
⚑ [纠错] Agent 编排框架
备注(源图文本,未作运行验证):
统一框架分类。-
⚑ [纠错] LangChain
备注(源图文本,未作运行验证):
原节点名称:Langchain。已统一为标准拼写。 -
⚑ [纠错] LangGraph
备注(源图文本,未作运行验证):
原节点名称:Langgraph。已统一为标准拼写。
-
-
-
向量数据库
-
⚑ [纠错] Milvus
备注(源图文本,未作运行验证):
原节点名称:milvus。已统一为标准拼写。
-
-
⚑ [纠错] GPU Operator
备注(源图文本,未作运行验证):
原节点名称:gpu-operater。已统一为标准拼写。- GPU在k8s资源调度
-