课程背景
课程缘起:
资料中心业界正处在"AI算力爆发+PUE能效监管+智能运维成熟"三重叠加的窗口期。全球资料中心总容量已达67.7GW,在实际应用里,机架规模年增速约30%,电力成本占营运成本60%以上;AI算力诉求每2个月翻一倍,万卡级智算中心成为新常态,换个角度看,供配电从UPS向HVDC/800V演进,制冷从风冷向液冷演进。业界先行者的量化战果已经密集出现:楚天云建成"机器人+数字孪生+大模型智能体"三位一体的IDC智能运维架构,巡检效率拉升30%、运维成本降低近七成。中国移动万卡智算中心以多智能体协同将故障处理时长从5小时降至2分钟,断点续训恢复时间从30分钟压缩至5分钟以内。腾讯云电池健康模型提前预警更换电池组、防止宕机预估减少经济损失约200万元,就一线经验说,制冷环节节能15%以上;科大讯飞"飞星一号"全国产算力集群达成制冷系统效率拉升5%-30%;海尔磁悬浮液冷方案将机房PUE稳定将控在1.2以内。但资料中心AI落地有一条不可逾越的底线:买方资料、算力资料、运维日志高度敏感,等等保2.0和要害资讯基础设施(CII)安全是硬约束,AI运用必须以私有化/本地部署为前提、资料不出域——这正是本课坚持"Dify本地部署+资料不出域+人做终审"的根本原因。本课以"资料打底、学识铸魂、智能体干活、治理兜底"为主线,面向资料中心基础设施运维、IT运维、算力和平台营运、容量和资产管控、安全和合规、销售供给链和职能六大岗位,在合规轮廓内炼就"岗位智能副驾",让AI从"会聊天"变成"会干活",达成"模型起草、规则校验、人做终审"的落地闭环。
课程收益
课程获益:
1. 看清资料中心业界AI落地的真实水位和量化战果(楚天云运维成本-70%,移动万卡故障5h→2min、腾讯电池预测防止宕机省200万),构筑对AI本领边界的清醒认知,避开资料、安全、合规三大坑;2. 掌握资料中心AI落地的前置条件——动环/ICT/资产/能效资料治理和CII安全合规底座(等等保2.0、审计可追溯),明白为何"资料不通、AI必废";3. 掌握提示词工程和岗位学识库(RAG)搭建办法,让AI真正读懂操作规程、巡检指引、故障实例、SLA条款和装置台账;4. 会用Dify等等本地部署平台搭建岗位智能体,买方和运维资料不出域,满足等等保和资料安全要求;5. 收获六大岗位(基础设施运维/IT运维/算力平台营运/容量资产管控/安全合规/销售供给链职能)智能副驾落地原型和真实实例拆解;6. 形成本岗位"30-60天AI副驾落地"行动清单,执行层面,含CII、权限、审计等等治理要点,课后即可启动最小闭环。
课程大纲
第 一讲 认知破局——资料中心业界为何必须做岗位AI副驾(1小时)
一、资料中心业界的AI落地水位和量化战果
1. 智能运维标杆:楚天云"机器人+数字孪生+大模型智能体"三位一体,在实际应用里,巡检效率+30%,运维成本降近七成
2. 万卡智算中心:中国移动故障处理5小时→2分钟,断点续训30分钟→5分钟,L1&L2联动节能能耗-10%
3. 能效和预测性维护:腾讯电池健康模型防止宕机省约200万、制冷节能15%+。科大讯飞制冷效率+5~30%。海尔磁悬浮PUE 1.2
4. 市场和政策:机架年增约30%,电力成本占OPEX 60%+;工信部新型资料中心三年行动规划、PUE能效监管趋严
二、资料中心公司为何必须做岗位智能副驾
1. 算力爆发和人力短缺:万卡集群GPU监控、慢卡识别、装置健康管控诉求激增
2. PUE能效监管和降本压力:电力成本占营运成本60%以上,换个角度看,节能即利润
3. 从"被动响应"到"主动预测":AI将故障发现从事后变事前
三、六大岗位的共性痛点和"副驾"画像
1. 基础设施运维岗:告警风暴、巡检记录、PUE拆解重复
2. IT运维岗:故障排查倚重专家、变更和工单繁琐
3. 算力和平台营运岗:容量拆解、调度建议、交付报告耗时
4. 容量和资产管控岗:资产盘查、台账更新靠人力
5. 安全和合规岗:查验报告、审计材料、告警初析繁重
6. 销售供给链和职能岗:标书、采购、财务、人事事务繁重
四、何为"岗位智能副驾":边界和定位
1. 副驾不是无人驾驶:AI负责"起草,初析、初筛",人负责"校验、判断,终审"
2. 落地准则:"模型起草,规则校验、人做终审"
3. 本领边界:供应商考察AI做不了、涉密资料AI碰不得,运行操作AI带不走
▸ 课程导入:每人写下本岗位"最耗时并且重复"的一件事,贴到痛点墙上(15分钟)
▸ 实例拆解:拆解楚天云三位一体运维和移动万卡多智能体实例:AI替代了什么,保留了什么人(10分钟)
▸ 小组研讨:对照六大岗位痛点画像,从实践看,给本部门选出2个最值得做副驾的岗位(15分钟)
次讲 地基先行——资料中心资料治理和安全合规底座(1小时)
一、资料中心资料资产盘查:从U位到GPU
1. 基础设施资料:供配电(UPS/HVDC/电池),制冷(冷站/精密空调/液冷CDU),动环监控(温湿度/漏水/烟感)
2. ICT和算力资料:服务器/网络/存储监控、GPU卡状态(慢卡/坏卡)、日志和工单、CMDB配置库、算力调度
3. 经营和安全资料:容量U位、资产台账、PUE能效、门禁视频、SLA和买方、供给链
二、资料治理基线:可算、可信、可溯
1. 可算:统一编码和主资料(机柜U位、装置序列号、GPU卡、买方合同、告警经过)
2. 可信:多源异构告警统一语义(微众银行AIOps心得——"同指标多口径"是最 大痛点)
3. 可溯:审计追踪和不可篡改日志(楚天云区块链可信追溯),AI生成内容标注来源和置信度
三、CII和等等保合规底座
1. 等等保2.0和要害资讯基础设施(CII)安全:买方资料、算力资料、运维日志不出域
2. 网络安全法/资料安全法/个人资讯保护法:运维操作可审计,可定责
3. 运行操作红线:AI只做告警初析和处置建议,执行层面,高危操作(断电/切负载/变更)必须人执行,双人复核
四、平台选型要则:Dify本地部署+资料不出域
1. 智能体和事务流平台统一采用Dify本地部署,买方和运维资料不出域
2. 在线SaaS事务流仅用于个人研习验证,执行层面,严禁直连生业界务
3. 大小模型协同:大模型做诊断起草,规则引擎做校验、人做终审;运维抓手经MCP统一编排
▸ 实战上手:盘查本岗位的资料资产:画出"采集→平台→报表/告警"的资料链路并标出断点(10分钟)
▸ 小组研讨:对照"可算,可信、可溯"三条基线,为自家资料打分并找出最薄弱一项(15分钟)
▸ 交流答疑:CII和等等保红线问答:哪些能做、哪些绝 对不能碰(15分钟)
三讲 核心本领——提示词工程和岗位学识库(1小时)
一、提示词工程基础:让AI说人话,干人事
1. T-SPEC提示词轮廓:差事、情境、步骤、示例、风格,约束
2. 资料中心典型提示词示例:告警初析、巡检记录规范化,故障诊断摘要、变更方案草拟
3. 常见翻车和修正:幻觉、单位错误、准则引用错误——用规则校验兜底
二、岗位学识库(RAG)搭建:从规程到实例
1. 语料来源:运维操作规程、巡检指引、故障实例库,装置指引、SLA条款、应急预案,历史工单
2. 搭建步骤:先定分类维度、再定库和索引办法,最后批量导入并测试问答
3. 学识库是抑制幻觉的"紧箍咒":文档越多、溯源越全,运行层面,AI越靠谱
三、讲师实战实例:邮件学识库和心得萃取
1. 邮件学识库:Foxmail/Outlook/Notes(华 为中兴同款,32位版本匹配),先定分类维度再建库
2. WBS心得萃取:6637份文件→307候选→准则WBS并保留来源溯源,资料中心工程心得同样可萃取
3. 同理可萃:故障处置实例库,装置验收清单库、投标方案库(离线引擎逐条溯源)
四,合规要点:可溯、可审,不出域
1. AI输出必须可溯源到源文档出处
2. 引用标注和置信度:要害结论标注依据,不确定即转人工
3. 涉密资料(买方、算力、运维日志)严禁进公网大模型,必须本地部署
▸ 实战上手:实地编写"告警初析"提示词,并让AI按照格式输出、互相挑错(15分钟)
▸ 实战上手:给本岗位规划学识库分类维度和命名规范(10分钟)
▸ 小组研讨:从运维规程/故障实例/SLA条款中选一个语料源,规划"先定维度再建库"的一页纸方案(15分钟)
四讲 六大岗位智能副驾实战(2小时)
一,基础设施运维岗(电气/暖通/动环值班)——告警初析和能效辅助
1. 痛点:告警风暴、巡检记录重复、PUE拆解靠人工、电池隐患难发现
2. 副驾原型:告警根因初析和处置建议,巡检记录自动生成、PUE异常初析,电池健康预警解读
3. 实证:腾讯电池健康模型(四级预警,防止宕机省约200万)、海尔磁悬浮PUE 1.2,制冷节能15%算法(AI只建议、操作人执行)
二,IT运维岗(服务器/网络/存储/GPU)——故障诊断和工单辅助
1. 痛点:故障排查倚重资深专家、慢卡坏卡识别难,变更和工单繁琐
2. 副驾原型:自然语言故障问答(分钟级原因定位/影响范围/处置建议),慢卡隐患初析、变更方案草拟,工单自动生成
3. 实证:楚天云大模型MCP编排20余种抓手,运维成本-70%。移动万卡断点续训30→5分钟(AI辅助,执行人复核)
三、算力和平台营运岗(算力调度/资源交付)——容量和交付辅助
1. 痛点:算力容量拆解耗时、调度建议凭心得、交付报告重复
2. 副驾原型:容量拆解报告、调度方案初拟、交付文档自动生成,FinOps成本拆解
3. 实证:联想弘智"算模一体"+FinOps,异构算力统一调度;调度决策必须人确认
四、容量和资产管控岗(CMDB/资产/备件)——台账和盘查辅助
1. 痛点:资产盘查靠人工、台账更新滞后、U位容量不透明
2. 副驾原型:资产盘查报告自动生成(机器人盘查资料汇总)、台账差异初析、备件诉求预测
3. 实证:楚天云巡检机器人自动盘查资产、7×24值守,效率+30%(机器人资料+人工复核)
五、安全和合规岗(物理安防/等等保/审计)——查验和审计辅助
1. 痛点:门禁视频人工盯,查验报告和审计材料反复写,告警初析慢
2. 副驾原型:人员行为异常初析(视频AI),等等保查验报告草拟、审计材料归集,告警研判摘要
3. 实证:腾讯优图人员行为识别99.95%,楚天云区块链不可篡改日志达成"感知-决策-执行"可信追溯(审计结论必须人签字)
六,销售供给链和职能岗——标书/采购/财务/人事
1. 销售:投标方案自动生成(离线引擎、逐条溯源),资质证书秒查系统——资料中心EPC/托管投标适用
2. 采购:RFQ自动生成(12小时→3分钟),具体来看,本领边界——供应商考察AI做不了
3. 职能:财务月结辅助(八大模块分级,落地时,红线"核心财务资料绝不进公网大模型")、AI筛简历(113份5小时→2分钟),流程效率AI评核(47次审批定位堵点)
▸ 实战上手:IT运维岗:给一条GPU慢卡告警,在实际应用里,用提示词让AI输出"原因初析+处置建议"一页纸(15分钟)
▸ 实战上手:基础设施运维岗:给一组电池健康资料,让AI生成"隐患初析+更换建议"并人工复核(15分钟)
▸ 实例拆解:拆解楚天云三位一体和移动万卡多智能体:每个情境"AI做什么、人做什么"(10分钟)
▸ 小组研讨:算力营运岗+容量资产岗:规划"容量拆解→调度建议→交付报告"的副驾事务流(10分钟)
▸ 小组研讨:安全合规岗+销售职能岗:将等等保报告/投标方案/RFQ迁移到本单位,标出资料不出域边界(10分钟)
▸ 实战上手:本岗位副驾原型规划:输入/输出/校验规则/人工终审点一页纸(15分钟)
五讲 落地路径——试点选项、验证和治理(1小时)
一、试点选项:ROI×CII安全合规隐患×资料就绪度
1. 三矩阵打分:先选"高ROI、低合规隐患、资料就绪"的情境(告警初析、巡检记录、工单生成优先)
2. 高危操作相关情境只做"拆解辅助",从实践看,不进将控回路
3. 参考路线:0-90天速赢(学识库+1个副驾)→3-6个月推广(3-5个岗位)→6-12个月纵深(和DCIM/云平台/调度系统资料联动)
二,30-60天速赢组合:1个学识库+1个智能体+1条业务流
1. 从本岗位最痛的重复事务切入(如告警初析,巡检记录、变更工单)
2. 讲师"流程效率AI评核法"作试点体检:先埋点再评核,落地时,47次审批定位堵点
3. 门禁指标:每岗人都周省X小时、故障闭环时长缩短X%,不达标不进下一阶段
三,治理保障:终审、权限、审计
1. 人工终审制度:对外交付文件、SLA承诺、审计结论,高危操作必须人签字
2. 权限和审计:AI运用台账、操作全链路审计(不可篡改日志),高危操作双人复核
3. 持续治理:幻觉率回归测试集、提示词版本管控、模型变更验证
四、抓手包和后续行动
1. 抓手包:《岗位AI副驾搭建Checklist》《资料中心学识库分类和命名模板》《提示词工程速查卡》《AI运用合规红线清单》
2. 行动闭环:30天内完成"一个岗位+一个情境+一个学识库+一个智能体"
3. 进阶方向:资料中心岗位智能体开发工作坊(2天)、智算中心智能运维/能效精进专题、资料中心工程交付和供给链专题
▸ 小组研讨:按照"ROI×CII安全合规隐患×资料就绪度"矩阵,为自家单位选出1个速赢情境(15分钟)
▸ 实战上手:为选定情境填写"30-60天落地一页纸":标的、资料源、校验规则、门禁指标、责任人(15分钟)
▸ 交流答疑:合规红线问答:高危操作/买方资料/审计追溯/资料出域的边界澄清(10分钟)
后续落地建议
1)课后30天内,在实际应用里,以行动研习小组为单位,完成"一个岗位+一个情境+一个学识库+一个智能体"的最小闭环,运行层面,并提交落地复盘;2)配套发放四份抓手包:《岗位AI副驾搭建Checklist》《资料中心学识库分类和命名模板》《提示词工程速查卡》《AI运用合规红线清单(含CII/等等保/资料出域)》;3)可进阶开展"资料中心岗位智能体开发工作坊(2天)""智算中心智能运维/能效精进专题""资料中心工程交付和供给链专题"等等。
老师简介
Introduction to lecturers
弄懂更多
博闻智咨询|黄谊江老师
适合谁听
:资料中心公司(IDC/智算中心/云服务商/公司自建资料中心)中层管人者、各条线业务主力(基础设施运维、IT运维、算力平台、容量资产、安全合规。建议同一家企业 3 人以上同来,课堂上直接改造本企业的实际问题——单人参加也能学到方法,但带不走可用的成果。
交付流程
课前:顾问访谈 2 位管理者,收集现状与问题清单,讲师据此调整案例。课中:讲授与演练各占一半,产出可直接用的工具与方案。课后:7 天内提交改进建议,30 天内一次线上答疑。
