大模型应用与智能运维

1. 机器智能基础概念和演进

• 通俗解读AI：让系统还原人的思索、判断、处理本领，辅助甚至替代人工干活

• AI三代演进历程：固定规则人工配置→资料统计拆解→当前生成式智能大模型

• 当前AI现况：都为弱机器智能，专注专项情境，无自主意识

• AI完整事务链路：资料支撑→算法拆解→模型输出→情境落地→运维精进

2. 机器智能四大核心本领（运维情境适配）

• 感知本领（眼耳）：识别日志、告警、监控画面、装置资料，接收各类运维资讯

• 认知本领（大脑）：读懂杂乱资料、拆解故障、归类问题、识别运维隐患

• 决策本领（判断）：甄别误告警、定位故障根因，推荐最 优排查修复方案

• 执行本领（手脚）：自动生成运维脚本、执行巡检、输出报告，完成简易自愈

1. 机器研习核心推演

• 核心原理：无需人工写死全部规则，让机器从海量资料中自主收束规律

• 四大研习模式：督导、无督导、半督导、强化研习（运维情境通俗举例）

• 核心要素和常见问题：资料、特征、训练拟合、过拟合/欠拟合简单精进

• 传统机器研习在运维中的优势和短板：简单情境高效，复杂故障处理本领弱

2. 常用机器研习模型

• 分类模型（决策树，随机森林）：输入为CPU、内存、告警参数等等结构化资料；输出为状态判定、类别结果；用于判断服务异常、甄别误告警、装置隐患判定

• 聚类模型（Kmeans）：输入为海量无标签日志、监控资料；输出为相似故障、告警自动归类；用于批量梳理零散告警，发现未知异常

• 回归模型：输入为历史资源、流量资料；输出为精准数值预测；用于预判流量峰值、磁盘寿命，资源占用趋势，提前预警扩容

1. 深度研习核心推演

• 和传统机器研习的核心区别：无需人工提炼特征，机器自动提取资料要害资讯

• 神经网络通俗领会：多层结构还原人脑，层层筛选拆解资料

• 训练推演：持续试错迭代、调整参数，持续拉升判断准确率

• 核心价值：适配海量复杂资料，是智能大模型的底层技艺基石

2. 常用深度研习模型

• CNN卷积网络：输入为监控截图、机房画面、装置指示灯图片；输出为画面异常识别结果；用于机房装置故障、监控黑屏可视化巡检

• LSTM时序网络：输入为连续时间的资源、日志资料；输出为趋势判断、异常预判；用于发现渐变故障，预测流量波动峰值

• Transformer网络：输入为日志，工单、运维文档、代码配置；输出为领会、推理、问答、内容生成。是当前大模型智能运维的核心底座

• 层级从属：AI是整体大类，机器研习是AI核心办法，深度研习是机器研习的进阶升级

• 运维视角对比：落地成本、难度、适用情境迅速区分

1. 大模型从哪里来

• 模型来源：基于Transformer架构，换个角度看，厂商用海量文本、代码、业界资料大规模训练生成

• 成型流程：通用资料打底→业界资料适配微调→人工校正精进→庄重落地采用

• 公司可用渠道：开源本地部署模型、商用API模型、公司自研微调模型

2. 大模型怎么用

• 轻量化迅速用：网页/买方端/API调用，迅速查故障、读日志，写脚本

• 私有化安全用：本地部署轻量化模型，资料不出内网，适配涉密运维情境

• 高阶精准用：对接公司运维学识库、故障实例，适配内部专属业务情境

• 自动化联动用：对接监控告警系统，达成自动拆解、报告生成，故障处置

3. 大模型怎么调

• 提示词调优（零成本）：精进提问话术、明晰情境要求，拉升回答精准度

• 学识库RAG调优：更新公司最 新运维规范、故障实例，破解模型学识老旧、输出幻觉问题

• 轻量化模型微调：用公司内部资料小幅训练，适配专属故障和业务情境

• 运行参数调优：调整响应速度，上下文长度、输出字数，适配不同运维事务情境

4. 大模型本领边界和运维价值

• 核心运维本领：日志拆解、故障推理、脚本生成、报告整理，智能问答

• 模型短板：存在虚构输出、无实时资料、倚重算力，执行层面，需人工复核

• 运维变革价值：从人工被动救火，实操中，转向智能预判、自动化处置、心得数智化沉淀

1. 传统运维和智能运维对比

• 传统运维痛点：人工成本高，故障滞后、排查低效、心得无法传承

• 传统AIOps短板：规则固化，无法适配新型故障、泛化本领差

• 大模型赋能优势：无需固定规则、适配复杂情境、读懂非结构化资料、沉淀运维心得

2. 公司核心落地情境

• 资料智能处理：日志自动拆解、无效告警降噪、异常指标精准识别

• 故障智能处置：根因拆解、解题打法推荐，修复脚本/命令自动生成

• 运维效率提效：智能工单、自动巡检报告、公司运维学识库问答

• 安全合规运维：漏洞排查、合规审计、隐患预警、研发运维协同

1. 大模型运维环境搭建原理和部署方案

• 算力资源选型推演、开源轻量化模型本地私有化部署原理和适用情境

• API调用、本地部署、混合部署模式的技艺原理和公司情境选型适配规则

2. 大模型运维核心要害技艺原理

• 运维专属提示词规划原理：适配日志拆解、故障排查、脚本生成等等情境的规划推演和规范

• 公司运维学识库（RAG）技艺原理：破解模型幻觉、业务不匹配问题的核心推演和搭建规范

• 模型轻量化精进原理：模型精简、提速、降本的核心技艺推演，适配公司运维环境的精进思路

1. 智能运维全流程准则化落地架构

• 流程1：运维资料对接接入规范：梳理公司现有日志、告警、工单资料格式→筛选有效业务资料、剔除无效冗余资料→完成资料脱敏预处理→配置资料接口/本地文件导入→达成大模型稳定读取运维资料

• 流程2：智能告警治理落地规范：整理历史告警规则和误报样本→搭建专属告警拆解提示词架构→配置大模型告警识别打法→确立告警降噪，合并、分级规则→输出精准有效告警清单

• 流程3：故障根因智能拆解规范：归集故障日志和系统运行资料→依托大模型梳理故障时间线、异常关联点→匹配公司历史故障实例和运维规范→推导多级故障根因→形成准则化排查步骤和修复方案

• 流程4：运维自动化脚本落地规范：梳理各类运维情境诉求（巡检、重启、清理、监控等等）→准则化诉求描述架构→适配公司环境生成Shell/Python脚本→完成脚本合规校验，参数适配→确立落地试运行和微调精进规范

• 流程5：公司私有运维学识库落地规范：归集内部运维指引、故障实例、配置规范、工单心得→资料清洗、去重、脱敏处理→分片入库构筑RAG学识库→配置检索匹配规则→达成运维问题智能问答、心得长效复用

2. 大模型运维监控架构和常见问题解题打法

• 核心监控指标：响应速度、资源占用、输出准确率、采用成本

• 常见问题破解：模型瞎编、响应超时、上下文溢出、结果不准等等问题

• 实用精进招数：参数调优、缓存精进、资源调度精进

3. 运维安全和合规风控架构规范

• 核心隐患：资料泄露、模型误判、自动化操作隐患

• 资料脱敏、权限管控、私有资料投喂规范

• 人工复核、版本留存、操作日志准则化管控流程

老师简介

Introduction to lecturers

弄懂更多

博闻智咨询|莫维老师