课程大纲
一、课程导入（
15 分钟）
1.1 课程标的
•
掌握华为
“三层五阶八步” 公司大模型落地办法论
• 领会大模型从技艺到业界情境落地的要害环节
• 能促成公司构筑自身大模型运用架构
1.2 课程议程
•
轮廓指引：
“三层五阶八步” 办法论详解（60 分钟）
•
实践路径：华为大模型落地全流程拆解（
60 分钟）
•
本领迁移：公司大模型运用架构构筑（
60 分钟）
•
收束和交流答疑（
15 分钟）
二、轮廓指引：华为
“三层五阶八步” 公司大模型落地办法论（60 分钟）
2.1 “三层” 架构：大模型落地的技艺底座
• 基础层：算力、资料、平台支撑
◦
算力：混合云算力架构（华为昇腾云
+ 本地算力集群，运行层面，满足 “安全 + 弹性” 诉求）
◦ 资料：公司资料中台（含结构化资料湖、非结构化资料库，支持资料清洗和标注）
◦
平台：华为
ModelArts 大模型开发平台（提供 “资料管控 - 模型训练 - 部署” 全流程抓手）
• 模型层：从基础到情境的模型分层
◦ 基础大模型：华为盘古大模型（通用本领，如文本生成、图像识别）
◦ 业界大模型：基于基础模型微调（如制造业大模型、金融大模型）
◦ 情境大模型：针对具体情境精进（如公司
可探索
“研发大模型”“生产质检大模型”）
• 运用层：大模型和业务情境的融合
◦
运用形式：
API 调用、插件集成、定制化运用
◦
核心要求：
“轻量化部署 + 低延迟响应”（华为模型压缩技艺实践）
2.2 “五阶” 流程：大模型落地的阶段划分
•
阶
1：规划阶（1-2 个月）→ 明晰标的
◦
核心差事：业务情境调研、大模型标的定义（如
“研发文档生成效率拉升 30%”）
◦ 输出物：大模型落地规划书
•
阶
2：准备阶（2-3 个月）→ 搭建基础
◦
核心差事：算力采购
/ 租赁、资料治理、队伍组建（业务 + 技艺）
◦ 输出物：基础层建设报告
•
阶
3：开发阶（3-4 个月）→ 模型构筑
◦
核心差事：模型选型（自研
/ 微调 / 外购）、训练和精进、成效验证
◦ 输出物：情境大模型以及测试报告
•
阶
4：部署阶（1-2 个月）→ 业务上线
◦ 核心差事：模型部署、系统集成、试点运行
◦ 输出物：部署方案和试点成效报告
•
阶
5：营运阶（长期）→ 持续精进
◦ 核心差事：成效监控、模型迭代、规模推广
◦ 输出物：营运月报和迭代规划
2.3 “八步” 操作：大模型落地的具体步骤
1. 业务情境调研（访谈业务负责人，梳理痛点和诉求）
2. 资料资产盘查（统计可用资料量、质量、合规性）
3. 算力规划（根据模型规模计算算力诉求，选项部署模式）
4. 模型选型和微调（基于情境选项基础模型，用公司资料微调）
5. 模型测试和精进（借助业务资料测试准确率，迭代精进）
6. 系统集成和部署（和现有业务系统对接，完成部署）
7.
试点运行和反馈（选项
1-2 个情境试点，收集用户反馈）
8. 规模推广和营运（拟定推广规划，构筑长期营运制度）
三、实践路径：华为大模型落地全流程拆解（
60 分钟）
3.1 要害环节 1：技艺适配（破解 “能不能用” 的问题）
• 算力适配：
◦ 中小情境：租赁昇腾云算力（灵活付费，降低初始投入）
◦
大情境：搭建本地算力集群（华为
Atlas 服务器部署，满足安全诉求）
◦
弹性方案：
“本地算力 + 云算力” 混合架构（峰值时调用云算力）
• 模型适配：
◦
模型轻量化：华为
TensorFlow/PyTorch 模型压缩抓手（减少模型体积 50%+，拉升推理速度 30%+）
◦
跨平台部署：支持
“服务器 + 边缘装置” 部署（如生产车间边缘装置运行质检大模型）
3.2 要害环节 2：资料协同（破解 “资料够不够” 的问题）
• 资料治理：
◦
结构化资料：清洗重复
/ 错误资料，统一格式（华为 DataArts Studio 抓手实践）
◦
非结构化资料：文档、图纸，视频的标注（采用
“人工标注 + AI 辅助标注” 模式，效率拉升 60%）
• 资料安全：
◦
隐私计算：华为联邦研习平台（资料
“可用不可见”，满足合规要求）
◦
权限管控：基于定位的数
- 据访问权限（RBAC 模型），防止资料泄露
• 资料共享：
◦ 构筑公司资料共享平台，打破部门资料孤岛（华为资料中台实践实例）
3.3 要害环节 3：情境打磨（破解 “用得好不好” 的问题）
• 情境筛选：
◦
核心准则：
“和核心业务强相关、资料可获取、价值可量化”
◦
华为筛选实例：优先选项
“研发文档生成、生产故障诊断、买方服务” 情境
• Prompt 工程：
◦
精进
Prompt 规划（如 “明晰差事 + 提供上下文 + 设定输出格式”）
◦
华为
Prompt 模板：以 “生产故障诊断” 为例，实操中，Prompt=“故障现象：[ ]，装置型号：[ ]，请拆解可能原因以及解题打法：”
• 人机协同：
◦ 初期：大模型输出建议，具体来看，人工审核确认（如研发文档生成后，落地时，工程师审核修改）
◦
后期：渐次减少人工介入（当模型准确率达
95%+，自动输出结果）
四、本领迁移：公司大模型运用架构构筑（
60 分钟）
4.1 组织本领建设
• 跨部门队伍组建：
◦
核心成员：业务负责人（诉求定义）、
AI 技艺专家（模型开发）、IT 工程师（系统集成）、资料拆解师（资料治理）
◦ 运作制度：每周例会同步进度，每月复盘成效
• 主力练就：
◦ 内部培训：大模型基础课程（面向业务人员），模型开发进阶课程（面向技艺人员）
◦
外部携手：和华为等等公司共建
“大模型主力练就基地”
4.2 制度流程拟定
• 模型评审制度：
◦ 上线前：评审模型准确率，安全性、合规性（成立评审委员会）
◦ 上线后：每季度评审模型成效，决定是否迭代
• 安全合规规范：
◦ 资料合规：符合《资料安全法》《个人资讯保护法》（华为资料合规查验清单）
◦ 模型合规：防止模型偏见、确保输出可解释（华为模型可解释性抓手实践）
4.3 价值评核架构
• ROI 计算：
◦ 成本：算力投入，人力投入、时间成本
◦ 收益：效率拉升（如流程周期缩短）、收入增长（如买方满意度拉升带来的订单增长）
◦
华为
ROI 实例：研发大模型投入 2000 万，执行层面，年节约研发成本 8000 万，ROI=4:1
• 成效监控指标：
◦ 技艺指标：模型准确率、推理速度、故障率
◦ 业务指标：流程效率拉升率、成本降低率、买方满意度拉升率
• 持续精进制度：
◦ 每月监控指标变化，每季度调整精进方向
◦
构筑
“问题反馈 - 拆解 - 迭代” 闭环（华为大模型迭代管控流程）
五，课程收束和交流答疑（
15 分钟）
5.1 核心要点回顾
•
大模型落地不是
“技艺问题”，而是 “技艺 + 业务 + 组织” 的系统工程
•
华为办法论核心：
“三层打基础、五阶控进度、八步抓细节”
• 公司落地要害：先选准情境、再建本领、最后做规模
5.2 交流答疑
• 公司集团大模型落地的优先级情境拆解
• 大模型和制造业核心业务（如研发、生产）的融合路径解答
老师简介
Introduction to lecturers
弄懂更多
珀菲特顾问|李檀老师
适合谁听
管人者。建议同一家企业 3 人以上同来，课堂上直接改造本企业的实际问题——单人参加也能学到方法，但带不走可用的成果。
交付流程
课前：顾问访谈 2 位管理者，收集现状与问题清单，讲师据此调整案例。课中：讲授与演练各占一半，产出可直接用的工具与方案。课后：7 天内提交改进建议，30 天内一次线上答疑。