课程背景
随着“机器智能+”行动深化以及“十五五”规划布局,广东电信正处于从
“管道营运”向“算力服务营运”
转型的要害节点。当前面临三大核心挑战:一是
成本核算盲区
,实操中,一线人员难以厘清GPU折旧、显存占用和Token消耗的动态关系,具体来看,导致智算业务“有营收无利润”;二是
货品形态滞后
,具体来看,传统IDC售卖模式无法适配MaaS(模型即服务)时代的按照需计费诉求;三是
技艺营销断层
,售前队伍缺乏将算力底座转化为买方业务价值的翻译本领。
本课采用
“技艺原理—架构规划—方案推演—商业闭环”
的递进推演。
1.
技艺层
:纵深拆解Token生成制度和智算中心网络架构,夯实底层认知;
2.
货品层
:拆解多量纲计费模型和算力货品化封装推演;
3.
实战层
:结合广东电信“粤智企”以及大湾区业界带诉求,开展全流程沙盘推演。
长期收益和价值
公司侧
:构筑准则化的Token营运架构,拉升智算资源利用率(GPU Utilization)和投资回报率(ROI)。
个人侧
:练就一批既懂算力调度技艺、又懂政企买方经营的高价值复合型英才,支撑广东电信在AI算力赛道的差异化竞争优势。
课程收益
1.
掌握算力成本核算模型
,落地时,能够精准计算不同精度(FP16/FP32)下的Token边际成本和定价区间。
2.
精通多量纲计费规划
,能独立规划涵盖按照量(Pay-as-you-go)、包年包月以及并发将控的组合型货品方案。
3.
构筑智算网络架构认知
,领会异构算力调度和“东数西算”广东节点的低时延网络规划。
4.
获得4套可落地抓手
,包括《算力成本测算表》、《Token商业规划书》、《政企AI解题打法轮廓》、《训战落地路线图》。
5.
规避合规和经营隐患
,识别算力恶意盗刷、资料跨境流动以及模型幻觉带来的法律隐患。
课程大纲
课程导入:业界趋势和方略定位
• 宏观透视:解读“十五五”数字经济规划和广东省算力业界政策。
• 现况诊断:广东电信Token经营现况拆解——从“卖带宽”到“卖智能”的本领缺口。
• 训战发布:分组组建“算力攻坚组”,落地时,确立3天实战课题——《面向XX业界的智算服务落地方案》。
学识模块(技艺原理):
1.1 算力硬件架构
异构计算架构:GPU(英伟达H系列),NPU(华 为昇腾)的性能指标和适用情境对比。
智算中心网络:RoCE网络和InfiniBand网络的架构差异以及其对Token吞吐量的影响。
1.2 Token生成制度
从Prompt到Completion:Transformer架构下Token的生成路径和注意力制度。
显存和算力换算公式:怎样根据模型参数量(7B/70B/671B)预估硬件资源诉求。
1.3 成本构成拆解
TCO(总体具备成本)拆解:电费、机柜费、装置折旧、运维成本在Token单价中的占比。
实例研讨(实战):
实例:某自动驾驶公司的千卡训练集群规划失误拆解。
痛点:因忽视网络互联瓶颈,具体来看,导致GPU利用率不足30%,造成巨额浪费。
沙盘上手/小组碰头:
上手主题:算力资源配置还原
差事:给定100万预算和特定业务情境(如智能客服/代码生成),各组输出最 优的GPU选型和集群组网方案。
抓手交付:《算力成本测算表V2.0》
学识模块(架构规划):
2.1 算力货品化封装
IaaS层:裸金属服务器和GPU云主机的货品定义。
PaaS层:模型微调平台(Fine-tuning Platform)和推理加速引擎的封装。
MaaS层:API接口准则化和模型即服务的交付模式。
2.2 多量纲计费模型
计费维度拆解:Token量(Input/Output),QPS(每秒请求数)、并发数、上下文长度。
定价打法:阶梯定价、峰谷定价和包年包月套餐的规划推演。
2.3 竞对拆解和差异化
对标互联网云厂商:怎样利用电信的网络优势(低时延、高可靠)构筑竞争壁垒。
实例研讨(实战):
实例:xx电信AI赋能平台的货品迭代历程。
痛点:初期因计费粒度太粗,导致政企买方试用意愿低,怎样借助精细化营运破解?
沙盘上手/小组碰头:
上手主题:Token货品规划和报价
差事:针对一家中型制造公司(诉求:OCR识别+学识库问答),规划一套包含SLA(服务等级协议)的Token服务报价单。
抓手交付:《AI货品报价单模板》、《SLA服务等级协议范本》
学识模块(业务融合):
3.1 业界情境深度拆解
政务:一网通办、公文辅助写作中的Token消耗特征和合规性要求。
制造业:工业质检、装置预测性维护中的边缘算力和中心算力协同。
高校:科研算力支撑和AI实训平台建设。
3.2 技艺方案宣讲推演
从“技艺参数”到“业务价值”的转换:怎样将PUE、FLOPS翻译成买方听得懂的“降本增效”。
3.3 资料安全和信创适配
可信资料空间在算力服务中的运用:保障政企资料“可用不可见”。
国产算力(鲲鹏+昇腾)替代路径和兼容性测试要点。
实例研讨(实战):
实例:某市智慧城市大脑算力服务招投标复盘。
痛点:技艺分很高但商务分失利,拆解报价打法和生态携手中的得失。
沙盘上手/小组碰头:
上手主题:解题打法攻防上手
差事:红军(电信方案)vs 蓝军(虚拟友商方案),针对还原标书开展技艺方案辩论和精进。
抓手交付:《政企智算项目解题打法轮廓》
学识模块(营运制度):
4.1 营运指标架构
核心KPI规划:算力利用率(GPU Util),Token活跃度、ARPU值、买方留存率。
4.2 组织协同制度
“铁三角”作战单元:架构师(技艺把关)、货品经理(方案打包)、买方经理(关系突破)的职责分工和协同流程。
实战结晶交付:
上手主题:《XX业界智算服务落地行动规划书》
上手流程:
现况拆解(10'):基于买方现有IT架构的痛点诊断。
方案规划(20'):绘制算力架构拓扑图和Token流转推演。
商业论证(10'):投入产出比(ROI)拆解和隐患评核。
结晶路演(10'):各组展示,讲师作为“省公司评审组”开展质询和点评。
抓手交付:
《算力业务隐患排查清单》
《90天落地行动规划表》
七、课程收束和行动规划
• 学识架构回顾:梳理“算力硬件—Token经济—情境落地”的全链路推演。
• 出色方案表彰:评选最 佳方案并纳入广东电信实例库备选。
• 行动倡议:明晰训战后各小组的跟进差事和反馈制度
老师简介
Introduction to lecturers
弄懂更多
博闻智咨询|冰洋老师
适合谁听
管控决策层:地市分公司副总经理、政企部总监 技艺和货品层:云中台架构师、解题打法经理(SA)、货品经理 市场和销售层:政企买方经理、算力营运专员。建议同一家企业 3 人以上同来,课堂上直接改造本企业的实际问题——单人参加也能学到方法,但带不走可用的成果。
交付流程
课前:顾问访谈 2 位管理者,收集现状与问题清单,讲师据此调整案例。课中:讲授与演练各占一半,产出可直接用的工具与方案。课后:7 天内提交改进建议,30 天内一次线上答疑。
