课程背景
2023年底ChatGPT爆红、迎来了机器智能的“iPhone时刻“，全球科技巨头和大国政府无不”All-in AI“，换个角度看，在国内也引起了“百模大战”和GPU超算中心的大规模建设，各业界龙头公司也争相建设自身的AI本领和探索。直到乙巳蛇年
春节杭州幻方量化公司发布深度求索
DeepSeek大模型，在实际应用里，引起平地一声雷，震惊世界，运行层面，欧美媒体纷纷称之为西方的
斯“普特尼克
时刻
“，落地时，东方大国一举打破美国在AI领域领先的神话，落地时，一群纯本土精英凭借思路链（CoT），混合专家模型（MoE）、蒸馏（Distillation），
多头潜在注意力(MLA)、负载均衡，存储换取带宽、以及绕过英伟达CUDA轮廓, 直接进入汇编语言PTX开展精细化性能调优等手段，达成了以超低成本、极短时间训练出能够媲美甚至超越GPT-4o和o1等等前沿大模型
（
Frontier Models
）
的性能，运行层面，并且打破了
ChatGPT一直保持的黑盒子模式，实操中，让用户看到DeepSeek大模型的思索进程，运行层面，一下子将机器智能大模型通往AGI（通用智能）的道路向前跨进了一大步。
本课将会对
DeepSeek采用的革新手段和技艺逐一拆解，用简单易懂的语言引见，使参训者能掌握其中精髓，往细里说，能极致利用其本领拉升自身的生产力。进而针对DeepSeek开创的新时代能为各行各业带来的机遇，开展系统性拆解和预测，使参训者能结合自身公司的优势，抓住这些难得的演进机会，取得突破性成长。
课程收益
1.
弄懂
“DeepSeek是怎样做到的？”，从而能准确判断未来的演进趋势
2.
周全弄懂由于
DeepSeek的突破，未来3-5年机器智能在中国市场独特的轨迹和机遇，公司领航者能够提前布局，抢占先机
3.
拆解
DeepSeek模式对哪些业界有格外大的影响，能够怎样把握机会和规避隐患
课程大纲
一、
春雷惊世，深度求索
1.
从机器智能的
iPhone时刻说起
2.
大国竞争的制高点
(1)
谷歌前
CEO Eric Schmidt的斯坦福密谈
(2) AGI：机器智能的597.9高地
3.
Scaling Law
–
美式火力迷信
(1)
狂轰滥炸，落地时，只做
Scale Out（堆算力），对Scale Up（改良算法）不思进取
(2)
蒸馏、量化压缩、强化研习，学术界的
“小米加步枪“
(3)
为保领先优势，落地时，
Open AI闭源变成“Closed AI
”
4.
深度求索
— 七大技艺革新、打破AI霸权
(1) 核心思路：极致平行化，不浪费任何一发弹药
(2)
借鉴学术界四大心得：
CoT, MoE, MLA, 和蒸馏, 虽非DeepSeek首创，不过DeepSeek将它们玩转
(3) 工程达成三大绝招：
1) 首创模型间负载均衡，将网络技艺用到大模型内部
2) 精进算子和资料存放提取节奏和方式，使显存效率拉升，破解带宽瓶颈
3)
迂回穿插，绕开英伟达
CUDA层，运行层面，直接到大后方用GPU汇编语言PTX构筑工事，资料传输效率大幅拉升，并且可兼容国产（华为）GPU
二、
七大技艺特点拆解
1.
思路链（
CoT）：
拉升大模型推理本领
(1)
技艺简介：
1) 何为思路链？借助分步推理让模型更接近人类的推演思路。
2) 怎样借助显式分解差事步骤拉升复杂差事的准确率（如数学推理、推演判断）。
(2)
商业价值：
1) 运用情境：财务拆解、法律文书审核、复杂业务链路自动化。
2) 优势：拉升模型在决策和推理中的透明性和可靠性。
(3) DeepSeek怎样借用、产生了什么成效
1) 多步骤分解问题，便于将复杂问题分工处理
2)
每个处理单元能够小型化
+平行化
2.
混合专家模型（
MoE）：
大模型的高效扩展
（1)
技艺简介：
1) 借助动态激活部分专家网络，达成参数规模的高效利用。
2) 破解的问题：在保持模型性能的前提下降低计算成本。
（2)
商业价值：
1) 运用情境：高并发诉求的个性化推荐系统，实时响应的智能助手。
2) 优势：大幅降低算力诉求，节省公司部署和营运成本。
（3)
DeepSeek怎样借用、产生了什么成效
1)
让不同
“专家”（创作、规划、拆解、聊天、编程、科学运算等等）采用不同精度，借助混合精度训练，以及将量化压缩（Quantization
）最大化，达成在不牺牲性能的情况下极大降低训练和推理成本。
2)
达成推演性比
ChatGPT更严谨的推理
3.
蒸馏（
Knowledge Distillation）：
模型轻量化的要害技艺
（1)
技艺简介：
1) 蒸馏的原理：借助大模型（教师模型）指导小模型（学生模型）的研习，保留要害本领。
2) 破解的问题：在资源受限的环境中部署高效模型。
（2)
商业价值：
1)
运用情境：移动端
AI运用、小型IoT装置上的智能模型部署。
2)
优势：降低硬件倚重，扩展
AI技艺的运用范围。
（3)
DeepSeek怎样借用、产生了什么成效
1)
用已经训练好的顶级大模型（包括
GPT o1和DeepSeek R1
）,炼就小型
化推理版本
, 极大降低用户采用成本
2)
消除对
GPU的
倚重，扩展DeepSeek的运用范围
4.
多头潜在注意力
(MLA)
：
领会复杂输入的要害
（1)
技艺简介：
1) MLA的核心概念：借助多个注意力头捕获输入资料的不同特征和关系。
2) 破解的问题：拉升模型对多模态资料（如图像和文本）的领会本领。
（2)
商业价值：
1) 运用情境：多模态搜索引擎、智能客服中的语音和文本融合拆解。
2) 优势：更精准地领会复杂输入，拉升买方体验。
（3)
DeepSeek怎样借用、产生了什么成效
1)
平行化
/拉升并发：拉升领会输入Prompt的本领，便于拆解标的开展下一步的路由
2) 投机性偷步：同时执行若干个较大概率路径
5.
负载均衡：
精进系统性能的要害手段
（1)
技艺简介：
1) 借助合理分配差事，确保系统资源高效利用，防止性能瓶颈。
2)
常见达成方式：
a) 硬件负载均衡：基于专用装置（如负载均衡器）。
b) 软件负载均衡：借助算法和规则动态调度差事。
（2)
商业价值：
1) 运用情境：云计算平台服务、公司内部服务器群组、在线业务高并发处理。
2)
优势：
a) 拉升系统稳定性：防止因单点过载导致的服务中断。
b) 精进用户体验：保证高并发情境下的迅速响应。
（3)
DeepSeek怎样借用、产生了什么成效
1)
平行化：采用软件负载均衡，对
MoE网络里的专家资源开展调度，确保资源利用率最大化以及延时最小化
6.
存储换取带宽：
AI计算性能的瓶颈和突破
（1)
技艺简介：
1) GPU显存：存储用于计算的资料（如模型参数、输入资料）的空间，执行层面，其大小直接影响模型训练规模和推理速度。
2)
带宽：
GPU和显存之间的资料传输速率，执行层面，影响计算差事的执行速度。
3)
挑战：
a) 显存不足：限制了大模型的训练和推理本领。
b)
带宽瓶颈：导致
GPU计算本领无法完全发挥。
（2)
商业价值：
1)
运用情境：大规模
AI模型训练（如Transformer模型）、视频流处理、实时拆解。
2)
优势：
a) 精进显存利用：借助技艺手段（如混合精度训练、显存压缩）支持更大规模的模型。
b) 拉升带宽效率：借助硬件和软件精进拉升资料访问速度。
（3)
DeepSeek怎样借用、产生了什么成效
1) 精
准精进：
H800等等GPU所“阉割”的主要是NVLINK的带宽，故而节省带宽是拉升性能的突破口
2) DeepSeek借助改造资料存储节奏，加大显存利用率，降低对带宽的消耗，执行层面，将阉割版英伟达GPU的性能用到极致
7.
PTX精细化性能调优：
GPU计算的底层精进
（1)
技艺简介：
1)
何为
PTX：PTX（Parallel Thread Execution）是NVIDIA CUDA编程的中间汇编语言，往细里说，用于描述GPU上的并行计算差事。
2) PTX的优势在于灵活性：开发者能够借助PTX直接精进底层代码以拉升GPU计算性能。
（2)
商业价值：
1)
运用情境：高性能
AI模型训练、实时图像渲染，科学计算。
2)
优势：
a)
提供更高的性能精进空间：借助直接操作
GPU的指令集。
b)
灵活适配硬件：支持不同
GPU架构的性能调优。
（3)
DeepSeek怎样借用、产生了什么成效
1)
借助
PTX精进大规模神经网络的训练效率，具体来看，
将计算时间缩短了
30%，显著降低了云资源成本。
三，
DeepSeek对全球AI格局的影响
1.
国家方略：机器智能作为
“新基建”重点领域
意义拉升
2.
能源霸权（
Energy Supremacy
）
：核聚变
意义降低
3.
算力霸权（
Computing Power Supremacy）：量子计算
意义降低
4.
国产芯片
：
意义拉升
(1) GPU: 锁住生态建设
(2) ASIC / TPU: 新架构才是最好的突破口
(3)
高速连接
: Infiniband的国产替代, 高带宽RDMA, CXL等等
(4)
高速存储：
HBM4、NVMe-oF，Gluster Storage、存算一体
四、
资料层面
1.
DeekSeek采用中文开展思索、效率比采用英语高
2.
中文语料
严重稀缺
(1) 和传统公司深度结合，促成数智化转型
(2)
从
“数智化转型”进一步跨越到“资料化升级“
(3)
资料牧场（
Data Farm
）
3.
多语言情境
, 包括语音
(1) 方言、信念，和业界术语的深度适配
4.
抓手链
(1)
谁是中国的
Databricks
(2) 内核都一样，在实际应用里，工程封装定胜负
五、
运用
垂直业界的定制化机会
1.
中国特有运用情境（如电商、社交、政务）的诉求
2.
医疗、教育、金融等等高价值业界的垂直大模型
3.
从公司内部自用（
智能客服、文档生成、学识管控等等
）扩展到对外提供业界资料服务
分组碰头：
以自身业界
/公司为例，碰头怎样利用DeepSeek高效生产“业界资料“
六，
庞大的
C端
用户基础和商业化潜力
1.
海量
用户带来
“量变到质变“的
机会
(1)
微信、抖音、淘宝、美团，百度、网易云音乐等等各种称霸多年的
App都处于最容易被颠覆的时候
(2)
微信诞生在
“iPhone时刻“后三年，运行层面，QQ无法彻底自我革命
(3) 文娱以及游戏业界链翻天
2.
广告、电商、内容生成等等领域的变现路径
明显优于海外
七、
机器人以及具身智能
一、
制造业优势
二，
人口密集生活环境：机遇和挑战并存
(1) 规模效应明显
(2) 成本优势巨大
(3) 对敏捷度和环境领会力要求极高
(4) 3D地图（室内和室外）诉求
三、
国防军工
八、
收束和分享
老师简介
Introduction to lecturers
弄懂更多
博闻智咨询|纪顺友老师
适合谁听
1.公司领航者 2.投资机构、公司投资部负责人 3.投行券商研究部有关人员 4.其他对机器智能感兴趣的各业界中高管以及技艺专家。建议同一家企业 3 人以上同来，课堂上直接改造本企业的实际问题——单人参加也能学到方法，但带不走可用的成果。
交付流程
课前：顾问访谈 2 位管理者，收集现状与问题清单，讲师据此调整案例。课中：讲授与演练各占一半，产出可直接用的工具与方案。课后：7 天内提交改进建议，30 天内一次线上答疑。