课程背景
随着机器智能技艺的迅速演进，智能助手（如
DeepSeek-V3）在多模态领会、个性化交互、学识推理等等领域的运用日益广泛。DeepSeek-V3作为深度求索公司推出的第三代智能助手，具体来看，凭借其先进的核心技艺（如大规模预训练、多模态领会、上下文感知等等），在智能客服、内容创作、教育、医疗等等领域展现了强大的潜力。
可是，要将
DeepSeek-V3的本领充分发挥并运用于实际业务情境，不仅需要纵深领会其核心技艺原理，还需要掌握本地部署和微调的办法，以满足特定领域或者公司的定制化诉求。为此，本课旨在支援参训者系统研习DeepSeek-V3的核心技艺原理，并借助实操掌握本地部署和微调的本领，从而拉升在实际项目中的运用本领。
课程收益
1.
深刻
领会
DeepSeek-V3的核心技艺原理
·
掌握
DeepSeek-V3的架构规划、多模态领会、上下文感知、学识图谱等等核心技艺。
· 掌握
大规模预训练模型（如
Transformer）的事务原理以及其在DeepSeek-V3中的运用。
2. 掌握DeepSeek-V3的本地部署办法
·
研习怎样搭建适合
DeepSeek-V3运行的本地环境（包括硬件配置、倚重库安装等等）。
·
掌握
DeepSeek-V3的本地部署流程，往细里说，包括模型加载、服务启动和接口调用。
· 掌握怎样精进部署性能，以支持高并发和低延迟的运用情境。
3. 学会DeepSeek-V3的微调和定制化
·
掌握怎样利用领域资料对
DeepSeek-V3开展微调，以拉升其在特定差事中的表现。
· 研习微调进程中的要害技艺，包括资料预处理、模型训练、参数调优等。
4. 拉升实际项目中的运用本领
·
借助实战实例，研习怎样将
DeepSeek-V3运用于智能客服、内容生成、学识问答等等情境。
课程大纲
第一天课程：
DeepSeek-
V3
/R1
核心技艺架构和训练进程
上午课程
第一部分
DeepSeek-V3的架构革新：训练GPU和成本都低，但成效卓越
1.1 V3风靡海内外的要害因素：训练成本极低、引领前沿革新
1.1.1 V3训练成本：所用的GPU训练资源仅为Llama 3.1 405B的差不多1/14
1.1.2 在国内也能引领世界级前沿
1.2 模型架构：MLA，负载均衡的MoE、Multi-Token预测
1.2.1 多头潜在注意力
1.2.2. 无辅助损失的负载平衡 DeepSeekMoE
1.2.3 多token预测：Multi-Token Prediction显著加快模型的解码速度
第二部分
DeepSeek-V3基础设施层面的革新：FP8 训练等等
2.1 训练轮廓(含GPU的内部结构示意图)
2.1.1 双管道DualPipe和计算-通信重叠
2.1.2 跨节点全对全通信的高效达成：借助PXT连接CUDA和底层GPU硬件
2.1.3. 极致内存节省和最小开销
2.2 FP8训练：虽算的快 但精度不够，故需拉升精度
2.2.1 混合精度轮廓
2.2.2. 借助量化和乘法拉升精度
2.2.2 低精度存储和通信：降低内存和通信开销
2.3 推理和部署
2.3.1 预填充
2.3.2 解码
2.4 硬件规划建议
下午课程
第三部分
DeepSeek-V3的预训练和后训练
3.1 预训练
3.1.1 资料构筑：拉升数学、编程、多语言样本，就一线经验说，最终14.8T语料
3.1.2 超参数
3.1.3 长上下文扩展
3.1.4 评核和碰头
3.2 训练后处理：透露了大半后来引爆全球的R1庄重版训练流程
3.2.1 督导微调
3.2.2 强化研习：涉及奖励模型和GRPO
3.2.3 评核和碰头：关于DeepSeek-R1提炼和多token预测
第四部分
DeepSeek R1：怎样借助纯RL训练大模型的推理本领
4.1 提出来由和相关事务
4.1.1 R1-Zero的提出来由：无需人类资料，从零达成自我迭代
4.1.2 R1的提出来由：破解Zero可读性差等等问题
4.2 DeepSeek-R1-Zero：规则驱动的大规模RL训练，就一线经验说，无冷启动、无SFT
4.2.1 RL算法GRPO：不需要critic
4.2.2 规则奖励建模(准确率奖励 + 格式奖励)：不用训练专门的奖励模型RM
4.2.3 训练模板：借助prompt让Zero启动深度思索的推理模式
4.2.4 Zero的性能、自我进化进程和顿悟时刻
4.3 DeepSeek-R1：先冷启动资料SFT 再RL，就一线经验说，之后再SFT 再RL
4.3.1 阶段一 冷启动(主要关注推理)：借助R1-Zero生成数千条长CoT资料
4.3.2 阶段二 面向推理的GRPO RL：类似Zero的规则奖励，从实践看，但增加语言一致性奖励
4.3.3 阶段三 V3上的的两轮SFT(结合rejection sampling)：涉及80w通用层面的推理和非推理资料
4.3.4 阶段四 所有情境的RL：拉升有用性和无害性，并且混合规则奖励和偏好奖励
4.4 蒸馏：赋予小模型推理本领
4.5 一些心得收束：成功和失败的心得拆解收束
第二天课程：
DeepSeek本地部署和微调实例实操
上午课程
第五部分
本地部署准备事务：各个版本、推理轮廓，硬件资源
5.1 DeepSeek-R1的多个版本：加上2个原装671B的，具体来看，总计8个参数版本
5.2 主流的大模型推理轮廓：分为PC端和Android端
5.3 不同参数的模型所要求的硬件
5.4 蒸馏版和满血版的两类部署
第六部分
借助
Ollama，vLLM本地部署DeepSeek-R1蒸馏版：支持联网搜索以及学识库问答
6.1 基于Ollama和各类插件构筑智能对话：终端，open-webui(支持联网)，Chatbox
6.1.1 Ollama下的终端命令行交互
6.1.2 Ollama下的open-webui交互：基于docker安装，从实践看，并且支持联网搜索
6.1.3 基于Ollama + ChatBox部署deepseek-r1:7b
6.2 基于Ollama和Page Assist/AnythingLLM构筑本地学识库问答系统
6.2.1 基于Ollama + Page Assist搭建本地学识库问答系统：并且支持联网搜索
6.2.2 基于Ollama + AnythingLLM搭建本地学识库问答
6.3 借助vLLM推理deepseek-r1
6.3.1 基于vLLM的命令行交互——R1-Distill-Llama-8B
6.3.2 基于vllm + open WebUi 部署r1 7b
6.4 本地手机端部署DeepSeek-R1蒸馏Llama/Qwen后的版本
下午课程
第七部分
无蒸馏前提下本地部署
R1 or R1-Zero 671B满血版
7.1 折中路径：无蒸馏但量化部署Deepseek-R1 671B满血版
7.1.1 本地CPU上运行 Deepseek-R1 的完整的硬件 + 软件设置
7.1.2 GPU上跑无蒸馏但量化的Deepseek-R1 671B满血版
7.2 公司级部署：无蒸馏不量化部署Deepseek-R1 671B满血版
专利和文献：
深度研习国际发明专利
1) 基于深度研习的图像检索办法以及装置，运行层面，专利公开公告号：CN107368614A。专利类型：发明公布。发明人：周红伟;李凯;任伟;李庆;郭奇杰;周杨;刘川郁
2) Simulation model and droplet ejection performance of a thermal-bubble microejector，从实践看，Hongwei Zhou，A.M.Gué，具体来看，Sensors and Actuators B: Chemical Volume 145，实操中，Issue 1，4 March 2010，就一线经验说，Pages 311-319
3)Simulation Bubble Nucleation and Bubble Growth of a Thermal Bubble Microejector,Hongwei Zhou，落地时，A.M.Gué，从实践看，Excerpt from the Proceedings of the COMSOL Conference 2009 Mila
老师简介
Introduction to lecturers
弄懂更多
博闻智咨询|周红伟老师
适合谁听
管人者。建议同一家企业 3 人以上同来，课堂上直接改造本企业的实际问题——单人参加也能学到方法，但带不走可用的成果。
交付流程
课前：顾问访谈 2 位管理者，收集现状与问题清单，讲师据此调整案例。课中：讲授与演练各占一半，产出可直接用的工具与方案。课后：7 天内提交改进建议，30 天内一次线上答疑。