课程大纲
一、课程开篇：
Deepseek和AI时代的操作系统（30分钟）
1.
Deepseek的定位和价值
o AI时代的"开源操作系统"：怎样领会这一概念？
o
对比传统操作系统：从资源管控到
AI驱动的智能化升级
o Deepseek的核心本领：多模态支持、长上下文领会、业界情境适配
2.
为何选项
Deepseek私有化部署？
o 资料安全和合规性诉求
o 公司级定制化情境（金融、医疗、政务等等）
o 成本精进和长期可控性
二、
AI大模型部署方式全景拆解（30分钟）
1.
主流部署模式对比
o
公有云
API调用 vs 私有化部署 vs 混合部署
o
算力诉求和成本拆解（
TCO模型）
2.
私有化部署要害技艺栈
o
硬件层：
GPU集群/NPU加速卡
o
轮廓层：
DeepSpeed、vLLM，TensorRT-LLM
o
运维层：
Kubernetes + Prometheus监控架构
三、
Deepseek部署实例深度剖析（30分钟）
1.
典型情境和解题打法
o
实例
1：公司内部学识库系统
§
诉求：文档智能检索
+多轮对话
§
部署架构：
Deepseek-MoE 7B + FAISS向量资料库
o
实例
2：金融风控实时决策系统
§
诉求：低延迟（
<200ms）推理+合规审计
§
方案：
Deepseek-33B量化版 + Triton推理服务器
2.
典型
性能精进招数
o
动态批处理（
Dynamic Batching）配置
o FP8量化和模型蒸馏
o
显存精进打法（
PagedAttention技艺拆解）
四、硬件配置和货品选型指南（
15分钟）
模型规模
典型情境
推荐配置
代表货品
Deepseek-7B
边缘端
/轻量级差事
单卡
A10/A30 (24GB显存)
浪潮
NF5468M6
幻境科技大模型学识推理一体机
Deepseek-33B
公司级服务
8*A100 80GB + NVLink互联
华为
Atlas 800
幻境科技大模型学识推理一体机
Deepseek-130B
超大规模集群
32*H100 + InfiniBand网络
阿里云神龙
+灵骏集群
注：国产化替代方案（昇腾
910B+华为CANN抓手链）
五、手把手实操：从零部署
Deepseek模型（60分钟）
1.
环境准备阶段
o
硬件查验：
nvidia-smi + dcgm监控
o
基础环境：
Docker + NVIDIA Container Toolkit
o 对非深度研发用户，运行层面，可直接体验大模型推理一体机预装环境
2.
模型部署全流程
：
o # Step1: 获取模型权重：git clone https://github.com/deepseek-ai/Deepseek-7B
o # Step2: 启动量化转换：python quantize.py --model_path ./ckpt --quant_type int4
o # Step3: Triton服务部署：docker run -gpus all -v /model_repo:/models tritonserver --model-repository=/models
o 对非深度用户，执行层面，可直接体验大模型推理一体机预装模型
3.
性能调优实战
o
压力测试：
locust还原并发请求
o
显存拆解：
Nsight Systems性能剖析
o
日志监控：
ELK Stack搭建观测架构
o 对非深度用户，运行层面，可直接体验大模型推理一体机预装功能
六、问答和收束（
15分钟）
1.
常见问题解答
，如：
o
怎样破解
OOM（显存溢出）问题？
o
国产
CPU/GPU适配方案
o 模型微调和持续研习链路规划
2.
课程收束
o 私有化部署的三大要害成功要素
o Deepseek生态演进路线图解读
附录：研习资源包
1.
官方部署白皮书（含
Benchmark资料）
2. GitHub代码仓库迅速访问指南
3. 硬件采购清单和供应商联系方式
4.
公司级部署
Checklist（安全/合规/性能）
老师简介
Introduction to lecturers
弄懂更多
博闻智咨询|尹智老师
适合谁听
管人者。建议同一家企业 3 人以上同来，课堂上直接改造本企业的实际问题——单人参加也能学到方法，但带不走可用的成果。
交付流程
课前：顾问访谈 2 位管理者，收集现状与问题清单，讲师据此调整案例。课中：讲授与演练各占一半，产出可直接用的工具与方案。课后：7 天内提交改进建议，30 天内一次线上答疑。