课程背景
随着机器智能技艺的飞速演进,大模型(
Large Language Models,落地时,LLMs)已成为AI领域的一个要害分支。这些模型因其强大的语言领会和生成本领,在自然语言处理(NLP)、机器研习、资料挖掘等等多个领域展现出巨大的运用潜力。可是,大模型的复杂性也给研究者和开发者带来了一系列挑战,往细里说,包括环境配置、理论领会、实际运用开发等等。
1. 技艺来由和业界诉求
大模型技艺正迅速成为
AI领域的一个热点。从ChatGLM-3B到Qwen-7B,换个角度看,这些模型不仅在学术界引起了广泛关注,也被工业界认为是促成智能化进程的要害技艺。随着大模型在智能客服、内容生成、资讯检索等等方面的成功运用,对于掌握大模型技艺的专精英才的诉求日益增长。
2. 研习者现况拆解
当前,许多
AI研习者和研究人员对大模型的运行环境配置、基础理论、以及怎样将这些模型运用于实际问题存在学识空白。另外,对于怎样开展模型的微调和增强预训练,以适应特定的业务诉求,研习者同样需要系统的指导和实践机会。
3. 课程规划标的
本课旨在填补这些学识空白,借助系统的解说和实操操练,使研习者能够:
领会大模型的基本原理和要害技艺;
掌握大模型的运行环境配置和部署流程;
研习怎样采用
Tokenizer,Embedding和Self-attention等等核心组件;
构筑和领会
GPT模型结构,并开展简化模型的搭建。
掌握
RAG(Retrieval-Augmented Generation)和Agent开发的核心原理和实践招数;
研习模型微调和增强预训练的办法,以拉升模型性能。
课程收益
1、
纵深领会大模型的事务原理和架构,包括但不限于
ChatGLM-3B、Qwen-7B等等模型。
掌握大模型的要害组件,如
Tokenizer、Embedding层,Self-attention制度等等。
2. 实际操作本领
独立开展大模型的运行环境配置和部署。
熟练采用各种抓手和轮廓开展大模型的开发和测试。
3. 运用开发本领
开发基于大模型的运用程序,如智能客服、内容推荐系统等等。
规划并达成
RAG(Retrieval-Augmented Generation)模型和Agent系统。
4. 模型精进招数
研习怎样对大模型开展微调,以适应特定的业务诉求。
掌握增强预训练的技艺,拉升模型的准确性和效率。
5. 破解难题的本领
拆解和破解大模型开发进程中遇到的技艺难题。
精进模型性能,处理过拟合、欠拟合等等问题。
6. 最 新技艺动态
弄懂大模型技艺的最 新进展和业界趋势。
接触前沿的研究和运用实例。
课程大纲
(
说明
:
可选章节根据课程时长以及参训者已经掌握程度自定义选项培训
)
第
1
讲
开场和大模型引见
1.1
欢迎致辞和课程概览
1.2
大模型技艺演进历程
1.3
大模型在
AI
领域的运用实例拆解
第
2
讲
环境配置和倚重安装
2.1
硬件要求详解
2
.1.1
GPU
选项和比较
2.1.2
内存和存储的最 佳实践
2.2
软件环境搭建
2
.2.1
操作系统要求
2
.2.2
必备软件和库安装
2.
3
实操:配置开发环境
2
.
3
.1
安装步骤演示
2
.
3
.2
环境验证和问题排查
第
3
讲
大模型基础理论
3.1 Tokenizer
的作用和采用
3
.1.1
不同
Tokenizer
的适用情境
3
.1.2
实操:采用
Tokenizer
处理文本资料
3.2 Embedding
和语料拆解
3
.2.1
Embedding
技艺原理
3
.2.2
实操:利用
Embedding
探索语料库
3.
3
Self-attention
制度
3
.
3
.1
自注意力制度的数学原理
3
.
3
.2
实操:达成一个自注意力层
第
4
讲
GPT
模型结构搭建
4.1 GPT
模型架构详解
4
.1.1
GPT
模型的核心组件
4
.1.2
GPT
模型的变种和进化
4.2
实操:构筑简化
GPT
模型
4
.2.1
模型搭建步骤指导
4
.2.2
模型训练和基本测试
第
5
讲
RAG
原理和运用
5.1 RAG
模型基础
5
.1.1
RAG
模型的架构和功能
5
.1.2
RAG
在长文本处理中的优势
5.2 RAG
在资讯检索中的运用
5
.2.1
RAG
和搜索引擎的结合
5
.2.2
实操:
RAG
模型运用于简单检索差事
第
6
讲
RAG
开发实例演示
6.1
实际实例拆解
6
.1.1
实例来由引见
6.1.2
实例诉求拆解
6.2
实操:
RAG
模型的简单达成
6
.2.1
RAG
模型部署和配置
6
.2.2
功能演示和性能测试
第
7
讲
Agent
开发入门
7.
1 Agent
的概念和意义
7
.1.1
智能
Agent
的定义
7.1.2 Agent
在自动化系统中的作用
7
.2
开发
Agent
的基本步骤
7
.2.1
规划
Agent
的思索轮廓
7
.2.2
实操:开发一个简单的交互
Agent
第
8
讲
模型微调和增强预训练
8
.1
微调打法和招数
8
.1.1
微调的理论基础
8.1.2
实操:采用微调技艺精进模型
8
.2
增强预训练的办法
8
.2.1
预训练资料的选项和处理
8
.2.2
实操:增强预训练拉升模型性能
老师简介
Introduction to lecturers
弄懂更多
博闻智咨询|甄文智老师
适合谁听
AI和机器研习领域的研究人员、对大模型技艺感兴趣的学生和开发者、希望将大模型技艺运用于业务情境的公司技艺队伍、需要拉升自己在AI领域竞争力的专精人士。。建议同一家企业 3 人以上同来,课堂上直接改造本企业的实际问题——单人参加也能学到方法,但带不走可用的成果。
交付流程
课前:顾问访谈 2 位管理者,收集现状与问题清单,讲师据此调整案例。课中:讲授与演练各占一半,产出可直接用的工具与方案。课后:7 天内提交改进建议,30 天内一次线上答疑。
