LLM&AI Agnet（大模型和智能体）技术原理与应用：零基础入门到精通

Part 1：全球视野和技艺前沿

AI演进全球视野

AI全球演进格局和中美对比

全球AI演进现况和趋势

2. 技艺演进速度：机器智能进化速度远超预期，专家预测通用机器智能（AGI）可能在未来2-6年内达成，技艺进步周期从工业时代的百年缩短至AI时代的月，周级别。

3. 性能突破：AI系统在复杂基准测试中的性能持续突破，在实际应用里，在MMMU、GPQA和SWE-bench三项测试得分一年内分别拉升18.8，48.9和67.3个百分点。

4. 市场规模：2025年中国机器智能市场总规模预计将达成511.3亿美元，机器智能相关市场规模将突破3.8万亿元。

中美AI演进路径对比

"实验室精英主义"路线 vs "工业级实用主义"路线

维度

美国

中国

演进理念

实验室精英主义，技艺驱动

工业级实用主义，情境驱动

技艺路线

闭源垄断，由私营公司主导

多元开源，政府带出+业界融合

优势领域

基础模型、底层架构、开源生态

运用情境、资料资源、业界化速度

代表公司

OpenAI、Google，Anthropic

阿里、华 为、百度、腾讯

国际打法

技艺保护，限制出口，构筑联盟

开源共享，推广货品和开源模型

技艺差距变化和开源力量崛起

中美性能差距显著缩小：在MMLU，MMMU、MATH和HumanEval等等基准测试中，中美性能差距从2023年底的17.5，13.5、24.3和31.6个百分点，执行层面，显著缩小至2024年底的仅0.3，8.1、1.6和3.7个百分点。

开源模型崛起：中国正加速构筑"自主可控、开放携手"的业界架构，借助新型举国体制集中资源开展技艺攻关。阿里通义千问已成为世界第 一开源大模型，运行层面，衍生模型数突破10万，从实践看，超越美国Llama。

DeepSeek的突破：2025年1月20日，就一线经验说，DeepSeek发布R1推理模型，以极低的成本达成了和OpenAI o1相当的性能（每百万输入标记成本仅0.55美元，实操中，运行层面，而OpenAI o1高达15美元），往细里说，被称为"AI界的安卓时刻"。

大模型技艺演进和前沿突破

技艺演进三大转变

从"暴力美学"到"精耕细作"：大模型竞争从参数规模比拼转向效率拉升和运用落地；

从"重训练"到"重推理"：借助强化研习和学识蒸馏技艺，推理效率显著拉升。

从"单一模态"到"多模态融合"：文本，图像、音频、视频的无缝融合处理。

2024-2025年重大技艺突破

混合专家架构（MoE）：GPT-5中专家数达512个，落地时，激活参数占比仅7%，大幅拉升效率；

推理本领突破：OpenAI的o3在数学、编程等等领域表现超越部分人类专家；谷歌的"双子座2.0闪电思路"在物理和工程问题中展现出惊人解题本领；

多模态融合：CLIP++模型达成图文音视频四模态联合表征，实操中，跨模态检索准确率91.3%；

边缘AI演进：全球边缘AI市场规模2024年达1212.04亿元，运行层面，换个角度看，实操中，预计以29.49%的CAGR增长至2030年的5714.86亿元。

AI智能体（Agent）崛起

自主性拉升：AI智能体能够处理多步骤复杂差事而无需人工干预，执行层面，从"被动响应"转向"主动服务"。

商用元年：2025年成为AI Agent的"商用元年"，具体来看，到2028年，15%的日常事务决策预计将借助Agentic AI完成；

公司运用：德勤预测智能体将能支持供给链经理、软件开发人员、金融拆解师等等人员的事务；

算力基础设施和硬件生态

中国算力规模：2024年中国智能算力规模达成725.3 EFLOPS，执行层面，预计2025年将达1037.3 EFLOPS，就一线经验说，往细里说，换个角度看，往细里说，较2024年增长43%。

算力成本下降：单模型训练成本从2022年的1200万美元骤降至85万美元。

绿色算力演进：随着大模型普及，换个角度看，液冷技艺，边缘计算等等绿色解题打法迅速演进。

中美硬件生态对比：

美国优势明显：英伟达H100在半精度（FP16）算力上达成1979 TFLOPS，具体来看，往细里说，是华 为昇腾910B的7.7倍，运行层面，实操中，显存带宽高出336%。

CUDA生态壁垒：英伟达A100/H100系列占据全球AI训练芯片市场90%的份额，往细里说，CUDA生态形成难以逾越的技艺黏性。

中国破局打法：锁住"情境定制化+工艺革新"，华 为昇腾910B借助Chiplet技艺达成14nm工艺量产，在智慧城市视频拆解中能效比反超30%。

Part 2：大模型核心学识从理论到实践

大模型核心学识点（上）

核心概念（从资料集到预训练环节涉及的概念和办法）

贯穿从资料集构筑到基模形成涉及的所有概念原理以及现实进程解说，预期对大模型认知达成“掌握第 一性原理”水平。

概念比如：何为资料集？比起算法/算力有什么差异？资料集稀缺在哪？为何会出现Transformer？自注意力制度（self-attention）为何？预训练是在训练什么？……

大模型核心学识点（下）

核心概念（重点讲“垂类模型”训练涉及的概念和办法）

备注：下午开始多一些交流，运用学到的大模型概念、原理、办法等等术语开展一些开放式交流。探讨领域内大咖的看法、商业未来展望、各个业界布局、大模型队伍定位价值交付展望……

Part 3：业界实践和交流碰头

大模型集成和智能体规划入门

何为AI Agent

1. 智能体的通俗定义，属性、分类

感知环境并借助执行行动来达成标的

属性：自主，标的导向、感知、主动

分类：简单反射型、模型反射，基于标的、基于效用，具体来看，研习型

2. 智能体的通用架构

AI Agent=大模型+记忆+规划+抓手

智能体开发基程轮廓

1. 选开发平台：互联网平台，本地化部署

2. 选模型：基于专精属性，资料属性，换个角度看，多模态属性等等

3. 服务编排：提示词工程，单Agent/多Agent、组件调用等等

4. 核心本领开发：事务流、记忆、学识、对话体验等等

5. 发布和维护

构筑智能体进程的提示词运用

1. 领会差事的提示词

差事分解、差事定义、示例的引入

2. 差事规划和执行

差事链规划、多轮差事执行、执行反馈调整

3. 匹配资讯检索

限定资讯源、多层次检索和动态检索

4. 用户交互规划

多模态，在实际应用里，在实际应用里，运行层面，上下文

NL2SQL提示词运用

1. 定义

NL2SQL即Natural Language to SQL，运行层面，即将用户的自然语言转换为SQL语句，运行层面，以便从资料库中检索出用户想要的资料，从实践看，就一线经验说，也称为Text2SQL。

2. NL2SQL实际运用中的挑战

自然语义的歧义性和不确定性，具体来看，实操中，换个角度看，资料表之间的关系的复杂性，资料的完整性，就一线经验说，相似性。

3. Zero-shot和Few-Shot

4. NL2SQL 提示词要素

差事、参考资讯、输出要求、示例，本次输入和输出项

5. 常用提示词实例

文本提示法，落地时，定位担当法、代码提示法、指令微调提示法、上下文研习

6. 前沿探索

C3、CoT，DIN-SQL

RAG提示词运用（vs 上下文工程）

1. RAG架构

2. 提问拆解和续写

3. 资讯检索和整合

4. 生成回答的精进打法

5. 限制和带出生成模型

AI的iPhone时刻：从云原生到AI原始

斯坦福《2025 年机器智能指数报告》

云原生架构 vs AI原生架构

AI原生的内涵：AI重塑软件、赋能业界智能化

华 为、腾讯等等公司AI架构演进思路

Sierra（OpenAI董事会主席创办）的革新：换一种方式“连接”买方

中移动AI灵犀：达成10亿用户人人一个AI助理

业界运用实践和心得教训

跨业界运用实例分享

制造业：

某钢铁厂用大模型拆解装置资料，落地时，具体来看，落地时，提前3天预测机器故障，具体来看，从实践看，就一线经验说，在实际应用里，维修成本降低40%

中国建成1200家智能工厂，落地时，72家"灯塔工厂"占全球42%，落地时，AI精进生产流程使能耗降低15%

特斯拉Optimus Gen2机器人已运用于工厂生产，未来人机协同作业将成为智能制造的要害模式

金融业：

蚂蚁集团风控大脑3.0达成信贷欺诈识别准确率99.993%（较2022年拉升3个数量级）

某保险公司用大模型自动识别伤情照片，运行层面，理赔时间从3天缩至10分钟，从实践看，具体来看，买方满意度翻倍

跨境支付清算效率拉升22倍，往细里说，实操中，往细里说，支撑RCEP区域秒级到账

医疗健康：

IBM Watson的诊断准确率已达98.7%，具体来看，超越资深医师平均水平

腾讯和安必平携手开发的宫颈细胞学AI辅助诊断系统，执行层面，执行层面，准确率超过95%，就一线经验说，已在7000余家医院部署

恒瑞医药借助"百诚智药平台"将AI运用于新药研发，实操中，缩短研发周期30%

教育领域：

北京中小学引入AI抓手达成个性化教学，英语课堂效率拉升30%

某中学用大模型拆解学生错题，自动生成针对性操练题，实操中，换个角度看，执行层面，班级平均分拉升15分

美国Duolingo游戏化语言研习MAU破亿，Khan Academy的AI导师带出探究式研习

零售领域：

美团，中移动掌厅to C、Sierra（OpenAI董事会注意）等等在零售方面革新成绩

运用心得和教训收束

防止盲目追求"大而全"：某食品厂花百万训练通用模型，结果发现业界术语都识别不准。应先做垂直领域的小模型，落地时，落地时，再渐次扩展。

资料比算法更要害：某物流公司用网上公开资料训练路径规划模型，落地时，执行层面，实际成效差强人意。应积累真实业务资料，从实践看，执行层面，在实际应用里，哪怕只有Excel表格。

员工不是对手，在实际应用里，具体来看，而是帮手：某银行强推智能客服遭抵制，落地时，后来培训柜员用AI辅助回答专精问题，具体来看，服务效率拉升50%。

安全红线不能碰：某医院直接上传患者CT图到公有云，从实践看，执行层面，运行层面，遭监管部门处罚。敏感资料必须本地化部署。

中国大厂和央国企AI规划拆解

互联网大厂AI方略布局

阿里：通义千问成为世界第 一开源大模型，具体来看，从实践看，换个角度看，就一线经验说，就一线经验说，衍生模型数突破10万。未来三年预计在AI和云计算领域投入3800亿元人民币。

百度：文心一言借助搜索，运行层面，电商推荐等等情境开展商业化闭环落地。

腾讯：混元大模型在游戏NPC交互领域的平均推理延迟降低35%。

字节跳动：Ocean Engine达成广告脚本自动生成，运行层面，具体来看，拉升电商转化率35%。

央国企AI运用特点

注重安全可控：优先采用本地化部署，具体来看，确保资料安全

情境驱动：从具体业务痛点出发，换个角度看，注重ROI验证

产学研结合：和科研机构携手开发业界大模型，如中国科学院国家天文台基于Qwen开发"星语3.0"天文大模型

To B公司大模型选型参考

思索点：

内包 vs 外包：内外协同模式

基模 + 垂类：医学专精训练模型壁垒有多高？

资料交换的权属利益，安全和合规：资料隐私计算、联邦研习，GDPR等等法规

保障可解释性、本地化（本土化）、AI for Science……

老师简介

Introduction to lecturers

弄懂更多

博闻智咨询|焦波老师