AI智能体与AI编程的工程化落地实践

首讲

首讲

: AI 智能体私有化部署选型

1. AI智能体技艺概述

1）何为AI 智能体(Agent)：定义、核心特征、技艺边界

①Agent的定义和演进历程

②核心特征：自主性、感知、行动、研习

③和传统自动化脚本和RPA的区别

④当前技艺边界和落地挑战

2）智能体和大模型的关系：从单字接龙到抓手调用

①大模型作为智能体的推理核心

②思路链(CoT)和ReAct轮廓

③抓手调用(Tool Use)：扩展模型本领的翅膀

④智能体和大模型协同事务的范式

3）智能体的三大核心本领：推理规划、抓手调用、记忆管控

①推理规划：怎样将复杂差事分解为可执行步骤

②抓手调用：API、函数、服务的无缝集成

③记忆管控：短期事务记忆和长期学识库

④三大本领协同事务的流程拆解

4）国有公司对智能体的特殊要求：离线部署、安全可控，国产适配

①离线部署的必要性和技艺方案

②安全可控：代码审计和资料链路安全

③国产适配：兼容国产芯片、操作系统和资料库

④合规性要求：满足等级保护和业界准则

2. 主流开源智能体轮廓对比

1）Dify：LLM运用开发平台

①核心定位和功能特性

②学识库和插件扩展本领评核

③私有化部署和国产模型支持情况

2）RAGFlow：专精RAG引擎

①核心定位和功能特性

②学识库和插件扩展本领评核

③私有化部署和国产模型支持情况

3）FastGPT：轻量学识库

①核心定位和功能特性

②学识库和插件扩展本领评核

③私有化部署和国产模型支持情况

4）Coze/扣子：云端智能体平台

①核心定位和功能特性

②学识库和插件扩展本领评核

③对私有化部署的参考意义

3. 国有公司情境选型要害指标

1）安全合规性：是否支持完全离线部署、等等保认证、国密算法

①评核完全离线部署的可行性和成本

②考察对等级保护认证的支持

③查验对国密算法的集成本领

2）国产适配性：对 Qwen/GLM/DeepSeek 的支持程度

①测试对主流国产大模型的API兼容性

②评核和国产操作系统和中间件的兼容性

3）扩展本领：插件开发、自定义抓手集成、事务流编排

①评核插件开发文档的完善度和社区活跃度

②验证自定义抓手集成的灵活性

③比较事务流编排功能的强大和直观性

4）学识库本领：文档拆解精度、向量化质量、检索准确度

①测试对复杂格式文档（PDF，Word、Markdown）的拆解成效

②评核内置或者推荐的向量化模型的性能

③规划评测集以衡量检索的召回率和精确率

次讲

次讲

: AI 智能体环境搭建

1. 部署环境准备

1）硬件要求评核：CPU/内存/存储配置

①解读官方硬件配置建议

②考虑本地模型部署的额外开销

③提供不同规模运用的配置方案

2）软件环境准备：Docker，DockerCompose，Git

①在CentOS/Ubuntu上安装Docker和Docker Compose

②配置Docker镜像加速器

③安装和基本配置Git

3）网络环境配置：离线环境下的镜像导入打法

①在有网机器上拉取并打包镜像

②在离线机器上加载镜像

③编写脚本达成批量镜像迁移

4）国产模型接入准备：Qwen/GLM/DeepSeek 的本地部署或者 API 配置

①申请主流国产大模型的API Key

②弄懂本地部署开源模型（如Qwen-7B）的基本流程

③网络打法规划：确保Dify容器能够访问模型服务

2. Dify 私有化部署实战

1）在线环境准备倚重

①克隆 Dify 源码：gitclonehttps://github.com/langgenius/dify.git

②下载 Docker 镜像：采用 dockerpull 获取所有倚重镜像

③导出离线包：dockersave 生成可迁移的tar 包

2）离线环境部署

①导入 Docker 镜像：dockerload 加载 tar 包

②配置环境变量:.env 文件的要害参数设置

③启动服务：dockercomposeup-d

④验证部署：访问 http://localhost 完成初始化配置

3）国产模型集成

①DeepSeek 接入：配置 APIKey 和模型参数

②Qwen 接入：阿里云 DashScope 或者本地部署

③GLM 接入：智谱 AIAPI 配置

④Embedding 模型配置：bge-m3 等等国产向量化模型

三讲

三讲

: 搭建第一个智能体

1. Dify 基础操作

1）界面导览：事务室、学识库、抓手、插件

①事务室：运用管控的核心区域

②学识库：智能体记忆的来源

③抓手和插件：扩展智能体本领的途径

2）运用类型选项：聊天助手、Agent、事务流、Chatflow

①聊天助手：基础问答运用的构筑

②Agent：具备抓手调用本领的智能体

③事务流和Chatflow：编排复杂差事流程

3）提示词工程基础：SystemPrompt 规划要则

①定位担当：为智能体设定身份

②指令清晰：明晰告知差事和标的

③提供示例：采用Few-shot研习拉升成效

2. 创建技艺文档问答助手

1）诉求拆解

①情境：某型号软件的用户指引智能问答

②功能：回答关于软件功能、接口定义，配置参数的问题

③要求：答案可追溯、支持多轮对话

2）学识库构筑

①上传 PDF/Word 文档

②配置分段打法：按照段落/按照章节/自动分段

③选项 Embedding 模型：bge-m3vstext-embedding-3

④测试检索成效：调整相似度阈值和召回数量

3）智能体配置

①编写 SystemPrompt（定位定义、回答规范）

②绑定学识库作为上下文来源

③配置引用追溯：显示答案来源文档和页码

④设置对话开场白和建议问题

4）调试和精进

①测试问答成效

②拆解 BadCase：检索失败 vs 生成失败

③精进打法：调整分块大小、添加同义词、精进 Prompt

3. 事务流编排入门

1）事务流 vsChatflow: 批处理 vs 对话情境

①Chatflow：构筑多轮对话式运用

②事务流：用于自动化批处理差事

2）核心节点类型: 开始、LLM、学识检索、条件分支、代码执行、HTTP 请求，结束

①LLM节点：调用大模型开展生成或者决策

②学识检索节点：从学识库中查找资讯

③代码执行节点：运行Python或者Node.js脚本

④HTTP请求节点：和外部API交互

3）变量和上下文传递

①定义和采用变量

②领会上下文传递制度

4. 实战：创建格式化文档生成事务流

1）情境：根据诉求描述自动生成软件规划文档

①确定输入：结构化的诉求描述

②确定输出：Markdown格式的软件规划文档

2）流程：诉求输入→大纲生成→内容填充→格式转换→文档输出

①第一步：采用LLM节点生成文档大纲

②第二步：循环遍历大纲，落地时，为每个章节填充内容

③第三步：整合所有内容并格式化输出

3）输出：Markdown 格式文档

①查验输出文档的完整性和正确性

②调试和精进事务流中的Prompt

四讲

四讲

: 智能体自定义插件制作

1. Dify 插件架构概述

1）插件类型：模型供应商、抓手、资料源、Agent 打法

①抓手插件：最常用的插件类型

②模型供应商插件：接入新的大模型

2）插件开发方式：Python/Node.js，OpenAPI 规范、事务流封装

①采用Python/Node.js：灵活性最高

②基于OpenAPI规范：最快捷的方式

③事务流封装：无代码/低代码方式

3）插件发布：本地安装 vs 插件市场

①本地安装：用于公司内部插件

②插件市场：分享和复用

2. 自定义抓手开发实战

1）开发环境搭建

①安装 DifyPluginCLI 抓手

②创建插件项目结构

③配置插件元资讯

2）开发实战：封装一个 RESTfulAPI 服务

①定义API接口和参数

②编写API调用推演

③处理API认证（如Bearer Token）

3）实例：连接内部项目管控系统的 API,查询差事状态

①拆解项目管控系统API文档

②开发一个“查询差事”抓手

③在智能体中调用该抓手

4）实例：连接内部构筑服务器的API,触发构筑差事

①拆解Jenkins/GitLab CI的API

②开发一个“触发构筑”抓手

③结合多模态输入，达成更智能的交互

3. 插件调试、安装和测试

1）本地调试插件

①采用DifyPluginCLI开展本地运行和调试

②编写单元测试

2）在Dify中安装自定义插件

①打包插件为zip文件

②借助界面上传并安装

3）在智能体中开展集成测试

①将插件放权给智能体采用

②规划测试对话流，验证插件功能

五讲

五讲

: 开源学识库的选项和搭建

1. 主流开源学识库方案对比

1）RAGFlow：深度文档领会，高精度检索

①核心优势和适用情境

②部署难度评核

2）FastGPT：开箱即用，轻量迅速

①核心优势和适用情境

②功能局限性拆解

3）QAnything：中文精进，多模态支持

①核心优势和适用情境

②社区和生态现况

4）MaxKB：极简轻量，迅速部署

①核心优势和适用情境

②和大型学识库方案的对比

2. RAGFlow 深度运用

1）核心特性详解

①深度文档领会：布局拆解、表格识别、OCR

②模板化分块：可视化分块打法配置

③多路召回：向量+要害词+学识图谱

2）文档拆解配置

①表格处理打法：保留结构 vs 转文本

②图片处理：OCR 识别 vsVLM 描述

③精进拆解参数以拉升质量

3. Dify+RAGFlow 联合方案

1）架构规划：RAGFlow 负责文档拆解和检索, Dify 负责事务流编排和运用封装

①职责划分：让专精的抓手做专精的事

②部署拓扑图

2）资料流转：RAGFlowAPI→DifyHTTP 节点→智能体运用

①在Dify中创建调用RAGFlow API的抓手

②在Chatflow中编排调用流程

3）优势结合：深度文档领会+灵活事务流编排

①破解Dify文档拆解本领不足的问题

②破解RAGFlow运用封装和多租户本领较弱的问题

4. 学识库和智能体集成

1）学识库作为智能体的上下文来源

①配置智能体在生成答案时引用学识库

2）多学识库联合检索

①运用情境：跨部门学识问答

②在Dify中配置多学识库检索

第六讲

第六讲

: 公司学识库规划

1. 学识库架构规划

1）分层分级管控模型

①学识库层级：组织级→部门级→项目级一个人级

②权限架构：读取、写入、管控三级权限

③资料隔离：多租户架构达成学识库隔离

2. 学识库自主更新制度

1）定时同步

①配置定时差事：每日/每周自动同步

②增量更新打法：只处理新增/修改文档

③全量重建打法：定期重建索引确保一致性

2）经过驱动更新

①Git 钩子触发：代码提交后自动更新相关文档

②文档系统 Webhook：文档发布后自动同步

③API 触发：外部系统调用更新接口

3）版本管控

①文档版本追踪：记录每次更新内容

②历史版本回溯：支持查看/恢复历史版本

③版本对比功能：对比不同版本差异

3. 文档向量化准确度精进

1）深度文档拆解

①问题：传统拆解丢失表格、公式、图片资讯

②方案：采用 RAGFlow 的 DeepDoc 拆解器

③表格识别：转换为结构化文本或者 Markdown 表格

④图片处理：OCR 提取文字

2）智能分块打法

①按照语义分块：保持段落完整性

②层次化分块：章节-小节-段落三级结构

③重叠分块：相邻块保留重叠内容确保上下文

④父子文档：小块用于检索，就一线经验说，大块用于生成

3）混合检索打法

①向量检索：语义相似度匹配

②要害词检索：精准匹配术语

③重排序（Rerank）：拉升检索结果相关性

4. 实战：构筑部门级学识库

1）情境：软件部开发学识库

①明晰学识库的标的用户和核心价值

2）内容：编码规范、规划模式、调试招数

①收集和整理初始学识文档

3）功能：问答检索、代码示例搜索、最佳实践推荐

①达成基于自然语言的问答功能

②达成根据功能描述搜索相关代码片段

4）管控：分层权限、自动同步、版本将控

①规划权限方案：普通员工只读，从实践看，专家可编辑

②配置自动化更新：关联部门Git仓库和Wiki

第七讲

第七讲

: AI 编程抓手引见

1. AI 编程抓手概述

1）AI 编程抓手的演进阶段：从代码补全到智能体编程

①第一代：基于语法的代码补全

②第二代：基于大模型的代码生成（Copilot）

③第三代：智能体编程（Devin）

2）核心技艺：代码生成、智能补全、代码审查、缺陷修复

①代码生成和补全模型原理

②基于AI的代码审查和静态拆解

③AI驱动的自动化缺陷修复

3）军工情境特殊要求：离线部署、代码安全、国产适配

①离线部署本领：确保代码不外泄

②代码安全：防止敏感资讯上传云端

③国产适配：支持国产IDE和模型

2. 主流 AI 编程抓手对比

1）CodeBuddy (腾讯)

①核心特性：双模型驱动，智能体

②国产模型支持和适用情境

2）Trae (字节跳动)

①核心特性：Builder模式、中文精进

②国产模型支持和适用情境

3）通义灵码 (阿里云)

①核心特性：Java，阿里云生态

②国产模型支持和适用情境

4）Cursor (海外)

①核心特性：功能周全、生态成熟

②私有化配置和适用情境

5）VSCode+插件 (微软)

①核心特性：生态充实、高度定制

②私有化配置和适用情境

3. Trae 深度拆解

1）核心特性

①Builder 模式：从零生成完整项目

②Chat 模式：对话式编程辅助

③中文语义领会：92%准确率

④完全免费采用

2）适用情境

①迅速原型开发

②研习新技艺栈

③代码重构精进

4. VSCodeAl 插件方案

1）插件组合推荐

①代码生成：ClaudeCode

②智能问答： DeepSeek 插件

③代码审查：Codeium

④文档生成：MarkdownAllinOne+AI 辅助

2）私有化配置

①接入本地部署的 DeepSeek/Qwen 模型

②配置私有代码库作为上下文

第八讲

第八讲

: AI 编程和传统编程的差别

1. 编程范式的演进

1）传统编程：人编写每一行代码，执行层面，计算机执行

①开发流程：诉求-规划-编码-测试

②人的定位：创造者和达成者

2）AI 辅助编程：人描述诉求，AI 生成代码，人审查精进

①开发流程：诉求-AI生成-审查-集成

②人的定位：诉求定义者和质量把关者

3）智能体编程：AI 自主规划，编码、测试、调试

①开发流程：定义标的-AI自主执行-结果验收

②人的定位：货品经理和架构师

2. AI编程的核心优势

1）效率拉升

①代码生成速度：AI生成 vs 人工编写 (10:1)

②重复代码减少：模板代码自动生成

③研习曲线缩短：迅速掌握新 API/轮廓

2）质量改进

①代码规范性：自动遵循编码规范

②缺陷预防：实时检测潜在问题

③文档完整性：自动生成注释和文档

3. AI编程的局限性和隐患

1）技艺局限

①幻觉问题：生成看似正确但实际错误的代码

②上下文限制：长代码库领会本领有限

③领域学识：对特定领域领会不足

2）安全隐患

①代码泄露：敏感代码上传云端

②许可证隐患：生成代码的版权归属

③安全漏洞：生成代码可能存在安全隐患

4. 人机协同最佳实践

1）诉求描述招数

①清晰明晰的自然语言描述

②提供充分的上下文资讯

③采用示例说明期望输出

2）代码审查要点

①推演正确性验证

②边界条件查验

③安全漏洞扫描

④性能影响评核

5. 实战实例: 一起来开发一个重复文件查找和清理抓手

1）步骤一：诉求定义和差事分解

①编写Prompt定义抓手功能

②AI生成开发规划

2）步骤二：AI生成核心代码

①生成文件遍历模块

②生成文件哈希计算模块

③生成重复文件分组模块

3）步骤三：人工审查、调试和集成

①审查AI代码中的推演错误

②编写主程序推演，串联各个模块

③开展单元测试和集成测试

第九讲

附录

A: 推荐抓手和资源

1. 智能体轮廓

1）Dify

①官方链接: https://github.com/langgenius/dify

2）RAGFlow

①官方链接: https://github.com/infiniflow/ragflow

3）FastGPT

①官方链接: https://github.com/labring/FastGPT

2. AI 编程抓手

1）CodeBuddy

①官方链接: https://copilot.tencent.com

2）Trae

①官方链接: https://www.trae.com.cn

3）通义灵码

①官方链接: https://tongyi.aliyun.com/lingma

3. 国产大模型

1）DeepSeek

①官方链接: https://www.deepseek.com

2）通义千问

①官方链接: https://tongyi.aliyun.com

3）智谱 GLM

①官方链接: https://www.zhipuai.cn

老师简介

Introduction to lecturers

弄懂更多

博闻智咨询|谢海林老师