课程背景
本课主要解说怎样利用
P
ython开展资料建模,构筑数学模型,来拟合业务的各个要素之间的关系,来还原业务的未来演进和变化。
基于真实的业务问题,在资料建模的准则进程指导下,从模型选项到特征工程,从训练模型到算法达成,从模型评核到模型精进,再到模型解读以及模型运用,带领大家一步步达成一个回归预测模型。
课程收益
掌握资料建模的准则流程。
掌握资料预处理常用的办法,包括特征筛选、变量合并等等
。
掌握回归模型的原理,以及算法达成。
熟练采用模型的评核指标,评核办法,以及过拟合的评核。
掌握模型精进的基本措施,学会欠拟合的破解办法。
学会过拟合评核,学会采用有正则项来破解过拟合问题。
熟练采用
s
klearn库的常用回归类。
学会超参精进的常用办法,能够设置最优超参。
课程大纲
预测建模基础
资料建模六步法
选项
模型:基于业务选项恰当的资料模型
属性筛选
:选项对标的变量有显著影响的属性来建模
训练模型
:采用合适的算法,执行层面,寻找到最合适的模型参数
评核模型
:开展评核模型的质量,判断模型是否可用
精进模型
:倘若评核结果不理想,则需要对模型开展精进
运用模型
:倘若评核结果满足要求,则可运用模型于业务情境
资料挖掘常用的模型
数值预测模型:回归预测、时序预测等等
分类预测模型:推演回归、决策树、神经网络、支持向量机等等
市场细分:聚类、
RFM
、
PCA
等等
货品推荐:关联拆解、协同过滤等等
货品精进:回归、随机效用等等
货品定价:定价打法
/
最优定价等等
属性筛选
/
特征选项
/
变量降维
基于变量本身特征
基于相关性判断
因子合并(
PCA
等等)
IV
值筛选(评分卡采用)
基于资讯增益判断(决策树采用)
训练模型以及达成算法
模型原理
算法达成
模型评核
评核指标
评核办法
过拟合评核
模型精进
精进模型:选项新模型
/
修改模型
精进资料:新增显著自变量
精进公式:采用新的计算公式
模型运用
模型解读
模型部署
模型运用
好模型是精进出来的
回归模型评核
三个基本概念:
SST
、
SSR
、
SSE
三个方面评核:指标、办法、过拟合
拟合程度指标
简单判定系数:
调整判定系数:
预测值误差指标
平均绝对误差:
MAE
根都方差:
RMSE
平均绝对误差率:
MAPE
资讯损失准则指标
赤池资讯准则:
AIC
贝叶斯资讯准则:
BIC
HQ
资讯准则:
HQIC
评核办法
原始评核法
留出法(
Hold-Out
)
交叉验证法(
k-fold cross validation
)
自助采样法(
Bootstrapping
)
其它评核
过拟合评核:研习曲线
残差评核:白噪声评核
影响因素拆解
问题:怎样选项合适的属性来开展建模预测?怎样做特征选项
/
特征降维?
属性筛选
/
变量降维的常用办法
影响因素拆解常用办法
相关拆解
方差拆解
卡方检验
相关拆解(衡量变量间的线性相关性)
问题:这两个属性是否会相互影响?影响程度大吗?
相关拆解简介
相关拆解的三个种类
简单相关拆解
偏相关拆解
相关系数的三
种计算公式
P
earson相关系数
S
pearman相关系数
K
endall相关系数
相关拆解的假设检验
相关拆解的
四个基本步骤
上手:体重和腰围的关系
上手:营销费用会影响销售额吗
上手
:
网龄和消费水平的关系
偏相关拆解
偏相关
原理:排除不可控因素后的两变量的相关性
偏相关
系数的计算公式
偏相关拆解的适用情境
方差拆解
(
衡量类别变量和资料变量的相关性
)
问题:哪些才是影响销量的要害因素?主要因素是哪些?次要因素是哪些?
方差拆解的运用情境
方差拆解原理
方差拆解前提:齐性检验
方差拆解的三个种类
单因素方差拆解
多因素方差拆解
协方差拆解
方差拆解的
四个
步骤
拆解结果解读要点
上手
:
终端摆放位置和终端销量有关吗
上手:买方学历对消费
水平
的影响拆解
上手
:
广告形式和价格是影响终端销量的要害因素吗
上手
:
营业员的性别、本领级别对货品销量有影响吗
上手:寻找影响货品销量的要害因素
多因素方差拆解原理
多因素方差拆解的作用
多因素方差结果的解读
上手:广告
形式、地区对
销量的
影响因素
拆解
协方差拆解原理
协方差拆解的适用情境
上手:排除收入后,网龄对消费水平的影响大小拆解
列联拆解
/
卡方检验
(两类别变量的相关性拆解)
卡方检验运用情境
交叉表和列联表
计数值和期望值
卡方检验的原理
卡方检验的几个计算公式
列联表拆解的适用情境
实例:套餐类型对买方离职的影响拆解
实例:学历对业务套餐偏好的影响拆解
实例:业界
/
规模对风控的影响拆解
属性要害程度排序
/
筛选
主成份拆解(
PCA
)
因子拆解的原理
因子个数怎样选项
怎样解读因子含义
实例:提取影响电信买方离职的主成分拆解
线性回归模型
问题:怎样预测货品的销量
/
销售金额?
常用数值预测的模型
通用预测模型:回归模型
线性回归运用情境
线性回归模型种类
一元线性回归
多元线性回归
线性回归建模进程
带分类变量的回归建模
回归模型的质量评核
回归方程的解读
回归算法达成
基本概念
损失函数
普通最小二乘法
OLS
数学推导
OLS
存在的问题
梯度下降算法
梯度概念
梯度下降
/
上升算法
批量梯度
/
随机梯度
/
小批量梯度
研习率的影响
早期停止法
牛顿法
/
拟牛顿法
泰勒公式
(
Taylor)
牛顿法
(
Newton)
拟牛顿法
(
Quasi-Newton)的精进
DFP/BFGS/L-BFGS
算法比较
-
优缺点
回归模型精进
回归拆解的基本原理
三个基本概念:总变差、回归变差,剩余变差
方程的显著性检验:是否能够做回归拆解?
因素的显著性检验:自变量是否可用?
拟合优度检验:回归模型的质量评核?
领会准则误差的含义:预测的准确性?
欠拟合破解:多项式回归
剔除离群值
剔除非显著因素
非线性关系检验
相互作用检验
共线性检验
检验误差项
实例:销量预测模型精进示例
过拟合破解:正则项
岭回归(
Ridge
)
套索回归
(Lasso)
弹性网络回归(ElasticNet)
超参精进
手工遍历
c
ross_val_score
交叉验证
R
idgeCV/LassCV/ElasticNetCV
网格搜索
G
ridSearchCV
随机搜索
R
andomizedSearchCV
自定义模型
自定义回归模型
模型参数最优法办法
全局精进
/
暴力破解
b
rute
局部精进
f
min
有约束精进
m
inimize
好模型都是精进出来的
实例
:
餐厅客流量开展建模以及模型精进
基于回归季节模型
季节性回归模型的参数
相加模型
相乘模型
模型
解读
/
模型含义
实例
:
美国航空旅客里程的季节性趋势拆解
新货品预测和
S
曲线
货品累计销量的
S
曲线模型
怎样评核销量增长的上限以及拐点
珀尔曲线
龚铂兹曲线
实例
:
预测
I
PAD的销售增长拐点,以及销量上限
实例实战
买方消费金额预测模型
房价预测模型以及精进
结束:课程
收束
和
问题答疑
。
老师简介
Introduction to lecturers
弄懂更多
珀菲特顾问|傅一航老师
适合谁听
业务支持部、资料拆解部、系统规划部、系统开发部、网络运维部等等相关技艺人员。。建议同一家企业 3 人以上同来,课堂上直接改造本企业的实际问题——单人参加也能学到方法,但带不走可用的成果。
交付流程
课前:顾问访谈 2 位管理者,收集现状与问题清单,讲师据此调整案例。课中:讲授与演练各占一半,产出可直接用的工具与方案。课后:7 天内提交改进建议,30 天内一次线上答疑。
