课程背景
互联网上获取的大量资料是文本,这些非结构化的资料怎样才能有效利用?以一个实例简要说明:
十九大习近平总书记作要害讲话,我们采用资料挖掘算法对讲话开展拆解:
1.词频拆解
借助对讲话开展分词、删除助词、我们能够统计每个词汇出现的次数。进而能够绘制词云,直观弄懂出现较多的词汇。
2.要害字拆解
算法拆解文章每个段落的要害字,做后续用途。
3.自动提取摘要
自动获取每一段话最要害的一句话作为该段文章的中心意思。
4.运用举例
将19大讲话和理财货品/股票的引见匹配,寻找最符合讲话精神的货品/股票,推荐给买方。
每天上午自动从各大媒体抓取新闻,将最符合19大讲话的10篇文章提取出来,自动提取要害字、摘要和链接,发送到领导和买方的桌面。
课程定位
本课的标的群体是需要做文本拆解的参训者。
课程大纲
一、文本挖掘技艺概述
1.互联网资料收集
2.从文本资料当中我们能够获得哪些资讯?
3.文本拆解的实战演示
4.文本挖掘的相关技艺
二、词频统计和拆解
1.文集的概念,怎样生成文集
2.分词技艺的原理
3.搜狗词汇库库
4.停用词Stopwords的概念
5.达成分词的进程
6.词频统计和排序
7.词频的可视化:词云
8.怎样制作自定义图形的词云
9.代码达成
三、要害字提取
1.提取文章要害字能够让读者迅速判断是否有阅读的必要
2.IDF的概念
3.TF-IDF算法
4.计算词汇的TF-IDF值并排序
5.获取要害字列表
四、相似文章推荐和自动摘要
1.相似推荐的概念
2.文章的余弦相似度
3.推荐最接近的文章
4.计算分句和文章的余弦相似度
5.分句的相似度排序
6.自动获取文章摘要
五、社交网络拆解
1.社交网络拆解的作用
2.网络图/力带出图的概念
3.有向图和无向图
4.怎样根据微博、微信、邮件的资讯构筑网络
5.资料的准备
6.采用Gephi绘制网络图
7.采用PowerBI绘制网络图
8.采用ECHARTS展示网络图
六,项目实战:
根据老师出的题目完成文本挖掘项目,写出拆解报告
收束
老师简介
Introduction to lecturers
弄懂更多
博闻智咨询|陈剑老师
适合谁听
管人者。建议同一家企业 3 人以上同来,课堂上直接改造本企业的实际问题——单人参加也能学到方法,但带不走可用的成果。
交付流程
课前:顾问访谈 2 位管理者,收集现状与问题清单,讲师据此调整案例。课中:讲授与演练各占一半,产出可直接用的工具与方案。课后:7 天内提交改进建议,30 天内一次线上答疑。
