数据新知 | Python数据挖掘和可视化分析

我们都试图在认识别人,了解他人,从而更好的完成社会化大分工。但是可能往往忽略了客观的认识自己.

我也经常在思索自己是个怎么样的人?

今天恰好有时间,就用我的评论数据来告诉自己,我是个什么样的人

研究主题:用数据刻画人物

那既然要用数据说话,那我们就锁定下数据源.

数据源:网易新闻历史跟贴数据

研究方法:

使用自然语言处理NLP,获取自己的跟贴习惯和跟贴时间分布, 从而了解自己喜好和休闲时间分布

涉及技术:

Python, 数据爬虫,,matplotlib, NLP中文分析,BDP可视化等.


1. 获取数据

我的网易APP截图

据网易统计,我阅读历史总量为 15409篇文章

其中评论为292条, 说明我还是一位非标准喷子易友~

评论转化率:跟贴数/阅读总数*100%  = 292/15409 =0.018 的确少的可怜.

注:原本打算使用网易阅读历史作为数据源,但是由于偷懒没找到阅读历史记录的网易接口,所以只好使用跟贴数据来在分析和研究, 

1.1 网易新闻客户端跟贴接口

接口地址:

https://comment.api.163.com/api/v1/products/a2869674571f77b5a0867c3d71db5856/users/0/myComments?offset=0&limit=10&_=1523443919597&callback=jsonp2

字段说明:

offset为数据起始点

limit 为返回数据量

a2869674571f77b5a0867c3d71db5856 为用户唯一ID ,网易Mapping ID

接口返回:

返回为Json格式的数据,这里使用Python爬虫,一个For循环,循环得到全部的评论数据.并存储到文本文件中,等待分析。

接口数据如下图:


网易评论接口数据样式

Python爬虫实现方法再次不具体展开.


2. 自然语言处理NLP

因为是评论的文本数据,所以我们直接可以通过NLP来处理从而得到我们需要的数据,

引用到的库:

jieba / jieba-fast -中文分词

Counter计数器

wordcloud -词云库

matplotlib等

安装库文件


安装词云库

那我们开始:分析逻辑如下:

1. python读取文本获取评论数据

2.jieba分词,去掉停词和无关字符(地址,头像,标点符号等)

3.Counter统计词频

4. matlotlib,wordcloud输出词云

5. 时间分布合并与分类合并

3 分析结论

3.1 评论时间分布

工作日评论时间分布


费工作日评论时间分布

根据时间分布可以观测出,在13点和晚上11点 评论最活跃.

按照评论量分布可以推测出这个时间段的阅读量 =  评论量/评论率 

3.2 频道关注度

根据频道分布可以判断出,兴趣点为: 科技 >  社会 > 财经

频道占比

3.3 兴趣词云


兴趣词词云

我们可以根据词性分类,划分出不同的词类

公司关注度:谷歌  > 百度 > 腾讯 > 苹果 > 联想  >  京东 >微软  > 今日头条 > 大疆 > 滴滴

手机品牌关注度:苹果 > 华为 > 魅族 > 小米

时政关注度: 中国 > 日本 > 美国 > 国内 > 国外 > 泰国

黑科技关注度:比特币 > 人工智能 > 区块链 > 样本(机器学习) > 无人机

羞羞关注度 : 美女 > 妹子 > 杜蕾斯 > 男女

人物关注度: 马化腾 >  孙正义 > 张继科

外汇关注度: 美金 > 日元 >泰铢 

小结: 我还是一位关注时政财经,爱好学习科技的不宅男青年!


时间成本:

1. 网易新闻APP接口查找  - 3分钟

2. Python爬虫数据编写和爬取数据 - 10分钟

3. Python文本分析 - 26分钟

4. BDP可视化  -  35分钟(有个坑,和Tableua词云不同的地方是词频规则,又加工了下数据)

5. 文章编写: 30 分钟.(反复修改了几次, 还会在修改)

附录:

1. BDP分享链接:https://me.bdp.cn/api/su/TP3X6FYN

2. 分析中所涉及代码,有兴趣可以留言.

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 220,492评论 6 513
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 94,048评论 3 396
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 166,927评论 0 358
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 59,293评论 1 295
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 68,309评论 6 397
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 52,024评论 1 308
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 40,638评论 3 420
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 39,546评论 0 276
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 46,073评论 1 319
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 38,188评论 3 340
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 40,321评论 1 352
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 35,998评论 5 347
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 41,678评论 3 331
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 32,186评论 0 23
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 33,303评论 1 272
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 48,663评论 3 375
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 45,330评论 2 358

推荐阅读更多精彩内容