《网站数据挖掘与分析》——值得精读的数据指南

目录:

一、
数据工作链:产生-采集-储存-提取-挖掘-分析-展现-集成应用;
数据分析的传统方法:趋势-细分-转化;
二、
更深次方法:数据挖掘、统计学、人工智能、商业智能;
未来方向:数据作用将集中在数据驱动、系统智能工作机制;辅助决策则蜕变为非重要应用;
三、
数据管理相关;

此书图片

一、数据工作链&数据分析

1. 数据来源

数据碎片化严重:多平台、多渠道、多终端;
登录率不一:采用cookie等唯一用户ID来统计;

数据.jpg

2. 数据统计

数据提取、数据清洗、数据汇总、结论输出;

附数据平台应有功能(其思路其他产品亦可参考):

数据管理 相应功能
配置管理 数据存储、安全、排除设置,并发控制,进程控制,结构控制
数据权限 数据保存、新增、删除、更新、备份、合并、拆分、导出、打印
用户权限 用户新增、删除、重置、过期设置、共享等
数据导入 数据导入格式、时间、条件、规则、异常处理、记录数、来源等
数据导出 数据导出格式、时间、条件、规则、加密、记录数、位置等
数据展示 对比、趋势、主要维度下钻

数据不准确的可能原因

  • 采集入库方式(采集效率&采集周期、异常值处理、库表同步)、验证机制、数据同步时隔、ETL准确性;
  • 用户信息填写不规范、采集环境客观差异;
  • 数据口径不统一及考虑不周

3. 数据分析

建立数据决策主题→分析主题→评估决策建议→决策实施
每次决策实施是上一次辅助决策的终点又是下一次辅助决策的开始。

4. 数据可能导致的错误

数据在企业中的价值评估出错;
数据质量;
采集方式错误;
数据需求和业务需求匹配度不高;
数据公正性和客观性;

二、数据挖掘

业务类:利用挖掘算法为业务提供数据分析、挖掘价值点;
技术类:利用挖掘算法为数据产品(DSP、RTB、个性化推荐)提供支持;
前者是辅助决策,后者为数据驱动;后者只进行调优、人工干预规则,但不参与决策;
模型类型:

模型分类 模型特征 模型优点 模型缺陷
回归模型 y=ax²+bx+c 变量关系明确,视觉即可判断 只能分析少量变量关系
聚类模型 将大量的数据相似或相邻数据归为一类 适合数据初步探索 无法回答为什么,无法提供行动指向
关联模型 从大量数据中发现两种数据的关系,经典应用于购物车 简单易于理解 缺乏时间因素关联
时间序列 研究数据随时间变化趋势 用于异常数据检测、周期效果判断 较短时间的判断不精准,可以作为回归模型的补充
分类模型 预测的是数据成为某个分组的可能性,根据结果分析特征、根据特征预测结果 可执行性和应用性强 难度较高
机器学习 机器自我数据推理、归纳、演进 有限的学习能力

1. 数据驱动的个性化推荐

数据层

原始数据:处于原始状态、未经过处理的数据;
模型数据:经过处理的标准化、整合的数据;

算法层

算法 算法原理 缺陷
协同过滤 利用兴趣相同、拥有共同经验的群体喜好来预测用户喜好的方法;自动化和个性化程度高,能处理复杂内容和推荐对象,可以发现用户的新兴趣点 无法完美解决数据稀疏性、拓展性较差
关联规则 从数据上发现商品的关联性,来进行推荐; 产品之间存在同义性将无法产生准确结果,且数据抽取规则复杂且耗时,无法实时;
基于内容推荐 个人理解是用户喜欢了一个产品,会将相同标签下的不同产品推荐 同协同过滤
基于社会网络推荐 通过手机用户在社交网络上的数据,进行挖掘推荐; 复杂耗时,局限性强

组合算法:

  • 加权处理
  • 场景差异(新老用户不同算法)
  • 混合展示(取几个算法的前几个组合展示)
  • 迭代计算(先用一种,再使用其他的算法在基础上优化)

控制算法:

  • 过度推荐控制
  • 补足推荐控制:推荐结果可能因下架等原因不能展示,需要替代方案;
  • 冷启动控制:采用top N、最新项目等;
  • 过滤排序控制:

读后感结语:
若有意了解数据在产品中的流转状态,可以精读此书。但个性化化方面等新兴应用的见解已经落后,需要从其他方面吸收。

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 212,542评论 6 493
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 90,596评论 3 385
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 158,021评论 0 348
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 56,682评论 1 284
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 65,792评论 6 386
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 49,985评论 1 291
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 39,107评论 3 410
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 37,845评论 0 268
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 44,299评论 1 303
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 36,612评论 2 327
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 38,747评论 1 341
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 34,441评论 4 333
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 40,072评论 3 317
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 30,828评论 0 21
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,069评论 1 267
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 46,545评论 2 362
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 43,658评论 2 350

推荐阅读更多精彩内容