【戴师兄2.0】数据分析笔记1-绪论

mindmap.png

数据分析一般流程

一、观测

定义:对事物形成客观量化的认知。

方式:获取数据形成报表、图表

内容:

(一)观察

1 采集数据
  1. 解析系统日志:用户行为-产生日志-解析日志-得到数据
    • 埋点获取新数据:【自定义日志】记录新信息,如记录IP-解析日志-得到新数据
    • 【埋点】基于系统日志新增数据的过程。是分析师获取数据最常用、可靠的方式。
      • 个人理解是指原有日志中没有记录一些特定信息,后面新增一个记录变量
  2. 通过传感器采集:天气、生理指标
  3. 爬虫:解析网站呈现内容、抓取数据【少用】
  4. API应用程序接口:
    从特定平台用过API获得其开放数据,通过代码使数据按需呈现
2 储存数据

各类数据库:hive、mySQL、Presto等【数据库工程师】
搭建云端数据库

3 展示数据

可视化高效传达信息

(二)测量【分析数据目的】

1 设定标准
2 发现异常
banchmark
3 研究关系
可视化查看相关性
建模推导相关性

二、实验

定义:发现规律、提出假设,验证假设

【!未经数据验证的想法都是假设】

方式:

  1. A、B测试:实验-对照
  2. 科学研究
  • 【问题1】如何在业务只有少量数据时设计实验
  • 【问题2】如何无法在同时测试两个版本时比较数据

三、应用

方法:

1. 不断基于数据(通过实验得到方法)反馈迭代产品和业务策略:

  1. 【明确业务目标】
  2. 【拆解目标】
    • 拆解方法【只要负荷MECE法则即可】:
      • [MECE]法则
        • "相互独立、完全穷尽",即所谓的 "无重复、无遗漏"。
        • 要素拆解法:【个人理解】
          • 找到影响结果的自变量因素,
          • 如A成绩下滑,按照老师的要素,分为A老师,B老师;按照教学方法的要素,分为A方法,B方法
        • 流程拆解法:【个人理解】
          • 找到导致结果的流程并分析,估算每一个环节到下一个环节的概率【转化率】。可以形成一个漏斗模型,使用于流程长、环节多,随流程进行留存率越来越少的场景。
          • 还是那个例子,A学习的流程是:上课-写作业-考前复习-成绩下滑。可能是听课没有认真,可能是作业没有认真完成,可能学后没有巩固复习
        • 二分法
          • 把事物分成 A 和非 A 两个部分
        • 公式法
          • 公式法是按照公式设计的要素进行分类,公式若成立,那么要素的分类就符合MECE原则。
          • 比如 GMV=客流量X客单价
        • 矩阵法
          • 把事物按二维矩阵进行分类或划分
          • 例如说时间管理中常用的紧急且重要、紧急不重要、不紧急但重要、不紧急也不重要的分类方法就是典型的矩阵法。
      • 象限拆解法【个人理解】
        • 找到两个因变量,构成二维矩阵,之后据此对用户特征等自变量因素划分
        • 方便找到问题的共性、对不同的对象建立优化策略
      • 杜邦分析法-比较业绩
        • ROE,return on equity,即净资产收益率,或净资产回报率。ROE衡量的是企业的赚钱的能力。
        • ROE=净资产利润率 * 权益乘数 * 资产周转率,这就是杜邦分析法公式。
      • AARRR-用户增长的数据分析模型
        • Acquisition、Activation、Retention、Revenue、Refer,这个五个单词的缩写,分别对应用户生命周期中的用户获取、用户激活、用户留存、获得收益、推荐传播这5个重要环节。
      • PEST-战略管理分析
        • 政治(Politics)、经济(Economic)、社会(Society)、技术(Technology)四个方面
      • RFM-客户细分
        • 指根据客户活跃程度和交易金额贡献,进行客户价值细分的一种方法。
      • SWOT-企业内外条件分析
        • 企业优势(strength)、劣势(weakness)、机会(opportunity)和威胁(threats)
      • 5W1H-数据分析流程
        • Who(分析谁)、Where(取哪里的数据)、When(取什么时间段的数据)、What(用什么分析方法)、Why(什么原因导致的)、How(如何呈现最终结果)
      • 5W2H
        • (1)why(何因)——为什么?为什么要这么做?原因是什么?
        • (2)what(何事)——是什么?目的是什么?
        • (3)where(何处)——何处?从哪里来?到哪里去?
        • (4)when(何时)——何时?什么时间完成?
        • (5)who(何人)——谁来执行?谁来负责?谁来管理?
        • (6)how——怎么做?如何提高效率?如何实施?
        • (7)how much——做多少?做到何种程度?数量、质量如何
  3. 反馈产品【更新产品】,反馈业务【联系业务】
  4. 【回到观测数据】

2. 基于数据训练算法,让激起自动化完成工作

参考网址

https://www.bilibili.com/video/BV1ZM4y1u7uF/?spm_id_from=333.788.recommend_more_video.-1
https://blog.csdn.net/weixin_43944943/article/details/123115108

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 219,366评论 6 508
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 93,521评论 3 395
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 165,689评论 0 356
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 58,925评论 1 295
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 67,942评论 6 392
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 51,727评论 1 305
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 40,447评论 3 420
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 39,349评论 0 276
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 45,820评论 1 317
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 37,990评论 3 337
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 40,127评论 1 351
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 35,812评论 5 346
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 41,471评论 3 331
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 32,017评论 0 22
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 33,142评论 1 272
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 48,388评论 3 373
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 45,066评论 2 355