声明:本文为课程《数据分析师》入门班笔记,讲师王乐业。如有学习需要请购买课程。
一、数据分析的一般流程及应用场景
001数据利用领域:社交(如,美国大选)、交通(如,导航)、金融(如,信用评估)、医疗(如,图像分析)
002数据分析流程:
1.问题定义
2.数据获取、清理与存储、分析与建模
(1)数据获取:公开数据(开放数据网络、数据竞赛)、网络爬虫(API、网页)
(2)清理与存储:数据清洗(重复数据、缺失数据)、数据库(插入查询)
(3)分析与建模:统计学原理(大数定理、中心极限定理)、分析技术(假设检验、线性回归)
3.系统、报告
003目标:数据分析全流程要点-算法竞赛入门技术-数据中发现只是的乐趣
004软件:python、anaconda、mysql
学习心得:理清数据分析主要使用的领域,和自己的工作息息相关,且未来前景可观。通过数据的获取-清理-存储-分析建模-建立系统-产生报告。其中需要掌握anaconda(python)、mysql
二、Python编程环境的搭建及数据分析包的安装
001python及anaconda
python:python 3与python 2 区别不大,python在数据分析职位被需要度排第一,不可或缺的硬技能。因其有工具包免费且开源。
anaconda:可以理解为是python的一个发行版。包括python的编程环境,还包括和pyhton相关的尤其是跟科学计算、数据分析相关的工具包。除此以外提供这些工具包的安装、删除、下载的一个管理工具。
anaconda的优点:1.可创建对应不同python版本的独立环境,互不干扰
例如:创建python3.5的TensorFlow的虚拟环境如下(因为如果不在anaconda下,TensorFlow不支持Windows系统下的python3.5)
conda create -n tensorflow python=3.5
activate tensorflow
2.可直接利用conda安装及更新工具包
conda install scipy
与python本身自带的工具包pip的区别:pip有限制,仅可以安装基于python的工具包,但基于windows下的一些工具包会有对于其他一些程序的依赖,导致pip无法直接安装这些工具包,如numpy,scipy都无法安装。conda解决了这个问题,例如上面的命令解决了安装scipy
002anaconda的下载及安装
下文以Windows系统为基础介绍
1.安装minianaconda
下载 Python3 的 64-bit 版本即可。注意,最好是64位的版本(除非你的电脑是32位的)。
下载后按小白教程 | Miniconda安装及添加环境变量安装。
2.修改镜像服务器位置
直接在开始菜单里找到Anaconda Prompt,直接使用Anaconda Prompt以管理员的身份打开,而不是cmd终端进入conda操作。
执行下面代码,即清华的镜像服务器速度会快一些。show_channel的目的是在接下来下载软件包的时候看到从哪个server下载,看是否设置清华是有作用的。
conda config --add channelshttps://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/free/
conda config --set show_channel_urls yes
3.创建 Python3.5 的虚拟环境(指定环境为3.5是因为前文提到tensorflow只支持3.5)
执行下面代码,course_py35可以换成自定义名称。安装工具包的时候可能需要安装一些其他的工具,如果系统提示 proceed ([y]/n)? ,输入y, 回车就ok。出现如下图提示 “To activate this environment……”表示环境配置成功
conda create –n course_py35 python=3.5
尝试触发刚创建的这个环境,输入:
activate course_py35
如果命令行出现(course_py35)或者说是你自己设定的名称,表示已经载入这个环境
你可以选择查看 Python 的版本是否是我们刚创建的3.5版本,输入:python
不出意外的话,系统会给你反馈 python 的版本信息。输入下面代码可退出:
quit()
4.安装科学计算所需的 python 工具包
用 conda 安装 scipy,输入:
conda install scipy
然后尝试触发,看命令行出现(course_py35)或者说是你自己设定的名称,表示已经载入这个环境。
quit()退出后安装别的工具包。
用 conda 安装 pandas,输入:
conda install pandas
conda安装scipy和pandas都是需要先退出python(也就是说,如果你之前在命令行输入了python的话,需要先使用quit()命令退出),在之前创建的course_py35环境里安装;检查包是否安装成功,需要首先进入python,再使用"import +包名字"进行检查,如检查scipy是否安装成功,可以输入import scipy。
用 pip 安装 scikit-learn,输入:
pip install scikit-learn
很多包其实用 pip 也是可以直接安装的
心得:1.通过anaconda下载和安装python可以方便添加更多用于数据分析的工具包。其mini版本所占空间小。
2.虚拟环境配置用清华镜像服务下载会快一些。
3.执行安装命令安装科学计算所需工具包的套路是conda或者pip+install+工具包名,然后通过输入python看是否安装好,之后通过quit()退出。