爬虫环境配置(Ubuntu)

python环境安装

1. sudo apt-get install python3-dev build-essential libssl-dev libffi-dev libxml2 libxml2-dev libxslt1-dev zlib1g-dev
2. python3及pip3

MongoDb环境及安装

用于存储结构化字典数据。

apt-get install mongodb

Redis环境anzhaung

分布式爬虫使用,因为redis高效

apt-get install redis-server

需要用密码登陆:auth 密码
密码在/etc/redis/redis.conf
搜索requirepass就可以找到密码

python多版本

参考文章
在系统级修改 Python 版本

我们可以使用 update-alternatives 来为整个系统更改 Python 版本。以 root 身份登录,首先罗列出所有可用的 python 替代版本信息:

# update-alternatives --list python

update-alternatives: error: no alternatives for python

如果出现以上所示的错误信息,则表示 Python 的替代版本尚未被 update-alternatives 命令识别。想解决这个问题,我们需要更新一下替代列表,将 python2.7 和 python3.4 放入其中。

# update-alternatives --install /usr/bin/python python /usr/bin/python2.7 1
update-alternatives: using /usr/bin/python2.7 to provide /usr/bin/python (python) in auto mode
# update-alternatives --install /usr/bin/python python /usr/bin/python3.4 2
update-alternatives: using /usr/bin/python3.4 to provide /usr/bin/python (python) in auto mode

--install 选项使用了多个参数用于创建符号链接。最后一个参数指定了此选项的优先级,如果我们没有手动来设置替代选项,那么具有最高优先级的选项就会被选中。这个例子中,我们为 /usr/bin/python3.4 设置的优先级为2,所以update-alternatives 命令会自动将它设置为默认 Python 版本。

# python --version

Python 3.4.2

接下来,我们再次列出可用的 Python 替代版本。

# update-alternatives --list python

/usr/bin/python2.7

/usr/bin/python3.4

现在开始,我们就可以使用下方的命令随时在列出的 Python 替代版本中任意切换了。

# update-alternatives --config python
# python --version

Python 2.7.8

python库安装

pip install requests selenium beautifulsoup4 pyquery pymysql pymongo redis flask django jupyter

请求库

request selenium

解析库

beautifulsoup pyquery

存储库

mongodb redis mysql

工具库

©著作权归作者所有,转载或内容合作请联系作者
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。

推荐阅读更多精彩内容

  • 关于Mongodb的全面总结 MongoDB的内部构造《MongoDB The Definitive Guide》...
    中v中阅读 32,004评论 2 89
  • Spring Cloud为开发人员提供了快速构建分布式系统中一些常见模式的工具(例如配置管理,服务发现,断路器,智...
    卡卡罗2017阅读 134,841评论 18 139
  • Spring Boot 参考指南 介绍 转载自:https://www.gitbook.com/book/qbgb...
    毛宇鹏阅读 46,926评论 6 342
  • 今日清明,整个宿舍很是冷清。感觉就像是经历了早晨菜市场般喧嚣的夏日下午,很烦闷,很无聊。我不记得是第几次,在节假日...
    雯_24db阅读 212评论 0 0
  • 善良是一种选择,选择坚守善良,意味着原生家庭的涵养和付出,意味着从生到死的心灵历练,也意味着幸福的钥匙,精神的富足...
    小鱼儿ya阅读 746评论 0 4