Python的HTTPS验证

简述

最近在研究微信机器人的Python脚本,很是好奇它是如何做到的,后来发现它只是模拟登陆网页版微信而实现的,通过研究这些东西也学到了不少东西,首先是脚本的里面都是通过简单的HTTPS请求来实现的,既然是模拟网页版微信,那一定是抓取网页版微信的接口,以前一直以为HTTPS是不可抓取的,后来发现并非如此,通过《使用 Charles 获取 https 的数据》一步步抓取了网站的接口,发现腾讯的安全措施也并非那么好,经过解析都是明文的,瞬间感觉很不安全。那么HTTPS真的是这么不安全吗,也不是,只不过是没有使用SSL Pinning,如果是使用了SSL Pinning的HTTPS还是无法抓取的。

起因

了解了微信机器人的原理,我就慢慢摸索着这个项目的具体实现细节,我想直接使用Charles抓取这个项目究竟使用了哪些微信的接口,发现没有成功,给我抛了个下面的错误:

requests.exceptions.SSLError: ("bad handshake: Error([('SSL routines', 'tls_process_server_certificate', 'certificate verify failed')],)",)

猜想

我很是纳闷,测试了自己的Charles抓取HTTPS也是正常的,那Charles的代理证书就没问题,为什么Python还给抛出了这样的一个错误,之后我将Charles关闭,项目正常运行,很是奇怪,我猜想肯定代理的问题,毕竟Charles抓取的原理是作为一个代理来截获的。

调试

于是我尝试一步步调试,发现Python确实能识别出代理和真实请求,于是我使用了下面去掉代理的代码测试了一下:

r = requests.get(url='https://login.weixin.qq.com',proxies={'no_proxy':'login.weixin.qq.com'})

结果是成功的发送了请求,也没有报错,天真的我以为可以确定就是代理的问题,其实也不尽然,这个请求Charles居然抓不到了,欲哭无泪,只好继续一步步调试到底是哪里出了问题。
结果我发现了Python的如果发现是HTTPS请求,会默认开启证书验证verify = True,但是我的Charles代理证书也是没问题的,为什么就通不过呢,真实的原因就在于,Python对于HTTPS请求中的证书的验证,并不会去系统的证书系统(Mac的钥匙串访问)验证,而是使用它自己的证书cacert.pem,被Python放置和定义的路径为DEFAULT_CA_BUNDLE_PATH = certs.where(),其值是/Library/Python/2.7/site-packages/certifi/cacert.pem,我们双击打开之后会发现他会安装在了钥匙串访问中,

cacert.pem

其实在系统的根证书的列表里也有以GlobalSign Root CA命名的证书,但其实两个是不一样的东西,我们可以用文本方式打开Python下的cacert.pem证书,发现里面有很多证书颁发机构
cacert.pem中的GeoTrust Global

也就是说如果你的HTTPS请求到的服务器证书的颁发机构被包含在Python的证书下,验证就能通过,网页版的微信的HTTPS服务器证书:
web微信的证书

包含在cacert.pem证书里面,那自然是可以通过请求,而Charles的自签名证书,是没有在cacert.pem证书里,验证就不会通过。

验证

你还记得你买票的时候,12306会提示你安装一个证书吗,毕竟这不是一个在CA付费机构购买且让浏览器信任的证书,这是一个自签名证书的网站,我们可以通过12306网站证明一下证书的问题:

r = requests.get(url='https://kyfw.12306.cn/otn/')

正如预想的那样,Python抛出了certificate verify failed的错误。

参考

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 216,402评论 6 499
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 92,377评论 3 392
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 162,483评论 0 353
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 58,165评论 1 292
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 67,176评论 6 388
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 51,146评论 1 297
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 40,032评论 3 417
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 38,896评论 0 274
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 45,311评论 1 310
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 37,536评论 2 332
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 39,696评论 1 348
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 35,413评论 5 343
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 41,008评论 3 325
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 31,659评论 0 22
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,815评论 1 269
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 47,698评论 2 368
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 44,592评论 2 353

推荐阅读更多精彩内容

  • HTTPS介绍 超文本传输安全协议(英语:Hypertext Transfer Protocol Secure,缩...
    齐滇大圣阅读 8,919评论 8 96
  • 本文摘自 腾讯bugly 的文章《全站 HTTPS 来了》,内容有修改。 大家在使用百度、谷歌或淘宝的时候,是否注...
    bnotes阅读 3,650评论 1 9
  • Spring Cloud为开发人员提供了快速构建分布式系统中一些常见模式的工具(例如配置管理,服务发现,断路器,智...
    卡卡罗2017阅读 134,651评论 18 139
  • 这篇文章是我一边学习证书验证一边记录的内容,稍微整理了下,共扯了三部分内容: HTTPS 简要原理;数字证书的内容...
    左边飞来一只狗阅读 3,292评论 2 5
  • 20171104 熬过了一天,自己还活着,真的很幸福。想想明天的课,整个人处于头大的状态。最近很忙,忙起来好,这样...
    梦家小妖阅读 198评论 0 0