Python + selenium爬QQ说说

参考网站:http://zmister.com/archives/98.html

目标:Python用selenium爬取某位幸运观众的QQ空间说说的文字内容,发表时间。

(1)源代码如下:

(2)运行结果如下:

(3)关键问题:

①关与所调用的浏览器

FireFox:

driver = webdriver.Firefox(executable_path="D:\Program Files\geckodriver\geckodriver.exe")

调用简单,运行速度较慢,关键是莫名出现bug


关于这个问题,百度过后并未找到解决方案。根据搜索结果,应该是FireFox升级以后与selenium版本不兼容出现的bug。

Chrome:

chromedriver = "C:/Users/Windows/AppData/Local/Google/Chrome/Application/chromedriver.exe"

os.environ["webdriver.chrome.driver"] = chromedriver

driver = webdriver.Chrome(chromedriver)

调用略复杂?运行速度较FireFox快,没有bug

phantomjs:

driver= webdriver.PhantomJS(executable_path=r"D:\Program Files\phantomjs-2.1.1-windows\bin\phantomjs.exe")

一开始并没有在路径前加r,一直报错提示要把phantomjs添加到PATH中。然而我已经添加过了,还在代码中直接指明路径。经过百度,是windows指明路径时需在路径前加r。


之前指明FireFox和Chrome的路径也没有加r,也没有因此报错。不知道phantomjs为什么要加r

②关于找不到frame

----在第一页中系统报告找不到上述frame。

     添加等待时间后,问题得到解决。

----在第二页时,即使添加等待时间后,也找不到上述frame。

     需要在查找该frame前返回到default content

③爬取发表说说的时间

----找不到元素

    一开始定位元素的方式是:stime = driver.find_elements_by_class_name("c_tx c_tx3 goDetail")

    这是根据源代码直接复制下来的class属性。然而系统报错,表示属性名不合法。

    经过百度,原来  是selenium所查找元素的class_name不能含有空格。因此只能用另外一种表示:

    #stime = driver.find_elements_by_css_selector(".c_tx.c_tx3.goDetail")

    爬取成功

----说说内容与时间不对应

         当用户转发其他人的说说时,爬取下来的时间居然是所转发说说的发表时间。原因是,该元素的名称和目标元素名称一致。因此换用别的方式定位元素:

stime = driver.find_elements_by_xpath("//div[@class='box bgr3']/div[@class='ft']/div[@class='info']/span[@class='c_tx3']/a")


总结:百度真是个好东西

源代码: https://github.com/caiyingyi/qq

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 216,324评论 6 498
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 92,356评论 3 392
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 162,328评论 0 353
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 58,147评论 1 292
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 67,160评论 6 388
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 51,115评论 1 296
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 40,025评论 3 417
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 38,867评论 0 274
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 45,307评论 1 310
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 37,528评论 2 332
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 39,688评论 1 348
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 35,409评论 5 343
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 41,001评论 3 325
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 31,657评论 0 22
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,811评论 1 268
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 47,685评论 2 368
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 44,573评论 2 353

推荐阅读更多精彩内容