python App爬虫怎么实现?答案在这有!

一、环境配置

在进行app爬虫之前,得先完成一些环境配置:

1、安装所需要的客户端库

我自己的版本是2.0.0,其余版本是否适配没试过

pip install appium-python-client==2.0.0

2、Appium Server相关文件

网盘链接:https://pan.baidu.com/s/1H7CD_Tr1QCpZGggHkHlTMw?pwd=bm20

1. 下载 Appium-windows-1.15.1.exe

2. 安装JDK: jdk-8u211-windows-x64.exe

3. 安装Android SDK: androidsdk.zip

现在已经不能单独安装Android SDK了,必须要一起下载谷歌集成好的包,包含了一个比较大的开发Android的IDE,就是Android Studio,而且Android的官方网站不能直接登录了,所以这里把SDK必须的文件打了一个压缩包,直接解压就可以了。

3、添加环境变量

1. jdk添加环境变量: JAVA_HOME ,指定值为jdk安装目录,比如JAVA_HOME D:\newsoft\jdk-8u211-windows-x64(根据自己的安装目录改变)

2. jdk,jre配置环境变量Path:

        %JAVA_HOME%\bin

        %JAVA_HOME%\jre\bin

3. 环境变量: ANDROID_HOME ,设置值为sdk包解压目录,比如 D:\newsoft\androidsdk\androidsdk(根据自己的安装目录改变)

4. 配置adb环境变量 Path:加入 adb所在目录,%ANDROID_HOME%\platform-tools\

安装验证

JDK, JRE 安装验证

adb 安装验证

二、连接模拟器

1、下载模拟器

网站:https://www.yeshen.com/

2、修改模拟器文件

1. 打开安装目录,进入到bin目录(比如:D:\newsoft\yeshen\Nox\bin)

2. 把j解压的Android SDK里的adb.exe ,复制到该目录覆盖掉该目录已存在的adb.exe 文件

3. 删掉该目录的nox_adb.exe 文件,再复制一份 adb.exe 并重命名为nox_adb.exe

4. 启动模拟器

5. 进入bin目录打开控制台,执行./nox_adb.exe connect 127.0.0.1:62001,然后执行adb devices -l,看到如下信息就表示成功了(如果是windows系统不用加 ./)


三、设置模拟器

1、打开夜神模拟器

点击右上角的设置齿轮,做如下设置:



2、进入开发者模式

点击桌面的工具—>设置—>关于平板电脑—>鼠标多次点击版本号,进入开发者模式:


四、在模拟器中安装apk软件

1、首先先确认连接上了模拟器:

进入bin目录打开控制台,执行./nox_adb.exe connect 127.0.0.1:62001,然后执行adb devices -l,看到如下信息就表示成功了(如果是windows系统不用加 ./)

2、下载App

这里以及下面的爬虫测试都以bilibili为例,搜索下载bilibili,点击安装即可。


五、模拟器连接Appium

1、启动及配置Appium

打开Appium之后直接点击Start Server就可以了


点击放大镜开始配置模拟器信息编辑


可以直接复制下面的JSON数据粘贴到右侧的输入框中,其中系统版本需要自己到模拟器中的 关于平板电脑 选项中自己查看。


{

"platformName":"Android",

"platformVersion":"7.1.2",

"deviceName":"MI 9"

}

全部信息填写完成后点击Start Session启动将Appium连接至模拟器,这时模拟器中会自动安装一个Appium Settings的软件,Appium通过这个软件控制模拟器的运行。

六、爬取数据

1、查看App应用名

打开模拟器里的bilibili,然后在windows命令行输入:

adb shell

接着输入:

dumpsys activity | grep mFocusedActivity

查看app应用名


2、进行爬虫代码书写,通过箭头点击左边信息框,得到id定位元素获取信息。


import time

from appium import webdriver

from appium.webdriver.extensions.android.nativekey import AndroidKey

from selenium.webdriver.common.by import By

caps={

'platformName': 'Android',

'platformVersion': '7.1.2', # 版本

"deviceName":"samsung", #设备名,安卓手机可随意填写

'appPackage':"tv.danmaku.bili", # 包名 ,由上面命令获得

'appActivity':".sms.SmsLoginDialogActivityV2", # 入口 ,由上面命令获得

'noReset' :False,

}

driver = webdriver.Remote("http://localhost:4723/wd/hub", caps)

driver.implicitly_wait(10)

# 通过id定位元素

driver.find_element(by=By.ID,value='agree').click()

time.sleep(2)

driver.find_element(by=By.ID,value='expand_search').click()

# driver.find_element(by=By.ID,value='text3').click()

time.sleep(2)

driver.find_element(by=By.ID,value='search_src_text').send_keys("黑神话")

time.sleep(2) # 自动按enter

driver.press_keycode(AndroidKey.ENTER)

time.sleep(2)

data = driver.find_elements(by=By.ID,value='title')

# 这里可以写无限下滑代码,自动下滑获取信息

for i in data:

        print(i.text) 

input('输入任意值退出')

driver.quit()

爬取到的信息

©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 204,530评论 6 478
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 86,403评论 2 381
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 151,120评论 0 337
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 54,770评论 1 277
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 63,758评论 5 367
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 48,649评论 1 281
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 38,021评论 3 398
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 36,675评论 0 258
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 40,931评论 1 299
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,659评论 2 321
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 37,751评论 1 330
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 33,410评论 4 321
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 39,004评论 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 29,969评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,203评论 1 260
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 45,042评论 2 350
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 42,493评论 2 343

推荐阅读更多精彩内容