对于SEO和很多网络营销推广工作来说,采集抓取和模拟访问都是必备的工作。
这时候就会面临一些问题:
1、对于网站平台方来说,采集抓取会造成服务器压力过大,对正常用户的访问产生干扰。而且内容被竞争对手或高权重网站采集走,对自己流量是一种威胁。
所以很多网站都不欢迎采集行为,除了百度这些能带来流量的蜘蛛,基本上能屏蔽都会屏蔽。
可对于站长和一些做数据分析工作的人来说,不让采集也得想办法。
2、还有一些做百度知道推广的朋友,自问自答是很常见的事,这也需要更换不同地区的IP。
3、再比如百度搜索结果在不同地区的排名也是不一样的,想知道某个关键词在对应地区的排名?也需要对应地区的IP资源。
还有很多使用场景,比如投票、注册等等,都需要大量的不同IP资源。
那怎么解决呢?
市面上有一种产品叫做IP代理,可以完美解决这个问题,我们也做了一个类似产品叫谢邀云服务。
目前还在内测中,网址是:http://www.xieyaoyun.com:804/
目前客户案例:
A、某朋友APP每天都增量采集500万大众点评网上的餐饮优惠信息。
B、某知名B2B网站帮客户商铺查关键词的百度排名获取、变更情况。
这种产品的原理是什么?
这种产品最重要的资源是大量支持ADSL拨号的VPS服务器。
据说最初始这种线路商都是坐火车跑全国买ADSL线路。
然后把这些不断拨号获得的IP地址放到公共IP池里,需要用的时候拿出来使用。
也有一些平台会扫描大量代理IP混合在一起,提升自己总的可用IP量。
产品如何使用?
我们设计了两种代理模式:
一种叫动态代理模式(爬虫模式),每次请求网页都会换一个IP,非常适合于采集数据资料。
另外一种叫经典代理模式(自主切换IP模式),每隔5分钟会切换IP,但你也可以通过命令请求自己切换。
支持各种编程语言都可以接入使用,比如php、java、python等等。
先购买对应模式的隧道账号
Python3 爬虫模式接入代码如下
# 导入request库,用于做http请求
import requests
# 要访问的目标页面
targetUrl = "http://ip.3322.org/"
# 动态代理服务器
proxyHost = "dongtai.xieyaoyun.com"
proxyPort = "33002"
# 代理隧道验证信息
proxyUser = "你的隧道用户名"
proxyPass = "你的隧道密码"
proxyMeta = "http://%(user)s:%(pass)s@%(host)s:%(port)s" % {
"host" : proxyHost,
"port" : proxyPort,
"user" : proxyUser,
"pass" : proxyPass,
}
proxies = {
"http" : proxyMeta,
"https" : proxyMeta,
}
resp = requests.get(targetUrl, proxies=proxies)
print(resp.status_code)
print(resp.text)
做百度知道问答需要更换浏览器的IP地址,那如何操作呢?
如果你用的Windows系统,打开浏览器的Internet属性设置,点击连接->局域网设置->代理服务器
把购买的经典版代理的服务器地址填进去: jingdian.xieyaoyun.com,端口使用33001
当你设置好这些后,再次刷新浏览器(Chrome、IE、Firefox基本相同)会提示你输入用户名和密码,这里填写你购买的经典版隧道用户名和密码即可。
这时你就可以打开百度知道登录提问了。
打开ip138.com查下当前的IP地址如下:
当你想切换IP时候,浏览器输入如下地址:
http://proxy.xieyaoyun.com:804/?name=你的隧道用户名&pass=你的隧道密码
或者等5分钟IP切换后,清除浏览器cookie信息,重启浏览器登录其他百度账号回答问题。
总结
利益相关,以上是自己公司提供的代理IP服务介绍和说明。
如果你或者朋友有对应的需求,欢迎加我微信交流购买:vista8
目前仅需100元/月。(同行都在200以上,甚至高达400元/月)
与此同时,希望结识更多做数据采集相关的小伙伴,一起交流学习技术。