【爬虫】简单爬取b站的弹幕列表

最近有朋友在群上面说做个b站某视频的弹幕统计列表,筛选出弹幕最多的那条!那么如何解决这个问题呢?首先肯定是要获取弹幕的列表吧,然后再进行分析吧。筛选出弹幕最多的那条,这个好办用collections可以解决,那么关键的问题应该就在怎么获取b站的弹幕列表了吧。

开发环境:
window7+chrome
idea+python插件
requests+json+beautifulsoup+collections

那解决步骤如下:

  1. 解析视频播放页面链接
  2. 查找弹幕资源所在地
  3. 数据分析 (collections.Counter)
  4. 数据存储(file)
  5. 导出exe

解析视频播放页资源,查找弹幕资源所在

  1. b站的视频链接地址都是https://www.bilibili.com/video/av22068969/
    也就是https://www.bilibili.com/video/+视频av号
  2. 查看下html网页源文件是否包含着弹幕的资源快捷键ctrl+u,选择其中的弹幕内容,发现不存在
  3. 按f12+选择network这个tab查看页面加载的时候的js链接处理


  4. 我们发现弹幕的内容包括在一个xml文件里面,对,而且还没有分页的处理


  5. 那就简单了,获取弹幕的链接列表就是https://comment.bilibili.com/+数字+.xml
  6. 那么下一步就是找到这个数字所对应的链接了

    https://api.bilibili.com/x/player/pagelist?aid={}&jsonp=jsonp.format("av号")

定代码架构:

def get_movie_url(av):pass #获取cid
def get_barrage_list(url):pass #获取列表
def get_barrage_count(list):pass #获取筛选数值
def write_text(content):pass #写进文本

写py代码

l_list = []

def get_movie_url(av):
    response = requests.get(url_get_comment_cid.format(str(av)))
    content = response.content.decode(response.encoding)
    content = json.loads(content)
    for d in content.get('data'):
        cid = d.get('cid')
        get_content(cid)
    print("共有{}条弹幕".format(len(l_list)))
    count = collections.Counter(l_list).most_common()
    writetest(av, l_list)
    writetest(str(av) + "count", count)


def get_barrage_list(cid):
    response = requests.get(url_get_comment.format(str(cid)))
    content = response.content.decode(response.encoding)
    b = bs(content, 'xml')
    for i in b.findChildren('d'):
        l_list.append(i.text)


def write_text(av, l):
    with open(str(av) + '.txt', 'w+', encoding='utf-8') as f:
        for i in l:
            f.write(str(i)+"\n")

使用pyInstanller导出exe

安装pyInstaller ,pip install pyinstaller 最新版本是3.3.1
pyinstaller -F py文件路径
生成exe文件,打开运行,至于下一步想导入excel


好的,就这样写完了。。。

©著作权归作者所有,转载或内容合作请联系作者
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。

推荐阅读更多精彩内容

  • Spring Cloud为开发人员提供了快速构建分布式系统中一些常见模式的工具(例如配置管理,服务发现,断路器,智...
    卡卡罗2017阅读 134,881评论 18 139
  • 在简书发现一篇有趣的文章:爬虫,走起,用Excel实现5min抓取B站弹幕及初步处理讲到了如何根据开发者工具,获得...
    X_xxieRiemann阅读 4,959评论 2 10
  • 用到的组件 1、通过CocoaPods安装 2、第三方类库安装 3、第三方服务 友盟社会化分享组件 友盟用户反馈 ...
    SunnyLeong阅读 14,672评论 1 180
  • 一、产品概况 Bilibili(又称B站)是国内一家大型弹幕视频分享网站,由站长“@9bishi”于2009年6月...
    寂静之海阅读 48,067评论 4 90
  • 生了巨大儿应注意什么 今天我所说的巨大儿指的是孩子出生后体重超过8斤的婴儿,而不是孕期检查出来的巨大儿。很多人一听...
    万家精灵阅读 196评论 0 1