公共管理学院全职教师数据爬取实验报告

(一)实验目的

本数据爬取实验的目的在于通过四川大学校方官网,收集获取四川大学公共管理学院全职教师的基本数据并进行相关处理,以掌握基本的数据爬取技能。

(二)实验基本要求

实验要求通过数据抓取工具,获取公共管理学院全职教师的基本信息。包括该教师的姓名、照片、职位等基本介绍,以及教师的代表性科研成果、教师获奖情况、教师的人才培养情况、科研项目等基本信息。

(三)基本实验条件

简易数据爬取工具:八爪鱼采集器,数据处理工具:Microsoft Office Excel 2007。

(四)实验分工

我们小组有5位成员,分别为:骆芷珊、李兴佳、胡云、何春、万若曦。鉴于所要爬取的数据有多个方面内容,我们根据爬取数据的内容进行简要分工如下:

万若曦:完成教师简要信息的爬取,如教师名称、职位、基本介绍、照片的信息爬取。
李兴佳:完成公共管理学院教师所有代表性研究成果的信息爬取。
胡云:完成公共管理学院教师人才培养的相关信息爬取。
何春:完成公共管理学院教师获奖情况的信息爬取。
骆芷珊:完整公共管理学院教师具体从事的科研项目信息爬取。

(五)实验具体过程

1.到八爪鱼官网处下载最新版本的八爪鱼软件

八爪鱼官网.png

2.登录后选择自定义采集(向导模式)
选择向导模式.png

3.根据向导提示按照以下顺序完成设置:

  • 输入网址


    输入网址.png
  • 选择要采集的网页类型(列表或表格/网页列表中每个链接页的详细内容/单网页内容,本次爬取需要爬取的是教师的详细信息中的“科研项目”,故选择第二种类型)


    选择采集的网页类型.png
  • 配置链接列表(按顺序点击第一、第二个链接)


    配置链接列表.png
  • 选择是否需要翻页(教师信息共有17页,所以本次选择翻页,点击“下一页”按钮为翻页按钮并设置翻页次数为“17”)


    翻页设置.png
  • 选择要爬取的数据项


    字段选取.png
  • 完成,开始采集数据


    开始采集.png

在具体的数据爬取操作过程中,各个同学根据分工,所进行数据采集时,需要注意的细节如下:

  • 直接点击可配置抓取的模板,即需要爬取的数据如教师的姓名,获奖情况的具体内容。将鼠标放到“配置抓取模板”的提取的内容上,可以检查是否选择到完整的数据。如有问题,可以直接删除该字段。然后选择下一步。
  • 教师的图片、教师的名称等。需要用户一一选中,并定义相应的字段,如:选中图片定义“教师照片”字段,选中教师名称,定义“教师名称”字段,并设置需要采集文本数据,还是图片数据。
  • 用户之前有建立相关的任务,可以直接用以将本次任务命名为【四川大学公共管理学院全职教师】。系统显示成功保存本次任务之后,点击启动本地采集,即跳入爬取数据的界面。本次任务大概经过2-3分钟,即可获得所要爬取的数据。可以选择即刻导出数据,也可稍候导出。点击导出数据,134条数据需要花费14积分八爪鱼免费注册用户最开始会有2000积分。用户可以直接免费的导出数据,格式选择为Excel2007即可。最后,可以选择将本次数据爬取的结果清空,或者保存。

4.软件开始自动采集数据,并生成不同数据的采集结果预览


数据采集过程进行中.png

采集完成.png

09.png
  • 然后再选择其它需要采集的元素,进行相同的操作。 最终爬取数据的流程图如图所示:
    07.png

5.导出数据为Excel文件

(六)实验数据与处理结果

(1)所获得的实验数据

根据分工,数据挖掘操作结束后,我们得到了5张关系表,分别为教师基本信息表、教师代表性研究成果表、教师人才培养信息表、教师获奖情况信息表、教师从事科研项目信息表。如下图:

教师代表性研究成果.png

教师简要信息.png

(2)数据处理结果

由于每个表的记录都是对公共管理学院全职教师的不同方面信息描述,即五张表之间可通过姓名为外键进行连接,故可将五张表进行自然连接形成一张表,即对公共管理学院全职教师的详细信息描述表。
下图为整合后,公共管理学院全职教师信息描述表的部分内容:


教师详细信息.png
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 203,772评论 6 477
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 85,458评论 2 381
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 150,610评论 0 337
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 54,640评论 1 276
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 63,657评论 5 365
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 48,590评论 1 281
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 37,962评论 3 395
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 36,631评论 0 258
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 40,870评论 1 297
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,611评论 2 321
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 37,704评论 1 329
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 33,386评论 4 319
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 38,969评论 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 29,944评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,179评论 1 260
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 44,742评论 2 349
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 42,440评论 2 342

推荐阅读更多精彩内容