大数据技术知识的学习及其切入点

大数据在越来越多的领域得到了关注,将成为今后很长时间内科研、技术、产业、市场的焦点。作为大数据技术的学习者和应用开发者,应该从哪个角度入手掌握大数据技术? 在目前纷繁复杂的各类教材和参考书中如何选择适合自己的书籍? 本文介绍并分析了学习大数据技术时,需要考虑的问题。

首要的问题:学习大数据要有充足的大数据源。也许很多人会想到使用交通大数据、金融大数据、医疗大数据、政务大数据等,但是仔细一想,这些数据的开放性很差。5月24日在贵阳的大数据产业博览会上,大批专家学者还在争论数据开放共享和数字政府治理的相关政策问题,还是一个务虚会,可见此类数据要真正开放共享、真正让普通学习者使用还有很长的路。从根本上讲,这些数据涉及到民众的大量隐私问题,即使能开放共享,也需要在特定的、受控的场合下使用,而这实际上这并不可行。在《互联网大数据处理技术与应用》一书中,我们阐述了互联网大数据作为教学、学习以及开发应用的重要性和可行性。

其次,要认识自己的技术特长、兴趣和学习的目的,选择合适的切入点进行学习。我们知道大数据技术通常包含3或4层的技术,以互联网大数据技术为例,其技术体系包含四层,即数据获取层、大数据计算与存储层、数据挖掘模型与算法层以及应用领域技术层。

作为大数据的学习者可以选择这四个层面作为自己的切入点。作为高校大数据教学,让学生进行系统地学习则是很重要的,这样有利于给学生一个全局、整体的理解,这样就要求以“系统学习的切入点”入手。如图所示,互联网大数据知识体系中标注了这些不同的切入点。



接下来,分析各个层次选择的一些考虑。如果你对大数据开发感兴趣,想系统学习大数据的话,可以加入大数据技术学习交流扣扣群:458数字345数字782,欢迎添加,私信管理员,了解课程介绍,获取学习资源

数据获取层:技术手段比较多样化,对于互联网大数据而言,数据的获取主要有三类方法,即网络爬虫、网络探针以及ETL。虽然爬虫技术也被越来越多的人所认识,但是爬虫形式多样化,包含普通爬虫、主题爬虫、微博爬虫、DeppWeb爬虫、动态爬虫甚至Dark Web爬虫技术,有共同的技术特点,也有较大的差异。以该层作为重点的话,应当深入理解爬虫的技术原理,以便能对爬虫采集的性能进行底层优化,特别是在爬行策略的设计上。

大数据计算与存储层:这个层次上的计算是指面向大数据分析的一些底层算法,典型的包括排序、搜索、查找、最短路径、矩阵运算等。这些算法与具体应用无关,它们为上层的数据挖掘提供基本的函数调用,算法性能的重要性不言而喻。一般需要一些分布式计算平台支持,例如Spark、Hadoop。但是该层作为研究和学习的重点,存在一定风险,就是平台技术的迭代太快,或许你还没有把Spark的技术原理彻底搞清楚,就有新的更好的平台出现,大家都追随新平台去了,老平台被大家抛弃。

数据挖掘模型与算法层:这个层次对采集的数据进行处理,根据具体应用需求,运用大数据分析算法进行数据分析,建立相关模型。各种大数据分析挖掘算法主要包括数据聚类、分类、相关性计算、回归、预测等。这些算法的输出结果将直接为领域提供具体的分析结果,是大数据分析的真正产出。在这个层次中,隐私保护技术是一种比较特殊的技术手段,主要用于对大数据中涉及个人和单位的敏感信息进行脱敏。针对该层,也有一些典型的开源系统,如运行于Hadoop 上的Mahout、Weka、oryx 以及运行于Spark上的MLib 等,都对大数据分析提供了支撑,同时也允许自己对算法进行改进和提升。是一个不错的切入点。

应用领域技术层:在这个层次,主要涉及到与具体应用领域有关的技术。这些技术通常就与用户UI、系统管理、输出有关。

最后,回答前面提到的问题。现在大数据技术方面的参考书或教材很多,但是大都针对大数据计算与存储层或数据挖掘模型与算法层,技术层次的阐述不够完整,也不利于进行系统学习。《互联网大数据处理技术与应用》的特色是完整包含这四层技术,并且在数据挖掘模型与算法层中以非结构化数据为主,书中有许多例子,在清华大学出版社的图书主页上可以下载PPT。

©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 219,869评论 6 508
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 93,716评论 3 396
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 166,223评论 0 357
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 59,047评论 1 295
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 68,089评论 6 395
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 51,839评论 1 308
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 40,516评论 3 420
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 39,410评论 0 276
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 45,920评论 1 319
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 38,052评论 3 340
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 40,179评论 1 352
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 35,868评论 5 346
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 41,522评论 3 331
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 32,070评论 0 22
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 33,186评论 1 272
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 48,487评论 3 375
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 45,162评论 2 356

推荐阅读更多精彩内容

  • 前段时间有报道称,有学者质疑“大数据”理论,也有硅谷公司负责人质疑大数据应用的效果。结合2011年Gartner关...
    栀子花_ef39阅读 1,423评论 0 5
  • 大数据学习交流群:808769635 前段时间有报道称,有学者质疑“大数据”理论,也有硅谷公司负责人质疑大数据应用...
    顺治帝阅读 3,251评论 0 5
  • BI一词早在20年前就被提出,加特纳集团将商业智能定义为描述一系列的概念和方法,通过应用基于事实的支持系统来辅助商...
    faa9660dbf08阅读 950评论 0 7
  • 架构设计系列文章,请参见连接。 十分钟让你透彻理解大数据的工作方式。大数据并不是深不可测、高不可攀的技术,这里用1...
    Wales_Kuo阅读 2,796评论 0 12
  • 中年,思维钝牙齿松,尴尬!壮志未酬,血未曾冷,进取,有脚踏实地的脚步声。2018,中年人生,事情很多,女儿很小,老...
    金容阅读 313评论 0 9