一.注解 1.@Target 注解 (1)功能: 指明了修饰的这个注解的使用范围,即被描述的注解可以用在哪里。 (2)ElementType的取值包含以下几种: TYPE:类...
一.注解 1.@Target 注解 (1)功能: 指明了修饰的这个注解的使用范围,即被描述的注解可以用在哪里。 (2)ElementType的取值包含以下几种: TYPE:类...
1.继承Thread 优点:可以直接使用Thread类中的方法,代码简单 缺点:继承Thread类之后就不能继承其他的类 2.实现Runnable接口 优点:即时自定义类已经...
1.需求:在IDEA中编写代码,创建DataFrame 执行sql命令: 2.数据源: student.txt 3.编写代码:(1)添加依赖:pom.xml (2)Demo1...
1.需求:通过spark streaming统计端口号1234中的信息 2.编写代码:(1)添加依赖: 记得去掉spark-streaming中的 provided (2)M...
1.需求:用spark Streaming写一个wordcount程序,计算发往端口号1235中的信息(单词计数) 2.代码:(1)pom.xml (2)MyTotalNet...
1.需求:集成Spark SQL,使用SQL语句进行WordCount2.代码:(1)pom.xml (2)MyNetwordWordCountWithSQL.scala 3...
1.需求:利用SparkStreaming处理文件流: 2.代码:(1)pom.xml (2)FileStreaming.scala 3.运行 4.结果:
1.需求:利用SparkStreaming处理RDD队列流2.代码:(1)pom.xml (2) 3.运行: 4.结果:
1.需求:SparkStreaming处理来自flume push方式发来的数据,即flume将数据推给spark Streaming 2.代码:(1)pom.xml (2)...
1.需求:处理来自flume pull方式发来的数据 2.代码:(1)pom.xml (2)option2 option2 (3) FlumeLogPul.scala 3.将...
我是一个很懒的人,晚期拖延症患者,为了与懒病作斗争,我加入了日更计划,每天都要写,没得写也要硬着头皮写,可以说这个办法管用,到目前已经连写了三十八天,对于我来说前所未有。但是...
1.需求:使用 case class 创建DataFrame 2.数据源: student.txt 3.编写代码(1)添加依赖:pom.xml (2)Demo2.scala ...
1.需求:读取本地student.txt,并创建DataFrame,并将结果写入mysql数据库中 2.数据源: student.txt 3.写代码: (1)添加依赖:pom...
1.需求: 使用Spark SQL 连接hive ,读取数据,将统计结果存储到 mysql中 2.将写好的代码打包上传的集群,然后提交spark运行,前提是hive,HDFS...
实际开发中,随着业务量的增加,项目中的相关配置文件会不断增多,而有的配置信息只需要在本地开发的时候需要加载,例如加密所需的jks文件,每个开发者的jks文件在本地存放的路径不...
1.错误信息: 2.错误原因:是因为自己是在搭建的一个spark集群上执行这歌命令,而集群中每一个节点都要工作,都要找到自己节点的本地文件,因此需要每一个节点的路径下都要存在...
蒙蒙天气,微漫雾霾。是2019年12月8日的一个星期天。这一天,吃了到北京的第一个自助老火锅。 一如既往,周六、周日都会有早餐时刻。而今天,该由我早起买早餐,讲道...
1.需求:使用JDBC RDD 操作数据库2.在数据库中建表并插入数据: 3.添加JDBC驱动 4.写代码: MyJDBCRddDemo.scala 5.结果: