cdh5.15.1集成flink说明

    本文说明如何在已有的cdh集群上添加flink服务。分为如下几步进行说明:

1.环境说明

2.flink-parcel的制作

3.cm添加flink-parcel

4.cm上添加flink服务

5.验证

环境说明


flink-parcel制作

前提:在制作flink-parcel的时候保证git、maven已安装并可以访问外网。

       制作分为如下步骤:

1)下载制作包

执行命令:git clone https://github.com/pecanNBU/flink-parcel.git

2)修改配置文件

修改flink-parcel.properties配置文件,修改内容如下图:

详细内容见附件。

3)生成parcel文件

执行命令:./build.sh parcel 执行成功后会在FLINK-1.9.1-BIN-SCALA_2.11_build路径下生成如下三个文件:

FLINK-1.9.1-BIN-SCALA_2.11-el7.parcel 

FLINK-1.9.1-BIN-SCALA_2.11-el7.parcel.sha 

manifest.json

执行中可能出现的问题:

1:无法下载maven-jar-plugin等插件

因为网络的原因,检查网络或换成本地虚拟机进行生成

2:无法下载flink-1.9.1-bin-scala_2.11.tgz

flink-parcel.properties配置文件中的FLINK_UR配置项配置的url无法下载,可以通过flink官网上查找下载地址(https://flink.apache.org/downloads.html)

4)生成csd文件

on yarn 版本

执行命令:./build.sh csd_on_yarn 执行成功后会生成FLINK_ON_YARN-1.9.1.jar文件。

standalone 版本

命令:./build.sh csd_standalone

cm添加flink

1)拷贝文件

将FLINK_ON_YARN-1.9.1.jar文件拷贝到cloudera-server所在主机的/opt/cloudera/csd/路径下,不存在该路径就手动进行创建。

将FLINK-1.9.1-BIN-SCALA_2.11-el7.parcel、FLINK-1.9.1-BIN-SCALA_2.11-el7.parcel.sha、manifest.json三个文件拷贝到cloudera-server所在主机的/opt/cloudera/parcel-repo/路径下,不存在该路径就手动进行创建,如果该路径下存在manifest.json则将该文件重命名之后再进行拷贝。

2)cm管理界面添加flink-parcel

步骤如下:

分别执行“分配”、“激活”。在右侧’停用’按钮在未分配未激活前为”分配”按钮。

3)添加flink服务

分配、激活完flink-parcel之后添加flink服务,如下:

执行中可能出现的问题:

1:分配、激活flink-parcel之后在添加服务界面上找不到flink服务,日志提示:Range [CDH 4.0.0‥CDH 6.0.0) does not enclose compatibility range [CDH 5‥CDH 7.0.0)

因为本次搭建的cdh集群版本为5.15.1,而生成的flink-parcel文件要求的版本在[CDH 5‥CDH 7.0.0)范围内,超出了本地cdh集群运行的范围[CDH 4.0.0‥CDH 6.0.0)。

将flink-parcel.properties配置文件中的CDH 小版本和CDH 大版本配置在已存在cdh集群的范围内,重新生成parcel。

2:在重新拷贝parcel到cdh中cm界面中parcel激活一直卡住

用cm提供的api接口手动将卡住的parcel返回到激活之前的状态,操作步骤如下:

获取cdh集群名称:

curl -u ${username}:${password} 'http://${cloudera-managerIP}/api/v1/clusters'

执行回滚激活状态:

curl -u ${username}:${password} -X POST http://10.121.37.9:7180/api/v16/clusters/${clusterName}/parcels/products/${PARCEL名称}/versions/${PARCEL版本}/commands/deactivate

启动flink服务

添加完服务之后直接在cm管理界面中进行启动操作。启动成功后会在yarn上启动一个容器,如下图所示:

执行中可能出现的问题:

1:启动报错,查看/var/log/flink/flink-yarn.out日志提示classnofound错误

因为缺少jar,将缺少的jar包从/opt/cloudera/parcels/CDH/jars路径拷贝到/opt/cloudera/parcels/FLINK-1.9.1-BIN-SCALA_2.11/lib/flink/lib/路径下。可能会缺少多个jar,需要反复重启->查看日志进行确定,本次搭建缺少的jar如下:

commons-configuration-1.6.jar

commons-lang-2.6.jar

commons-logging-1.1.3.jar

guava-11.0.2.jar

hadoop-auth-2.6.0-cdh5.15.1.jar

hadoop-common-2.6.0-cdh5.15.1.jar

hadoop-hdfs-2.6.0-cdh5.15.1.jar

hadoop-yarn-api-2.6.0-cdh5.15.1.jar

hadoop-yarn-client-2.6.0-cdh5.15.1.jar

hadoop-yarn-common-2.6.0-cdh5.15.1.jar

htrace-core4-4.0.1-incubating.jar

log4j-1.2.17.jar

protobuf-java-2.5.0.jar

slf4j-log4j12-1.7.15.jar

验证

通过执行flink自带的workcout程序进行验证。执行如下命令:

/opt/cloudera/parcels/FLINK-1.9.1-BIN-SCALA_2.11/lib/flink/bin/flink run -yid application_1568019723575_0007 ./examples/batch/WordCount.jar -input hdfs://szpbs-bjmap-dev-app14:8020/tmp/LICENSE -output hdfs://szpbs-bjmap-dev-app14:8020/tmp/wordcount-result_1.txt

执行成功后会在hsfs的/tmp路径下生成wordcount-result_1.txt文件。

注意:

1.-yid通过yarn的webui进行查看

2.要确保hdfs上有LICENSE文件,不存在可以自行拷贝到hdfs上。

3.要确保执行该命令的用户在hdfs上的/tmp有写权限。

其他

/opt/cloudera/parcels/FLINK-1.9.1-BIN-SCALA_2.11/lib/flink/bin/flink-yarn.sh 脚本中添加其他启动参数,如下图:

附件

flink-parcel.properties

#FLINk 下载地址

FLINK_URL=http://mirrors.tuna.tsinghua.edu.cn/apache/flink/flink-1.9.1/flink-1.9.1-bin-scala_2.11.tgz


#flink版本号

FLINK_VERSION=1.9.1


#扩展版本号

EXTENS_VERSION=BIN-SCALA_2.11


#操作系统版本,以centos为例

OS_VERSION=7


#CDH 小版本

CDH_MIN_FULL=5.2

CDH_MAX_FULL=6.0


#CDH大版本

CDH_MIN=5

CDH_MAX=5

    今天的分享就到这,有看不明白的地方一定是我写的不够清楚,所有欢迎提任何问题以及改善方法。

©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 212,185评论 6 493
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 90,445评论 3 385
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 157,684评论 0 348
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 56,564评论 1 284
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 65,681评论 6 386
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 49,874评论 1 290
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 39,025评论 3 408
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 37,761评论 0 268
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 44,217评论 1 303
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 36,545评论 2 327
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 38,694评论 1 341
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 34,351评论 4 332
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 39,988评论 3 315
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 30,778评论 0 21
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,007评论 1 266
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 46,427评论 2 360
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 43,580评论 2 349