一、Azkaban源码编译过程

一、概述

Azkaban项目由以下两个工程组成

  1. Azkaban:包括exec和web等工程,如果是单机版,则使用solo工程,源码地址:

官网社区版:https://github.com/azkaban/azkaban
二次开发版:https://github.com/huangyanxiong/DeAzkaban

  1. Azkaban-plugins:包含azkaban支持的各种插件,比如 hadoopMR、hive、spark 等,也可以自定义 plugin,源码地址:

官网社区版:https://github.com/azkaban/azkaban-plugins
二次开发版:https://github.com/huangyanxiong/DeAzkaban-plugins

编译以上两个工程需要准备以下软件(在win7下编译通过):

  1. Jdk:jdk-8u101-windows-x64.exe
  1. Git:git-2.9.0-64-bit.exe 和 TortoiseGit-2.1.0.0-64bit.msi
  2. Gradle:gradle-2.14-bin.zip
  3. Ant:apache-ant-1.9.7-bin.zip
  4. IDE:ideaIC-14.1.1.exe

下载地址:百度云链接:http://pan.baidu.com/s/1hs64HjI 密码:awv0
笔者已经把编译好的工程放到下载地址里了,如果需要自己编译,请把在 编译工具 目录下找到对应的软件。

为了顺利安装Azkaban,需要完成以下准备工作:

  1. 安装jdk8,需要在oracle官网下载jdk8的Java Cryptography Extension(JCE),覆盖$JAVA_HOME\jre\lib\security下面的local_policy.jar 和 US_export_policy.jar文件,下载地址是:http://www.oracle.com/technetwork/java/javase/downloads/jce8-download-2133166.html
  1. 安装ideaIC-14.1.1.exe、git-2.9.0-64-bit.exe、TortoiseGit-2.1.0.0-64bit.msi 双击直接安装
  2. 安装gradle-2.14-bin.zip、apache-ant-1.9.7-bin.zip,解压缩后配置环境变量
  3. 把azkaban源码包和plugin源码包解压到指定目录下,如下图所示


    Azkaban解压后的目录

二、编译Azkaban

1、进入azkaban-master文件夹,右键可以看到:Git Bash Here

Git Bash Here

2、点击Git Bash Here,弹出window下的命令行界面

命令窗口

3、执行命令:./gradlew distTar -x test

该命令在构建环境,需要下载依赖的包,网络不好的情况下,耗时会比较长,需要耐心等待。直到最后出现一下界面才是构建成功

编译界面

4、构建成功后,在 azkaban-master\azkaban-solo-server\build\distributions目录下可以看到生成了azkaban-solo-server-3.10.0.tar.gz 文件,该文件就是azkaban的主安装文件。拷贝该文件到linux下用于后续安装。

5、使用idea打开azkaban-master工程,如下:

IDEA打开工程界面

三、编译Azkaban-plugins

1、进入azkaban-plugins-master文件夹,在plugin子目录下可以看到以下目录

plugins代码目录

以上图片中红框内的工程是需要编译的。

2、进入 hadoopsecuritymanager-common目录,执行ant命令

3、进入 hadoopsecuritymanager目录,执行ant命令

4、进入 hadoopsecuritymanager-yarn目录,执行ant命令

5、进入 crypto目录,执行ant package-crypto命令

6、进入 jobtype 目录,执行ant package-jobtype 命令

7、以上编译都成功后,会在dist目录下生成编译后的压缩包,找到azkaban-plugins-master\dist\jobtype\packages目录下的azkaban-jobtype-3.0.0.tar.gz文件,该文件是azkaban的插件包,拷贝到linux下,用于后续安装。

8、使用idea打开工程,打开后需要做以下设置:

(1)第一步:Add crypto as Library

Add crypto as Library

(2)第二步:Add jobtype as Library

Add jobtype as Library

(3)第三步:Mark Directory As Souruces Root

Mark Directory As Souruces Root
最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 215,723评论 6 498
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 92,003评论 3 391
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 161,512评论 0 351
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 57,825评论 1 290
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 66,874评论 6 388
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 50,841评论 1 295
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 39,812评论 3 416
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 38,582评论 0 271
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 45,033评论 1 308
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 37,309评论 2 331
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 39,450评论 1 345
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 35,158评论 5 341
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 40,789评论 3 325
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 31,409评论 0 21
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,609评论 1 268
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 47,440评论 2 368
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 44,357评论 2 352

推荐阅读更多精彩内容

  • Spring Boot 参考指南 介绍 转载自:https://www.gitbook.com/book/qbgb...
    毛宇鹏阅读 46,801评论 6 342
  • Spring Cloud为开发人员提供了快速构建分布式系统中一些常见模式的工具(例如配置管理,服务发现,断路器,智...
    卡卡罗2017阅读 134,649评论 18 139
  • Ubuntu的发音 Ubuntu,源于非洲祖鲁人和科萨人的语言,发作 oo-boon-too 的音。了解发音是有意...
    萤火虫de梦阅读 99,246评论 9 467
  • Android 自定义View的各种姿势1 Activity的显示之ViewRootImpl详解 Activity...
    passiontim阅读 172,042评论 25 707
  • 夜深了!但这月光十分的妖娆,驱走了这黑夜的恐惧!我独自一个人静静的坐在院子中心的一把陈旧的木椅子上思考着,仿佛我就...
    南山太抖阅读 311评论 1 1