Airflow部署-从安装到Task创建

环境配置

Ubuntu

Python 2.7

安装步骤

设置基础的默认路径:export AIRFLOW_HOME=~/airflow,这是将默认的路径设置成为根路径下的airflow的文件夹下面(也是默认设置),如果你想要将文件保存其他地方,如根目录下的test目录下,那么就设置 export AIRFLOW_HOME=~/test。

开始安装:pip install airflow

初始化配置:pip initdb,这个时候会出现如下圈出的文件


接下来我们需要再这个文件夹下面创建一个dags文件夹:cd ~/airflow  mkdir dags

在dags目录创建一个test.py文件:touch test.py,并且加入如下的代码:


启动web 服务:airflow webserver –p 3004, 启动服务后我们可以看到下面这个界面


然后我们开始启动调度:airflow scheduler


现在基本的airflow已经部署成功


配置文件


我们可以在airflow文件夹下面可以看到airflow.cfg的文件


我们可以打开发现内容如下:


我们可以从文件中可以看到,config文件主要包含着[core], [cli], [api], [lineage], [atlas], [operators], [hive],

[webserver], [email], [smtp], [celery], [celery_broker_transport_options],

[dask], [shceduler], [ldap], [mesos], [github_enterprise], [admin], [elasticsearch],

[kubernetes], [kubernetes_secrets], [kubernetes_node_selectors]这些模块


在这么多模块中,先介绍下几个重要的配置:

[core] 下面的executor配置:airflow执行任务的方式,在配置中一共有5个选项(SequentialExecutor, LocalExecutor, CeleryExecutor, DaskExecutor,

KubernetesExecutor)

表示单进程顺序执行,通常用来测试用的

表示多进程本地执行,它用Python的多进程库从而达到多进程跑任务的效果

表示使用celery作为执行器,只要配置了celery,就可以分布式的部署跑任务,一般用于生产环境

后面两个没有找到相关的资料,打扰了~~

关于celery安装

使用pip安装:pip install airflow[celery]

由于celery需要设置broker和result队列来保存消息(celery支持多种broker),在这里我们需要安装redis,redis安装教程:http://www.runoob.com/redis/redis-install.html


同时,对airflow.cfg文件进行配置:

Executor = CeleryExecutor

Broler_rul = 你的redis地址

Celery_resul_backend = 你的redis地址

关于数据库的设置


当我们在使用airflow initdb的时候,我们会默认的生成一个sqllite文件


如果你想切换成mysql或者其他数据库:

1. 安装你需要切换的数据库所需要的包,这里选择的是mysql:pip install airflow[mysql]

2. 修改配置文件:sql_alchemy_comm = 你的mysql数据库连接

关于登录模块


1. 首先,我们需要安装登录模块所需要的安装包:pip install airflow[password]

2. 修改配置文件airflow.cfg的[webserver]模块:

Authenticate = True

Auth_backend = airflow.contrib.auth.backends.password_auth


最后通过python运行下面的代码


创建多task任务

一般情况下,我们创建task任务的时候需要一个个的去定义,然后通过设置set_downstream或者set_upstream的方式去创建工作流,但是这样工作量却显得太大(万一task很多的时候),如下:


我们可以通过如下代码去设置:


通过locals()生成变量名。

给任务函数参数设置

在使用PythonOperator的时候,如何给python_callable添加参数,我们进入PythonOperator函数定义可以看到:



所以我们只要通过设置参数op_args(list) 或者op_kwargs(dict)就可以设置回调函数的参数:


最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 203,547评论 6 477
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 85,399评论 2 381
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 150,428评论 0 337
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 54,599评论 1 274
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 63,612评论 5 365
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 48,577评论 1 281
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 37,941评论 3 395
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 36,603评论 0 258
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 40,852评论 1 297
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,605评论 2 321
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 37,693评论 1 329
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 33,375评论 4 318
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 38,955评论 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 29,936评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,172评论 1 259
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 43,970评论 2 349
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 42,414评论 2 342

推荐阅读更多精彩内容

  • [if !supportLists]1.1.1[endif]安装环境 redis是C语言开发,安装redis需要先...
    三万_chenbing阅读 574评论 0 1
  • 第一部分 HTML&CSS整理答案 1. 什么是HTML5? 答:HTML5是最新的HTML标准。 注意:讲述HT...
    kismetajun阅读 27,406评论 1 45
  • 包(lib)、模块(module) 在Python中,存在包和模块两个常见概念。 模块:编写Python代码的py...
    清清子衿木子水心阅读 3,798评论 0 27
  • 官方使用手册(https://github.com/licess/lnmp) LNMP一键安装包 –Readme ...
    张清柏阅读 964评论 0 0
  • 心理自由是一种生活态度,需要持之以恒。我作为一名追求心理自由的躬行实践者,分享日常生活的感悟,与大家一起奔向心理自...
    官永雄阅读 938评论 0 1