flink on yarn

FLink 1.9版本的参数

./bin/flink run -help

Action "run" compiles and runs a program.

  Syntax: run [OPTIONS] <jar-file> <arguments>

  "run" action options:

    -c,--class <classname>              Class with the program entry point

                                          ("main()" method or "getPlan()"

                                          method). Only needed if the JAR file

                                          does not specify the class in its

                                          manifest.

    -C,--classpath <url>                Adds a URL to each user code

                                          classloader  on all nodes in the

                                          cluster. The paths must specify a

                                          protocol (e.g. file://) and be

                                          accessible on all nodes (e.g. by means

                                          of a NFS share). You can use this

                                          option multiple times for specifying

                                          more than one URL. The protocol must

                                          be supported by the {@link

                                          java.net.URLClassLoader}.

    -d,--detached                        If present, runs the job in detached

                                          mode

    -n,--allowNonRestoredState          Allow to skip savepoint state that

                                          cannot be restored. You need to allow

                                          this if you removed an operator from

                                          your program that was part of the

                                          program when the savepoint was

                                          triggered.

    -p,--parallelism <parallelism>      The parallelism with which to run the

                                          program. Optional flag to override the

                                          default value specified in the

                                          configuration.

    -py,--python <python>                Python script with the program entry

                                          point. The dependent resources can be

                                          configured with the `--pyFiles`

                                          option.

    -pyfs,--pyFiles <pyFiles>            Attach custom python files for job.

                                          Comma can be used as the separator to

                                          specify multiple files. The standard

                                          python resource file suffixes such as

                                          .py/.egg/.zip are all supported.(eg:

                                          --pyFiles

                                          file:///tmp/myresource.zip,hdfs:///$na

                                          menode_address/myresource2.zip)

    -pym,--pyModule <pyModule>          Python module with the program entry

                                          point. This option must be used in

                                          conjunction with `--pyFiles`.

    -q,--sysoutLogging                  If present, suppress logging output to

                                          standard out.

    -s,--fromSavepoint <savepointPath>  Path to a savepoint to restore the job

                                          from (for example

                                          hdfs:///flink/savepoint-1537).

    -sae,--shutdownOnAttachedExit        If the job is submitted in attached

                                          mode, perform a best-effort cluster

                                          shutdown when the CLI is terminated

                                          abruptly, e.g., in response to a user

                                          interrupt, such as typing Ctrl + C.

  Options for yarn-cluster mode:

    -d,--detached                        If present, runs the job in detached

                                          mode

    -m,--jobmanager <arg>                Address of the JobManager (master) to

                                          which to connect. Use this flag to

                                          connect to a different JobManager than

                                          the one specified in the

                                          configuration.

    -sae,--shutdownOnAttachedExit        If the job is submitted in attached

                                          mode, perform a best-effort cluster

                                          shutdown when the CLI is terminated

                                          abruptly, e.g., in response to a user

                                          interrupt, such as typing Ctrl + C.

    -yat,--yarnapplicationType <arg>    Set a custom application type for the

                                          application on YARN

    -yD <property=value>                use value for given property

    -yd,--yarndetached                  If present, runs the job in detached

                                          mode (deprecated; use non-YARN

                                          specific option instead)

    -yh,--yarnhelp                      Help for the Yarn session CLI.

    -yid,--yarnapplicationId <arg>      Attach to running YARN session

    -yj,--yarnjar <arg>                  Path to Flink jar file

    -yjm,--yarnjobManagerMemory <arg>    Memory for JobManager Container with

                                          optional unit (default: MB)

    -yn,--yarncontainer <arg>            Number of YARN container to allocate

                                          (=Number of Task Managers)

    -ynl,--yarnnodeLabel <arg>          Specify YARN node label for the YARN

                                          application

    -ynm,--yarnname <arg>                Set a custom name for the application

                                          on YARN

    -yq,--yarnquery                      Display available YARN resources

                                          (memory, cores)

    -yqu,--yarnqueue <arg>              Specify YARN queue.

    -ys,--yarnslots <arg>                Number of slots per TaskManager

    -yst,--yarnstreaming                Start Flink in streaming mode

    -yt,--yarnship <arg>                Ship files in the specified directory

                                          (t for transfer)

    -ytm,--yarntaskManagerMemory <arg>  Memory per TaskManager Container with

                                          optional unit (default: MB)

    -yz,--yarnzookeeperNamespace <arg>  Namespace to create the Zookeeper

                                          sub-paths for high availability mode

    -z,--zookeeperNamespace <arg>        Namespace to create the Zookeeper

                                          sub-paths for high availability mode

  Options for default mode:

    -m,--jobmanager <arg>          Address of the JobManager (master) to which

                                    to connect. Use this flag to connect to a

                                    different JobManager than the one specified

                                    in the configuration.

    -z,--zookeeperNamespace <arg>  Namespace to create the Zookeeper sub-paths

                                    for high availability mode


Flink 1.10的参数

Syntax: run [OPTIONS] <jar-file> <arguments>

  "run" action options:

    -c,--class <classname>              Class with the program entry point

                                          ("main()" method). Only needed if the

                                          JAR file does not specify the class in

                                          its manifest.

    -C,--classpath <url>                Adds a URL to each user code

                                          classloader  on all nodes in the

                                          cluster. The paths must specify a

                                          protocol (e.g. file://) and be

                                          accessible on all nodes (e.g. by means

                                          of a NFS share). You can use this

                                          option multiple times for specifying

                                          more than one URL. The protocol must

                                          be supported by the {@link

                                          java.net.URLClassLoader}.

    -d,--detached                        If present, runs the job in detached

                                          mode

    -n,--allowNonRestoredState          Allow to skip savepoint state that

                                          cannot be restored. You need to allow

                                          this if you removed an operator from

                                          your program that was part of the

                                          program when the savepoint was

                                          triggered.

    -p,--parallelism <parallelism>      The parallelism with which to run the

                                          program. Optional flag to override the

                                          default value specified in the

                                          configuration.

    -py,--python <pythonFile>            Python script with the program entry

                                          point. The dependent resources can be

                                          configured with the `--pyFiles`

                                          option.

    -pyarch,--pyArchives <arg>          Add python archive files for job. The

                                          archive files will be extracted to the

                                          working directory of python UDF

                                          worker. Currently only zip-format is

                                          supported. For each archive file, a

                                          target directory be specified. If the

                                          target directory name is specified,

                                          the archive file will be extracted to

                                          a name can directory with the

                                          specified name. Otherwise, the archive

                                          file will be extracted to a directory

                                          with the same name of the archive

                                          file. The files uploaded via this

                                          option are accessible via relative

                                          path. '#' could be used as the

                                          separator of the archive file path and

                                          the target directory name. Comma (',')

                                          could be used as the separator to

                                          specify multiple archive files. This

                                          option can be used to upload the

                                          virtual environment, the data files

                                          used in Python UDF (e.g.: --pyArchives

                                          file:///tmp/py37.zip,file:///tmp/data.

                                          zip#data --pyExecutable

                                          py37.zip/py37/bin/python). The data

                                          files could be accessed in Python UDF,

                                          e.g.: f = open('data/data.txt', 'r').

    -pyexec,--pyExecutable <arg>        Specify the path of the python

                                          interpreter used to execute the python

                                          UDF worker (e.g.: --pyExecutable

                                          /usr/local/bin/python3). The python

                                          UDF worker depends on Python 3.5+,

                                          Apache Beam (version == 2.15.0), Pip

                                          (version >= 7.1.0) and SetupTools

                                          (version >= 37.0.0). Please ensure

                                          that the specified environment meets

                                          the above requirements.

    -pyfs,--pyFiles <pythonFiles>        Attach custom python files for job.

                                          These files will be added to the

                                          PYTHONPATH of both the local client

                                          and the remote python UDF worker. The

                                          standard python resource file suffixes

                                          such as .py/.egg/.zip or directory are

                                          all supported. Comma (',') could be

                                          used as the separator to specify

                                          multiple files (e.g.: --pyFiles

                                          file:///tmp/myresource.zip,hdfs:///$na

                                          menode_address/myresource2.zip).

    -pym,--pyModule <pythonModule>      Python module with the program entry

                                          point. This option must be used in

                                          conjunction with `--pyFiles`.

    -pyreq,--pyRequirements <arg>        Specify a requirements.txt file which

                                          defines the third-party dependencies.

                                          These dependencies will be installed

                                          and added to the PYTHONPATH of the

                                          python UDF worker. A directory which

                                          contains the installation packages of

                                          these dependencies could be specified

                                          optionally. Use '#' as the separator

                                          if the optional parameter exists

                                          (e.g.: --pyRequirements

                                          file:///tmp/requirements.txt#file:///t

                                          mp/cached_dir).

    -s,--fromSavepoint <savepointPath>  Path to a savepoint to restore the job

                                          from (for example

                                          hdfs:///flink/savepoint-1537).

    -sae,--shutdownOnAttachedExit        If the job is submitted in attached

                                          mode, perform a best-effort cluster

                                          shutdown when the CLI is terminated

                                          abruptly, e.g., in response to a user

                                          interrupt, such as typing Ctrl + C.

  Options for executor mode:

    -D <property=value>  Generic configuration options for

                          execution/deployment and for the configured executor.

                          The available options can be found at

                          https://ci.apache.org/projects/flink/flink-docs-stabl

                          e/ops/config.html

    -e,--executor <arg>  The name of the executor to be used for executing the

                          given job, which is equivalent to the

                          "execution.target" config option. The currently

                          available executors are: "remote", "local",

                          "kubernetes-session", "yarn-per-job", "yarn-session".

  Options for yarn-cluster mode:

    -d,--detached                        If present, runs the job in detached

                                          mode

    -m,--jobmanager <arg>                Address of the JobManager (master) to

                                          which to connect. Use this flag to

                                          connect to a different JobManager than

                                          the one specified in the

                                          configuration.

    -yat,--yarnapplicationType <arg>    Set a custom application type for the

                                          application on YARN

    -yD <property=value>                use value for given property

    -yd,--yarndetached                  If present, runs the job in detached

                                          mode (deprecated; use non-YARN

                                          specific option instead)

    -yh,--yarnhelp                      Help for the Yarn session CLI.

    -yid,--yarnapplicationId <arg>      Attach to running YARN session

    -yj,--yarnjar <arg>                  Path to Flink jar file

    -yjm,--yarnjobManagerMemory <arg>    Memory for JobManager Container with

                                          optional unit (default: MB)

    -ynl,--yarnnodeLabel <arg>          Specify YARN node label for the YARN

                                          application

    -ynm,--yarnname <arg>                Set a custom name for the application

                                          on YARN

    -yq,--yarnquery                      Display available YARN resources

                                          (memory, cores)

    -yqu,--yarnqueue <arg>              Specify YARN queue.

    -ys,--yarnslots <arg>                Number of slots per TaskManager

    -yt,--yarnship <arg>                Ship files in the specified directory

                                          (t for transfer)

    -ytm,--yarntaskManagerMemory <arg>  Memory per TaskManager Container with

                                          optional unit (default: MB)

    -yz,--yarnzookeeperNamespace <arg>  Namespace to create the Zookeeper

                                          sub-paths for high availability mode

    -z,--zookeeperNamespace <arg>        Namespace to create the Zookeeper

                                          sub-paths for high availability mode

  Options for default mode:

    -m,--jobmanager <arg>          Address of the JobManager (master) to which

                                    to connect. Use this flag to connect to a

                                    different JobManager than the one specified

                                    in the configuration.

    -z,--zookeeperNamespace <arg>  Namespace to create the Zookeeper sub-paths

                                    for high availability mode

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 213,558评论 6 492
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 91,002评论 3 387
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 159,036评论 0 349
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 57,024评论 1 285
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 66,144评论 6 385
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 50,255评论 1 292
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 39,295评论 3 412
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 38,068评论 0 268
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 44,478评论 1 305
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 36,789评论 2 327
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 38,965评论 1 341
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 34,649评论 4 336
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 40,267评论 3 318
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 30,982评论 0 21
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,223评论 1 267
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 46,800评论 2 365
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 43,847评论 2 351

推荐阅读更多精彩内容