240 发简信
IP属地:广东
  • error: command 'gcc' failed with exit status 1处理

    root@node06 job_script 09:16:06 # pip3 install impylaWARNING: Running pi...

  • flink1.8.2 on yarn 运行在jdk1.7环境上

    要知道flink是建立在jdk1.8上面的,奈何集群环境的是1.7 追加三行

  • spark sql udf ,计算数学表式

    前几天有个spark 任务特别的慢,原因是我写了一个udf,把一个对象作为构造函数的对象穿进去了这个udf的功能是为了实现,把传入的数学表达式(...

  • shell spark-submit提交之后获取appid,并在程序中扫描状态

    首先看一下提交脚本 就是下面这两个 我们输出格式application_1591596770810_0207appId=2>&1 | tee ...

  • Spark sql 写分区表,设置format报错

    遇到一个问题。 spark sql dataset 写入表的时候,我写的是一个用ymd分区的表,我想设置输出格式format("hive"),然...

  • Spark Submit提交时,Json字符串作为参数

    今天遇到一个把json作为参数 传入spark程序中的问题 原因如下,Spark 源码 中会对把}} 和 {{替换掉 造成的结果就是,json传...