tez0.9.0安装

【转载请注明出处】:https://www.jianshu.com/p/6fff20b91d4a

1.安装说明

Tez 0.8.3+要求Hadoop2.6.0+
Tez 0.9.0+要求Hadoop2.7.0+
JDK8+
Maven 3+
Protocol Buffers 2.5.0

2.下载源码

http://mirrors.hust.edu.cn/apache/tez/0.9.0/apache-tez-0.9.0-src.tar.gz

3.编译

mvn clean package -DskipTests=true -Dmaven.javadoc.skip=true -Dtar

image.png

编译完的压缩包在tez-dist/target目录下


image.png

4.将tez-0.9.0.tar.gz拷贝至hdfs

hadoop fs -mkdir -p /apps/tez-0.9.0
hadoop fs -put tez-dist/target/tez-0.9.0.tar.gz /apps/tez-0.9.0

5. 将压缩包解压到某个目录,并创建配置文件tez-site.xml

<?xml version="1.0" encoding="UTF-8"?>
<?xml-stylesheet type="text/xsl" href="configuration.xsl"?>
<configuration>
<property>
<name>tez.lib.uris</name>
<value>${fs.defaultFS}/apps/tez-0.9.0/tez-0.9.0.tar.gz</value>
</property>
</configuration>

6.配置环境变量

export TEZ_HOME=/work/tools/hdp/tez-0.9.0
export TEZ_CONF_DIR=TEZ_HOME/conf export TEZ_JARS=TEZ_HOME

7.修改$HADOOP_CONF_DIR/mapred-site.xml文件

修改

<property>
   <name>mapreduce.framework.name</name>
   <value>yarn-tez</value>
</property>

添加

<property>
   <name>mapreduce.map.output.compress</name>
   <value>false</value>
</property>

8.修改$HADOOP_CONF_DIR/hadoop-env.sh 文件

添加

export TEZ_HOME={TEZ_HOME} export HADOOP_CLASSPATH={HADOOP_CLASSPATH}:{TEZ_JARS}/\*:{TEZ_JARS}/lib/*:${TEZ_CONF_DIR}

9.修改$HIVE_CONF_DIR/hive-site.xml文件

添加

<property>
   <name>hive.execution.engine</name>
   <value>tez</value>
</property>

10.测试

hadoop jar tez-examples-0.9.0.jar orderedwordcount /input /output

image.png

开始的时候,在测试的过程中遇到一个问题:
Container exited with a non-zero exit code 127. Error file: prelaunch.err.
Last 4096 bytes of prelaunch.err :
Last 4096 bytes of stderr :
/bin/bash: /bin/java: No such file or directory


image.png

解决办法:
修改HADOOP_HOME/libexec/hadoop-config.sh

if [ -x /usr/libexec/java_home ]; then
export JAVA_HOME=($(/usr/libexec/java_home))
else
export JAVA_HOME=(/Library/Java/Home)
fi

修改为

if [ -x /usr/libexec/java_home ]; then
export JAVA_HOME=$(/usr/libexec/java_home)
else
export JAVA_HOME=/Library/Java/Home
fi

【转载请注明出处】:https://www.jianshu.com/p/6fff20b91d4a

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
【社区内容提示】社区部分内容疑似由AI辅助生成,浏览时请结合常识与多方信息审慎甄别。
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。

相关阅读更多精彩内容

友情链接更多精彩内容