spark-sql使用问题

ERROR thriftserver.SparkSQLDriver:
 Failed in [select * from tg_persona_base_gender]
java.lang.RuntimeException: Error in configuring object

Caused by: java.lang.IllegalArgumentException: 
Compression codec com.hadoop.compression.lzo.LzoCodec not found.

解决办法:
1、Spark要接管Hive需要把hive-site.xml拷贝到conf/目录下
2、把Mysql的驱动copy到jars/目录下
3、如果访问不到hdfs,则需要把core-site.xml和hdfs-site.xml拷贝到conf/目录下
4、把hadoop目录下的share/hadoop/common/hadoop-lzo.....jar,拷一份到spark的jars下面去

©著作权归作者所有,转载或内容合作请联系作者
【社区内容提示】社区部分内容疑似由AI辅助生成,浏览时请结合常识与多方信息审慎甄别。
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。

推荐阅读更多精彩内容