合并元数据
如同ProtocolBuffer，Avro，Thrift一样，Parquet也是支持元数据合并的。用户可以在一开始就定义一个简单的元数据，然后随着业务需要，逐渐往元数据中添加更多的列。在这种情况下，用户可能会创建多个Parquet文件，有着多个不同的但是却互相兼容的元数据。Parquet数据源支持自动推断出这种情况，并且进行多个Parquet文件的元数据的合并。
因为元数据合并是一种相对耗时的操作，而且在大多数情况下不是一种必要的特性，从Spark 1.5.0版本开始，默认是关闭Parquet文件的自动合并元数据的特性的。可以通过以下两种方式开启Parquet数据源的自动合并元数据的特性：
1、读取Parquet文件时，将数据源的选项，mergeSchema，设置为true
2、使用SQLContext.setConf()方法，将spark.sql.parquet.mergeSchema参数设置为true
案例：合并学生的基本信息，和成绩信息的元数据
Java版本
public class ParquetMergeSchema {
public static void main(String[] args) {
SparkConf conf = new SparkConf().setAppName("ParquetMergeSchemaJava").setMaster("local");
JavaSparkContext sparkContext = new JavaSparkContext(conf);
SQLContext sqlContext = new SQLContext(sparkContext);
// 创建一个DataFrame，作为学生的基本信息，并写入一个parquet文件中
List<String> studentWithNameAndAge = new ArrayList<String>();
studentWithNameAndAge.add("zhaojun,18");
studentWithNameAndAge.add("fengxiangbin,17");
JavaRDD<String> studentWithNameAndAgeRDD = sparkContext.parallelize(studentWithNameAndAge, 2);
JavaRDD<Row> studentWithNameAndAgeRowRDD = studentWithNameAndAgeRDD.map(new Function<String, Row>() {
@Override
public Row call(String v1) throws Exception {
return RowFactory.create(v1.split(",")[0], Integer.parseInt(v1.split(",")[1]));
}
});
List<StructField> fieldList = new ArrayList<StructField>();
fieldList.add(DataTypes.createStructField("name", DataTypes.StringType, true));
fieldList.add(DataTypes.createStructField("age", DataTypes.IntegerType, true));
StructType structType = DataTypes.createStructType(fieldList);
DataFrame studentWithNameAndAgeDF = sqlContext.createDataFrame(studentWithNameAndAgeRowRDD, structType);
studentWithNameAndAgeDF.write().format("parquet").mode(SaveMode.Append).save("E:\\testdata\\sparksql\\student");
// 创建第二个DataFrame，作为学生的成绩信息，并写入一个parquet文件中
List<String> studentWithNameAndGrade = new ArrayList<String>();
studentWithNameAndGrade.add("zhaoj,B");
studentWithNameAndGrade.add("fengxiang,A");
JavaRDD<String> studentWithNameAndGradeRDD = sparkContext.parallelize(studentWithNameAndGrade, 2);
JavaRDD<Row> studentWithNameAndGradeRowRDD = studentWithNameAndGradeRDD.map(new Function<String, Row>() {
@Override
public Row call(String v1) throws Exception {
return RowFactory.create(v1.split(",")[0], v1.split(",")[1]);
}
});
fieldList = new ArrayList<StructField>();
fieldList.add(DataTypes.createStructField("name", DataTypes.StringType, true));
fieldList.add(DataTypes.createStructField("grade", DataTypes.StringType, true));
structType = DataTypes.createStructType(fieldList);
DataFrame studentWithNameAndGradeDF = sqlContext.createDataFrame(studentWithNameAndGradeRowRDD, structType);
studentWithNameAndGradeDF.write().format("parquet").mode(SaveMode.Append).save("E:\\testdata\\sparksql\\student");
// 首先，第一个DataFrame和第二个DataFrame的元数据肯定是不一样的吧
// 一个是包含了name和age两个列，一个是包含了name和grade两个列
// 所以， 这里期望的是，读取出来的表数据，自动合并两个文件的元数据，出现三个列，name、age、grade
// 用mergeSchema的方式，读取students表中的数据，进行元数据的合并
DataFrame df = sqlContext.read().option("mergeSchema", "true").parquet("E:\\testdata\\sparksql\\student");
df.schema();
df.show();
}
}
Scala版本
object ParquetMergeSchema {
def main(args: Array[String]): Unit = {
val conf = new SparkConf().setMaster("local").setAppName("ParquetPartitionDiscoveryScala")
val sparkContext = new SparkContext(conf)
val sqlContext = new SQLContext(sparkContext)
import sqlContext.implicits._
// 创建一个DataFrame，作为学生的基本信息，并写入一个parquet文件中
val studentWithNameAndAge = Array(("Zhao Jun", 18),("Feng Xiangbin", 17))
val studentWithNameAndAgeDF = sparkContext.parallelize(studentWithNameAndAge, 2).toDF("name", "age")
studentWithNameAndAgeDF.write.format("parquet").mode(SaveMode.Append).save("E:\\testdata\\sparksql\\student_scala")
// 创建第二个DataFrame，作为学生的成绩信息，并写入一个parquet文件中
val studentWithNameAndGrade = Array(("Zhao Jun", "B"),("Feng Xiangbin", "A"))
val studentWithNameAndGradeDF = sparkContext.parallelize(studentWithNameAndGrade, 2).toDF("name", "grade")
studentWithNameAndGradeDF.write.format("parquet").mode(SaveMode.Append).save("E:\\testdata\\sparksql\\student_scala")
// 首先，第一个DataFrame和第二个DataFrame的元数据肯定是不一样的吧
// 一个是包含了name和age两个列，一个是包含了name和grade两个列
// 所以， 这里期望的是，读取出来的表数据，自动合并两个文件的元数据，出现三个列，name、age、grade
val df = sqlContext.read.option("mergeSchema", "true").load("E:\\testdata\\sparksql\\student_scala")
df.schema
df.show()
}
}
