針對spark-sql操作hive生成分區(qū)表,結(jié)果文件目錄包含_success空文件,可以設(shè)置參數(shù):
mapreduce.fileoutputcommitter.marksuccessfuljobs


因此可以在程序中設(shè)置:
sc.hadoopConfiguration.set("mapreduce.fileoutputcommitter.marksuccessfuljobs", "false")
針對spark-sql操作hive生成分區(qū)表,結(jié)果文件目錄包含_success空文件,可以設(shè)置參數(shù):
mapreduce.fileoutputcommitter.marksuccessfuljobs
因此可以在程序中設(shè)置:
sc.hadoopConfiguration.set("mapreduce.fileoutputcommitter.marksuccessfuljobs", "false")