Idea運行saprk.sql出錯Error while instantiating 'org.apache.spark.sql.internal.SessionState':

val spark: SparkSession = SparkSession.builder()

? ? ? ? ? ? ? ? .appName("SparkSQL2x")

? ? ? ? ? ? ? ? .master("local[*]")

? ? ? ? ? ? ? ? .getOrCreate()

/////////////////////////////////////////////////////////////////////////////////////////////////////////////////


出現(xiàn)Error while instantiating 'org.apache.spark.sql.internal.SessionState':錯誤

原因是pom.xml中的spark-sql和spark-core,scala-library等,配置的版本相互之間有問題


/////////////////////////////////////////////////////////////////////////////////////////////////////////////////


修改他們版本在import change后就可以了

下面是我這次的pom.xml的配置


/////////////////////////////////////////////////////////////////////////////////////////////////////////////////

<properties>

? ? ? ? <maven.compiler.source>1.8</maven.compiler.source>

? ? ? ? <maven.compiler.target>1.8</maven.compiler.target>

? ? ? ? <scala.version>2.11.8</scala.version>

? ? ? ? <spark.version>2.3.3</spark.version>

? ? ? ? <hadoop.version>2.7.7</hadoop.version>

? ? ? ? <encoding>UTF-8</encoding>

</properties>

? ? <dependencies>

? ? ? ? <!-- 導(dǎo)入scala的依賴 -->

? ? ? ? <dependency>

? ? ? ? ? ? <groupId>org.scala-lang</groupId>

? ? ? ? ? ? <artifactId>scala-library</artifactId>

? ? ? ? ? ? <version>${scala.version}</version>

? ? ? ? </dependency>

? ? ? ? <!-- 導(dǎo)入spark的依賴,core指的是RDD編程API -->

? ? ? ? <dependency>

? ? ? ? ? ? <groupId>org.apache.spark</groupId>

? ? ? ? ? ? <artifactId>spark-core_2.11</artifactId>

? ? ? ? ? ? <version>${spark.version}</version>

? ? ? ? </dependency>

? ? ? ? <!-- 導(dǎo)入spark的依賴,sql指的是DataFrame、DataSet的編程API -->

? ? ? ? <dependency>

? ? ? ? ? ? <groupId>org.apache.spark</groupId>

? ? ? ? ? ? <artifactId>spark-sql_2.11</artifactId>

? ? ? ? ? ? <version>${spark.version}</version>

? ? ? ? </dependency>

? ? ? ? <!-- 讀寫HDFS中的數(shù)據(jù) -->

? ? ? ? <dependency>

? ? ? ? ? ? <groupId>org.apache.hadoop</groupId>

? ? ? ? ? ? <artifactId>hadoop-client</artifactId>

? ? ? ? ? ? <version>2.7.7</version>

? ? ? ? </dependency>

? ? ? ? <!-- 解析JSON的依賴 -->

? ? ? ? <dependency>

? ? ? ? ? ? <groupId>com.alibaba</groupId>

? ? ? ? ? ? <artifactId>fastjson</artifactId>

? ? ? ? ? ? <version>1.2.57</version>

? ? ? ? </dependency>

? ? ? ? <!-- mysql連接依賴 -->

? ? ? ? <dependency>

? ? ? ? ? ? <groupId>mysql</groupId>

? ? ? ? ? ? <artifactId>mysql-connector-java</artifactId>

? ? ? ? ? ? <version>5.1.47</version>

? ? ? ? </dependency>

? ? ? ? <!-- Hbase的依賴 -->

? ? ? ? <dependency>

? ? ? ? ? ? <groupId>org.apache.hbase</groupId>

? ? ? ? ? ? <artifactId>hbase-client</artifactId>

? ? ? ? ? ? <version>1.4.9</version>

? ? ? ? </dependency>

? ? </dependencies>

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
【社區(qū)內(nèi)容提示】社區(qū)部分內(nèi)容疑似由AI輔助生成,瀏覽時請結(jié)合常識與多方信息審慎甄別。
平臺聲明:文章內(nèi)容(如有圖片或視頻亦包括在內(nèi))由作者上傳并發(fā)布,文章內(nèi)容僅代表作者本人觀點,簡書系信息發(fā)布平臺,僅提供信息存儲服務(wù)。

相關(guān)閱讀更多精彩內(nèi)容

友情鏈接更多精彩內(nèi)容