Idea 报错找不到streaming --- NoClassDefFoundError: orgapachesparkstreamingStreamingContext

it2025-10-18  6

错误样式

Exception in thread "main" java.lang.NoClassDefFoundError: org/apache/spark/streaming/StreamingContext at com.scalalearn.scala.main.LogAnalyzerAppMain$.main(LogAnalyzerAppMain.scala:65) at com.scalalearn.scala.main.LogAnalyzerAppMain.main(LogAnalyzerAppMain.scala) Caused by: java.lang.ClassNotFoundException: org.apache.spark.streaming.StreamingContext at java.net.URLClassLoader.findClass(URLClassLoader.java:381) at java.lang.ClassLoader.loadClass(ClassLoader.java:424) at sun.misc.Launcher$AppClassLoader.loadClass(Launcher.java:335) at java.lang.ClassLoader.loadClass(ClassLoader.java:357) ... 2 more

注意,Intellij是在java应用中提交的,不是通过spark-submit提交的.

pom中的provided指的是编译需要,发布不需要,当我们通过spark-submit提交时,spark会提供需要的streaming包,

而Intellij是通过java提交的,在运行时依然需要streaming的包,所以需要去掉.

所以最终解决方案是:

去掉pom.xml中的provide即可

最新回复(0)