Home Trouble Shooting(Spark)
Post
Cancel

Trouble Shooting(Spark)

1
2
java.io.InvalidClassException: org.apache.spark.resource.ResourceProfile; local class incompatible: stream classdesc serialVersionUID = 7048704245620002090, local class serialVersionUID = -2817202060116599060
...

주로 Spark Version을 두가지 섞어쓸때 발생한다고 한다.

실제 업무에서는 spark configuration을 설정시 spark.kubernetes.container.image 부분에 3.0.0 버전을 사용하였는데, 실제 Spark Operator는 3.1.1 버전이라서 에러가 발생했다. spark 이미지를 3.1.1로 수정하니 잘 되었다.

This post is licensed under CC BY 4.0 by the author.

Trending Tags