编程语言
首页 > 编程语言> > java-如何以编程方式停止Spark Job执行

java-如何以编程方式停止Spark Job执行

作者:互联网

如果在出现异常或特定用例的情况下,我想以编程方式从Spark作业中停止我的Spark应用程序,那么如何从Java代码中实现这一点.
我尝试调用JavaSparkContext.close(),但该工作似乎仍在运行.

解决方法:

您可以使用以下方法来取消正在运行的Spark作业:

cancelJobGroup(字符串组ID)-取消指定组的活动作业.
cancelAllJobs()-取消所有已调度或正在运行的作业.

有关更多详细信息,您可以参考API doc

标签:scala,apache-spark,hadoop,java
来源: https://codeday.me/bug/20191118/2032180.html