其他分享
首页 > 其他分享> > Hadoop流:报告错误

Hadoop流:报告错误

作者:互联网

在使用Python脚本的Hadoop流中报告异常的最佳实践是什么?

我的意思是:假设我有一个无法理解其输入的映射器脚本,我该如何向Hadoop发出终止作业的信号?报告错误消息?

我是否使用日志记录并以sys.exit结尾?

解决方法:

如果要发信号通知错误,请从python脚本返回非零代码.您可以将任何日志记录写入stderr,而hadoop会将其捕获到任务日志中.您还可以通过在stderr行前面添加reporter:status:< msg>来将状态发送给报告程序和计数器.或reporter:counter:< group>,<名称>,< increment>

标签:amazon-emr,hadoop,amazon-web-services,python
来源: https://codeday.me/bug/20191101/1982033.html