Hadoop流:报告错误
作者:互联网
在使用Python脚本的Hadoop流中报告异常的最佳实践是什么?
我的意思是:假设我有一个无法理解其输入的映射器脚本,我该如何向Hadoop发出终止作业的信号?报告错误消息?
我是否使用日志记录并以sys.exit结尾?
解决方法:
如果要发信号通知错误,请从python脚本返回非零代码.您可以将任何日志记录写入stderr,而hadoop会将其捕获到任务日志中.您还可以通过在stderr行前面添加reporter:status:< msg>来将状态发送给报告程序和计数器.或reporter:counter:< group>,<名称>,< increment>
标签:amazon-emr,hadoop,amazon-web-services,python 来源: https://codeday.me/bug/20191101/1982033.html