博客
关于我
强烈建议你试试无所不能的chatGPT,快点击我
MapReduce Job调试教训
阅读量:5370 次
发布时间:2019-06-15

本文共 285 字,大约阅读时间需要 1 分钟。

[2014.12.08]

一个Job, Map跑了40分钟,Reduce挂了;fix bug, 重跑,Reduce又挂了,......,三个小时过去了,又再重跑,时间啊。。。。
以后,调试MR Job, 老老实实按以下方法:
(1)先本地单测通过,
(2)mapper 为自己的逻辑,然后 -reduce='cat';
(3)从hdfs上取一个reduce产出的part, 在本地 cat part|python reduce.py 测试通过
(4)上集群跑MR Job

转载于:https://www.cnblogs.com/basalt/p/4151619.html

你可能感兴趣的文章
杭电acm Cake
查看>>
js函数中this的指向
查看>>
c++ 引用方式传递数组
查看>>
HBase学习之路 (九)HBase phoenix的使用
查看>>
LeetCode() Remove Duplicates from Sorted Array II
查看>>
【svn】idea svn 文件上会出现一个破书
查看>>
cocos2d-x 3.0 场景切换特效汇总(转)
查看>>
The SortedMap Interface
查看>>
SniperOJ-leak-x86-64
查看>>
bzoj 4260: Codechef REBXOR (01 Trie)
查看>>
学好python
查看>>
css-IE中的border-radius和box-shadow
查看>>
利用bootstrap和webform的异步CRUD及分页
查看>>
HDUOJ 1879继续畅通工程(并查集)
查看>>
OC12_自动释放池
查看>>
Saiku资源帖
查看>>
解决手机页面中点击文本框,网页放大问题
查看>>
2-5
查看>>
牛客多校3 A-PACM Team(状压降维+路径背包)
查看>>
HDU - 4284 Travel(floyd+状压dp)
查看>>