hadoop的几个问题 1.将本地文件复制到hdfs中,那么在hdfs中这个文件是存放在namenode还是分开放在datanode
2.程序运行时InputFormat类的对像是在namenode还是在datanode还是都有?如果都有那么如果在inputFormat类中引用了其它自定义的类对像,那么...
2.程序运行时InputFormat类的对像是在namenode还是在datanode还是都有?如果都有那么如果在inputFormat类中引用了其它自定义的类对像,那么各个datanode上也有吗?如果这个对像是一个静态的呢,各个datanode上的怎么去同步或是保持一致?
3.在reducer处理完后的数据如果是放在hdfs文本中,那么这些数据是分开放在datanode上的,namenode只存有其分块地址?还是这些数据都是放在namenode上的?
4.outputFormat的执行时间的问题,是每个reducer的结果都会有一个outputformat对像去接收数据,还是所有的reducer的结果都是由一个outputFormat对像去接收数据?
刚学hadoop,被这个几问题深深的困扰,望解答,先谢过了 展开
3.在reducer处理完后的数据如果是放在hdfs文本中,那么这些数据是分开放在datanode上的,namenode只存有其分块地址?还是这些数据都是放在namenode上的?
4.outputFormat的执行时间的问题,是每个reducer的结果都会有一个outputformat对像去接收数据,还是所有的reducer的结果都是由一个outputFormat对像去接收数据?
刚学hadoop,被这个几问题深深的困扰,望解答,先谢过了 展开
1个回答
展开全部
试着回答:
先说明一下:
1. namenode负责管理目录和文件信息,真正的文件块是存放在datanode上。
2. 每个map和reduce(即task)都是java进程,默认是有单独的jvm的,所以不可能同一个类的对象会在不同节点上。
看你的描述是把namenode,datanode和jobtracker,tasktracker有点混了。
所以:
问题1. 分块存放在datanode上
问题2.inputformat是在datanode上,确切的说是在tasktracker中。每个map和reduce都会有自己的对象,当多个map读入一个文件时,实际上不同的map是读的文件不同的块,reduce也是一样,各个任务读入的数据是不相交的。
问题3.reduce输出肯定是在hdfs上,和普通文件一样在datanode上。
问题4.每个reducer会有自己的outputformat对象,与前面inputformat原因一样。
先说明一下:
1. namenode负责管理目录和文件信息,真正的文件块是存放在datanode上。
2. 每个map和reduce(即task)都是java进程,默认是有单独的jvm的,所以不可能同一个类的对象会在不同节点上。
看你的描述是把namenode,datanode和jobtracker,tasktracker有点混了。
所以:
问题1. 分块存放在datanode上
问题2.inputformat是在datanode上,确切的说是在tasktracker中。每个map和reduce都会有自己的对象,当多个map读入一个文件时,实际上不同的map是读的文件不同的块,reduce也是一样,各个任务读入的数据是不相交的。
问题3.reduce输出肯定是在hdfs上,和普通文件一样在datanode上。
问题4.每个reducer会有自己的outputformat对象,与前面inputformat原因一样。
本回答被提问者和网友采纳
已赞过
已踩过<
评论
收起
你对这个回答的评价是?
推荐律师服务:
若未解决您的问题,请您详细描述您的问题,通过百度律临进行免费专业咨询