189 8069 5689

MapReduce工作机制相关知识点有哪些

本篇内容主要讲解“MapReduce工作机制相关知识点有哪些”,感兴趣的朋友不妨来看看。本文介绍的方法操作简单快捷,实用性强。下面就让小编来带大家学习“MapReduce工作机制相关知识点有哪些”吧!

创新互联专注于企业成都全网营销、网站重做改版、合水网站定制设计、自适应品牌网站建设、H5场景定制商城系统网站开发、集团公司官网建设、外贸营销网站建设、高端网站制作、响应式网页设计等建站业务,价格优惠性价比高,为合水等各大城市提供网站开发制作服务。

作业的提交

可以只用一行代码来运行一个MapReduce作业:

    JobClient.runJob(conf)。

作业的调度

Hadoop作业调度演进

1、早期版本的Hadoop使用FIFO调度算法来运行作业

早期版本的Hadoop使用一种非常简单的方法来调度用户的作业:

按照作业提交的顺序,使用FIFO(先进先出)调度算法来运行作业。

2、随后,通过设置mapred.job.priority或JobClient的setJobPriority()方法来设置优先级

3、Hadoop的调度器种类

在Hadoop中,MapReduce的调度器可以选择。

1)、默认的调度器是原始的基于队列的FIFO调度器。

2)、Fair Scheduler 公平调度器

3)、Capacity Scheduler

MapReduce的工作机制相关知识点:

1、通过调用什么代码运行一个MapReduce作业?

   JobClient.runJob(conf);

2、hadoop运行作业的整个过程图解

MapReduce工作机制相关知识点有哪些

3、hadoop运行作业的整个过程包含几个独立的实体?

它包含以下4个独立的实体:

    1)、客户端:提交MapReduce作业。

    2)、jobtracker:协调作业的运行。

    jobtracker是一个Java应用程序,它的主类是JobTracker。

    3)、tasktracker:运行作业划分后的任务。

    tasktracker是一个Java应用程序,它的主类是TaskTracker。

    4)、分布式文件系统(一般为HDFS)

    用来在其他实体间共享作业文件。

到此,相信大家对“MapReduce工作机制相关知识点有哪些”有了更深的了解,不妨来实际操作一番吧!这里是创新互联网站,更多相关内容可以进入相关频道进行查询,关注我们,继续学习!


网站名称:MapReduce工作机制相关知识点有哪些
本文路径:http://cdxtjz.cn/article/pihhgg.html

其他资讯