MapReduce源码分析总结.docx
《MapReduce源码分析总结.docx》由会员分享,可在线阅读,更多相关《MapReduce源码分析总结.docx(14页珍藏版)》请在冰豆网上搜索。
MapReduce源码分析总结
1caibinbupt的源代码分析coderplay的avaeye
Javen-Studio咖啡小屋
一MapReduce概述
Map/Reduce是一个用于大规模数据处理的分布式计算模型,它最初是由Google工程师设计并实现的,Google已经将它完整的MapReduce论文公开发布了。
其中对它的定义是,Map/Reduce是一个编程模型(programmingmodel),是一个用于处理和生成大规模数据集(processingandgeneratinglargedatasets)的相关的实现。
用户定义一个map函数来处理一个key/value对以生成一批中间的key/value对,再定义一个reduce函数将所有这些中间的有着相同key的values合并起来。
很多现实世界中的任务都可用这个模型来表达。
二MapReduce工作原理
Map-Reduce框架的运作完全基于对,即数据的输入是一批对,生成的结果也是一批对,只是有时候它们的类型不一样而已。
Key和value的类由于需要支持被序列化(serialize)操作,所以它们必须要实现Writable接口,而且key的类还必须实现WritableComparable接口,使得可以让框架对数据集的执行排序操作。
一个Map-Reduce任务的执行过程以及数据输入输出的类型如下所示:
Map:
->list
Reduce:
>->
下面通过一个的例子来详细说明这个过程。
WordCount是Hadoop自带的一个例子,目标是统计文本文件中单词的个数。
假设有如下的两个文本文件来运行WorkCount程序:
HelloWorldByeWorld
HelloHadoopGoodByeHadoop
1map数据输入
Hadoop针对文本文件缺省使用LineRecordReader类来实现读取,一行一个key/value对,key取偏移量,value为行内容。
如下是map1的输入数据:
Key1
Value1
0
HelloWorldByeWorld
如下是map2的输入数据:
Key1
Value1
0
HelloHadoopGoodByeHadoop
2map输出/combine输入
如下是map1的输出结果
Key2
Value2
Hello
1
World
1
Bye
1
World
1
如下是map2的输出结果
Key2
Value2
Hello
1
Hadoop
1
GoodBye
1
Hadoop
1
3combine输出
Combiner类实现将相同key的值合并起来,它也是一个Reducer的实现。
如下是combine1的输出
Key2
Value2
Hello
1
World
2
Bye
1
如下是combine2的输出
Key2
Value2
Hello
1
Hadoop
2
GoodBye
1
4reduce输出
Reducer类实现将相同key的值合并起来。
如下是reduce的输出
Key2
Value2
Hello
2
World
2
Bye
1
Hadoop
2
GoodBye
1
三MapReduce框架结构
1角色
JobTracker
JobTracker是一个master服务,JobTracker负责调度job的每一个子任务task运行于TaskTracker上,并监控它们,如果发现有失败的task就重新运行它。
一般情况应该把JobTracker部署在单独的机器上。
TaskTracker
TaskTracker是运行于多个节点上的slaver服务。
TaskTracker则负责直接执行每一个task。
TaskTracker都需要运行在HDFS的DataNode上,
JobClient
每一个job都会在用户端通过JobClient类将应用程序以及配置参数打包成jar文件存储在HDFS,并把路径提交到JobTracker,然后由JobTracker创建每一个Task(即MapTask和ReduceTask)并将它们分发到各个TaskTracker服务中去执行。
2数据结构
Mapper和Reducer
运行于Hadoop的MapReduce应用程序最基本的组成部分包括一个Mapper和一个Reducer类,以及一个创建JobConf的执行程序,在一些应用中还可以包括一个Combiner类,它实际也是Reducer的实现。
JobInProgress
JobClient提交job后,JobTracker会创建一个JobInProgress来跟踪和调度这个job,并把它添加到job队列里。
JobInProgress会根据提交的jobjar中定义的输入数据集(已分解成FileSplit)创建对应的一批TaskInProgress用于监控和调度MapTask,同时在创建指定数目的TaskInProgress用于监控和调度ReduceTask,缺省为1个ReduceTask。
TaskInProgress
JobTracker启动任务时通过每一个TaskInProgress来launchTask,这时会把Task对象(即MapTask和ReduceTask)序列化写入相应的TaskTracker服务中,TaskTracker收到后会创建对应的TaskInProgress(此TaskInProgress实现非JobTracker中使用的TaskInProgress,作用类似)用于监控和调度该Task。
启动具体的Task进程是通过TaskInProgress管理的TaskRunner对象来运行的。
TaskRunner会自动装载jobjar,并设置好环境变量后启动一个独立的javachild进程来执行Task,即MapTask或者ReduceTask,但它们不一定运行在同一个TaskTracker中。
MapTask和ReduceTask
一个完整的job会自动依次执行Mapper、Combiner(在JobConf指定了Combiner时执行)和Reducer,其中Mapper和Combiner是由MapTask调用执行,Reducer则由ReduceTask调用,Combiner实际也是Reducer接口类的实现。
Mapper会根据jobjar中定义的输入数据集按对读入,处理完成生成临时的对,如果定义了Combiner,MapTask会在Mapper完成调用该Combiner将相同key的值做合并处理,以减少输出结果集。
MapTask的任务全完成即交给ReduceTask进程调用Reducer处理,生成最终结果对。
这个过程在下一部分再详细介绍。
下图描述了Map/Reduce框架中主要组成和它们之间的关系:
3流程
一道MapRedcue作业是通过(job)向master节点的JobTracker提交的,JobTracker接到JobClient的请求后把其加入作业队列中。
JobTracker一直在等待JobClient通过RPC提交作业,而TaskTracker一直通过RPC向JobTracker发送心跳heartbeat询问有没有任务可做,如果有,让其派发任务给它执行。
如果JobTracker的作业队列不为空,则TaskTracker发送的心跳将会获得JobTracker给它派发的任务。
这是一道pull过程。
slave节点的TaskTracker接到任务后在其本地发起Task,执行任务。
以下是简略示意图:
下面详细介绍一下Map/Reduce处理一个工作的流程。
四JobClient
在编写MapReduce程序时通常是上是这样写的:
Configurationconf=newConfiguration();ar文件包、记录配置信息的xml、记录分割信息的文件。
通知初始化线程
JobTracker中的监听器类EagerTaskInitializationListener负责任务Task的初始化。
JobTracker使用jobAdded(job)加入job到EagerTaskInitializationListener中一个专门管理需要初始化的队列里,即一个list成员变量jobInitQueue里。
resortInitQueue方法根据作业的优先级排序。
然后调用notifyAll()函数,会唤起一个用于初始化job的线程JobInitThread来处理。
JobInitThread收到信号后即取出最靠前的job,即优先级别最高的job,调用TaskTrackerManager的initJob最终调用()执行真正的初始化工作。
()初始化TaskInProgress
任务Task分两种:
MapTask和reduceTask,它们的管理对象都是TaskInProgress。
首先JobInProgress会创建Map的监控对象。
在initTasks()函数里通过调用JobClient的readSplitFile()获得已分解的输入数据的RawSplit列表,然后根据这个列表创建对应数目的Map执行管理对象TaskInProgress。
在这个过程中,还会记录该RawSplit块对应的所有在HDFS里的blocks所在的DataNode节点的host,这个会在RawSplit创建时通过FileSplit的getLocations()函数获取,该函数会调用DistributedFileSystem的getFileCacheHints()获得(这个细节会在HDFS中讲解)。
当然如果是存储在本地文件系统中,即使用LocalFileSystem时当然只有一个location即“localhost”了。
创建这些TaskInProgress对象完毕后,initTasks()方法会通过createCache()方法为这些TaskInProgress对象产生一个未执行任务的Map缓存nonRunningMapCache。
slave端的TaskTracker向master发送心跳时,就可以直接从这个cache中取任务去执行。
其次JobInProgress会创建Reduce的监控对象,这个比较简单,根据JobConf里指定的Reduce数目创建,缺省只创建1个Reduce任务。
监控和调度Reduce任务的是TaskInProgress类,不过构造方法有所不同,TaskInProgress会根据不同参数分别创建具体的MapTask或者ReduceTask。
同样地,initTasks()也会通过createCache()方法产生nonRunningReduceCache成员。
JobInProgress创建完TaskInProgress后,最后构造JobStatus并记录job正在执行中,然后再调用记录job的执行日志。
到这里JobTracker里初始化job的过程全部结束。
2JobTracker调度Job
hadoop默认的调度器是FIFO策略的JobQueueTaskScheduler,它有两个成员变量jobQueueJobInProgressListener与上面说的eagerTaskInitializationListener。
JobQueueJobInProgressListener是JobTracker的另一个监听器类,它包含了一个映射,用来管理和调度所有的JobInProgress。
jobAdded(job)同时会加入job到JobQueueJobInProgressListener中的映射。
JobQueueTaskScheduler最重要的方法是assignTasks,他实现了工作调度。
具体实现:
JobTracker接到TaskTracker的heartbeat()调用后,首先会检查上一个心跳响应是否完成,是没要求启动或重启任务,如果一切正常,则会处理心跳。
首先它会检查TaskTracker端还可以做多少个map和reduce任务,将要派发的任务数是否超出这个数,是否超出集群的任务平均剩余可负载数。
如果都没超出,则为此TaskTracker分配一个MapTask或ReduceTask。
产生Map任务使用JobInProgress的obtainNewMapTask()方法,实质上最后调用了JobInProgress的findNewMapTask()访问nonRunningMapCache。
上面讲解任务初始化时说过,createCache()方法会在网络拓扑结构上挂上需要执行的TaskInProgress。
findNewMapTask()从近到远一层一层地寻找,首先是同一节点,然后在寻找同一机柜上的节点,接着寻找相同数据中心下的节点,直到找了maxLevel层结束。
这样的话,在JobTracker给TaskTracker派发任务的时候,可以迅速找到最近的TaskTracker,让它执行任务。
最终生成一个Task类对象,该对象被封装在一个LanuchTaskAction中,发回给TaskTracker,让它去执行任务。
产生Reduce任务过程类似,使用()方法,实质上最后调用了JobInProgress的findNewReduceTask()访问nonRuningReduceCache。
六TaskTracker
1TaskTracker加载Task到子进程
Task的执行实际是由TaskTracker发起的,TaskTracker会定期(缺省为10秒钟,参见MRConstants类中定义的HEARTBEAT_INTERVAL变量)与JobTracker进行一次通信,报告自己Task的执行状态,接收JobTracker的指令等。
如果发现有自己需要执行的新任务也会在这时启动,即是在TaskTracker调用JobTracker的heartbeat()方法时进行,此调用底层是通过IPC层调用Proxy接口实现。
下面一一简单介绍下每个步骤。
()连接JobTracker
TaskTracker的启动过程会初始化一系列参数和服务,然后尝试连接JobTracker(即必须实现InterTrackerProtocol接口),如果连接断开,则会循环尝试连接JobTracker,并重新初始化所有成员和参数。
()主循环
如果连接JobTracker服务成功,TaskTracker就会调用offerService()函数进入主执行循环中。
这个循环会每隔10秒与JobTracker通讯一次,调用transmitHeartBeat(),获得HeartbeatResponse信息。
然后调用HeartbeatResponse的getActions()函数获得JobTracker传过来的所有指令即一个TaskTrackerAction数组。
再遍历这个数组,如果是一个新任务指令即LaunchTaskAction则调用调用addToTaskQueue加入到待执行队列,否则加入到tasksToCleanup队列,交给一个taskCleanupThread线程来处理,如执行KillJobAction或者KillTaskAction等。
()获取JobTracker指令
在transmitHeartBeat()函数处理中,TaskTracker会创建一个新的TaskTrackerStatus对象记录目前任务的执行状况,检查目前执行的Task数目以及本地磁盘的空间使用情况等,如果可以接收新的Task则设置heartbeat()的askForNewTask参数为true。
然后通过IPC接口调用JobTracker的heartbeat()方法发送过去,heartbeat()返回值TaskTrackerAction数组。
,交给TaskLauncher处理
TaskLauncher是用来处理新任务的线程类,包含了一个待运行任务的队列tasksToLaunch。
会调用TaskTracker的registerTask,创建TaskInProgress对象来调度和监控任务,并把它加入到runningTasks队列中。
同时将这个TaskInProgress加到tasksToLaunch中,并notifyAll()唤醒一个线程运行,该线程从队列tasksToLaunch取出一个待运行任务,调用TaskTracker的startNewTask运行任务。
()启动新任务
调用localizeJob()真正初始化Task并开始执行。
()初始化job目录等
此函数主要任务是初始化工作目录workDir,再将jobjar包从HDFS复制到本地文件系统中,调用()将包解压到工作目录。
然后创建一个RunningJob并调用addTaskToJob()函数将它添加到runningJobs监控队列中。
addTaskToJob方法把一个任务加入到该任务属于的runningJob的tasks列表中。
如果该任务属于的runningJob不存在,先新建,加到runningJobs中。
完成后即调用launchTaskForJob()开始执行Task。
()执行任务
启动Task的工作实际是调用TaskTracker$TaskInProgress的launchTask()函数来执行的。
TaskTracker$()执行任务
执行任务前先调用localizeTask()更新一下jobConf文件并写入到本地目录中。
然后通过调用Task的createRunner()方法创建TaskRunner对象并调用其start()方法最后启动Task独立的java执行子进程。
()创建启动Runner对象
Task有两个实现版本,即MapTask和ReduceTask,它们分别用于创建Map和Reduce任务。
MapTask会创建MapTaskRunner来启动Task子进程,而ReduceTask则创建ReduceTaskRunner来启动。
()启动子进程
TaskRunner负责将一个任务放到一个进程里面来执行。
它会调用run()函数来处理,主要的工作就是初始化启动java子进程的一系列环境变量,包括设定工作目录workDir,设置CLASSPATH环境变量等。
然后装载jobjar包。
JvmManager用于管理该TaskTracker上所有运行的Task子进程。
每一个进程都是由JvmRunner来管理的,它也是位于单独线程中的。
JvmManager的launchJvm方法,根据任务是map还是reduce,生成对应的JvmRunner并放到对应JvmManagerForType的进程容器中进行管理。
JvmManagerForType的reapJvm()
分配一个新的JVM进程。
如果JvmManagerForType槽满,就寻找idle的进程,如果是同Job的直接放进去,否则杀死这个进程,用一个新的进程代替。
如果槽没有满,那么就启动新的子进程。
生成新的进程使用spawnNewJvm方法。
spawnNewJvm使用JvmRunner线程的run方法,run方法用于生成一个新的进程并运行它,具体实现是调用runChild。
2子进程执行MapTask
真实的执行载体,是Child,它包含一个main函数,进程执行,会将相关参数传进来,它会拆解这些参数,通过getTask(jvmId)向父进程索取任务,并且构造出相关的Task实例,然后使用Task的run()启动任务。
run
方法相当简单,配置完系统的TaskReporter后,就根据情况执行runJobCleanupTask,runJobSetupTask,runTaskCleanupTask或执行Mapper。
由于MapReduce现在有两套API,MapTask需要支持这两套API,使得MapTask执行Mapper分为runNewMapper和runOldMapper,我们分析runOldMapper。
runOldMapper
runOldMapper最开始部分是构造Mapper处理的InputSplit,然后就开始创建Mapper的RecordReader,最终得到map的输入。
之后构造Mapper的输出,是通过MapOutputCollector进行的,也分两种情况,如果没有Reducer,那么,用DirectMapOutputCollector,否则,用MapOutputBuffer。
构造完Mapper的输入输出,通过构造配置文件中配置的MapRunnable,就可以执行Mapper了。
目前系统有两个MapRunnable:
MapRunner和MultithreadedMapRunner。
MapRunner是单线程执行器,比较简单,他会使用反射机制生成用户定义的Mapper接口实现类,作为他的一个成员。
MapRunner的run方法
会先创建对应的key,value对象,然后,对InputSplit的每一对,调用用户实现的Mapper接口实现类的map方法,每处理一个数据对,就要使用OutputCollector收集每次处理kv对后得到的新的kv对,把他们spill到文件或者放到内存,以做进一步的处理,比如排序,combine等。
OutputCollector
OutputCollector的作用是收集每次调用map后得到的新的kv对,宁把他们spill到文件或者放到内存,以做进一步的处理,比如排序,combine等。
MapOutputCollector有两个子类:
MapOutputBuffer和DirectMapOutputCollector。
DirectMapOutputCollector用在不需要Reduce阶段的时候。
如果Mapper后续有reduce任务,系统会使用MapOutputBuffer做为输出,MapOutputBuffer使用了一个缓冲区对map的处理结果进行缓存,放在内存中,又使用几个数组对这个缓冲区进行管理。
在适当的时机,缓冲区中的数据会被spill到硬盘中。
向硬盘中写数据的时机:
(1)当内存缓冲区不能容下一个太大的kv对时。
spillSingleRecord方法。
(2)内存缓冲区已满时。
SpillThread线程。
(3)Mapper的结果都已经collect了,需要对缓冲区做最后的清理。
Flush方法。
spillThread线程:
将缓冲区中的数据spill到硬盘中。
(1)需要spill时调用函数sortAndSpill,按照partition和key做排序。
默认使用的是快速排序QuickSort。
(2)如果没有combiner,则直接输出记录,否则,调用CombinerRunner的combine,先做combin然后输出。
3子进程执行ReduceTask
方法开始和MapTask类似,包括initialize()初始化,runJobCleanupTask(),runJobSetupTask(),runTaskCleanupTask()。
之后进入正式的工作,主要有这么三个步骤:
Copy、Sort、Reduce。
Copy
就是从执行各个Map任务的服务器那里,