MapReduce源碼分析：Mapper和Reducer類

標籤：源碼   hadoop   mapreduce   

一：Mapper類

在Hadoop的mapper類中，有4個主要的函數，分別是：setup，clearup，map，run。代碼如下：

1. protected void setup(Context context) throws IOException, InterruptedException {
   
2. // NOTHING
   
3. }
   
4. 
   
5. protected void map(KEYIN key, VALUEIN value,
   
6.                      Context context) throws IOException, InterruptedException {
   
7. context.write((KEYOUT) key, (VALUEOUT) value);
   
8. }
   
9. 
   
10. protected void cleanup(Context context) throws IOException, InterruptedException {
    
11. // NOTHING
    
12. }
    
13. 
    
14. public void run(Context context) throws IOException, InterruptedException {
    
15.     setup(context);
    
16.     while (context.nextKeyValue()) {
    
17.       map(context.getCurrentKey(), context.getCurrentValue(), context);
    
18.     }
    
19.     cleanup(context);
    
20.   }
    
21. }

由上面的代碼，我們可以瞭解到，當調用到map時，通常會先執行一個setup函數，最後會執行一個cleanup函數。而預設情況下，這兩個函數的內容都是nothing。因此，當map方法不符合應用要求時，可以試著通過增加setup和cleanup的內容來滿足應用的需求。

二：Reducer類

在Hadoop的reducer類中，有3個主要的函數，分別是：setup，clearup，reduce。代碼如下：

1.   /**
   
2.    * Called once at the start of the task.
   
3.    */
   
4.   protected void setup(Context context
   
5.                        ) throws IOException, InterruptedException {
   
6.     // NOTHING
   
7.   }

1. 
   
2.   /**
   
3.    * This method is called once for each key. Most applications will define
   
4.    * their reduce class by overriding this method. The default implementation
   
5.    * is an identity function.
   
6.    */
   
7.   @SuppressWarnings("unchecked")
   
8.   protected void reduce(KEYIN key, Iterable<VALUEIN> values, Context context
   
9.                         ) throws IOException, InterruptedException {
   
10.     for(VALUEIN value: values) {
    
11.       context.write((KEYOUT) key, (VALUEOUT) value);
    
12.     }
    
13.   }

1.   /**
   
2.    * Called once at the end of the task.
   
3.    */
   
4.   protected void cleanup(Context context
   
5.                          ) throws IOException, InterruptedException {
   
6.     // NOTHING
   
7.   }

在使用者的應用程式中調用到reducer時，會直接調用reducer裡面的run函數，其代碼如下：

1. /*
   
2.    * control how the reduce task works.
   
3.    */
   
4.   @SuppressWarnings("unchecked")
   
5.   public void run(Context context) throws IOException, InterruptedException {
   
6.     setup(context);
   
7.     while (context.nextKey()) {
   
8.       reduce(context.getCurrentKey(), context.getValues(), context);
   
9.       // If a back up store is used, reset it
   
10.       ((ReduceContext.ValueIterator)
    
11.           (context.getValues().iterator())).resetBackupStore();
    
12.     }
    
13.     cleanup(context);
    
14.   }
    
15. }

由上面的代碼，我們可以瞭解到，當調用到reduce時，通常會先執行一個setup函數，最後會執行一個cleanup函數。而預設情況下，這兩個函數的內容都是nothing。因此，當reduce不符合應用要求時，可以試著通過增加setup和cleanup的內容來滿足應用的需求。

著作權聲明：本文為博主原創文章，未經博主允許不得轉載。

MapReduce源碼分析：Mapper和Reducer類