Hive 實現 udf row_number 以及遇到的問題

Hive 實現 udf row_number 以及遇到的問題

為hive的每條資料添加row_number, 首先添加行號，必須考慮到資料必須放在一個reduce中去執行。先上代碼

package xx.xxxxx.hive.udf;

import org.apache.Hadoop.hive.ql.exec.UDF;
import org.apache.hadoop.hive.ql.udf.UDFType;

@UDFType(deterministic = false)
public class RowNumber extends UDF {
    private static int MAX_VALUE = 50;
    private static String comparedColumn[] = new String[MAX_VALUE];
    private static int rowNum = 1;
 
    public int evaluate(Object ...args) {
        String columnValue[] = new String[args.length];
        for (int i = 0; i < args.length; i++){
            columnValue[i] = args[i].toString();
        }
        if (rowNum == 1) {
            for (int i = 0; i < columnValue.length; i++)
                comparedColumn[i] = columnValue[i];
        }

        for (int i = 0; i < columnValue.length; i++) {
            if (!comparedColumn[i].equals(columnValue[i])) {
                for (int j = 0; j < columnValue.length; j++) {
                    comparedColumn[j] = columnValue[j];
                }
                rowNum = 1;
                return rowNum++;
            }
        }
        return rowNum++;
    }
}

打包jar包，並建立函數。

add jar /home/hdbatch/jars/iclickhiveudf.jar;
create temporary function row_number as 'cn.iclick.hive.udf.RowNumber';

但是用法要注意，假設我要對一個表的資料進行標註行號，兩條sql語句，

create table test_tony as select row_number(1), tid from(select distinct tid from cookie  where i_date=20131105)t order by tid;

上邊這條語句會標註行號錯誤，會產生11個reduce，所以會打11份相同的row number，所以就會有錯誤，為什麼會有不同的解釋呢？？？ 看explain sql語句， 原因是編寫non-deterministic的UDF時遇到的謂詞下推錯誤。
具體詳見：

更多詳情見請繼續閱讀下一頁的精彩內容：

Hive 的詳細介紹：請點這裡
Hive 的：請點這裡

基於Hadoop叢集的Hive安裝

Hive內表和外表的區別

Hadoop + Hive + Map +reduce 叢集安裝部署

Hive本地獨立模式安裝

Hive學習之WordCount單詞統計

1 2 下一頁