資料標準化 (data normalization) 的原理及實現 (Python sklearn)

標籤：方式   float   tab   for   import   http   注意   向量   bubuko   

原理

資料正規化（data normalization）是將資料的每個樣本（向量）變換為單位範數的向量，各樣本之間是相互獨立的．其實際上，是對向量中的每個分量值除以正規化因子．常用的正規化因子有 L1, L2 和 Max．假設，對長度為 n 的向量，其正規化因子 z 的計算公式，如下所示：

注意：Max 與無窮範數  不同，無窮範數 是需要先對向量的所有分量取絕對值，然後取其中的最大值；而 Max 是向量中的最大分量值，不需要取絕對值的操作．

補充：一階範數也稱為曼哈頓距離（Manhanttan distance）或街區距離；二階範數也稱為歐式距離（Euclidean distance）．

 

實現

在 Python 庫 sklearn 中，有兩種實現方式進行資料的正規化，這兩種實現都可通過參數 norm 選擇正規化因子，可選項有 ‘l1‘, ‘l2‘ 和 ‘max‘．

方法一：採用 sklearn.preprocessing.Normalizer 類，其範例程式碼如下：

#!/usr/bin/env python# -*- coding: utf8 -*-# author: klchang
# Use sklearn.preprocessing.Normalizer class to normalize data.

from __future__ import print_functionimport numpy as npfrom sklearn.preprocessing import Normalizerx = np.array([1, 2, 3, 4], dtype=‘float32‘).reshape(1,-1)print("Before normalization: ", x)options = [‘l1‘, ‘l2‘, ‘max‘]for opt in options:    norm_x = Normalizer(norm=opt).fit_transform(x)    print("After %s normalization: " % opt.capitalize(), norm_x)

方法二：採用 sklearn.preprocessing.normalize 函數，其範例程式碼如下：

#!/usr/bin/env python# -*- coding: utf8 -*-# author: klchang
# Use sklearn.preprocessing.normalize function to normalize data.
from __future__ import print_functionimport numpy as npfrom sklearn.preprocessing import normalizex = np.array([1, 2, 3, 4], dtype=‘float32‘).reshape(1,-1)print("Before normalization: ", x)options = [‘l1‘, ‘l2‘, ‘max‘]for opt in options:    norm_x = normalize(x, norm=opt)    print("After %s normalization: " % opt.capitalize(), norm_x)

 

參考資料

1. Scikit-learn Normalization mode (L1 vs L2 & Max). https://stats.stackexchange.com/questions/225564/scikit-learn-normalization-mode-l1-vs-l2-max

2. sklearn.preprocessing.Normalizer - scikit-learn Documentation. http://scikit-learn.org/stable/modules/generated/sklearn.preprocessing.Normalizer.html

3. sklearn.preprocessing.normalize - scikit-learn Documentation. http://scikit-learn.org/stable/modules/generated/sklearn.preprocessing.normalize.html

4. scikit-learn Documentation - 4.3. Preprocessing data. http://scikit-learn.org/stable/modules/preprocessing.html

5. Norm (mathematics). https://en.wikipedia.org/w/index.php?title=Norm_(mathematics)&oldid=838245314

 

資料標準化 (data normalization) 的原理及實現 (Python sklearn)