在進行python資料分析的時候,首先要進行資料預先處理。
有時候不得不處理一些非數值類別的資料,嗯, 今天要說的就是面對這些資料該如何處理。
目前瞭解到的大概有三種方法:
1,通過LabelEncoder來進行快速的轉換;
2,通過mapping方式,將類別映射為數值。不過這種方法適用範圍有限;
3,通過get_dummies方法來轉換。
1 import pandas as pd 2 from io import StringIO 3 4 csv_data = '''A,B,C,D 5 1,2,3,4 6 5,6,,8 7 0,11,12,''' 8 9 df = pd.read_csv(StringIO(csv_data))10 print(df)11 #統計為空白的數目12 print(df.isnull().sum())13 print(df.values)14 15 #丟棄空的16 print(df.dropna())17 print('after', df)18 from sklearn.preprocessing import Imputer19 # axis=0 列 axis = 1 行20 imr = Imputer(missing_values='NaN', strategy='mean', axis=0)21 imr.fit(df) # fit 構建得到資料22 imputed_data = imr.transform(df.values) #transform 將資料進行填充23 print(imputed_data)24 25 df = pd.DataFrame([['green', 'M', 10.1, 'class1'],26 ['red', 'L', 13.5, 'class2'],27 ['blue', 'XL', 15.3, 'class1']])28 df.columns =['color', 'size', 'price', 'classlabel']29 print(df)30 31 size_mapping = {'XL':3, 'L':2, 'M':1}32 df['size'] = df['size'].map(size_mapping)33 print(df)34 35 ## 遍曆Series36 for idx, label in enumerate(df['classlabel']):37 print(idx, label)38 39 #1, 利用LabelEncoder類快速編碼,但此時對color並不適合,40 #看起來,好像是有大小的41 from sklearn.preprocessing import LabelEncoder42 class_le = LabelEncoder()43 color_le = LabelEncoder()44 df['classlabel'] = class_le.fit_transform(df['classlabel'].values)45 #df['color'] = color_le.fit_transform(df['color'].values)46 print(df)47 48 #2, 映射字典將類標轉換為整數49 import numpy as np50 class_mapping = {label: idx for idx, label in enumerate(np.unique(df['classlabel']))}51 df['classlabel'] = df['classlabel'].map(class_mapping)52 print('2,', df)53 54 55 #3,處理1不適用的56 #利用建立一個新的虛擬特徵57 from sklearn.preprocessing import OneHotEncoder58 pf = pd.get_dummies(df[['color']])59 df = pd.concat([df, pf], axis=1)60 df.drop(['color'], axis=1, inplace=True)61 print(df)