python使用pandas實現資料分割執行個體代碼，pythonpandas

python使用pandas實現資料分割執行個體代碼，pythonpandas

本文研究的主要是Python編程通過pandas將資料分割成時間跨度相等的資料區塊的相關內容，具體如下。

先上資料，有如下dataframe格式的資料，列名分別為date、ip，我需要統計每5s內出現的ip，以及這些ip出現的頻數。

 ip   date0 127.0.0.21 15/Jul/2017:18:22:161 127.0.0.13 15/Jul/2017:18:22:162 127.0.0.11 15/Jul/2017:18:22:173 127.0.0.11 15/Jul/2017:18:22:204 127.0.0.21 15/Jul/2017:18:22:215 127.0.0.13 15/Jul/2017:18:22:226 127.0.0.14 15/Jul/2017:18:26:367 127.0.0.16 15/Jul/2017:18:32:158 127.0.0.11 15/Jul/2017:18:36:03

在網上找了很久但是沒看到python的相關答案，但在stackoverflow找到了R語言的解法，有興趣可以看看。

受它的啟發，我用不太優雅的方式實現了我的需求，有更好解決方案的請不吝賜教：

step1: 將資料中日期格式變為標準格式

#date_ip為我的dataframe資料date_ip['date'] = pd.to_datetime(date_ip['date'], format='%d/%b/%Y:%H:%M:%S')

step2: 將資料的開始時間、結束時間，按5s分割（由於時間段可能不是恰好是5s的倍數，為避免最後一個時間丟失，因此在最後加上5s）

frequency = 5time_range = pd.date_range(date_ip['date'][0],    date_ip['date'][date_ip.shape[0]-1]    +frequency*Second(), freq='%sS'%frequency)

step3: 將date變為索引

date_ip = date_ip.set_index('date')

step4: 對每個時間段內的資料進行頻數計算（由於通過標籤切片時會包含頭、尾資料，為避免重複計算，因此在尾部減1s）

for i in xrange(0,len(time_range)-1): print get_frequency(date_ip.loc[time_range[i]:time_range[i+1]-1*Second()])

完整的代碼

import pandas as pdfrom pandas.tseries.offsets import Seconddef get_frequency(date_ip): ip_frequency = {} for i in xrange(0,date_ip.shape[0]): ip_frequency[date_ip['ip'][i]] = ip_frequency.get(date_ip['ip'][i], 0) + 1 return ip_frequency,date_ip.shape[0]if __name__ == '__main__':  date_ip['date'] = pd.to_datetime(date_ip['date'], format='%d/%b/%Y:%H:%M:%S') frequency = 5 time_range = pd.date_range(date_ip['date'][0], date_ip['date'][date_ip.shape[0]-1]    +frequency*Second(), freq='%sS'%frequency)  date_ip = date_ip.set_index('date') for i in xrange(0, len(time_range) - 1): print get_frequency(date_ip.loc[time_range[i]:time_range[i + 1]-1*Second()])

文章開頭資料運行結果：

({'127.0.0.21' : 1, '127.0.0.13' : 1, '127.0.0.11' : 2}, 4)({'127.0.0.21': 1, '127.0.0.13': 1}, 2)({'127.0.0.14': 1}, 1)({'127.0.0.16': 1}, 1)({'127.0.0.11': 1}, 1)

總結

以上就是本文關於python使用pandas實現資料分割執行個體代碼的全部內容，希望對大家有所協助。感興趣的朋友可以繼續參閱本站其他相關專題，如有不足之處，歡迎留言指出。感謝朋友們對本站的支援！