橫向對比分析Python解析XML的四種方式

在最初學習PYTHON的時候，只知道有DOM和SAX兩種解析方法，但是其效率都不夠理想，由於需要處理的檔案數量太大，這兩種方式耗時太高無法接受。

在網路搜尋後發現，目前應用比較廣泛，且效率相對較高的ElementTree也是一個比較多人推薦的演算法，於是拿這個演算法來實測對比，ElementTree也包括兩種實現，一個是普通ElementTree（ET），一個是ElementTree.iterparse（ET_iter）。

本文將對DOM、SAX、ET、ET_iter四種方式進行橫向對比，通過處理相同檔案比較各個演算法的用時來評估其效率。

程式中將四種解析方法均寫為函數，在主程式中分別調用，來評估其解析效率。

解壓後的XML檔案內容樣本為：

主程式函數調用部分代碼為：

  print("檔案計數：%d/%d." % (gz_cnt,paser_num))  str_s,cnt = dom_parser(gz)  #str_s,cnt = sax_parser(gz)  #str_s,cnt = ET_parser(gz)  #str_s,cnt = ET_parser_iter(gz)  output.write(str_s)  vs_cnt += cnt

在最初的函數調用中函數返回兩個值，但接收函數調用值時用兩個變數分別調用，導致每個函數都要執行兩次，之後修改為一次調用兩個變數接收傳回值，減少了無效調用。

1、DOM解析

函數定義代碼：

def dom_parser(gz):  import gzip,cStringIO  import xml.dom.minidom    vs_cnt = 0  str_s = ''  file_io = cStringIO.StringIO()  xm = gzip.open(gz,'rb')  print("已讀入：%s.\n解析中：" % (os.path.abspath(gz)))  doc = xml.dom.minidom.parseString(xm.read())  bulkPmMrDataFile = doc.documentElement  #讀入子項目  enbs = bulkPmMrDataFile.getElementsByTagName("eNB")  measurements = enbs[0].getElementsByTagName("measurement")  objects = measurements[0].getElementsByTagName("object")  #寫入csv檔案  for object in objects:    vs = object.getElementsByTagName("v")    vs_cnt += len(vs)    for v in vs:      file_io.write(enbs[0].getAttribute("id")+' '+object.getAttribute("id")+' '+\      object.getAttribute("MmeUeS1apId")+' '+object.getAttribute("MmeGroupId")+' '+object.getAttribute("MmeCode")+' '+\      object.getAttribute("TimeStamp")+' '+v.childNodes[0].data+'\n') #擷取文本值  str_s = (((file_io.getvalue().replace(' \n','\r\n')).replace(' ',',')).replace('T',' ')).replace('NIL','')  xm.close()  file_io.close()  return (str_s,vs_cnt)

程式運行結果：

**************************************************
程式處理啟動。
輸入目錄為：/tmcdata/mro2csv/input31/。
輸出目錄為：/tmcdata/mro2csv/output31/。
輸入目錄下.gz檔案個數為：12，本次處理其中的12個。
**************************************************
檔案計數：1/12.
已讀入：/tmcdata/mro2csv/input31/TD-LTE_MRO_NSN_OMC_234598_20160224060000.xml.gz.
解析中：
檔案計數：2/12.
已讀入：/tmcdata/mro2csv/input31/TD-LTE_MRO_NSN_OMC_233798_20160224060000.xml.gz.
解析中：
檔案計數：3/12.
已讀入：/tmcdata/mro2csv/input31/TD-LTE_MRO_NSN_OMC_123798_20160224060000.xml.gz.
解析中：
………………………………………
檔案計數：12/12.
已讀入：/tmcdata/mro2csv/input31/TD-LTE_MRO_NSN_OMC_235598_20160224060000.xml.gz.
解析中：
VS行計數：177849，已耗用時間：107.077867，每秒處理行數：1660。
已寫入：/tmcdata/mro2csv/output31/mro_0001.csv。

**************************************************
程式處理結束。
由於DOM解析需要將整個檔案讀入記憶體，並建立樹結構，其記憶體消耗和時間消耗都比較高，但其優點在於邏輯簡單，不需要定義回呼函數，便於實現。

2、SAX解析

函數定義代碼：

def sax_parser(gz):  import os,gzip,cStringIO  from xml.parsers.expat import ParserCreate  #變數聲明  d_eNB = {}  d_obj = {}  s = ''  global flag   flag = False  file_io = cStringIO.StringIO()    #Sax解析類  class DefaultSaxHandler(object):    #處理開始標籤    def start_element(self, name, attrs):      global d_eNB      global d_obj      global vs_cnt      if name == 'eNB':        d_eNB = attrs      elif name == 'object':        d_obj = attrs      elif name == 'v':        file_io.write(d_eNB['id']+' '+ d_obj['id']+' '+d_obj['MmeUeS1apId']+' '+d_obj['MmeGroupId']+' '+d_obj['MmeCode']+' '+d_obj['TimeStamp']+' ')        vs_cnt += 1      else:        pass    #處理中間文本    def char_data(self, text):      global d_eNB      global d_obj      global flag      if text[0:1].isnumeric():        file_io.write(text)      elif text[0:17] == 'MR.LteScPlrULQci1':        flag = True        #print(text,flag)      else:        pass    #處理結束標籤    def end_element(self, name):      global d_eNB      global d_obj      if name == 'v':        file_io.write('\n')      else:        pass    #Sax解析調用  handler = DefaultSaxHandler()  parser = ParserCreate()  parser.StartElementHandler = handler.start_element  parser.EndElementHandler = handler.end_element  parser.CharacterDataHandler = handler.char_data  vs_cnt = 0  str_s = ''  xm = gzip.open(gz,'rb')  print("已讀入：%s.\n解析中：" % (os.path.abspath(gz)))  for line in xm.readlines():    parser.Parse(line) #解析xml檔案內容    if flag:      break  str_s = file_io.getvalue().replace(' \n','\r\n').replace(' ',',').replace('T',' ').replace('NIL','')  #寫入解析後內容  xm.close()  file_io.close()  return (str_s,vs_cnt)

程式運行結果：

**************************************************
程式處理啟動。
輸入目錄為：/tmcdata/mro2csv/input31/。
輸出目錄為：/tmcdata/mro2csv/output31/。
輸入目錄下.gz檔案個數為：12，本次處理其中的12個。
**************************************************
檔案計數：1/12.
已讀入：/tmcdata/mro2csv/input31/TD-LTE_MRO_NSN_OMC_234598_20160224060000.xml.gz.
解析中：
檔案計數：2/12.
已讀入：/tmcdata/mro2csv/input31/TD-LTE_MRO_NSN_OMC_233798_20160224060000.xml.gz.
解析中：
檔案計數：3/12.
已讀入：/tmcdata/mro2csv/input31/TD-LTE_MRO_NSN_OMC_123798_20160224060000.xml.gz.
解析中：
.........................................
檔案計數：12/12.
已讀入：/tmcdata/mro2csv/input31/TD-LTE_MRO_NSN_OMC_235598_20160224060000.xml.gz.
解析中：
VS行計數：177849，已耗用時間：14.386779，每秒處理行數：12361。
已寫入：/tmcdata/mro2csv/output31/mro_0001.csv。

**************************************************
程式處理結束。
SAX解析相比DOM解析，已耗用時間大幅縮短，由於SAX採用逐行解析，對於處理較大檔案其佔用記憶體也少，因此SAX解析是目前應用較多的一種解析方法。其缺點在於需要自己實現回呼函數，邏輯較為複雜。

3、ET解析

函數定義代碼：

def ET_parser(gz):  import os,gzip,cStringIO  import xml.etree.cElementTree as ET  vs_cnt = 0  str_s = ''  file_io = cStringIO.StringIO()  xm = gzip.open(gz,'rb')  print("已讀入：%s.\n解析中：" % (os.path.abspath(gz)))  tree = ET.ElementTree(file=xm)  root = tree.getroot()  for elem in root[1][0].findall('object'):      for v in elem.findall('v'):          file_io.write(root[1].attrib['id']+' '+elem.attrib['TimeStamp']+' '+elem.attrib['MmeCode']+' '+\          elem.attrib['id']+' '+ elem.attrib['MmeUeS1apId']+' '+ elem.attrib['MmeGroupId']+' '+ v.text+'\n')      vs_cnt += 1  str_s = file_io.getvalue().replace(' \n','\r\n').replace(' ',',').replace('T',' ').replace('NIL','')  #寫入解析後內容  xm.close()  file_io.close()  return (str_s,vs_cnt)

程式運行結果：

**************************************************
程式處理啟動。
輸入目錄為：/tmcdata/mro2csv/input31/。
輸出目錄為：/tmcdata/mro2csv/output31/。
輸入目錄下.gz檔案個數為：12，本次處理其中的12個。
**************************************************
檔案計數：1/12.
已讀入：/tmcdata/mro2csv/input31/TD-LTE_MRO_NSN_OMC_234598_20160224060000.xml.gz.
解析中：
檔案計數：2/12.
已讀入：/tmcdata/mro2csv/input31/TD-LTE_MRO_NSN_OMC_233798_20160224060000.xml.gz.
解析中：
檔案計數：3/12.
已讀入：/tmcdata/mro2csv/input31/TD-LTE_MRO_NSN_OMC_123798_20160224060000.xml.gz.
解析中：
...........................................
檔案計數：12/12.
已讀入：/tmcdata/mro2csv/input31/TD-LTE_MRO_NSN_OMC_235598_20160224060000.xml.gz.
解析中：
VS行計數：177849，已耗用時間：4.308103，每秒處理行數：41282。
已寫入：/tmcdata/mro2csv/output31/mro_0001.csv。

**************************************************
程式處理結束。
相較於SAX解析，ET解析時間更短，並且函數實現也比較簡單，所以ET具有類似DOM的簡單邏輯實現且匹敵SAX的解析效率，因此ET是目前XML解析的首選。

4、ET_iter解析

函數定義代碼：

def ET_parser_iter(gz):  import os,gzip,cStringIO  import xml.etree.cElementTree as ET  vs_cnt = 0  str_s = ''  file_io = cStringIO.StringIO()  xm = gzip.open(gz,'rb')  print("已讀入：%s.\n解析中：" % (os.path.abspath(gz)))  d_eNB = {}  d_obj = {}  i = 0  for event,elem in ET.iterparse(xm,events=('start','end')):    if i >= 2:      break        elif event == 'start':          if elem.tag == 'eNB':              d_eNB = elem.attrib          elif elem.tag == 'object':        d_obj = elem.attrib      elif event == 'end' and elem.tag == 'smr':      i += 1    elif event == 'end' and elem.tag == 'v':      file_io.write(d_eNB['id']+' '+d_obj['TimeStamp']+' '+d_obj['MmeCode']+' '+d_obj['id']+' '+\      d_obj['MmeUeS1apId']+' '+ d_obj['MmeGroupId']+' '+str(elem.text)+'\n')          vs_cnt += 1      elem.clear()  str_s = file_io.getvalue().replace(' \n','\r\n').replace(' ',',').replace('T',' ').replace('NIL','')  #寫入解析後內容  xm.close()  file_io.close()  return (str_s,vs_cnt)

程式運行結果：

**************************************************
程式處理啟動。
輸入目錄為：/tmcdata/mro2csv/input31/。
輸出目錄為：/tmcdata/mro2csv/output31/。
輸入目錄下.gz檔案個數為：12，本次處理其中的12個。
**************************************************
檔案計數：1/12.
已讀入：/tmcdata/mro2csv/input31/TD-LTE_MRO_NSN_OMC_234598_20160224060000.xml.gz.
解析中：
檔案計數：2/12.
已讀入：/tmcdata/mro2csv/input31/TD-LTE_MRO_NSN_OMC_233798_20160224060000.xml.gz.
解析中：
檔案計數：3/12.
已讀入：/tmcdata/mro2csv/input31/TD-LTE_MRO_NSN_OMC_123798_20160224060000.xml.gz.
解析中：
...................................................
檔案計數：12/12.
已讀入：/tmcdata/mro2csv/input31/TD-LTE_MRO_NSN_OMC_235598_20160224060000.xml.gz.
解析中：
VS行計數：177849，已耗用時間：3.043805，每秒處理行數：58429。
已寫入：/tmcdata/mro2csv/output31/mro_0001.csv。

**************************************************
程式處理結束。
在引入了ET_iter解析後，解析效率比ET提升了近50%，而相較於DOM解析更是提升了35倍，在解析效率提升的同時，由於其採用了iterparse這個循序解析的工具，其記憶體佔用也是比較小的。

所以，小夥伴們，請好好利用這幾種工具吧。
以上就是本文的全部內容，希望對大家的學習有所協助。

