python記憶體回收機制

來源:互聯網
上載者:User

標籤:它的   sys   auth   while   收集   分代   設定   col   tle   

主要有三點:

1,引用計數

2,標記-清除(針對循環參考)

3,分代回收

一.記憶體回收機制

Python中的記憶體回收是以引用計數為主,分代收集為輔。引用計數的缺陷是循環參考的問題。
在Python中,如果一個對象的引用數為0,Python虛擬機器就會回收這個對象的記憶體。

#encoding=utf-8__author__ = ‘[email protected]‘class ClassA():    def __init__(self):        print ‘object born,id:%s‘%str(hex(id(self)))    def __del__(self):        print ‘object del,id:%s‘%str(hex(id(self)))def f1():    while True:        c1=ClassA()        del c1

執行f1()會迴圈輸出這樣的結果,而且進程佔用的記憶體基本不會變動

object born,id:0x237cf58object del,id:0x237cf58

c1=ClassA()會建立一個對象,放在0x237cf58記憶體中,c1變數指向這個記憶體,這時候這個記憶體的引用計數是1
del c1後,c1變數不再指向0x237cf58記憶體,所以這塊記憶體的引用計數減一,等於0,所以就銷毀了這個對象,然後釋放記憶體。

  1. 導致引用計數+1的情況
    1. 對象被建立,例如a=23
    2. 對象被引用,例如b=a
    3. 對象被作為參數,傳入到一個函數中,例如func(a)
    4. 對象作為一個元素,儲存在容器中,例如list1=[a,a]
  2. 導致引用計數-1的情況
    1. 對象的別名被顯式銷毀,例如del a
    2. 對象的別名被賦予新的對象,例如a=24
    3. 一個對象離開它的範圍,例如f函數執行完畢時,func函數中的局部變數(全域變數不會)
    4. 對象所在的容器被銷毀,或從容器中刪除對象

    demo

     def func(c,d):     print ‘in func function‘, sys.getrefcount(c) - 1 print ‘init‘, sys.getrefcount(11) - 1 a = 11 print ‘after a=11‘, sys.getrefcount(11) - 1 b = a print ‘after b=1‘, sys.getrefcount(11) - 1 func(11) print ‘after func(a)‘, sys.getrefcount(11) - 1 list1 = [a, 12, 14] print ‘after list1=[a,12,14]‘, sys.getrefcount(11) - 1 a=12 print ‘after a=12‘, sys.getrefcount(11) - 1 del a print ‘after del a‘, sys.getrefcount(11) - 1 del b print ‘after del b‘, sys.getrefcount(11) - 1 # list1.pop(0) # print ‘after pop list1‘,sys.getrefcount(11)-1 del list1 print ‘after del list1‘, sys.getrefcount(11) - 1

    輸出:

     init 24 after a=11 25 after b=1 26 in func function 28 after func(a) 26 after list1=[a,12,14] 27 after a=12 26 after del a 26 after del b 25 after del list1 24

    問題:為什麼調用函數會令引用計數+2

  3. 查看一個對象的引用計數

sys.getrefcount(a)可以查看a對象的引用計數,但是比正常計數大1,因為調用函數的時候傳入a,這會讓a的引用計數+1

二.循環參考導致記憶體泄露
def f2():    while True:        c1=ClassA()        c2=ClassA()        c1.t=c2        c2.t=c1        del c1        del c2        

執行f2(),進程佔用的記憶體會不斷增大。

object born,id:0x237cf30object born,id:0x237cf58

建立了c1,c2後,0x237cf30(c1對應的記憶體,記為記憶體1),0x237cf58(c2對應的記憶體,記為記憶體2)這兩塊記憶體的引用計數都是1,執行c1.t=c2c2.t=c1後,這兩塊記憶體的引用計數變成2.
在del c1後,記憶體1的對象的引用計數變為1,由於不是為0,所以記憶體1的對象不會被銷毀,所以記憶體2的對象的引用數依然是2,在del c2後,同理,記憶體1的對象,記憶體2的對象的引用數都是1。
雖然它們兩個的對象都是可以被銷毀的,但是由於循環參考,導致記憶體回收行程都不會回收它們,所以就會導致記憶體泄露。

三.記憶體回收
deff3():    # print gc.collect()    c1=ClassA()    c2=ClassA()    c1.t=c2    c2.t=c1    del c1    del c2    print gc.garbage    print gc.collect() #顯式執行記憶體回收    print gc.garbage    time.sleep(10)if __name__ == ‘__main__‘:    gc.set_debug(gc.DEBUG_LEAK) #設定gc模組的日誌    f3()

輸出:

gc: uncollectable <ClassA instance at 0230E918>gc: uncollectable <ClassA instance at 0230E940>gc: uncollectable <dict 0230B810>gc: uncollectable <dict 02301ED0>object born,id:0x230e918object born,id:0x230e9404
  • 記憶體回收後的對象會放在gc.garbage列表裡面
  • gc.collect()會返回不可達的對象數目,4等於兩個對象以及它們對應的dict
  • 有三種情況會觸發記憶體回收:
    1.調用gc.collect(),
    2.當gc模組的計數器達到閥值的時候。
    3.程式退出的時候
四.gc模組常用功能解析

Garbage Collector interface
gc模組提供一個介面給開發人員設定記憶體回收的選項。上面說到,採用引用計數的方法管理記憶體的一個缺陷是循環參考,而gc模組的一個主要功能就是解決循環參考的問題。

常用函數:
  1. gc.set_debug(flags)
    設定gc的debug日誌,一般設定為gc.DEBUG_LEAK
  2. gc.collect([generation])
    顯式進行記憶體回收,可以輸入參數,0代表只檢查第一代的對象,1代表檢查一,二代的對象,2代表檢查一,二,三代的對象,如果不傳參數,執行一個full collection,也就是等於傳2。
    返回不可達(unreachable objects)對象的數目
  3. gc.set_threshold(threshold0[, threshold1[, threshold2])
    設定自動執行記憶體回收的頻率。
  4. gc.get_count()
    擷取當前自動執行記憶體回收的計數器,返回一個長度為3的列表
gc模組的自動記憶體回收機制

必須要import gc模組,並且is_enable()=True才會啟動自動記憶體回收。
這個機制的主要作用就是發現並處理不可達的垃圾對象。
記憶體回收=垃圾檢查+記憶體回收
在Python中,採用分代收集的方法。把對象分為三代,一開始,對象在建立的時候,放在一代中,如果在一次一代的垃圾檢查中,改對象存活下來,就會被放到二代中,同理在一次二代的垃圾檢查中,該對象存活下來,就會被放到三代中。

gc模組裡面會有一個長度為3的列表的計數器,可以通過gc.get_count()擷取。
例如(488,3,0),其中488是指距離上一次一代垃圾檢查,Python分配記憶體的數目減去釋放記憶體的數目,注意是記憶體配置,而不是引用計數的增加。例如:

print gc.get_count()  # (590, 8, 0)a = ClassA()print gc.get_count()  # (591, 8, 0)del aprint gc.get_count()  # (590, 8, 0)

3是指距離上一次二代垃圾檢查,一代垃圾檢查的次數,同理,0是指距離上一次三代垃圾檢查,二代垃圾檢查的次數。

gc模快有一個自動記憶體回收的閥值,即通過gc.get_threshold函數擷取到的長度為3的元組,例如(700,10,10)
每一次計數器的增加,gc模組就會檢查增加後的計數是否達到閥值的數目,如果是,就會執行對應的代數的垃圾檢查,然後重設計數器
例如,假設閥值是(700,10,10)

  • 當計數器從(699,3,0)增加到(700,3,0),gc模組就會執行gc.collect(0),即檢查一代對象的垃圾,並重設計數器為(0,4,0)
  • 當計數器從(699,9,0)增加到(700,9,0),gc模組就會執行gc.collect(1),即檢查一、二代對象的垃圾,並重設計數器為(0,0,1)
  • 當計數器從(699,9,9)增加到(700,9,9),gc模組就會執行gc.collect(2),即檢查一、二、三代對象的垃圾,並重設計數器為(0,0,0)
其他
  1. 如果循環參考中,兩個對象都定義了__del__方法,gc模組不會銷毀這些不可達對象,因為gc模組不知道應該先調用哪個對象的__del__方法,所以為了安全起見,gc模組會把對象放到gc.garbage中,但是不會銷毀對象。
五.應用
    1. 項目中避免循環參考
    2. 引入gc模組,啟動gc模組的自動清理循環參考的對象機制
    3. 由於分代收集,所以把需要長期使用的變數集中管理,並儘快移到二代以後,減少GC檢查時的消耗
    4. gc模組唯一處理不了的是循環參考的類都有__del__方法,所以項目中要避免定義__del__方法,如果一定要使用該方法,同時導致了循環參考,需要代碼顯式調用gc.garbage裡面的對象的__del__來打破僵局

python記憶體回收機制

相關文章

聯繫我們

該頁面正文內容均來源於網絡整理,並不代表阿里雲官方的觀點,該頁面所提到的產品和服務也與阿里云無關,如果該頁面內容對您造成了困擾,歡迎寫郵件給我們,收到郵件我們將在5個工作日內處理。

如果您發現本社區中有涉嫌抄襲的內容,歡迎發送郵件至: info-contact@alibabacloud.com 進行舉報並提供相關證據,工作人員會在 5 個工作天內聯絡您,一經查實,本站將立刻刪除涉嫌侵權內容。

A Free Trial That Lets You Build Big!

Start building with 50+ products and up to 12 months usage for Elastic Compute Service

  • Sales Support

    1 on 1 presale consultation

  • After-Sales Support

    24/7 Technical Support 6 Free Tickets per Quarter Faster Response

  • Alibaba Cloud offers highly flexible support services tailored to meet your exact needs.