>>ob={'x':1,'y" />

亚洲免费在线-亚洲免费在线播放-亚洲免费在线观看-亚洲免费在线观看视频-亚洲免费在线看-亚洲免费在线视频

如何優(yōu)化Python占用的內(nèi)存

系統(tǒng) 1577 0

概述

如果程序處理的數(shù)據(jù)比較多、比較復(fù)雜,那么在程序運(yùn)行的時(shí)候,會(huì)占用大量的內(nèi)存,當(dāng)內(nèi)存占用到達(dá)一定的數(shù)值,程序就有可能被操作系統(tǒng)終止,特別是在限制程序所使用的內(nèi)存大小的場(chǎng)景,更容易發(fā)生問題。下面我就給出幾個(gè)優(yōu)化Python占用內(nèi)存的幾個(gè)方法。

說明:以下代碼運(yùn)行在Python3。

舉個(gè)栗子

我們舉個(gè)簡單的場(chǎng)景,使用Python存儲(chǔ)一個(gè)三維坐標(biāo)數(shù)據(jù),x,y,z。

Dict

使用Python內(nèi)置的數(shù)據(jù)結(jié)構(gòu)Dict來實(shí)現(xiàn)上述例子的需求很簡單。

          
            >>> ob = {'x':1, 'y':2, 'z':3}
>>> x = ob['x']
>>> ob['y'] = y
          
        

查看以下ob這個(gè)對(duì)象占用的內(nèi)存大小:

          
            >>> print(sys.getsizeof(ob))
240
          
        

簡單的三個(gè)整數(shù),占用的內(nèi)存還真不少,想象以下,如果有大量的這樣的數(shù)據(jù)要存儲(chǔ),會(huì)占用更大的內(nèi)存。

數(shù)據(jù)量 占用內(nèi)存大小
1 000 000 240 Mb
10 000 000 2.40 Gb
100 000 000 24 Gb

Class

對(duì)于喜歡面向?qū)ο缶幊痰某绦騿T來說,更喜歡把數(shù)據(jù)包在一個(gè)class里。使用class使用同樣需求:

          
            class Point:
    #
    def __init__(self, x, y, z):
        self.x = x
        self.y = y
        self.z = z

>>> ob = Point(1,2,3)
          
        

class的數(shù)據(jù)結(jié)構(gòu)和Dict區(qū)別就很大了,我們來看看這種情況下占用內(nèi)存的情況:

字段 占用內(nèi)存
PyGC_Head 24
PyObject_HEAD 16
_ weakref_ 8
_ dict_ 8
TOTAL 56

關(guān)于 __weakref__(弱引用)可以查看這個(gè)文檔, 對(duì)象的__dict__中存儲(chǔ)了一些self.xxx的一些東西。從Python 3.3開始,key使用了共享內(nèi)存存儲(chǔ), 減少了RAM中實(shí)例跟蹤的大小。

          
            >>> print(sys.getsizeof(ob), sys.getsizeof(ob.__dict__)) 
56 112
          
        
數(shù)據(jù)量 占用內(nèi)存
1 000 000 168 Mb
10 000 000 1.68 Gb
100 000 000 16.8 Gb

可以看到內(nèi)存占用量,class比dict少了一些,但這遠(yuǎn)遠(yuǎn)不夠。

_ slots_

從class的內(nèi)存占用分布上,我們可以發(fā)現(xiàn),通過消除__dict__和_weakref__,可以顯著減少RAM中類實(shí)例的大小,我們可以通過使用__slots__來達(dá)到這個(gè)目的。

          
            class Point:
    __slots__ = 'x', 'y', 'z'

    def __init__(self, x, y, z):
        self.x = x
        self.y = y
        self.z = z

>>> ob = Point(1,2,3)
>>> print(sys.getsizeof(ob))
64
          
        

可以看到內(nèi)存占用顯著的減少了

字段 內(nèi)存占用
PyGC_Head 24
PyObject_HEAD 16
x 8
y 8
z 8
TOTAL 64
數(shù)據(jù)量 占用內(nèi)存
1 000 000 64Mb
10 000 000 640Mb
100 000 000 6.4Gb

默認(rèn)情況下,Python的新式類和經(jīng)典類的實(shí)例都有一個(gè)dict來存儲(chǔ)實(shí)例的屬性。這在一般情況下還不錯(cuò),而且非常靈活,乃至在程序中可以隨意設(shè)置新的屬性。但是,對(duì)一些在”編譯”前就知道有幾個(gè)固定屬性的小class來說,這個(gè)dict就有點(diǎn)浪費(fèi)內(nèi)存了。

當(dāng)需要?jiǎng)?chuàng)建大量實(shí)例的時(shí)候,這個(gè)問題變得尤為突出。一種解決方法是在新式類中定義一個(gè)__slots__屬性。

__slots__聲明中包含若干實(shí)例變量,并為每個(gè)實(shí)例預(yù)留恰好足夠的空間來保存每個(gè)變量;這樣Python就不會(huì)再使用dict,從而節(jié)省空間。

那么用slot就是非非常那個(gè)有必要嗎?使用__slots__也是有副作用的:

  1. 每個(gè)繼承的子類都要重新定義一遍__slots__
  2. 實(shí)例只能包含哪些在__slots__定義的屬性,這對(duì)寫程序的靈活性有影響,比如你由于某個(gè)原因新網(wǎng)給instance設(shè)置一個(gè)新的屬性,比如instance.a = 1, 但是由于a不在__slots__里面就直接報(bào)錯(cuò)了,你得不斷地去修改__slots__或者用其他方法迂回的解決
  3. 實(shí)例不能有弱引用(weakref)目標(biāo),否則要記得把__weakref__放進(jìn)__slots__

最后,namedlist和attrs提供了自動(dòng)創(chuàng)建帶__slot__的類,感興趣的可以試試看。

Tuple

Python還有一個(gè)內(nèi)置類型元組,用于表示不可變數(shù)據(jù)結(jié)構(gòu)。 元組是固定的結(jié)構(gòu)或記錄,但沒有字段名稱。 對(duì)于字段訪問,使用字段索引。 在創(chuàng)建元組實(shí)例時(shí),元組字段一次性與值對(duì)象關(guān)聯(lián):

          
            >>> ob = (1,2,3)
>>> x = ob[0]
>>> ob[1] = y # ERROR
          
        

元組的示例很簡潔:

          
            >>> print(sys.getsizeof(ob))
72
          
        

可以看只比__slot__多8byte:

字段 占用內(nèi)存(bytes)
PyGC_Head 24
PyObject_HEAD 16
ob_size 8
[0] 8
[1] 8
[2] 8
TOTAL 72

Namedtuple

通過namedtuple我們也可以實(shí)現(xiàn)通過key值來訪問tuple里的元素:

          
            Point = namedtuple('Point', ('x', 'y', 'z'))
          
        

它創(chuàng)建了一個(gè)元組的子類,其中定義了用于按名稱訪問字段的描述符。 對(duì)于我們的例子,它看起來像這樣:

          
            class Point(tuple):
     #
     @property
     def _get_x(self):
         return self[0]
     @property
     def _get_y(self):
         return self[1]
     @property
     def _get_y(self):
         return self[2]
     #
     def __new__(cls, x, y, z):
         return tuple.__new__(cls, (x, y, z))
          
        

此類的所有實(shí)例都具有與元組相同的內(nèi)存占用。 大量實(shí)例會(huì)留下稍大的內(nèi)存占用:

數(shù)據(jù)量 內(nèi)存占用
1 000 000 72 Mb
10 000 000 720 Mb
100 000 000 7.2 Gb

Recordclass

python的第三方庫recordclassd提供了一個(gè)數(shù)據(jù)結(jié)構(gòu)recordclass.mutabletuple,它幾乎和內(nèi)置tuple數(shù)據(jù)結(jié)構(gòu)一致,但是占用更少的內(nèi)存。

          
             >>> Point = recordclass('Point', ('x', 'y', 'z'))
 >>> ob = Point(1, 2, 3)
          
        

實(shí)例化以后,只少了PyGC_Head:

字段 占用內(nèi)存
PyObject_HEAD 16
ob_size 8
x 8
y 8
y 8
TOTAL 48

到此,我們可以看到,和__slot__比,又進(jìn)一步縮小了內(nèi)存占用:

數(shù)據(jù)量 內(nèi)存占用
1 000 000 48 Mb
10 000 000 480 Mb
100 000 000 4.8 Gb

Dataobject

recordclass提供了另外一個(gè)解決方法:在內(nèi)存中使用與__slots__類相同的存儲(chǔ)結(jié)構(gòu),但不參與循環(huán)垃圾收集機(jī)制。通過recordclass.make_dataclass可以創(chuàng)建出這樣的實(shí)例:

          
            >>> Point = make_dataclass('Point', ('x', 'y', 'z'))
          
        

另外一個(gè)方法是繼承自dataobject

          
            class Point(dataobject):
    x:int
    y:int
    z:int
          
        

以這種方式創(chuàng)建的類將創(chuàng)建不參與循環(huán)垃圾收集機(jī)制的實(shí)例。 內(nèi)存中實(shí)例的結(jié)構(gòu)與__slots__的情況相同,但沒有PyGC_Head:

字段 內(nèi)存占用(bytes)
PyObject_HEAD 16
x 8
y 8
y 8
TOTAL 40
          
            >>> ob = Point(1,2,3)
>>> print(sys.getsizeof(ob))
40
          
        

要訪問這些字段,還使用特殊描述符通過其從對(duì)象開頭的偏移量來訪問字段,這些對(duì)象位于類字典中:

          
            mappingproxy({'__new__': 
            
              ,
              .......................................
              'x': 
              
                ,
              'y': 
                
                  ,
              'z': 
                  
                    })
                  
                
              
            
          
        
數(shù)據(jù)量 內(nèi)存占用
1 000 000 40 Mb
10 000 000 400 Mb
100 000 000 4.0 Gb

Cython

有一種方法基于Cython的使用。 它的優(yōu)點(diǎn)是字段可以采用C語言原子類型的值。例如:

          
            cdef class Python:
    cdef public int x, y, z

 def __init__(self, x, y, z):
      self.x = x
      self.y = y
      self.z = z
          
        

這種情況下,占用的內(nèi)存更小:

          
            >>> ob = Point(1,2,3)
>>> print(sys.getsizeof(ob))
32
          
        

內(nèi)存結(jié)構(gòu)分布如下:

字段 內(nèi)存占用(bytes)
PyObject_HEAD 16
x 4
y 4
y 4
пусто 4
TOTAL 32
數(shù)據(jù)量 內(nèi)存占用
1 000 000 32 Mb
10 000 000 320 Mb
100 000 000 3.2 Gb

但是,從Python代碼訪問時(shí),每次都會(huì)執(zhí)行從int到Python對(duì)象的轉(zhuǎn)換,反之亦然。

Numpy

在純Python的環(huán)境中,使用Numpy能帶來更好的效果,例如:

          
            >>> Point = numpy.dtype(('x', numpy.int32), ('y', numpy.int32), ('z', numpy.int32)])
          
        

創(chuàng)建初始值是0的數(shù)組:

          
             >>> points = numpy.zeros(N, dtype=Point)
          
        
數(shù)據(jù)量 內(nèi)存占用
1 000 000 12 Mb
10 000 000 120 Mb
100 000 000 1.2 Gb

最后

可以看出,在Python性能優(yōu)化這方面,還是有很多事情可以做的。Python提供了方便的同時(shí),也需要暫用較多的資源。在不通的場(chǎng)景下,我需要選擇不同的處理方法,以便帶來更好的性能體驗(yàn).

更多有趣的文章,請(qǐng)點(diǎn)擊我的博客


更多文章、技術(shù)交流、商務(wù)合作、聯(lián)系博主

微信掃碼或搜索:z360901061

微信掃一掃加我為好友

QQ號(hào)聯(lián)系: 360901061

您的支持是博主寫作最大的動(dòng)力,如果您喜歡我的文章,感覺我的文章對(duì)您有幫助,請(qǐng)用微信掃描下面二維碼支持博主2元、5元、10元、20元等您想捐的金額吧,狠狠點(diǎn)擊下面給點(diǎn)支持吧,站長非常感激您!手機(jī)微信長按不能支付解決辦法:請(qǐng)將微信支付二維碼保存到相冊(cè),切換到微信,然后點(diǎn)擊微信右上角掃一掃功能,選擇支付二維碼完成支付。

【本文對(duì)您有幫助就好】

您的支持是博主寫作最大的動(dòng)力,如果您喜歡我的文章,感覺我的文章對(duì)您有幫助,請(qǐng)用微信掃描上面二維碼支持博主2元、5元、10元、自定義金額等您想捐的金額吧,站長會(huì)非常 感謝您的哦!!!

發(fā)表我的評(píng)論
最新評(píng)論 總共0條評(píng)論
主站蜘蛛池模板: 免费一级在线 | 寡妇野外啪啪一区二区 | 香蕉视频成人在线观看 | 九九国产精品视频 | 国产91成人精品亚洲精品 | 一级毛片在线 | 老子影院午夜伦不卡亚洲 | 九九久久九九久久 | 日本a视频在线观看 | 久久综合香蕉 | 欧美一级视频在线观看欧美 | 一级a毛片免费观看 | 国产视频久 | 精品新一区二区三区四区 | 五月婷中文 | 国产欧美一区二区成人影院 | 国产精品免费看久久久麻豆 | 韩国色三级伦不卡高清在线观看 | 欧美高清无砖专区欧美精品 | 欧美一区二区在线播放 | 九九99热 | 四虎国产精品永免费 | 亚洲午夜一区 | 久re这里只有精品最新地址 | 草久久| 久久午夜激情 | 欧美一级在线免费观看 | 欧美深夜在线 | 精品免费视频 | 国产精品久久精品牛牛影视 | 91精品啪在线观看国产老湿机 | 免费a级特黄国产大片 | 欧美特黄一级大黄录像 | a毛片在线播放 | 国内自拍小视频 | 天天爱夜夜做 | 青青青在线视频播放免费 | 美女胸又大又黄www网站 | 天堂一区 | 四虎国产精品永久地址51 | 五十路一区二区三区视频 |