Размер структуры Python в памяти

Question

Есть ли ссылка на размер памяти структуры данных Python на 32- и 64-битных платформах?

Если нет, было бы неплохо иметь это на SO.Чем более исчерпывающе, тем лучше!Итак, сколько байтов используется следующими структурами Python (в зависимости от len и тип контента, если это необходимо)?

• int
• float
• ссылка
• str
• строка Юникода
• tuple
• list
• dict
• set
• array.array
• numpy.array
• deque
• объект классов нового стиля
• объект классов старого стиля
• ...и все, что я забываю!

(Для контейнеров, которые хранят только ссылки на другие объекты, мы, очевидно, не хотим учитывать размер самого элемента, поскольку он может быть общим.)

Кроме того, есть ли способ получить память, используемую объектом во время выполнения (рекурсивно или нет)?

Answer 1

Рекомендация от более ранний вопрос по этому поводу нужно было использовать sys.getsizeof(), цитирую:

>>> import sys
>>> x = 2
>>> sys.getsizeof(x)
14
>>> sys.getsizeof(sys.getsizeof)
32
>>> sys.getsizeof('this')
38
>>> sys.getsizeof('this also')
48

Вы можете использовать этот подход:

>>> import sys
>>> import decimal
>>> 
>>> d = {
...     "int": 0,
...     "float": 0.0,
...     "dict": dict(),
...     "set": set(),
...     "tuple": tuple(),
...     "list": list(),
...     "str": "a",
...     "unicode": u"a",
...     "decimal": decimal.Decimal(0),
...     "object": object(),
... }
>>> for k, v in sorted(d.iteritems()):
...     print k, sys.getsizeof(v)
...
decimal 40
dict 140
float 16
int 12
list 36
object 8
set 116
str 25
tuple 28
unicode 28

---

2012-09-30

Python 2.7 (Linux, 32-разрядная версия):

decimal 36
dict 136
float 16
int 12
list 32
object 8
set 112
str 22
tuple 24
unicode 32

Python 3.3 (Linux, 32-разрядная версия)

decimal 52
dict 144
float 16
int 14
list 32
object 8
set 112
str 26
tuple 24
unicode 26

---

2016-08-01

OSX, Python 2.7.10 (по умолчанию, 23 октября 2015 г., 19:19:21) [GCC 4.2.1, совместимый с Apple LLVM 7.0.0 (clang-700.0.59.5)] на Дарвине

decimal 80
dict 280
float 24
int 24
list 72
object 16
set 232
str 38
tuple 56
unicode 52

Answer 2

Я с удовольствием использую прыщик для таких задач.Он совместим со многими версиями Python. asizeof модуль, в частности, возвращается к версии 2.2!

Например, используя пример Хьюдбрауна, но с from pympler import asizeof в начале и print asizeof.asizeof(v) в конце я вижу (система Python 2.5 на MacOSX 10.5):

$ python pymp.py 
set 120
unicode 32
tuple 32
int 16
decimal 152
float 16
list 40
object 0
dict 144
str 32

Очевидно, что здесь есть некоторая аппроксимация, но я нашел ее очень полезной для анализа и настройки.

Answer 3

Все эти ответы собирают неглубокую информацию.Я подозреваю, что посетители этого вопроса в конечном итоге окажутся здесь, пытаясь ответить на вопрос: «Насколько велик этот сложный объект в памяти?»

Здесь есть отличный ответ: https://goshippo.com/blog/measure-real-size-any-python-object/

Изюминка:

import sys

def get_size(obj, seen=None):
    """Recursively finds size of objects"""
    size = sys.getsizeof(obj)
    if seen is None:
        seen = set()
    obj_id = id(obj)
    if obj_id in seen:
        return 0
    # Important mark as seen *before* entering recursion to gracefully handle
    # self-referential objects
    seen.add(obj_id)
    if isinstance(obj, dict):
        size += sum([get_size(v, seen) for v in obj.values()])
        size += sum([get_size(k, seen) for k in obj.keys()])
    elif hasattr(obj, '__dict__'):
        size += get_size(obj.__dict__, seen)
    elif hasattr(obj, '__iter__') and not isinstance(obj, (str, bytes, bytearray)):
        size += sum([get_size(i, seen) for i in obj])
    return size

Используется так:

In [1]: get_size(1)
Out[1]: 24

In [2]: get_size([1])
Out[2]: 104

In [3]: get_size([[1]])
Out[3]: 184

Если вы хотите более глубоко узнать модель памяти Python, здесь есть отличная статья, в которой есть аналогичный фрагмент кода «общего размера» как часть более подробного объяснения: https://code.tutsplus.com/tutorials/understand-how-much-memory-your-python-objects-use--cms-25609

Answer 4

Попробуйте профилировщик памяти.профилировщик памяти

Line #    Mem usage  Increment   Line Contents
==============================================
     3                           @profile
     4      5.97 MB    0.00 MB   def my_func():
     5     13.61 MB    7.64 MB       a = [1] * (10 ** 6)
     6    166.20 MB  152.59 MB       b = [2] * (2 * 10 ** 7)
     7     13.61 MB -152.59 MB       del b
     8     13.61 MB    0.00 MB       return a

Answer 5

Также вы можете использовать гуппи модуль.

>>> from guppy import hpy; hp=hpy()
>>> hp.heap()
Partition of a set of 25853 objects. Total size = 3320992 bytes.
 Index  Count   %     Size   % Cumulative  % Kind (class / dict of class)
     0  11731  45   929072  28    929072  28 str
     1   5832  23   469760  14   1398832  42 tuple
     2    324   1   277728   8   1676560  50 dict (no owner)
     3     70   0   216976   7   1893536  57 dict of module
     4    199   1   210856   6   2104392  63 dict of type
     5   1627   6   208256   6   2312648  70 types.CodeType
     6   1592   6   191040   6   2503688  75 function
     7    199   1   177008   5   2680696  81 type
     8    124   0   135328   4   2816024  85 dict of class
     9   1045   4    83600   3   2899624  87 __builtin__.wrapper_descriptor
<90 more rows. Type e.g. '_.more' to view.>

И:

>>> hp.iso(1, [1], "1", (1,), {1:1}, None)
Partition of a set of 6 objects. Total size = 560 bytes.
 Index  Count   %     Size   % Cumulative  % Kind (class / dict of class)
     0      1  17      280  50       280  50 dict (no owner)
     1      1  17      136  24       416  74 list
     2      1  17       64  11       480  86 tuple
     3      1  17       40   7       520  93 str
     4      1  17       24   4       544  97 int
     5      1  17       16   3       560 100 types.NoneType

Answer 6

Используя встроенную функцию dir([object]), вы можете размер встроенная функция.

>>> a = -1
>>> a.__sizeof__()
24