列表的创建
创建列表,Python底层只提供了唯一一个Python/C API,也就是PyList_New。这个函数接收一个size参数,允许我们在创建一个PyListObject对象时指定底层的PyObject *数组的长度。
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
|
PyObject * PyList_New(Py_ssize_t size) { / / 声明一个PyListObject * 对象 PyListObject * op; #ifdef SHOW_ALLOC_COUNT static int initialized = 0 ; if (!initialized) { Py_AtExit(show_alloc); initialized = 1 ; } #endif / / 如果size小于 0 ,直接抛异常 if (size < 0 ) { PyErr_BadInternalCall(); return NULL; } / / 缓存池是否可用,如果可用 if (numfree) { / / 将缓存池内对象个数减 1 numfree - - ; / / 从缓存池中获取 op = free_list[numfree]; / / 设置引用计数 _Py_NewReference((PyObject * )op); #ifdef SHOW_ALLOC_COUNT count_reuse + + ; #endif } else { / / 不可用的时候,申请内存 op = PyObject_GC_New(PyListObject, &PyList_Type); if (op = = NULL) return NULL; #ifdef SHOW_ALLOC_COUNT count_alloc + + ; #endif } / / 如果size等于 0 ,ob_item设置为NULL if (size < = 0 ) op - >ob_item = NULL; else { / / 否则的话,创建一个指定容量的指针数组,然后让ob_item指向它 / / 所以是先创建PyListObject对象, 然后创建指针数组 / / 最后通过ob_item建立联系 op - >ob_item = (PyObject * * ) PyMem_Calloc(size, sizeof(PyObject * )); if (op - >ob_item = = NULL) { Py_DECREF(op); return PyErr_NoMemory(); } } / / 设置ob_size和allocated,然后返回op Py_SIZE(op) = size; op - >allocated = size; _PyObject_GC_TRACK(op); return (PyObject * ) op; } |
我们注意到源码里面有一个缓存池,是的,Python大部分对象都有自己的缓存池,只不过实现的方式不同。
列表的销毁
创建PyListObject对象时,会先检测缓存池free_list里面是否有可用的对象,有的话直接拿来用,否则通过malloc在系统堆上申请。列表的缓存池是使用数组实现的,里面最多维护80个PyListObject对象。
1
2
3
4
|
#ifndef PyList_MAXFREELIST #define PyList_MAXFREELIST 80 #endif static PyListObject * free_list[PyList_MAXFREELIST]; |
根据之前的经验我们知道,既然创建的时候能从缓存池中获取,那么在执行析构函数的时候也要把列表放到缓存池里面。
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
|
static void list_dealloc(PyListObject * op) { Py_ssize_t i; PyObject_GC_UnTrack(op); Py_TRASHCAN_SAFE_BEGIN(op) / / 先释放底层数组 if (op - >ob_item ! = NULL) { i = Py_SIZE(op); / / 但是释放之前,还有一件重要的事情 / / 要将底层数组中每个指针指向的对象的引用计数都减去 1 / / 因为它们不再持有对 "对象" 的引用 while ( - - i > = 0 ) { Py_XDECREF(op - >ob_item[i]); } / / 然后释放底层数组所占的内存 PyMem_FREE(op - >ob_item); } / / 判断缓冲池里面PyListObject对象的个数,如果没满,就添加到缓存池 / / 注意:我们看到执行到这一步的时候, 底层数组已经被释放掉了 if (numfree < PyList_MAXFREELIST && PyList_CheckExact(op)) / / 添加到缓存池的时候,是添加到尾部 / / 获取的时候也是从尾部获取 free_list[numfree + + ] = op; else / / 否则的话就释放掉PyListObject对象所占的内存 Py_TYPE(op) - >tp_free((PyObject * )op); Py_TRASHCAN_SAFE_END(op) } |
我们知道在创建一个新的PyListObject对象时,实际上是分为两步的,先创建PyListObject对象,然后创建底层数组,最后让PyListObject对象中的ob_item成员指向这个底层数组。
同理,在销毁一个PyListObject对象时,先销毁ob_item维护的底层数组,然后再释放PyListObject对象自身(如果缓存池已满)。
现在可以很清晰地明白了,原本空荡荡的缓存池其实是被已经死去的PyListObject对象填充了。在以后创建新的PyListObject对象时,Python会首先唤醒这些死去的PyListObject对象,给它们一个洗心革面、重新做人的机会。但需要注意的是,这里缓存的仅仅是PyListObject对象,对于底层数组,其ob_item已经不再指向了。
从list_dealloc中我们看到,PyListObject对象在放进缓存池之前,ob_item指向的数组就已经被释放掉了,同时数组中指针指向的对象的引用计数会减1。所以最终数组中这些指针指向的对象也大难临头各自飞了,或生存、或毁灭,总之此时和PyListObject之间已经没有任何联系了。
但是为什么要这么做呢?为什么不连底层数组也一起维护呢?可以想一下,如果继续维护的话,数组中指针指向的对象永远不会被释放,那么很可能会产生悬空指针的问题,所以这些指针指向的对象所占的空间必须交还给系统(前提是没有其它指针指向了)。
但是实际上,是可以将PyListObject对象维护的底层数组进行保留的,即:只将数组中指针指向的对象的引用计数减1,然后将数组中的指针都设置为NULL,不再指向之前的对象了,但是并不释放底层数组本身所占用的内存空间。
因此这样一来,释放的内存不会交给系统堆,那么再次分配的时候,速度会快很多。但是这样带来一个问题,就是这些内存没人用也会一直占着,并且只能供PyListObject对象的ob_item指向的底层数组使用。因此Python还是为避免消耗过多内存,采取将底层数组所占的内存交还给了系统堆这样的做法,在时间和空间上选择了空间。
1
2
3
4
5
6
7
8
|
lst1 = [ 1 , 2 , 3 ] print ( id (lst1)) # 1243303086208 # 扔到缓存池中,放在数组的尾部 del lst1 # 从缓存池中获取,也会从数组的尾部开始拿 lst2 = [ 1 , 2 , 3 ] print ( id (lst2)) # 1243303086208 # 因此打印的地址是一样的 |
小结
作为一个功能强大的数据结构,多花些时间是有必要的。
到此这篇关于Python列表创建与销毁及缓存池机制的文章就介绍到这了,更多相关Python 列表内容请搜索服务器之家以前的文章或继续浏览下面的相关文章希望大家以后多多支持服务器之家!
原文链接:https://juejin.cn/post/7089263511049601031