脚本之家,脚本语言编程技术及教程分享平台!
分类导航

Python|VBS|Ruby|Lua|perl|VBA|Golang|PowerShell|Erlang|autoit|Dos|bat|shell|

服务器之家 - 脚本之家 - Python - Python列表创建与销毁及缓存池机制

Python列表创建与销毁及缓存池机制

2022-12-29 12:16编程学习网 Python

这篇文章主要介绍了Python列表创建与销毁及缓存池机制,文章基于python展开对列表创建与销毁内容的展开,具有一定的参考价值,需要的小伙伴可以参考一下

列表的创建

创建列表,Python底层只提供了唯一一个Python/C API,也就是PyList_New。这个函数接收一个size参数,允许我们在创建一个PyListObject对象时指定底层的PyObject *数组的长度。

?
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
PyObject *
PyList_New(Py_ssize_t size)
    //声明一个PyListObject *对象
    PyListObject *op;
#ifdef SHOW_ALLOC_COUNT
    static int initialized = 0;
    if (!initialized) {
        Py_AtExit(show_alloc);
        initialized = 1;
    }
#endif
  
    //如果size小于0,直接抛异常
    if (size < 0) {
        PyErr_BadInternalCall();
        return NULL;
    }
    //缓存池是否可用,如果可用
    if (numfree) {
        //将缓存池内对象个数减1
        numfree--;
        //从缓存池中获取
        op = free_list[numfree];
        //设置引用计数
        _Py_NewReference((PyObject *)op);
#ifdef SHOW_ALLOC_COUNT
        count_reuse++;
#endif
    } else {
        //不可用的时候,申请内存
        op = PyObject_GC_New(PyListObject, &PyList_Type);
        if (op == NULL)
            return NULL;
#ifdef SHOW_ALLOC_COUNT
        count_alloc++;
#endif
    }
    //如果size等于0,ob_item设置为NULL
    if (size <= 0)
        op->ob_item = NULL;
    else {
        //否则的话,创建一个指定容量的指针数组,然后让ob_item指向它
        //所以是先创建PyListObject对象, 然后创建指针数组
        //最后通过ob_item建立联系
        op->ob_item = (PyObject **) PyMem_Calloc(size, sizeof(PyObject *));
        if (op->ob_item == NULL) {
            Py_DECREF(op);
            return PyErr_NoMemory();
        }
    }
    //设置ob_size和allocated,然后返回op
    Py_SIZE(op) = size;
    op->allocated = size;
    _PyObject_GC_TRACK(op);
    return (PyObject *) op;
}

我们注意到源码里面有一个缓存池,是的,Python大部分对象都有自己的缓存池,只不过实现的方式不同。

列表的销毁

创建PyListObject对象时,会先检测缓存池free_list里面是否有可用的对象,有的话直接拿来用,否则通过malloc在系统堆上申请。列表的缓存池是使用数组实现的,里面最多维护80个PyListObject对象。

?
1
2
3
4
#ifndef PyList_MAXFREELIST
#define PyList_MAXFREELIST 80
#endif
static PyListObject *free_list[PyList_MAXFREELIST];

根据之前的经验我们知道,既然创建的时候能从缓存池中获取,那么在执行析构函数的时候也要把列表放到缓存池里面。

?
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
static void
list_dealloc(PyListObject *op)
{
    Py_ssize_t i;
    PyObject_GC_UnTrack(op);
    Py_TRASHCAN_SAFE_BEGIN(op)
    //先释放底层数组
    if (op->ob_item != NULL) {
        i = Py_SIZE(op);
        //但是释放之前,还有一件重要的事情
        //要将底层数组中每个指针指向的对象的引用计数都减去1
        //因为它们不再持有对"对象"的引用
        while (--i >= 0) {
            Py_XDECREF(op->ob_item[i]);
        }
        //然后释放底层数组所占的内存
        PyMem_FREE(op->ob_item);
    }
    //判断缓冲池里面PyListObject对象的个数,如果没满,就添加到缓存池
    //注意:我们看到执行到这一步的时候, 底层数组已经被释放掉了
    if (numfree < PyList_MAXFREELIST && PyList_CheckExact(op))
    //添加到缓存池的时候,是添加到尾部
    //获取的时候也是从尾部获取
        free_list[numfree++] = op;
    else
        //否则的话就释放掉PyListObject对象所占的内存
        Py_TYPE(op)->tp_free((PyObject *)op);
    Py_TRASHCAN_SAFE_END(op)
}

我们知道在创建一个新的PyListObject对象时,实际上是分为两步的,先创建PyListObject对象,然后创建底层数组,最后让PyListObject对象中的ob_item成员指向这个底层数组。

同理,在销毁一个PyListObject对象时,先销毁ob_item维护的底层数组,然后再释放PyListObject对象自身(如果缓存池已满)。

现在可以很清晰地明白了,原本空荡荡的缓存池其实是被已经死去的PyListObject对象填充了。在以后创建新的PyListObject对象时,Python会首先唤醒这些死去的PyListObject对象,给它们一个洗心革面、重新做人的机会。但需要注意的是,这里缓存的仅仅是PyListObject对象,对于底层数组,其ob_item已经不再指向了。

从list_dealloc中我们看到,PyListObject对象在放进缓存池之前,ob_item指向的数组就已经被释放掉了,同时数组中指针指向的对象的引用计数会减1。所以最终数组中这些指针指向的对象也大难临头各自飞了,或生存、或毁灭,总之此时和PyListObject之间已经没有任何联系了。

但是为什么要这么做呢?为什么不连底层数组也一起维护呢?可以想一下,如果继续维护的话,数组中指针指向的对象永远不会被释放,那么很可能会产生悬空指针的问题,所以这些指针指向的对象所占的空间必须交还给系统(前提是没有其它指针指向了)。

但是实际上,是可以将PyListObject对象维护的底层数组进行保留的,即:只将数组中指针指向的对象的引用计数减1,然后将数组中的指针都设置为NULL,不再指向之前的对象了,但是并不释放底层数组本身所占用的内存空间。

因此这样一来,释放的内存不会交给系统堆,那么再次分配的时候,速度会快很多。但是这样带来一个问题,就是这些内存没人用也会一直占着,并且只能供PyListObject对象的ob_item指向的底层数组使用。因此Python还是为避免消耗过多内存,采取将底层数组所占的内存交还给了系统堆这样的做法,在时间和空间上选择了空间。

?
1
2
3
4
5
6
7
8
lst1 = [1, 2, 3]
print(id(lst1))  # 1243303086208
# 扔到缓存池中,放在数组的尾部
del lst1
# 从缓存池中获取,也会从数组的尾部开始拿
lst2 = [1, 2, 3]
print(id(lst2))  # 1243303086208
# 因此打印的地址是一样的

小结

作为一个功能强大的数据结构,多花些时间是有必要的。

到此这篇关于Python列表创建与销毁及缓存池机制的文章就介绍到这了,更多相关Python 列表内容请搜索服务器之家以前的文章或继续浏览下面的相关文章希望大家以后多多支持服务器之家!

原文链接:https://juejin.cn/post/7089263511049601031

延伸 · 阅读

精彩推荐
  • Python通过Python爬虫代理IP快速增加博客阅读量

    通过Python爬虫代理IP快速增加博客阅读量

    本文主要对通过Python爬虫代理IP快速增加博客阅读量的方法进行分析介绍。具有很好的参考价值,需要的朋友一起来看下吧...

    Data&Truth2042020-09-14
  • PythonPython实现爬取需要登录的网站完整示例

    Python实现爬取需要登录的网站完整示例

    这篇文章主要介绍了Python实现爬取需要登录的网站,结合完整实例形式分析了Python登陆网站及数据抓取相关操作技巧,需要的朋友可以参考下...

    罗兵25542020-12-03
  • PythonPytorch-mlu 实现添加逐层算子方法详解

    Pytorch-mlu 实现添加逐层算子方法详解

    本文主要分享了在寒武纪设备上 pytorch-mlu 中添加逐层算子的方法教程,代码具有一定学习价值,有需要的朋友可以借鉴参考下,希望能够有所帮助...

    极智视界7432022-03-08
  • PythonPython实现GPU加速的基本操作

    Python实现GPU加速的基本操作

    本文简单介绍了Python实现GPU加速的基本操作,文中运用大量代码讲解的非常详细,有一定的参考价值,需要学习相关知识的小伙伴一起来看看吧...

    DECHIN9292021-12-27
  • Pythonpython3爬虫之设计签名小程序

    python3爬虫之设计签名小程序

    这篇文章主要为大家详细介绍了python3爬虫之写为朋友设计签名的小程序,具有一定的参考价值,感兴趣的小伙伴们可以参考一下...

    three_co5202021-03-06
  • Python三行Python代码提高数据处理脚本速度

    三行Python代码提高数据处理脚本速度

    Python是一门非常适合处理数据和自动化完成重复性工作的编程语言,我们在用数据训练机器学习模型之前,通常都需要对数据进行预处理,而Python就非常适...

    北京流浪儿10182022-10-19
  • Python如何用Python从桌面读取二维码信息详解

    如何用Python从桌面读取二维码信息详解

    二维码作为一种信息传递的工具,在当今社会发挥了重要作用,下面这篇文章主要给大家介绍了关于如何用Python从桌面读取二维码信息的相关资料,文中通过示...

    初遇我ㄖ寸の热情呢?9132022-01-24
  • Python详解Python中使用base64模块来处理base64编码的方法

    详解Python中使用base64模块来处理base64编码的方法

    8bit的bytecode经常会被用base64编码格式保存,Python中自带base64模块对base64提供支持,这里我们就来详解Python中使用base64模块来处理base64编码的方法,需要的朋友可...

    zhaoweikid9692020-08-31