cached_property的实现原理及扩展

拒绝转载, 原文链接: https://www.jianshu.com/p/b228c37f2fb1

cached_property的实现与扩展

在阅读 BottleFlask 源码中,都发现了各自实现 cached_property 的身影。这是一个很实用的 descriptor ,可以缓存属性,当不是第一次调用时,直接从缓存中读取,减少函数的调用次数

下面就简单分析下 chached_property 的实现原理,其中涉及到 Python 实例属性的调用流程,如果读者不是很清晰的话,建议先参考上篇文章 Python属性的调用流程

1 Bottle 中的实现
class cached_property(object):
    """ A property that is only computed once per instance and then replaces
        itself with an ordinary attribute. Deleting the attribute resets the
        property. """

    def __init__(self, func):
        update_wrapper(self, func)
        self.func = func

    def __get__(self, obj, cls):
        if obj is None: return self
        value = obj.__dict__[self.func.__name__] = self.func(obj)
        return value

很简单的实现

2 简单的测试
class Test:
    def __init__(self):
        self._count = 100

    @cached_property
    def count(self):
        self._count += 50
        return self._count

t = Test()
# 第一次调用的时候,会执行 count 函数
t.count
Out[4]: 150
# 后面的调用都不会执行 count 函数
t.count
Out[5]: 150
t.count
Out[6]: 150

由测试例子可以看出 count 函数确实只执行了一次,后续访问 t.count 只会从缓存中读取

3 原理分析

根据 cached_property 的实现代码,我们知道 cached_property 是一个 non-data descriptor

第一次调用

当第一次调用 t.count 时,由于 count 存在于 Test.__dict__ 但不是 data descriptor, 然后 count 也不存在于 t.__dict__ 中,

由于 count 是一个 non-descriptor , 根据 属性的访问顺序,会调用到 T.__dict__['count'].__get(obj, cls)函数

t = Test()
Test.__dict__
Out[4]:  # count 存在于类中,但是一个 non-data descriptor
mappingproxy({'__dict__': <attribute '__dict__' of 'Test' objects>,
              '__doc__': None,
              '__init__': <function __main__.Test.__init__>,
              '__module__': '__main__',
              '__weakref__': <attribute '__weakref__' of 'Test' objects>,
              'count': <__main__.cached_property at 0x7f662a6337f0>})
t.__dict__
Out[5]: {'_count': 100} # count 不存在于 t.__dict__

再看下 cached_property__get__ 的实现

    def __get__(self, obj, cls):
        # 如果直接通过 Class 访问,则返回自身
        if obj is None: 
            return self
        # 将 count 放在实例的 instance 中
        value = obj.__dict__[self.func.__name__] = self.func(obj)
        # obj.__dict__: {'_count': 150, 'count': 150}
        print("obj.__dict__:", obj.__dict__)
        return value

__get__ 的实现是,调用传递进来的 count 函数,并将其结果保留在 __dict__ 中,key 为函数名,即 count

所以当第一次调用 t.count 后, obj.__dict__ 中就包含 count 属性了

t.__dict__
Out[5]: {'_count': 150, 'count': 150}
第二次调用

当第二次调用后,根据属性的调用顺序,由于 t.__dict__ 中包含 count属性,所以这次调用不会经过 __get__ 函数,而是直接从 t.__dict__ 中读取,从而达到缓存属性的目的.

4 支持多线程

根据代码分析可知, Bottle 中实现的 cached_property 是不支持多线程的,当我们在多线程场景中使用时,会出现问题。比如说

import time

from threading import Thread

class Test:
    def __init__(self):
        self._count = 100

    @cached_property
    def count(self):
        time.sleep(1)
        self._count += 50
        return self._count

t = Test()
threads = []

for x in range(10):
    thread = Thread(target=lambda : t.count)
    thread.start()
    threads.append(thread)

for thread in threads:
    thread.join()

# 打印输出: t.count = 600
print("t.count =", t.count)

打印出的结果是 600,说明 t.count 执行了10次,没有达到缓存的功能。

我们重新实现 cached_property, 让其支持多线程,实现代码如下

class cached_property(object):
    def __init__(self, func):
        self.func = func
        self.lock = threading.RLock()

    def __get__(self, obj, cls):
        if obj is None:
            return self

        with self.lock:
            try:
                # 当第二次及之后的调用中,name 已经在 __dict__ 中了,所以直接从里面拿
                return obj.__dict__[self.func.__name__]
            except KeyError:
                # 第一次访问时,name 不在 obj_dict 中,调用 func,再将其放到 __dict__ 中
                return obj.__dict__.setdefault(self.func.__name__, self.func(obj))

然后再去执行上面的测试代码,得出的 count 是 150, 说明多线程测试成功

5 参考链接

https://pypi.org/project/cached-property/

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 218,386评论 6 506
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 93,142评论 3 394
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 164,704评论 0 353
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 58,702评论 1 294
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 67,716评论 6 392
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 51,573评论 1 305
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 40,314评论 3 418
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 39,230评论 0 276
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 45,680评论 1 314
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 37,873评论 3 336
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 39,991评论 1 348
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 35,706评论 5 346
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 41,329评论 3 330
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 31,910评论 0 22
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 33,038评论 1 270
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 48,158评论 3 370
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 44,941评论 2 355