memcache原理

    早些年,memcache是主流的缓存框架,现在一般不会再用memcache了,redis逐渐代替了memcache。相比memcache,redis有更丰富的数据类型、支持持久化等等优点。redis以后再说,本文主要介绍memcache的一些要点,这些知识点都是网上看了别人的memcache源码分析之后做的总结。想看原始文章可以点击查看memcache源码分析。 

一、内存分配

    memcache启动时,会先申请一块内存(默认64M),然后计算初始chunk大小,以及slab的个数。初始chunk大小=48B+item_size+对齐字节,其中48B可以用启动参数-n配置,item_size是memcache对key-value封装之后的对象大小,固定48B,对齐字节保证最后的大小正好是8的整数倍。所以,初始chunk大小默认是96B。slab个数则和初始chunk大小、增长因子、Page大小有关。增长因子默认是1.25,可以用启动参数-f指定;Page大小默认1M,可以用启动参数-I(这是i/j/k的i的大写,不是L的小写,我曾经掉到这个坑里)指定。slab的个数为:96B、120B、152B...以增长因子(1.25倍)递增直到Page大小(1M),共42个。

    当有数据需要存储时,根据大小找到对应的slab,查看是否有空闲的chunk,如果没有,就去申请一个Page,然后将Page分割为一组chunk,用来存储。

    一种slab可以申请多个Page,每个Page一旦分配就不会被回收或者重新分配。slab下闲置的chunk不会被其他的slab使用。

二、两级哈希

    在客户端会先通过一致性哈希找到key应该被存储到哪个memcache服务器,发送网络请求到对应的服务器之后,服务器是用数组+链表的方式来存储key-value的,所以需要计算key应该存到数组的哪个位置(用key来hash,然后取余)。也就是说,memcache服务器用哈希表来存储所有的key-value。

    memcache服务器不向redis,前者是多线程处理客户端请求的,而后者是单线程的。多线程处理请求,就会导致并发操作数组,memcache用类似JDK7中的ConcurrentHashMap的分段锁来保证线程安全。随着hash扩容,锁的数量不会变多,而是每个锁锁住的元素增多。

    当存入的key-value达到一定条件时(元素个数超过数组长度的1.5倍),会触发hash扩容,扩容时先申请一个2倍的数组,然后就是迁移数据了。迁移数据不是一次全部迁移完成,而是每次迁移一定数量的桶位(默认1个,可配置),多次迁移之后完成扩容。当要操作一个key时,会比较当前迁移到的桶位下标,如果小于,就去操作原数组,否则操作新数组。

三、LRU算法

    memcache对key-value进行封装之后的对象包含如下属性:data、h_next、pre、next、time、expire。其中data是key-value的封装,h_next用来维护冲突链表,time是最后访问时间,expire是到期时间,pre/next则是用来维护LRU队列。

    LRU队列是为了当容量满的时候,淘汰掉其他数据,腾出空间存储新的key-value。memcache中,每一种slab都有一个LRU队列,该队列按节点的time字段由大到小排序。

数据删除的触发时机:

    a、get时判断是否到期,如果到期就删除

    b、set时,如果没有空间分配,找到LRU队列末端节点,清除内存占为己用,把节点放到队头

    c、flush_all时,设置一个全局变量,记录所有数据的过期时间为当前时间

    d、客户端发送命令让服务端启动线程去清除过期数据,可以指定几个线程,清除哪些slab的数据

四、线程模型

    memcache启动的时候,会启动一个主线程来监听连接,同时启动多个工作线程用于处理请求。当有连接到来时,主线程通过求余选择一个工作线程,然后将socket信息封装成CQ_item放入其CQ队列,并通过pipe管道通知工作线程。工作线程从CQ队列中拿到socket信息,创建libevent的读写事件,对读写事件进行解析处理。

    libevent可以理解为c++界的netty,是封装io多路复用的框架,它可以自动判断当前系统所使用的io多路复用模型(windows下的IOCP,Linux下的Epoll,Mac下的KQueue),达到非阻塞处理io操作的目的。

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 227,702评论 6 531
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 98,143评论 3 415
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 175,553评论 0 373
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 62,620评论 1 307
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 71,416评论 6 405
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 54,940评论 1 321
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 43,024评论 3 440
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 42,170评论 0 287
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 48,709评论 1 333
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 40,597评论 3 354
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 42,784评论 1 369
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 38,291评论 5 357
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 44,029评论 3 347
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 34,407评论 0 25
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 35,663评论 1 280
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 51,403评论 3 390
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 47,746评论 2 370