[转]分布式唯一ID生成方案

作者:猿码之家

链接:https://www.jianshu.com/p/4ba1c5e8c185

来源:简书

著作权归作者所有。商业转载请联系作者获得授权,非商业转载请注明出处。

在业务开发中,大量场景需要唯一ID来进行标识:用户需要唯一身份标识、商品需要唯一标识、消息需要唯一标识、事件需要唯一标识等,都需要全局唯一ID,尤其是复杂的分布式业务场景中全局唯一ID更为重要。

那么,分布式唯一ID有哪些特性或要求呢?

① 唯一性:生成的ID全局唯一,在特定范围内冲突概率极小。

② 有序性:生成的ID按某种规则有序,便于数据库插入及排序。

③ 可用性:可保证高并发下的可用性, 确保任何时候都能正确的生成ID。

④ 自主性:分布式环境下不依赖中心认证即可自行生成ID。

⑤ 安全性:不暴露系统和业务的信息, 如:订单数,用户数等。

分布式唯一ID有哪些生成方法呢?

总的来说,大概有三大类方法,分别是:数据库自增ID(MySQL或者Redis自增来解决,方案:水平拆分步长,批量生成后消费)、UUID生成、snowflake雪花算法

下面分别说下这三大类及其优化方案:

一、数据库自增ID

核心思想:使用数据库的id自增策略(如: Mysql的auto_increment)

优点:

① 简单,天然有序。

缺点:

① 并发性不好。

② 数据库写压力大。

③ 数据库故障后不可使用。

④ 存在数量泄露风险。

针对以上缺点,有以下几种优化方案: 

1. 数据库水平拆分,设置不同的初始值和相同的自增步长

核心思想:将数据库进行水平拆分,每个数据库设置不同的初始值和相同的自增步长

数据库水平拆分

如图所示,可保证每台数据库生成的ID是不冲突的,但这种固定步长的方式也会带来扩容的问题,很容易想到当扩容时会出现无ID初始值可分的窘境。解决方案有:

① 根据扩容考虑决定步长。

② 增加其他位标记区分扩容。

这其实都是在需求与方案间的权衡,根据需求来选择最适合的方式。

2. 批量缓存自增ID

核心思想:如果使用单台机器做ID生成,可以避免固定步长带来的扩容问题(方案1的缺点)

具体做法是:每次批量生成一批ID给不同的机器去慢慢消费,这样数据库的压力也会减小到N分之一,且故障后可坚持一段时间。 

批量缓存自增ID

如图所示,但这种做法的缺点是服务器重启、单点故障会造成ID不连续。

还是那句话,没有最好的方案,只有最适合的方案。

3. Redis生成ID

核心思想:Redis的所有命令操作都是单线程的,本身提供像 incr 和 increby 这样的自增原子命令,所以能保证生成的 ID 肯定是唯一有序的。

优点:

① 不依赖于数据库,灵活方便,且性能优于数据库。

② 数字ID天然排序,对分页或者需要排序的结果很有帮助。

缺点:

① 如果系统中没有Redis,还需要引入新的组件,增加系统复杂度。

② 需要编码和配置的工作量比较大。

优化方案:

考虑到单节点的性能瓶颈,可以使用 Redis 集群来获取更高的吞吐量,并利用上面的方案(①数据库水平拆分,设置不同的初始值和相同的步长; ②批量缓存自增ID)来配置集群。

PS:比较适合使用 Redis 来生成每天从0开始的流水号。比如:“订单号=日期+当日自增长号”,则可以每天在Redis中生成一个Key,使用INCR进行累加。

二、UUID生成

核心思想:结合机器的网卡(基于名字空间/名字的散列值MD5/SHA1)、当地时间(基于时间戳&时钟序列)、一个随记数来生成UUID。

其结构如下:

aaaaaaaa-bbbb-cccc-dddd-eeeeeeeeeeee(即包含32个16进制数字,以连字号-分为五段,最终形成“8-4-4-4-12”的36个字符的字符串,即32个英数字母+4个连字号)。

例如:550e8400-e29b-41d4-a716-446655440000

优点:

① 本地生成,没有网络消耗,生成简单,没有高可用风险。

缺点:

不易于存储:UUID太长,16字节128位,通常以36长度的字符串表示,很多场景不适用。

信息不安全:基于MAC地址生成UUID的算法可能会造成MAC地址泄露,这个漏洞曾被用于寻找梅丽莎病毒的制作者位置。

无序查询效率低:由于生成的UUID是无序不可读的字符串,所以其查询效率低。

到目前为止业界一共有5种方式生成UUID: 

①版本1 - 基于时间的UUID(date-time & MAC address):

规则:主要依赖当前的时间戳及机器mac地址,因此可以保证全球唯一性。

优点:能基本保证全球唯一性。

缺点:使用了Mac地址,因此会暴露Mac地址和生成时间。

②版本2 - 分布式安全的UUID(date-time & group/user id):

规则:将版本1的时间戳前四位换为POSIX的UID或GID,很少使用。

优点:能保证全球唯一性。

缺点:很少使用,常用库基本没有实现。

③版本3 - 基于名字空间的UUID-MD5版(MD5 hash & namespace):

规则:基于指定的名字空间/名字生成MD5散列值得到,标准不推荐。

优点:不同名字空间或名字下的UUID是唯一的;相同名字空间及名字下得到的UUID保持重复。

缺点:MD5碰撞问题,只用于向后兼容,后续不再使用。

④版本4 - 基于随机数的UUID(pseudo-random number):

规则:基于随机数或伪随机数生成。

优点:实现简单。

缺点:重复几率可计算。机率也与随机数产生器的质量有关。若要避免重复机率提高,必须要使用基于密码学上的强伪随机数产生器来生成值才行。

⑤版本5 - 基于名字空间的UUID-SHA1版(SHA-1 hash & namespace):

规则:将版本3的散列算法改为SHA1。

优点:不同名字空间或名字下的UUID是唯一的;相同名字空间及名字下得到的UUID保持重复。

缺点:SHA1计算相对耗时。

总得来说:

①版本 1/2 适用于需要高度唯一性且无需重复的场景。

②版本 3/5 适用于一定范围内唯一且需要或可能会重复生成UUID的环境下。

③版本 4 适用于对唯一性要求不太严格且追求简单的场景。

相关伪代码如下:

详细代码参考CSDN博客(猿码之家)

三、雪花算法

核心思想:把64-bit分别划分成多段,分开来标示机器、时间、某一并发序列等,从而使每台机器及同一机器生成的ID都是互不相同。

PS:这种结构是雪花算法提出者Twitter的分法,但实际上这种算法使用可以很灵活,根据自身业务的并发情况、机器分布、使用年限等,可以自由地重新决定各部分的位数,从而增加或减少某部分的量级。比如:百度的UidGenerator、美团的Leaf等,都是基于雪花算法做一些适合自身业务的变化。

下面介绍雪花算法的几种不同优化方案:

1. Twitter的snowflake算法

核心思想是:采用bigint(64bit)作为id生成类型,并将所占的64bit 划分成多段。这里有很详细的说明

其结构如下:

Twitter的snowflake结构
snowflake每个字段的含义

说明:

①1位标识:由于long基本类型在Java中是带符号的,最高位是符号位,正数是0,负数是1,所以id一般是正数,最高位是0。

②41位时间截(毫秒级):需要注意的是,41位时间截不是存储当前时间的时间截,而是存储时间截的差值(当前时间截 - 开始时间截)得到的值,这里的开始时间截,一般是指我们的id生成器开始使用的时间截,由我们的程序来指定。41位的毫秒时间截,可以使用69年(即T =(1L << 41)/(1000 * 60 * 60 * 24 * 365)= 69)。

③10位的数据机器位:包括5位数据中心标识Id(datacenterId)、5位机器标识Id(workerId),最多可以部署1024个节点(即1 << 10 = 1024)。超过这个数量,生成的ID就有可能会冲突。

④12位序列:毫秒内的计数,12位的计数顺序号支持每个节点每毫秒(同一机器,同一时间截)产生4096个ID序号(即1 << 12 = 4096)。

PS:全部结构标识(1+41+10+12=64)加起来刚好64位,刚好凑成一个Long型。

优点:

①整体上按照时间按时间趋势递增,后续插入索引树的时候性能较好。

②整个分布式系统内不会产生ID碰撞(由数据中心标识ID、机器标识ID作区分)。

③本地生成,且不依赖数据库(或第三方组件),没有网络消耗,所以效率高(每秒能够产生26万ID左右)。

缺点:

①由于雪花算法是强依赖于时间的,在分布式环境下,如果发生时钟回拨很可能会引起ID重复、ID乱序、服务会处于不可用状态等问题。

解决方案有:

a. 将ID生成交给少量服务器,并关闭时钟同步。

b. 直接报错,交给上层业务处理。

c. 如果回拨时间较短,在耗时要求内,比如5ms,那么等待回拨时长后再进行生成。

d. 如果回拨时间很长,那么无法等待,可以匀出少量位(1~2位)作为回拨位,一旦时钟回拨,将回拨位加1,可得到不一样的ID,2位回拨位允许标记3次时钟回拨,基本够使用。如果超出了,可以再选择抛出异常。

详细代码参考CSDN博客(猿码之家)  

小马整理了一份PHP的参考代码SnowFlake类,可以直接参考使用:

class SnowFlake{const EPOCH = 1479533469598;//开始时间,固定一个小于当前时间的毫秒数 const max12bit = 4095; const max41bit = 1099511627775; static $machineId = null;// 机器id public static function machineId($mId = 0) { self::$machineId = $mId; } public static function generateParticle() { /* * 时间戳 42字节 */ $time = floor(microtime(true) * 1000); /* * 当前时间 与 开始时间 差值 */ $time -= self::EPOCH; /* * 毫秒级时间戳 二进制 -Create a base and add time to it */ $base = decbin(self::max41bit + $time); /* * // 机器id 10 字节 -up to 1024 machines */ if(!self::$machineId) { $machineid = self::$machineId; } else { $machineid = str_pad(decbin(self::$machineId), 10, "0", STR_PAD_LEFT); } /* * 序列数 12字节- up to 4096 random numbers per machine */ $random = str_pad(decbin(mt_rand(0, self::max12bit)), 12, "0", STR_PAD_LEFT); /* * 拼接 */ $base = $base.$machineid.$random; /* * 转为 十进制 */ return bindec($base); } public static function timeFromParticle($particle) { /* * Return time */ return bindec(substr(decbin($particle),0,41)) - self::max41bit + self::EPOCH; }}

2. Mongo的ObjectId算法

核心思想是:使用12字节(24bit)的BSON 类型字符串作为ID,并将所占的24bit 划分成多段。

说明:

①4字节(8位)timeStamp:UNIX时间戳(精确到秒)。

②3字节(6位)machine:所在主机的唯一标识符(一般是机器主机名的散列值)。

③2字节(4位)pid:同一台机器不同的进程产生objectid的进程标识符 。

④3字节(6位)increment:由一个随机数开始的计数器生成的自动增加的值,用来确保在同一秒内产生的objectid也不会发现冲突,允许256^3(16777216)条记录的唯一性。

如:ObjectID(为了方便查看,每部分使用“-”分隔)格式为:5dba76a3-d2c366-7f99-57dfb0

①timeStamp:5dba76a3(对应十进制为:1572501155)。

②machine:d2c366(对应十进制为:13812582)。

③pid:7f99(对应十进制为:32665)。

④increment:57dfb0(对应十进制为:5758896)。

优点:

①本地生成,没有网络消耗,生成简单,没有高可用风险。

②所生成的ID包含时间信息,可以提取时间信息。

缺点:

①不易于存储:12字节24位长度的字符串表示,很多场景不适用。

◆ 新版ObjectId中“机器标识码+进程号” 改为用随机数作为机器标识和进程号的值

mark:从 MongoDB 3.4 开始(最早发布于 2016 年 12 月),ObjectId 的设计被修改了,中间 5 字节的值由原先的 “机器标识码+进程号” 改为用随机数作为机器标识和进程号的值。

那问题来了,为什么不继续使用“机器标识+进程号”呢?

问题就在于,在这个物理机鲜见,虚拟机、云主机、容器横行的时代,机器标识和进程号不太可靠。

①机器标识码:

ObjectId 的机器标识码是取系统 hostname 哈希值的前几位。那么问题来了,准备了几台虚拟机,hostname 都是默认的 localhost,谁都想着这玩意儿能有什么用,还得刻意给不同机器起不同的 hostname? 此外,hostname 在容器、云主机里一般默认就是随机数,也不会检查同一集群里是否有hostname 重名。

②进程号:

这个问题就更大了,要知道,容器内的进程拥有自己独立的进程空间,在这个空间里只用它自己这一个进程(以及它的子进程),所以它的进程号永远都是 1。也就是说,如果某个服务(既可以是 mongo 实例也可以是 mongo 客户端)是使用容器部署的,无论部署多少个实例,在这个服务上生成的 ObjectId,第八第九个字节恒为 0000 0001,相当于说这两个字节废了。

综上,与其使用一个固定值来“区分不同进程实例”,且这个固定值还是人类随意设置或随机生成的 hostname 加上一个可能恒为 1 的进程号,倒不如每次都随机生成一个新值。

可见,这是平台层面的架构变动影响了应用层面的设计方案,随着云、容器的继续发展,这样的故事还会继续上演。

1)旧版:使用主机名的散列值作用machine、使用进程标识符作为pid 

详细代码参考CSDN博客(猿码之家)  

2)新版:使用随机数作为machine、pid的值

详细代码参考CSDN博客(猿码之家)  

3. 百度UidGenerator算法

UidGenerator是百度开源的分布式ID生成器,是基于snowflake算法的实现,看起来感觉还行,但是需要借助数据库,配置起来比较复杂。

具体可以参考官网说明:https://github.com/baidu/uid-generator/blob/master/README.zh_cn.md

4. 美团Leaf算法

Leaf 是美团开源的分布式ID生成器,能保证全局唯一性、趋势递增、单调递增、信息安全,里面也提到了几种分布式方案的对比,但也需要依赖关系数据库、Zookeeper等中间件

具体可以参考官网说明: https://tech.meituan.com/2017/04/21/mt-leaf.html

小结

这篇文章和大家分享了全局id生成服务的几种常用方案,同时对比了各自的优缺点和适用场景。在实际工作中,大家可以结合自身业务和系统架构体系进行合理选型。

★★★ 详细代码参考CSDN博客(猿码之家)★★★ :https://blog.csdn.net/liudao51/article/details/103007892

小马彩蛋时间:

网上江湖盛传的创建订单号的代码如下,靠谱吗?

$orderNo = time() . substr(implode(NULL, array_map('ord', str_split(substr(uniqid(), 7, 13), 1))), 0, 8);

$orderNo = date('Ymd') . substr(implode(NULL, array_map('ord', str_split(substr(uniqid(), 7, 13), 1))), 0, 8);

亲测证明其实是不靠谱的,当单日的数据量达到一定程度后,就会出现重复单号了,其是有单日最大数量限制的。那么有没它的变体呢?不妨试一试 $orderNo = time() . uniqid();亲测,可行,当然你还可以在此基础上任意再拼接你想要的字符效果。所以你还敢不经验证就使用网上的公认式子吗?

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 204,293评论 6 478
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 85,604评论 2 381
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 150,958评论 0 337
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 54,729评论 1 277
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 63,719评论 5 366
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 48,630评论 1 281
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 38,000评论 3 397
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 36,665评论 0 258
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 40,909评论 1 299
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,646评论 2 321
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 37,726评论 1 330
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 33,400评论 4 321
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 38,986评论 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 29,959评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,197评论 1 260
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 44,996评论 2 349
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 42,481评论 2 342