建站公司网站模板,华大网站建设,只有一个域名怎么做网站,网站开发需要多少钱新闻常见分布式ID解决方案总结 分布式ID分布式ID方案之数据库数据库主键自增数据库号段模式Redis自增MongoDB 分布式ID方案之算法UUIDSnowflake(雪花算法) 雪花算法的使用IdWorker工具类配置分布式ID生成器 分布式ID方案之开源组件uid- generator(百度)Tinyid#xff08;滴滴… 常见分布式ID解决方案总结 分布式ID分布式ID方案之数据库数据库主键自增数据库号段模式Redis自增MongoDB 分布式ID方案之算法UUIDSnowflake(雪花算法) 雪花算法的使用IdWorker工具类配置分布式ID生成器 分布式ID方案之开源组件uid- generator(百度)Tinyid滴滴Leaf美团三者比较 Leaf组件的使用源码打包引入依赖Leaf配置参数号段模式配置Snowflake模式配置注解启动leafAPI的使用号段模式测试雪花算法测试 分布式ID 分布式 IDDistributed ID是指在分布式系统中生成全局唯一的标识符用于标识不同实体或数据对象。在分布式系统中由于数据存储、计算和处理都分散在不同的节点上因此需要一个可靠的方式来跟踪和标识这些数据对象。 分布式ID最低要求
全局唯一 ID 的全局唯一性肯定是首先要满足的高性能 分布式 ID 的生成速度要快对本地资源消耗要小高可用 生成分布式 ID 的服务要保证可用性无限接近于 100%方便易用 拿来即用使用方便快速接入优秀的分布式 ID
安全 ID 中不包含敏感信息有序递增 如果ID存放在数据库ID的有序性可以提升数据库写入速度。有利于ID来进行排序有具体的业务含义 生成的 ID 如果能有具体的业务含义可以让定位问题以及开发更透明化通过 ID 就能确定是哪个业务独立部署 分布式系统单独有一个发号器服务专门用来生成分布式 ID分布式ID方案之数据库
数据库主键自增 数据库自增ID是在数据库中创建表时通过设置一个自增的ID字段来实现的。每当插入一条记录时数据库会自动为该记录生成一个唯一的ID。 数据库自增ID可以很好地保证ID的唯一性但在高并发和大规模的分布式系统中容易出现瓶颈和性能问题。同时由于数据库自增ID只能在单个数据库中保证唯一性因此需要通过分库分表等方式来支持多台机器上的生成。 简言之
简单方便有序递增方便排序和分页并发性能不高,受限于数据库性能分库分表,需改造,较复杂自增数据量泄露数据库号段模式 数据库主键自增这种模式每次获取 ID 都要访问一次数据库数据库压力大。因此可以批量获取然后存在内存里面需要用到的时候直接从内存里面拿来使用 主键自增
1,2,3......号段模式每请求一次分配一个号段
100,200,3001...100,101...200,201...300号段模式相比主键自增而言: 性能提高且自增
Redis自增 Redis 可以通过自增命令来实现分布式 ID 的生成。常用的方法是使用 Redis 的自增命令 INCR将一个特定的 key 自增并将其作为 ID 返回。这种方法是线程安全的可以在分布式系统中使用 即使有AOF和RDB但是依然会存在数据丢失的可能有可能会造成ID重复性能不错并且生成的 ID 是有序递增的但是自增存在数据量泄露MongoDB MongoDB ObjectId是MongoDB数据库中的一个内置数据类型用于唯一标识MongoDB文档Document。 它由12个字节组成其中前4个字节表示时间戳接下来3个字节表示机器ID然后2个字节表示进程ID最后3个字节表示随机值。 优缺点
生成的 ID 是有序递增的当机器时间不对的情况下可能导致会产生重复 IDID生成有规律性存在安全性问题分布式ID方案之算法
UUID UUID是一种通用唯一识别码它是由一组算法和标准组成的可以保证在全球范围内唯一性。UUID不依赖于任何中心节点可以在分布式系统中很好地保证ID的唯一性。缺点是它生成的ID比较长不利于索引和查询 开放软件基金会(OSF)规范定义了包括网卡MAC地址、时间戳、名字空间Namespace、随机或伪随机数、时序等元素。利用这些元素来生成UUID。 优缺点
通过本地生成没有经过网络I/O性能较快无序无法预测他的生成顺序存储消耗空间大32 个字符串128 位不能生成递增有序的数字当机器时间不对的情况下可能导致会产生重复 IDSnowflake(雪花算法) 雪花算法是 Twitter 提出的一种分布式ID生成算法。雪花算法可以在多台机器上生成不重复的ID支持高并发和大规模的分布式系统但需要保证数据中心ID和机器ID的唯一性。 它的原理是将一个64位的long类型的ID分为4个部分时间戳、数据中心ID、机器ID和序列号。 时间戳占用了42位可以使用69年数据中心ID和机器ID分别占用了5位可以支持32个数据中心和32个机器序列号占用了12位可以支持每个节点每毫秒生成4096个ID。 细一点说生成的64位ID可以分成5个部分
1位符号位标识 - 41位时间戳 - 5位数据中心标识 - 5位机器标识 - 12位序列号时间范围
2^41/(365*24*60*60*1000)69年工作进程数量
55 :区域服务器标识2^101024序列号数量
2^124096分段作用说明1bit保留不用long基本类型在Java中是带符号的最高位是符号位正数是0负数是141bit时间戳精确到毫秒存储的是时间截的差值当前时间截 - 开始时间截)结果约等于69.73年5bit数据中心最多支持2的5次方32个节点5bit机器id最多支持2的5次方32个节点12bit毫秒内的计数器每个节点每毫秒最多产生2的12次方4096个id 默认情况下41bit的时间戳可以支持该算法使用到2082年10bit的工作机器id可以支持1024台机器序列号支持1毫秒产生4096个自增序列id 。SnowFlake的优点是整体上按照时间自增排序并且整个分布式系统内不会产生ID碰撞(由数据中心ID和机器ID作区分)并且效率较高经测试SnowFlake每秒能够产生26万ID左右 优缺点
生成速度比较快、生成的 ID 有序递增、比较灵活依赖时间当机器时间不对的情况下可能导致会产生重复 ID雪花算法的使用
IdWorker工具类
/*** Twitter的Snowflake JAVA实现方案* 分布式自增长ID*/
public class IdWorker {// 时间起始标记点作为基准一般取系统的最近时间一旦确定不能变动private final static long twepoch 1288834974657L;// 机器标识位数private final static long workerIdBits 5L;// 数据中心标识位数private final static long datacenterIdBits 5L;// 机器ID最大值private final static long maxWorkerId -1L ^ (-1L workerIdBits);// 数据中心ID最大值private final static long maxDatacenterId -1L ^ (-1L datacenterIdBits);// 毫秒内自增位private final static long sequenceBits 12L;// 机器ID偏左移12位private final static long workerIdShift sequenceBits;// 数据中心ID左移17位private final static long datacenterIdShift sequenceBits workerIdBits;// 时间毫秒左移22位private final static long timestampLeftShift sequenceBits workerIdBits datacenterIdBits;private final static long sequenceMask -1L ^ (-1L sequenceBits);/* 上次生产id时间戳 */private static long lastTimestamp -1L;// 0并发控制private long sequence 0L;private final long workerId;// 数据标识id部分private final long datacenterId;public IdWorker() {this.datacenterId getDatacenterId(maxDatacenterId);this.workerId getMaxWorkerId(datacenterId, maxWorkerId);}/*** param workerId 工作机器ID* param datacenterId 序列号*/public IdWorker(long workerId, long datacenterId) {if (workerId maxWorkerId || workerId 0) {throw new IllegalArgumentException(String.format(worker Id cant be greater than %d or less than 0, maxWorkerId));}if (datacenterId maxDatacenterId || datacenterId 0) {throw new IllegalArgumentException(String.format(datacenter Id cant be greater than %d or less than 0, maxDatacenterId));}this.workerId workerId;this.datacenterId datacenterId;}/*** 获取下一个ID** return*/public synchronized long nextId() {long timestamp timeGen();if (timestamp lastTimestamp) {throw new RuntimeException(String.format(Clock moved backwards. Refusing to generate id for %d milliseconds, lastTimestamp - timestamp));}if (lastTimestamp timestamp) {// 当前毫秒内则1sequence (sequence 1) sequenceMask;if (sequence 0) {// 当前毫秒内计数满了则等待下一秒timestamp tilNextMillis(lastTimestamp);}} else {sequence 0L;}lastTimestamp timestamp;// ID偏移组合生成最终的ID并返回IDlong nextId ((timestamp - twepoch) timestampLeftShift)| (datacenterId datacenterIdShift)| (workerId workerIdShift) | sequence;return nextId;}private long tilNextMillis(final long lastTimestamp) {long timestamp this.timeGen();while (timestamp lastTimestamp) {timestamp this.timeGen();}return timestamp;}private long timeGen() {return System.currentTimeMillis();}/*** p* 获取 maxWorkerId* /p*/protected static long getMaxWorkerId(long datacenterId, long maxWorkerId) {StringBuffer mpid new StringBuffer();mpid.append(datacenterId);String name ManagementFactory.getRuntimeMXBean().getName();if (!name.isEmpty()) {/** GET jvmPid*/mpid.append(name.split()[0]);}/** MAC PID 的 hashcode 获取16个低位*/return (mpid.toString().hashCode() 0xffff) % (maxWorkerId 1);}/*** p* 数据标识id部分* /p*/protected static long getDatacenterId(long maxDatacenterId) {long id 0L;try {InetAddress ip InetAddress.getLocalHost();NetworkInterface network NetworkInterface.getByInetAddress(ip);if (network null) {id 1L;} else {byte[] mac network.getHardwareAddress();id ((0x000000FF (long) mac[mac.length - 1])| (0x0000FF00 (((long) mac[mac.length - 2]) 8))) 6;id id % (maxDatacenterId 1);}} catch (Exception e) {System.out.println( getDatacenterId: e.getMessage());}return id;}public static void main(String[] args) {IdWorker idWorker new IdWorker(0, 0);for (int i 0; i 10000; i) {long nextId idWorker.nextId();System.out.println(nextId);}}}配置分布式ID生成器
application.ym添加配置
workerId: 0
datacenterId: 0IdWorker添加到容器 Value(${workerId})private Integer workerId;
Value(${datacenterId})private Integer datacenterId;
Beanpublic IdWorker idWorker(){return new IdWorker(workerId,datacenterId);}分布式ID方案之开源组件
uid- generator(百度) UidGenerator是百度开源的一款基于 Snowflake的唯一 ID 生成器是对 Snowflake进行了改进 GitHub:https://github.com/baidu/uid-generator
Tinyid滴滴 Tinyid是滴滴开源的一款基于数据库号段模式的唯一 ID 生成器。 GitHub: https://github.com/didi/tinyid
Leaf美团 Leaf是美团开源的一个分布式 ID 解决方案。提供了号段模式 和 Snowflake这两种模式来生成分布式 ID。 目前Leaf覆盖了美团点评公司内部金融、餐饮、外卖、酒店旅游、猫眼电影等众多业务线。在4C8G VM基础上通过公司RPC方式调用QPS压测结果近5w/sTP999 1ms。 Leaf 设计文档 https://tech.meituan.com/2017/04/21/mt-leaf.html
GitHub:https://github.com/meituan-diaNPing/leaf
三者比较
百度:只支持雪花算法滴滴:只支持数据库号段,多DB,高可用,java- client适合对id有高可用需求美团:号段模式和 snowflake模适合多种场景分布式idLeaf组件的使用
源码打包
git clone gitgithub.com:Meituan-Dianping/Leaf.git
cd Leaf
git checkout feature/spring-boot-starter
mvn clean install -Dmaven.test.skiptrue 引入依赖
目前Leaf最新使用2.0.1.RELEASE的starter版本parentgroupIdorg.springframework.boot/groupIdartifactIdspring-boot-starter-parent/artifactIdversion2.0.1.RELEASE/version/parentdependenciesdependencygroupIdorg.springframework.boot/groupIdartifactIdspring-boot-starter-web/artifactId/dependency!--引入源码编译打包安装到本地的Leaf--dependencyartifactIdleaf-boot-starter/artifactIdgroupIdcom.sankuai.inf.leaf/groupIdversion1.0.1-RELEASE/version/dependency!--zk--dependencygroupIdorg.apache.curator/groupIdartifactIdcurator-recipes/artifactIdversion2.6.0/versionexclusionsexclusionartifactIdlog4j/artifactIdgroupIdlog4j/groupId/exclusion/exclusions/dependency/dependenciesLeaf配置参数 Leaf 提供两种生成的ID的方式号段模式和snowflake模式可以同时开启两种方式也可以指定开启某种方式默认两种方式为关闭状态。 配置项含义默认值leaf.nameleaf服务名leaf.segment.enable是否开启号段模式falseleaf.jdbc.urlmysql 库地址leaf.jdbc.usernamemysql 用户名leaf.jdbc.passwordmysql 密码leaf.snowflake.enable是否开启snowflake模式falseleaf.snowflake.zk.addresssnowflake模式下的zk地址leaf.snowflake.portsnowflake模式下的服务注册端口
号段模式配置
如果使用号段模式需要建立DB表并配置leaf.jdbc.url, leaf.jdbc.username, leaf.jdbc.password如果不想使用该模式配置leaf.segment.enablefalse即可。CREATE DATABASE leafCREATE TABLE leaf_alloc (biz_tag varchar(128) NOT NULL DEFAULT ,max_id bigint(20) NOT NULL DEFAULT 1,step int(11) NOT NULL,description varchar(256) DEFAULT NULL,update_time timestamp NOT NULL DEFAULT CURRENT_TIMESTAMP ON UPDATE CURRENT_TIMESTAMP,PRIMARY KEY (biz_tag)
) ENGINEInnoDB;insert into leaf_alloc(biz_tag, max_id, step, description) values(leaf-segment-test, 1, 2000, Test leaf Segment Mode Get Id)在classpath下配置leaf.properties
leaf.namecom.sankuai.leaf.opensource.test
leaf.segment.enabletrue
leaf.segment.urljdbc:mysql://127.0.0.1:3306/leaf
leaf.segment.usernameroot
leaf.segment.password123456Snowflake模式配置 算法取自twitter开源的snowflake算法。如果不想使用该模式配置leaf.snowflake.enablefalse即可。 在classpath下配置leaf.properties
在leaf.properties中配置leaf.snowflake.zk.address配置leaf 服务监听的端口leaf.snowflake.port。leaf.snowflake.enabletrue
leaf.snowflake.address127.0.0.1
leaf.snowflake.port2181注解启动leaf
使用EnableLeafServer注解启动leafSpringBootApplication
EnableLeafServer
public class DistributedIdApplication {public static void main(String[] args) {SpringApplication.run(DistributedIdApplication.class, args);}
}API的使用
RestController
public class IdContoller {Autowiredprivate SegmentService segmentService;Autowiredprivate SnowflakeService snowflakeService;GetMapping(/segment)public Result segment() {
// segmentService.getId(leaf-segment-test).getId();return segmentService.getId(leaf-segment-test);}GetMapping(/snowflake)public Result snowflake() {// 参数key无实际意义,受迫于统一接口的实现return snowflakeService.getId(snowflake);}
}参数key无实际意义,受迫于统一接口的实现
public interface IDGen {Result get(String var1);boolean init();
}public Result getId(String key) {return this.idGen.get(key);} 号段模式中该参数key有着重要意义
号段模式测试
数据库表初始时 访问地址http://localhost:8080/segment 请求获取id值后号段模式提前加载 重启服务后再次访问使用新的号段 号段模式再一次提前加载 雪花算法测试
访问地址http://localhost:8080/snowflake
