唯一ID生成原理与PHP实现-雪花算法

snowflake算法

虽然PHP提供了一个生成唯一ID的函数uniqid(),但这个函数真的可以生成唯一ID吗?我们来看看uniqid()的具体实现:

PHP_FUNCTION(uniqid)
{
    ...
    gettimeofday((
struct timeval *) &tv, (struct timezone *) NULL);

    sec = (
int) tv.tv_sec;
    usec = (
int) (tv.tv_usec % 0x100000);

    spprintf(&uniqid, 0, 
"%s%08x%05x", prefix, sec, usec);

    RETURN_STRING(uniqid, 0);
}

 从代码可以看出,uniqid()是通过微妙级时间戳来实现的,在分布式高并发的情况下,ID的重复率是很高的,所以我们不能使用uniqid()来生成唯一ID。


snowflake算法


既然不能单纯靠时间戳来保证唯一性,那么是不是可以增加以下特征值来保证呢?为此,Twitter公司发明了snowflake算法。snowflake算法的核心原理是把一个64位的整数分为3个部分,如下图:

仙士可博客

如上图所示,高端的第一位不使用,接着的41位字节用于存储毫秒级的时间戳,紧跟着时间戳的10位作为机器ID,而最后12位为序列号。

  1. 对于不同的机器来说,可以为每一台机器分配一个唯一的机器ID,这样就可以保证每台机器锁生成的ID不会重复。

  2. 对于同一台机器,如果同一时刻多个客户端并发请求,那么可以通过增加序列号来保证ID唯一性。

默认情况下41位的时间戳可以支持该算法使用到2082年(需要通过减去一个起始时间戳),10位的工作机器ID可以支持1023台机器,12位的序列号支持1毫秒产生4095个自增序列ID。
也就是说1台机器1秒可以承受4095000个并发,可以胜任任何场景。snowflake算法的代码实现大概如下:

static uint64_t last_ts = 0;
static uint64_t sequence = 0;
static uint64_t datacenter_id = 0;

// 获取毫秒时间戳
uint64_t current_timestamp()
{
    
struct timeval tv;
    uint64_t retval;

    
if (gettimeofday(&tv, NULL) == -1) {
        
return 0ULL;
    }

    retval = (u64_t)tv.tv_sec * 1000ULL +
             (u64_t)tv.tv_usec / 1000ULL;

    
return retval;
}

// 如果在同一毫秒内超过了并发现在, 那么等待下一毫秒
uint64_t skip_next_millis()
{
    uint64_t ts;

    
while (1) {
        ts = current_timestamp();
        
if (ts > last_ts) {
            
break;
        }
    }

    
return ts;
}

// 获取下一个ID
uint64_t get_next_id()
{
    uint64_t retval, ts;

    ts = current_timestamp();

    
if (ts == last_ts) { // 同一毫秒内多个并发
        sequence = (sequence + 1) & 0xFFF; // 增加序列号计数器
        
if (sequence == 0) {  // 计数器用完
            ts = skip_next_millis(); // 等待下一毫秒
        }
    } 
else {
        sequence = 0; // 清空序列号计数器
    }

    last_ts = ts;

    retval = (ts << 22) | (datacenter_id << 12) | sequence;

    
return retval;
}


PHP实现唯一ID生成函数


严格来说使用PHP是不能实现snowflake算法的,这是因为PHP的运行机制导致的。一般一台机器会启动多个PHP进程,而且进程之间是不能共享内存的,就是说多个PHP进程之间不能使用同一个序列号,这样就会导致不同进程生成的ID可能会重复。而且每次请求完,PHP都会释放本次请求的所有资源,那么就不能记录最后一次时间戳和序列号计数器的值(虽然可以使用文件或者memcached之类实现,当这样性能就会降低很多)。所以说使用PHP是不能实现snowflake算法的。

不能使用PHP代码实现snowflake算法,但是可以通过PHP扩展和php-cli运行模式下来实现,下图是PHP-FPM的运行机制:

仙士可博客

从上图可以看出,在创建worker进程之前先会调用每个扩展的init()函数(PHP_MINIT_FUNCTION函数),所以我们可以在init()函数创建一块共享内存,然后每个worker进程就可以共用这块内存(因为fork之前创建的共享内存可以在子进程中共用)。

因为不同的进程并发访问共享内存可能会导致数据不一致的问题,所以必须解决资源竞争的问题,解决资源竞争最常用的方法就是使用锁。

进程间一般使用的锁有:信号量和自旋锁。信号量与自旋锁的不同之处是,信号量会发生进程上下文切换,而自旋锁不会。

当然这两种锁都可以解决资源竞争问题,但是相对于生成唯一ID这种场景,使用自旋锁会有更好的性能,这是因为生成ID这个过程非常短,而自旋锁锁不需要切换上下文。



自旋锁


自旋锁的原理是不断测试锁是否能够被上锁,如果能够上锁就进行上锁操作,否则就不断重复上面的操作。下面代码是一个简单的实现:

void spin_lock(atomic_t *lockint id)
{
    
int i, n;

    
for ( ;; ) {

        
if (*lock == 0 &&
            __sync_bool_compare_and_swap(
lock, 0, id)) {
            
return;
        }

        
if (ncpu > 1) {

            
for (n = 1; n < 129; n << 1) {

                
for (i = 0; i < n; i++) {
                    __asm(
"pause");
                }

                
if (*lock == 0 &&
                    __sync_bool_compare_and_swap(
lock, 0, id)) {
                    
return;
                }
            }
        }

        sched_yield();
    }
}

__sync_bool_compare_and_swap(var, old, new)函数是一个原子性操作,作用就是比较var与old的值,如果相等就把var的值改为new,如果不相等就继续进行这个操作直到成功为止。这里有个小技巧,就是当长时间获取不到锁的情况下,我们会调用sched_yield()系统调用让出CPU,从而避免过度使用CPU资源。


总结



snowflake算法可以有效的生成唯一ID,而且通过配置机器ID可以很好地支持分布式环境。本文介绍了怎么使用PHP扩展来实现snowflake算法,具体实现可以参考本人所写的Atom扩展: https://github.com/liexusong/atom 


本文转自:https://mp.weixin.qq.com/s/bagOgzdwLyZv_ITNVnYfoQ


仙士可博客
请先登录后发表评论
  • 最新评论
  • 总共0条评论
  • 本站由白俊遥博客程序搭建
    © 2017-1-17 php20.cn 版权所有 ICP证:闽ICP备17001387号
  • 联系邮箱:1067197739@qq.com