lxyfirst

C++博客 首页 新随笔 联系 聚合 管理
  33 Posts :: 3 Stories :: 27 Comments :: 0 Trackbacks

置顶随笔 #

服务端/后台开发中如何生成id是每个开发者都会遇到的问题,在电商、游戏领域尤其突出。
如何保证生成id的唯一性、可靠性、高可用性,如何组织id的格式,在不同的应用场景和限制下实现方式也不尽相同。

我们的应用场景类似电商,在一个订单的生命周期内,有多个逻辑需要生成各自的id,还要考虑到可读性和灵活性,我们决定实现一个独立的id服务。
首先,id服务必须具有高可用性,业务逻辑处理中创建id失败是不可接受的,所以id服务必须分布式部署,有多个节点同时对外服务,一个节点失败则重试其他节点,保证成功创建id。
在分布式系统中保证数据的一致性成本是很高的,为了简化设计和实现,每个节点都设计成对等的、独立的,不需要保持数据同步。
其次,id服务必须可靠,数据不能丢失,因此数据的存储放在独立的mysql数据库中,使用replace方式更新数据,id服务本身记录更新日志。
最后,id服务必须灵活,可以自定义id格式,可以高效灵活的实现客户端,因此通讯协议使用json over udp方式,在id服务端使用lua实现id格式的灵活定义。
ID规则
    具体规则有lua脚本定义,修改脚本后需要reload生效,需要实现4个函数
    min_counter :   计数器最小值
    max_counter :   计数器最大值
    reset_seconds : 计数器重置周期
    create_id : 根据计数器、自定义参数和时间参数创建ID。
    例如:
    function min_counter()
        return 0
    end
    function max_counter()
        return 9999
    end
    function reset_seconds()
        return 86400
    end
    function create_id(counter,now,salt)
        local seq = counter:generate_counter()
        local new_id = string.format("%01d%02d%02d%04d",now:year()%10 ,now:month(),now:day(),seq)
        return new_id
    end
接口
    采用udp协议,数据格式为json ,字段定义:
    action: 请求类型 get: 创建ID ,  monitor:监控
    rule_name: 规则名字, 由服务端定义
    app_name : 应用名或命名空间 , 客户端自定义,rule_name和app_name一起决定生成ID的唯一性
    salt :  自定义参数 ,可选项 ,
    seq : 自定义参数,可选项,原样返回
    例如:
    创建ID请求:  {"action":"get","rule_name":"o2o","app_name":"test"}
    响应:{"code":0,"message":"success","data":"505140001"}
    监控请求:{"action":"monitor","rule_name":"o2o","app_name":"test"}
    响应:{"code":0,"message":"ok","data":{"counter":3,"node_offset":1}}
性能
    id服务器使用c++实现,性能测试做的比较简单,因为性能不是id服务的主要关注点, 简单以php为客户端进行测试。
    4个php并发进程,每个进程不停发送20万个请求,测试结果:
    total:200000 fail:0 min:0.000214 max:0.087330 avg:0.000393
    total:200000 fail:0 min:0.000215 max:0.087129 avg:0.000391
    total:200000 fail:0 min:0.000221 max:0.087252 avg:0.000391
    total:200000 fail:0 min:0.000218 max:0.087484 avg:0.000391
    说明  min : 最小耗时(秒) max : 最大耗时(秒) avg : 平均耗时(秒)
    服务器TPS达到近1万/秒时,平均延迟在0.3毫秒。

经过在生产环境使用,运行稳定,现在将整个系统开源出来,欢迎试用,有任何意见和建议欢迎反馈到lxyfirst@163.com 。
项目源代码位置 : https://github.com/lxyfirst/id_server

版本更新9.19
1.增加数据落地的预保存和批量保存机制,一方面减少数据库压力,一方面增加异步保存的可靠性。
2.由于主线程和数据库线程只需要传递sql语句,将线程间通信由pipe方式改为eventfd + lockfree queue方式。
posted @ 2015-09-17 14:09 star 阅读(18373) | 评论 (4)编辑 收藏

近期项目需要一个mysql代理服务器,实现mysql协议代理和路由功能,形成简单的mysql集群服务。现成的开源方案是mysql-proxy , 分析功能和源代码后发现跟我们的应用场景不太匹配,于是决定重新实现一个符合需求的mysql代理服务器,考虑到需要完美支持mysql协议,优先选择了libdrizzle库, libdrizzle是开源项目drizzle中的协议库,而drizzle可以看作mysql的分支版本,目前稳定版本是7.1.36 , 下面主要是记录使用libdrizzle中遇到的一些问题。
1. 关于nonblock模式的问题,现代应用服务器典型架构一般是使用reactor/proactor模式的事件驱动模型,如何把libdrizzle和应用服务器的驱动模型很好的结合起来尤其重要, libdrizzle支持nonblock模式,独立实现了事件驱动机制,使用poll监控网络事件,具体在drizzle_con_wait()中实现,然后通过drizzle_con_ready()遍历产生事件的网络连接,即drizzle_con_st对象,该接口难以与通常的网络事件驱动机制配合使用,性能也不太理想,具体用法可参见其自带的样例程序examples/client.cc , 也就是说libdrizzle的驱动模型需要重新封装成跟应用服务器相匹配,才能真正发挥nonblock模式的性能。

2. drizzle_result_st对象初始时一些内部数据没有初始化,容易造成程序崩溃,因此需要修改构造函数,初始化所有内部数据。涉及文件libdrizzle-2.0/structs.h 
相应字段为field, field_buffer,row 。

3. libdrizzle中运行时产生的内部对象都以双链表形式挂接在其上级对象中,例如drizzle_st对象中有个双链表维护其创建的drizzle_con_st对象,类似地,drizzle_con_st对象中有个双链表维护其创建的drizzle_result_st对象,所有的对象通过这种形式级联管理,并且这些对象中保存着上下文相关的状态,这样的实现方便资源管理,防止资源泄露,但在代理服务器中,请求和结果在不断转发过程中会形成大量的内存拷贝,为了减少转发过程中的内存拷贝,需要把drizzle_result_st显式的从drizzle_con_st中移除,当数据发往客户端完成后再删除,因此增加了drizzle_result_detach()接口,用于从drizzle_con_st对象中移除drizzle_result_st对象 , 涉及文件libdrizzle-2.0/result.h , libdrizzle-2.0/result.cc 

void drizzle_result_detach(drizzle_result_st *result)
{

  if (result->con)
  {
    result->con->result_count--;
    if (result->con->result_list == result)
      result->con->result_list= result->next;
  }

  if (result->prev)
    result->prev->next= result->next;

  if (result->next)
    result->next->prev= result->prev;

  result->con = NULL ;
  result->prev = NULL ;
  result->next = NULL ;
}
posted @ 2014-01-07 10:07 star 阅读(3017) | 评论 (0)编辑 收藏

仅列出标题  下一页