任务队列摘自新锋

在开发C++程序时,一般在吞吐量、并发、实时性上有较高的要求。设计C++程序时,总结起来可以从如下几点提高效率:

  • l  并发
  • l  异步
  • l  缓存

下面将我平常工作中遇到一些问题例举一二,其设计思想无非以上三点。

1任务队列

1.1    以生产者-消费者模型设计任务队列

  生产者-消费者模型是人们非常熟悉的模型,比如在某个服务器程序中,当User数据被逻辑模块修改后,就产生一个更新数据库的任务(produce),投递给IO模块任务队列,IO模块从任务队列中取出任务执行sql操作(consume)。

  设计通用的任务队列,示例代码如下:

  详细实现可参见:

  http://ffown.googlecode.com/svn/trunk/fflib/include/detail/task_queue_impl.h

void task_queue_t::produce(const task_t& task_) {      
        lock_guard_t lock(m_mutex);
        if (m_tasklist->empty()){//! 条件满足唤醒等待线程
            m_cond.signal();
        }
        m_tasklist->push_back(task_);
    }
int   task_queue_t::comsume(task_t& task_){
        lock_guard_t lock(m_mutex);
        while (m_tasklist->empty())//! 当没有作业时,就等待直到条件满足被唤醒{
            if (false == m_flag){
                return -1;
            }
            m_cond.wait();
        }
        task_ = m_tasklist->front();
        m_tasklist->pop_front();
        return 0;
}

1.2    任务队列使用技巧

1.2.1 IO 与 逻辑分离

  比如网络游戏服务器程序中,网络模块收到消息包,投递给逻辑层后立即返回,继续接受下一个消息包。逻辑线程在一个没有io操作的环境下运行,以保障实时性。示例:

void handle_xx_msg(long uid, const xx_msg_t& msg){
    logic_task_queue->post(boost::bind(&servie_t::proces, uid, msg));
}

  注意,此模式下为单任务队列,每个任务队列单线程。

1.2.2  并行流水线

         上面的只是完成了io 和 cpu运算的并行,而cpu中逻辑操作是串行的。在某些场合,cpu逻辑运算部分也可实现并行,如游戏中用户A种菜和B种菜两种操作是完全可以并行的,因 为两个操作没有共享数据。最简单的方式是A、B相关的操作被分配到不同的任务队列中。示例如下:    

void handle_xx_msg(long uid, const xx_msg_t& msg) {
  logic_task_queue_array[uid % sizeof(logic_task_queue_array)]->post(
    boost::bind(&servie_t::proces, uid, msg));
}

注意,此模式下为多任务队列,每个任务队列单线程。

1.2.3 连接池与异步回调

  比如逻辑Service模块需要数据库模块异步载入用户数据,并做后续处理计算。而数据库模块拥有一个固定连接数的连接池,当执行SQL的任务到来时,选择一个空闲的连接,执行SQL,并把SQL 通过回调函数传递给逻辑层。其步骤如下:

  • n  预先分配好线程池,每个线程创建一个连接到数据库的连接
  • n  为数据库模块创建一个任务队列,所有线程都是这个任务队列的消费者
  • n  逻辑层想数据库模块投递sql执行任务,同时传递一个回调函数来接受sql执行结果

  示例如下:

void db_t:load(long uid_, boost::function<void (user_data_t&) func_){
    //! sql execute, construct user_data_t user
    func_(user)
}
void process_user_data_loaded(user_data_t&){
    //! todo something
}
db_task_queue->post(boost::bind(&db_t:load, uid, func));

         注意,此模式下为单任务队列,每个任务队列多线程。

2. 日志

         本文主要讲C++多线程编程,日志系统不是为了提高程序效率,但是在程序调试、运行期排错上,日志是无可替代的工具,相信开发后台程序的朋友都会使用日志。常见的日志使用方式有如下几种:

  • n  流式,如logstream << "start servie time[%d]" << time(0) << " app name[%s]" << app_string.c_str() << endl;
  • n  Printf 格式如:logtrace(LOG_MODULE, "start servie time[%d] app name[%s]", time(0), app_string.c_str());

  二者各有优缺点,流式是线程安全的,printf格式格式化字符串会更直接,但缺点是线程不安全,如果把app_string.c_str() 换成app_string (std::string),编译被通过,但是运行期会crash(如果运气好每次都crash,运气不好偶尔会crash)。我个人钟爱printf风 格,可以做如下改进:

  • l  增加线程安全,利用C++模板的traits机制,可以实现线程安全。示例:
template<typename ARG1>
void logtrace(const char* module, const char* fmt, ARG1 arg1){
    boost::format s(fmt);
    f % arg1;
}

  这样,除了标准类型+std::string 传入其他类型将编译不能通过。这里只列举了一个参数的例子,可以重载该版本支持更多参数,如果你愿意,可以支持9个参数或更多。

  • l  为日志增加颜色,在printf中加入控制字符,可以再屏幕终端上显示颜色,Linux下示例:printf("\033[32;49;1m [DONE] \033[39;49;0m") 

  更多颜色方案参见:

     http://hi.baidu.com/jiemnij/blog/item/d95df8c28ac2815cb219a80e.html

  • l  每个线程启动时,都应该用日志打印该线程负责什么功能。这样,程序跑起来的时候通过top –H – p pid 可以得知那个功能使用cpu的多少。实际上,我的每行日志都会打印线程id,此线程id非pthread_id,而其实是线程对应的系统分配的进程id 号。

3. 性能监控

         尽管已经有很多工具可以分析c++程序运行性能,但是其大部分还是运行在程序debug阶段。我们需要一种手段在debug和release阶段都能监控程序,一方面得知程序瓶颈之所在,一方面尽早发现哪些组件在运行期出现了异常。

         通常都是使用gettimeofday 来计算某个函数开销,可以精确到微妙。可以利用C++的确定性析构,非常方便的实现获取函数开销的小工具,示例如下:

struct profiler{
    profiler(const char* func_name){
        gettimeofday(&tv, NULL);
    }
    ~profiler(){
        struct timeval tv2;
        gettimeofday(&tv2, NULL);
        long cost = (tv.tv_sec - tv.tv_sec) * 1000000 + (tv.tv_usec - tv.tv_usec);
        //! post to some manager
    }
    struct timeval tv;
};
#define PROFILER() profiler(__FUNCTION__)

         Cost 应该被投递到性能统计管理器中,该管理器定时讲性能统计数据输出到文件中。

4 Lambda 编程

使用foreach 代替迭代器

         很多编程语言已经内建了foreach,但是c++还没有。所以建议自己在需要遍历容器的地方编写foreach函数。习惯函数式编程的人应该会非常钟情使用foreach,使用foreach的好处多多少少有些,如:

         http://www.cnblogs.com/chsword/archive/2007/09/28/910011.html
         但主要是编程哲学上层面的。

示例:

void user_mgr_t::foreach(boost::function<void (user_t&)> func_){
    for (iterator it = m_users.begin(); it != m_users.end() ++it){
        func_(it->second);
    }
}

  比如要实现dump 接口,不需要重写关于迭代器的代码

void user_mgr_t:dump(){
    struct lambda {
        static void print(user_t& user){
            //! print(tostring(user);
        }
    };
    this->foreach(lambda::print);
}

  实际上,上面的代码变通的生成了匿名函数,如果是c++ 11 标准的编译器,本可以写的更简洁一些:

  this->foreach([](user_t& user) {} );

  但是我大部分时间编写的程序都要运行在centos 上,你知道吗它的gcc版本是gcc 4.1.2, 所以大部分时间我都是用变通的方式使用lambda函数。

Lambda 函数结合任务队列实现异步

  常见的使用任务队列实现异步的代码如下:

void service_t:async_update_user(long uid){
    task_queue->post(boost::bind(&service_t:sync_update_user_impl, this, uid));
}
void service_t:sync_update_user_impl(long uid){
    user_t& user = get_user(uid);
    user.update()
}

  这样做的缺点是,一个接口要响应的写两遍函数,如果一个函数的参数变了,那么另一个参数也要跟着改动。并且代码也不是很美观。使用lambda可以让异步看起来更直观,仿佛就是在接口函数中立刻完成一样。示例代码:

void service_t:async_update_user(long uid){
    struct lambda {
        static void update_user_impl(service_t* servie, long uid){
            user_t& user = servie->get_user(uid);
            user.update();
        }
    };
    task_queue->post(boost::bind(&lambda:update_user_impl, this, uid));
}

  这样当要改动该接口时,直接在该接口内修改代码,非常直观。

5. 奇技淫巧

利用shared_ptr 实现map/reduce

         Map/reduce的语义是先将任务划分为多个任务,投递到多个worker中并发执行,其产生的结果经reduce汇总后生成最终的结果。 Shared_ptr的语义是什么呢?当最后一个shared_ptr析构时,将会调用托管对象的析构函数。语义和map/reduce过程非常相近。我 们只需自己实现讲请求划分多个任务即可。示例过程如下:

  • l  定义请求托管对象,加入我们需要在10个文件中搜索“oh nice”字符串出现的次数,定义托管结构体如下:
struct reducer{
    void set_result(int index, long result) {
        m_result[index] = result;
    }
    ~reducer(){
        long total = 0;
        for (int i = 0; i < sizeof(m_result); ++i){
            total += m_result[i];
        }
        //! post total to somewhere
    }
    long m_result[10];
};
  • l  定义执行任务的 worker
void worker_t:exe(int index_, shared_ptr<reducer> ret) {
  ret->set_result(index, 100);
}
  • l  将任务分割后,投递给不同的worker
shared_ptr<reducer> ret(new reducer());
for (int i = 0; i < 10; ++i)
{
    task_queue[i]->post(boost::bind(&worker_t:exe, i, ret));
}

转载于:https://www.cnblogs.com/lchb/articles/3465400.html

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/376196.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

C++容器遍历时删除元素

vector 错误做法 这样做会在遍历过程中越界导致程序崩溃 std::vector<int> vecInt({ 1, 3, 2, 1, 4, 1 });for (auto i vecInt.begin(); i ! vecInt.end() ; i) {if (*i 1) {vecInt.erase(i);}}正确做法 std::vector<int> vecInt({ 1, 3, 2, 1, 4, 1 });for (a…

按钮图片拉伸_图片墙有多香?高手都在用的PPT封面制作技巧!

大家好&#xff0c;我是李导~这次&#xff0c;冬天是真的来了&#xff0c;不知道大家有没有感觉&#xff0c;每次冷空气真正袭来之前我们都会以为今年是个暖冬&#xff0c;结果突然有一天气温从20度直降到个位数&#xff0c;我们都会认为今年比以往的冬天都冷。但是&#xff0c…

POJ 1745 Divisibility【DP】

题意&#xff1a;给出n,k,n个数&#xff0c;在这n个数之间任意放置,-号&#xff0c;称得到的等式的值能够整除k则为可划分的&#xff0c;否则为不可划分的。 自己想的是枚举&#xff0c;将所有得到的等式的和算出来&#xff0c;再判断它是否能够整除k&#xff0c;可是有10000个…

三种root的修补方式

三种root的修补方式 system/core/adb/abd.c adbd漏洞&#xff0c;请看abd.c的第917行/* then switch user and group to "shell" */ if (setgid(AID_SHELL) ! 0) { exit(1); } if (setuid(AID_SHELL) ! 0) { exit(1); …

数据挖掘十大经典算法

国际权威的学术组织the IEEE International Conference on Data Mining (ICDM) 2006年12月评选出了数据挖掘领域的十大经典算法&#xff1a;C4.5, k-Means, SVM, Apriori, EM, PageRank, AdaBoost, kNN, Naive Bayes, and CART. 不不过选中的十大算法&#xff0c;事实上參加评选…

windows dmp文件为0kb

列出一些遇到的情况提供参考&#xff1a; 1、栈溢出&#xff0c;多次调用T2A函数会出现程序崩溃但是dmp为0kb的问题。

dynamic与var

dynamic与var示例 var是一种语法省略写法&#xff0c;编译器会根据上下文推断出正确的类型。 int[] scores new int[] { 1, 2, 7, 9, 8, 4, 6, 5 };foreach (var item in scores){Console.WriteLine(item);} 在大多数情况下&#xff0c;dynamic 类型与 object 类型的行…

线程间的消息(或数据)传递

使用“事件”可以实现线程间“消息/数据”的传递&#xff0c;非常棒的一种方法。转载于:https://www.cnblogs.com/changbaishan/p/3471113.html

gt9xx linux 移植_GT9XX驱动移植说明书_for_Android_2014011401.pdf

GT9XXforAndroid驱动移植说明书一、驱动基本信息支持芯片型号 GT911 GT9110 GT9110P GT913 GT915 GT918 GT927 GT928 GT960GT968 GT910 GT912 GT960F GT950 GT968F GT9158 GT967 GT9150GT963GT9271GT917DI2C设备地址(7位) 0x5d、0x14I2C寄存器地址 16位APK工具/ADB工具 支持自动…

spring-session之一:简介、使用及实现原理

一、背景 http session&#xff08;企业&#xff09;一直都是我们做集群时需要解决的一个难题&#xff0c;我们知道HttpSession是通过Servlet容器创建和管理的&#xff0c;像Tomcat/Jetty都是保存在内存中的。而如果我们把web服务器搭建成分布式的集群&#xff0c;然后利用LVS或…

How to check bad fix

最近做了一个backport的票&#xff0c;backport就是别人以前修复了这个bug&#xff0c;我只需要将fix移植到客户的系统中。这是一 个没有技术含量的票&#xff0c;遇到简单的票&#xff0c;三下五除二就解决了。但是遇到目标版本与master差别大时&#xff0c;也许backport后不好…

cad2017怎么改变选择方式_家用胎心仪怎么使用?建议孕妈妈选择数胎动的方式...

一般胎心仪都有说明书&#xff0c;孕妈妈可以根据说明书上的方法去做。 下面介绍比较通用的方法。时间&#xff1a;早中晚餐后的30-60分钟内 环境&#xff1a;周围没有电磁或辐射等干扰 辅助&#xff1a;耦合剂 步骤&#xff1a; 1、平躺&#xff0c;寻找适合胎心位置 在听胎心…

c#endread怎么打印出来_打印机打印出来是白板是怎么回事

引起针式打印纸空白的原因大多是由于色带油墨干涸、色带拉断、打印头损坏等&#xff0c;应及时更换色带或维修打印头。故障现象:针式打印机有打印声但打印空白。维修方法:具体解决方法如下:1) 检查打印机色带盒是否正确安装&#xff0c;如果安装不正确&#xff0c;重新安装色带…

使用dnspod遭遇的奇特问题以及背后的原因与临时解决方法

由于园子里有不少用户在使用dnspod&#xff0c;我们觉得有必要将这两天blogjava.net域名在dsnpod遇到的奇特问题分享一下&#xff0c;以免再有人踩着这个坑。 12月11日&#xff0c;我们登录到dnspod的后台时&#xff0c;大吃一惊&#xff0c;blogjava.net这个域名竟然消失了。 …

lgg6可以root的版本_Kali Linux 2020.1版本变更内容

kali2020.1于2020年1月28日发布&#xff0c;为2020年的第一个版本&#xff0c;由于此版本相较以前有较大变化&#xff0c;故专篇记录一下。根据官方说明&#xff0c;主要改变如下&#xff1a;默认用户改为非root用户针对不同需求出了单独的镜像文件nethunter改为非root用户改进…

随机生成六位不重复数值

在《Core JAVA》中有个随机生成六位不重复数值的算法&#xff0c;大二用过一次&#xff0c;今天在写《Algorithms》的练习题遇到类似的问题&#xff0c;特贴出&#xff01; 1 // 随机生成六位不重复的数字2 private static int generate6BitInt() {3 int[] arr {0, 1, 2, …

.net 代理类(WebService代理类的详解 )

http://hi.baidu.com/654085966/item/53ee8c0f108ad78202ce1b1d -----------转自 客户端调用Web Service的方式我现在知道的有三种,分别为Http_Get,Http_Post和通过代理类来调用 直接通过HTTP-GET和直接通过HTTP-POST来请求访问Web服务是非常底层的且麻烦,(详细用法请查看C#分…

icem密度盒怎么设置_怎么做好火灾自动报警系统施工安装?

关于火灾自动报警系统施工安装GB50166-2019 《火灾自动报警系统施工及验收标准》 中有明确规定&#xff1a;3.1 一般规定3.1.1 系统部件的设置应符合设计文件和现行国家标准《火灾自动报警系统设计规范》GB50116的规定。3.1.2 有爆炸危险性的场所&#xff0c;系统的布线和部件的…

Android 广播机制以及用法详解 (转)

转&#xff1a;http://blog.sina.com.cn/s/blog_5da93c8f010178zl.html 参考&#xff1a;http://blog.sina.com.cn/s/blog_80723de801014e2g.htmlhttp://blog.csdn.net/jjaze3344/article/details/7259272一、什么是广播&#xff1f;在android里面有各种各样的广播&#xff0c;…

erlzmq

ERROR REPORT 24-Dec-2013::17:01:43 The on_load function for module erlzmq_nif returned {error, {load_failed, "Failed to load NIF library: ./ebin/../priv/erlzmq_drv.so: ELF file OS ABI invalid"}} 发布到不同环境的服务器时报上面的错误&#xff0c;解决…