wuhanbingwhdx提到了数据相关也会影响流水线(http://blog.csdn.net/zyl910/article/details/1330614)。
他的说法是有一定道理的。但是,在很多时候我们并不仅仅处理一个数值。比如将循环展开,在内循环处理2个或更多个的数值。而现代编译器面对循环展开时,在编译优化操作中会调整指令顺序,错开有相关性指令。因现代处理器支持超标量,这样的指令顺序调整能获得较好的指令级并行度,从而优化了性能。
其次,就算编译器对循环展开优化的不够彻底,没将相关性指令错开。但因现代处理器支持乱序执行,当遇到相关性指令需要等待时,处理器会处理后面未相关的指令,从而保持处理器满载尽量减轻相关性等待造成的性能损失。
第三,现代处理器还支持寄存器重命名技术——当两处代码用到同名的寄存器时,译码器会做寄存器重命名处理给它们分配不同的寄存器,使数据不会干扰,从而获得更高的指令级并行度。
上面说了很多理论知识,实际性能到底怎么样呢?还是写代码测一测吧。
一、目标——将64位像素转为32位像素
将64位像素转为32位像素,是饱和处理的最典型应用。
64位像素有4个通道,每个通道16位(带符号16位整数)。每像素8个字节。
32位像素有4个通道,每个通道8位(无符号8位整数)。每像素4个字节。
转换方法为——将每个像素的4个通道由16位(带符号16位整数)转为8位(无符号8位整数)。因为每次都是对4个通道进行处理,所以能获得较高的指令级并行度。
具体的存储格式为——
注:
1.内存地址由低到高(从下到上),垂直方向的每一格是一个字节。+0代表数据基址,+1代表数据基址+1,以此类推。
2.左为“64位像素”数组,右为“32位像素”数组。
3.图中使用了用双边线来分隔像素。因“64位像素”是8字节,而“32位像素”是4字节。所以对于16个字节的空间,左侧能存放2个像素、右侧能存放4个像素。
4.图中使用了用实线来分隔通道。“64位像素”的通道是16位,占用2个字节。“32位像素”的通道是8位,只占用1个字节。
5.图中使用了用虚线来分隔字节。主要用于“64位像素”。
6.这里采用了Windows位图通道规则,即通道顺序为B、G、R、A(从低到高)。例如:“B0”代表像素0的B(蓝色)通道、“A0”代表像素0的A(不透明度)通道、“A1”代表像素1的A通道……以此类推。
7.这里采用了小端(Little Endian)方式的字节序(Endianness),即最低地址存放的最低字节。采用小写的“h”、“l”来表示“64位像素”通道的高、低字节。例如:“B0l”代表像素0的B通道的低字节、“A0h”代表像素0的A通道的高字节……以此类推。
上面貌似挺复杂,又是图表又是大段文字的。其实,代码写起来很简单的,一般情况下不需要理会通道顺序与字节序问题——
// 用if分支做饱和处理
void f0_if(BYTE* pbufD, const signed short* pbufS, int cnt)
{
const signed short* pS = pbufS;
BYTE* pD = pbufD;
int i;
for(i=0; i<cnt; ++i)
{
// 分别对4个通道做饱和处理
pD[0] = (pS[0]<0) ? 0 : ( (pS[0]>255) ? 255 : (BYTE)pS[0] );
pD[1] = (pS[1]<0) ? 0 : ( (pS[1]>255) ? 255 : (BYTE)pS[1] );
pD[2] = (pS[2]<0) ? 0 : ( (pS[2]>255) ? 255 : (BYTE)pS[2] );
pD[3] = (pS[3]<0) ? 0 : ( (pS[3]>255) ? 255 : (BYTE)pS[3] );
// next
pS += 4;
pD += 4;
}
}
参数说明——
pbufD:目标缓冲区的地址。如“64位像素”数组的首地址。
pbufS:源缓冲区的地址。如“32位像素”数组的首地址。
cnt:像素个数。
使用方法——
signed short bufS[DATASIZE*4]; // 源缓冲区。64位的颜色(4通道,每通道16位)
BYTE bufD[DATASIZE*4]; // 目标缓冲区。32位的颜色(4通道,每通道8位)
f0_if(bufD, bufS, DATASIZE);
对于数据处理来说,用指针比用数组写起来更简洁,而且执行速度更快。
而且C语言中的指针支持下标运算符,能够用下标访问后面的元素(“pD[1]”相当于“*(pD + 1)”),简化了不少代码。(指针下标可参考 http://www.lupaworld.com/home-space-uid-77885-do-blog-id-28843.html)
例如“pD[1] = (pS[1]<0) ? 0 : ( (pS[1]>255) ? 255 : (BYTE)pS[1] );”这行代码的数组写法为——
pbufD[i*4+1] = (pbufS[i*4+1]<0) ? 0 : ( (pbufS[i*4+1]>255) ? 255 : (BYTE)pbufS[i*4+1] );
因为条件语句“if”的代码写起来比较繁琐,所以这里用到了条件运算符“?:”来简化代码。例如“pD[1] = (pS[1]<0) ? 0 : ( (pS[1]>255) ? 255 : (BYTE)pS[1] );”这行代码的“if”写法为——
if (pS[1]<0)
pD[1]=0
else
if (pS[1]>255)
pD[1]=255
else
pD[1]=(BYTE)pS[1];
二、测试方法——测试程序的框架
前面已经编写了一个函数f0_if,随后我们会编写多个函数,分别测试性能。具体怎么测试呢?难道是为每一个函数都写一套测试代码……不,那样的话太糟糕了。
我们可以利用函数指针进行统一的测试。函数指针定义如下,与f0_if的参数列相同——
// 测试时的函数类型
typedef void (*TESTPROC)(BYTE* pbufD, const signed short* pbufS, int cnt);
有了函数指针后,进行测试就很简单了,只需要将要测试的函数传递过去就行了。例如这样测试f0_if——
runTest("f0_if", f0_if);
runTest代码如下——
// 进行测试
void runTest(char* szname, TESTPROC proc)
{
int i,j;
DWORD tm0, tm1; // 存储时间
for(i=1; i<=3; ++i) // 多次测试
{
//tm0 = GetTickCount();
tm0 = timeGetTime();
// main
for(j=1; j<=4000; ++j) // 重复运算几次延长时间,避免计时精度问题
{
proc(bufD, bufS, DATASIZE);
}
// show
//tm1 = GetTickCount() - tm0;
tm1 = timeGetTime() - tm0;
printf("%s[%d]:\t%u\n", szname, i, tm1);
}
}
printf输出的是测试时间,单位毫秒。值越小,表示所花时间越少、运行速度越快、性能越高。
这里用到了timeGetTime来计算时间,要注意加上winmm.lib库——
对于bufD、bufS、DATASIZE,我是这样定义的——
// 数据规模
#define DATASIZE 16384 // 128KB / (sizeof(signed short) * 4)
// 缓冲区
signed short bufS[DATASIZE*4]; // 源缓冲区。64位的颜色(4通道,每通道16位)
BYTE bufD[DATASIZE*4]; // 目标缓冲区。32位的颜色(4通道,每通道8位)
缓冲区的尺寸是特意规定的。对于现在主流CPU来说,Intel处理器的二级缓存一般是每核心256KB,而AMD处理器的二级缓存一般是每核心512KB。所以数据最好不要超过256KB,这样就能在二级缓存上完成处理,避免了内存访问延时造成的干扰。
于是我给bufS分配了128KB,给bufD分配了64KB。
三、更多的测试
用min、max做饱和处理——
// 用min、max饱和处理
void f1_min(BYTE* pbufD, const signed short* pbufS, int cnt)
{
const signed short* pS = pbufS;
BYTE* pD = pbufD;
int i;
for(i=0; i<cnt; ++i)
{
// 分别对4个通道做饱和处理
pD[0] = min(max(0, pS[0]), 255);
pD[1] = min(max(0, pS[1]), 255);
pD[2] = min(max(0, pS[2]), 255);
pD[3] = min(max(0, pS[3]), 255);
// next
pS += 4;
pD += 4;
}
}
用位掩码做饱和处理,用求负生成掩码——
// 用位掩码做饱和处理.用求负生成掩码
void f2_neg(BYTE* pbufD, const signed short* pbufS, int cnt)
{
const signed short* pS = pbufS;
BYTE* pD = pbufD;
int i;
for(i=0; i<cnt; ++i)
{
// 分别对4个通道做饱和处理
pD[0] = LIMITSU_BYTE(pS[0]);
pD[1] = LIMITSU_BYTE(pS[1]);
pD[2] = LIMITSU_BYTE(pS[2]);
pD[3] = LIMITSU_BYTE(pS[3]);
// next
pS += 4;
pD += 4;
}
}
用位掩码做饱和处理,用带符号右移生成掩码——
// 用位掩码做饱和处理.用带符号右移生成掩码
void f3_sar(BYTE* pbufD, const signed short* pbufS, int cnt)
{
const signed short* pS = pbufS;
BYTE* pD = pbufD;
int i;
for(i=0; i<cnt; ++i)
{
// 分别对4个通道做饱和处理
pD[0] = LIMITSW_BYTE(pS[0]);
pD[1] = LIMITSW_BYTE(pS[1]);
pD[2] = LIMITSW_BYTE(pS[2]);
pD[3] = LIMITSW_BYTE(pS[3]);
// next
pS += 4;
pD += 4;
}
}
四、全部代码
全部代码为——
// 用位掩码做饱和处理.用求负生成掩码
#define LIMITSU_FAST(n, bits) ( (n) & -((n) >= 0) | -((n) >= (1<<(bits))) )
#define LIMITSU_SAFE(n, bits) ( (LIMITSU_FAST(n, bits)) & ((1<<(bits)) - 1) )
#define LIMITSU_BYTE(n) ((BYTE)(LIMITSU_FAST(n, 8)))
// 用位掩码做饱和处理.用带符号右移生成掩码
#define LIMITSW_FAST(n, bits) ( ( (n) | ((signed short)((1<<(bits)) - 1 - (n)) >> 15) ) & ~((signed short)(n) >> 15) )
#define LIMITSW_SAFE(n, bits) ( (LIMITSW_FAST(n, bits)) & ((1<<(bits)) - 1) )
#define LIMITSW_BYTE(n) ((BYTE)(LIMITSW_FAST(n, 8)))
// 数据规模
#define DATASIZE 16384 // 128KB / (sizeof(signed short) * 4)
// 缓冲区
signed short bufS[DATASIZE*4]; // 源缓冲区。64位的颜色(4通道,每通道16位)
BYTE bufD[DATASIZE*4]; // 目标缓冲区。32位的颜色(4通道,每通道8位)
// 测试时的函数类型
typedef void (*TESTPROC)(BYTE* pbufD, const signed short* pbufS, int cnt);
// 用if分支做饱和处理
void f0_if(BYTE* pbufD, const signed short* pbufS, int cnt)
{
const signed short* pS = pbufS;
BYTE* pD = pbufD;
int i;
for(i=0; i<cnt; ++i)
{
// 分别对4个通道做饱和处理
pD[0] = (pS[0]<0) ? 0 : ( (pS[0]>255) ? 255 : (BYTE)pS[0] );
pD[1] = (pS[1]<0) ? 0 : ( (pS[1]>255) ? 255 : (BYTE)pS[1] );
pD[2] = (pS[2]<0) ? 0 : ( (pS[2]>255) ? 255 : (BYTE)pS[2] );
pD[3] = (pS[3]<0) ? 0 : ( (pS[3]>255) ? 255 : (BYTE)pS[3] );
// next
pS += 4;
pD += 4;
}
}
// 用min、max饱和处理
void f1_min(BYTE* pbufD, const signed short* pbufS, int cnt)
{
const signed short* pS = pbufS;
BYTE* pD = pbufD;
int i;
for(i=0; i<cnt; ++i)
{
// 分别对4个通道做饱和处理
pD[0] = min(max(0, pS[0]), 255);
pD[1] = min(max(0, pS[1]), 255);
pD[2] = min(max(0, pS[2]), 255);
pD[3] = min(max(0, pS[3]), 255);
// next
pS += 4;
pD += 4;
}
}
// 用位掩码做饱和处理.用求负生成掩码
void f2_neg(BYTE* pbufD, const signed short* pbufS, int cnt)
{
const signed short* pS = pbufS;
BYTE* pD = pbufD;
int i;
for(i=0; i<cnt; ++i)
{
// 分别对4个通道做饱和处理
pD[0] = LIMITSU_BYTE(pS[0]);
pD[1] = LIMITSU_BYTE(pS[1]);
pD[2] = LIMITSU_BYTE(pS[2]);
pD[3] = LIMITSU_BYTE(pS[3]);
// next
pS += 4;
pD += 4;
}
}
// 用位掩码做饱和处理.用带符号右移生成掩码
void f3_sar(BYTE* pbufD, const signed short* pbufS, int cnt)
{
const signed short* pS = pbufS;
BYTE* pD = pbufD;
int i;
for(i=0; i<cnt; ++i)
{
// 分别对4个通道做饱和处理
pD[0] = LIMITSW_BYTE(pS[0]);
pD[1] = LIMITSW_BYTE(pS[1]);
pD[2] = LIMITSW_BYTE(pS[2]);
pD[3] = LIMITSW_BYTE(pS[3]);
// next
pS += 4;
pD += 4;
}
}
// 进行测试
void runTest(char* szname, TESTPROC proc)
{
int i,j;
DWORD tm0, tm1; // 存储时间
for(i=1; i<=3; ++i) // 多次测试
{
//tm0 = GetTickCount();
tm0 = timeGetTime();
// main
for(j=1; j<=4000; ++j) // 重复运算几次延长时间,避免计时精度问题
{
proc(bufD, bufS, DATASIZE);
}
// show
//tm1 = GetTickCount() - tm0;
tm1 = timeGetTime() - tm0;
printf("%s[%d]:\t%u\n", szname, i, tm1);
}
}
int main(int argc, char* argv[])
{
int i; // 循环变量
//printf("Hello World!\n");
printf("== noif:VC6 ==");
// 初始化
srand( (unsigned)time( NULL ) );
for(i=0; i<DATASIZE*4; ++i)
{
bufS[i] = (signed short)((rand()&0x1FF) - 128); // 使数值在 [-128, 383] 区间
}
// 准备开始。可以将将进程优先级设为实时
if (argc<=1)
{
printf("<Press any key to continue>");
getch();
printf("\n");
}
// 进行测试
runTest("f0_if", f0_if);
runTest("f1_min", f1_min);
runTest("f2_neg", f2_neg);
runTest("f3_sar", f3_sar);
// 结束前提示
if (argc<=1)
{
printf("<Press any key to exit>");
getch();
printf("\n");
}
return 0;
}
五、测试结果
将程序编译为“Release”版,然后分别在不同的系统环境中进行测试。
在32位winXP上的测试结果——
== noif:VC6 ==<Press any key to continue>
f0_if[1]: 2016
f0_if[2]: 2016
f0_if[3]: 2015
f1_min[1]: 2063
f1_min[2]: 2062
f1_min[3]: 2063
f2_neg[1]: 718
f2_neg[2]: 719
f2_neg[3]: 719
f3_sar[1]: 672
f3_sar[2]: 687
f3_sar[3]: 672
在64位win7上的测试结果——
== noif:VC6 ==<Press any key to continue>
f0_if[1]: 2075
f0_if[2]: 2012
f0_if[3]: 2028
f1_min[1]: 2059
f1_min[2]: 2075
f1_min[3]: 2075
f2_neg[1]: 717
f2_neg[2]: 718
f2_neg[3]: 718
f3_sar[1]: 670
f3_sar[2]: 687
f3_sar[3]: 686
硬件环境——
CPU:Intel Core i3-2310M, 2100 MHz
内存:DDR3-1066
源码下载——
http://files.cnblogs.com/zyl910/noifVC6.rar
(建议阅读编译器生成的汇编代码,位于Release\noifVC6.asm )