TOP-K问题
TOP-K问题:即求数据结合中前K个最大的元素或者最小的元素,一般情况下数据量都比较大
比如:专业前10名、世界500强、富豪榜、游戏中前100的活跃玩家等
对于Top-K问题,能想到的最简单直接的方式就是排序,但是:如果数据量非常大,排序就不太可取了(可能数据都不能一下子全部加载到内存中)。
举个例子:
有十亿个整形数据,我们的内存时4G,也就是102410241024*8个字节的空间,十亿个整形数据需要的是40亿个字节的空间,就占了内存的一半空间,这是不可行的
最佳的方式就是用堆来解决,基本思路如下:
- 用数据集合中前K个元素来建堆
前k个最大的元素,则建小堆
前k个最小的元素,则建大堆 - 用剩余的N-K个元素依次与堆顶元素来比较,不满足则替换堆顶元素,将剩余N-K个元素依次与堆顶元素比完之后,堆中剩余的K个元素就是所求的前K个最小或者最大的元素
下面我们进行代码的实现:
首先我们生成1000个随机数,范围再十万以内,放入一个数组中:
srand(time(0));
int* a = (int*)malloc(sizeof(int) * 1000);
if (a == NULL)
{perror("malloc");return 0;
}
for (size_t i = 0; i < 1000; i++)
{a[i] = rand() % 100000;
}
然后我们随机将数组中的任意k个元素改为超过十万的数字,方便验证:
a[7] = 100000 + 1;
a[49] = 100000 + 2;
a[123] = 100000 + 3;
a[456] = 100000 + 4;
a[789] = 100000 + 5;
我们还要用到向下调整算法,以便于建堆:
void swap(int* p1, int* p2)
{int temp = *p1;*p1 = *p2;*p2 = temp;
}
void AdjustDown(int* a, int n, int parent)
{int child = (parent * 2) + 1;while (child < n){if (child + 1 < n && a[child + 1] < a[child]){child++;}if (a[child] < a[parent]){swap(&a[child], &a[parent]);parent=child;child = parent * 2 + 1;}else{break;}}
}
最后我们将a数组中的前k个元素插入到top_k函数的数组里,然后进行一次向下调整算法,将其调整为大堆,然后再用剩下的n-k个元素与堆顶元素进行比较,如果比他大进替换进堆,然后进行向下调整
void top_k(int* a, int n, int k)
{int i = 0;int* top = (int*)malloc(sizeof(int) * k);if (top == NULL){perror("malloc");return;}for (i = 0; i < k; i++){top[i] = a[i];}for (i = (k - 1 - 1) / 2; i >= 0; i--){AdjustDown(top, k, i);}for (i = k; i < 1000; i++){if (a[i] > top[0]){top[0] = a[i];AdjustDown(top, k, 0);}}
完整代码如下:
#include<stdio.h>
#include<stdlib.h>
#include<time.h>
#include<assert.h>
void swap(int* p1, int* p2)
{int temp = *p1;*p1 = *p2;*p2 = temp;
}
void AdjustDown(int* a, int n, int parent)
{int child = (parent * 2) + 1;while (child < n){if (child + 1 < n && a[child + 1] < a[child]){child++;}if (a[child] < a[parent]){swap(&a[child], &a[parent]);parent=child;child = parent * 2 + 1;}else{break;}}
}
void top_k(int* a, int n, int k)
{int i = 0;int* top = (int*)malloc(sizeof(int) * k);if (top == NULL){perror("malloc");return;}for (i = 0; i < k; i++){top[i] = a[i];}for (i = (k - 1 - 1) / 2; i >= 0; i--){AdjustDown(top, k, i);}for (i = k; i < 1000; i++){if (a[i] > top[0]){top[0] = a[i];AdjustDown(top, k, 0);}}for (i = 0; i < k; i++){printf("%d ", top[i]);}free(top);
}
int main()
{srand(time(0));int* a = (int*)malloc(sizeof(int) * 1000);if (a == NULL){perror("malloc");return 0;}for (size_t i = 0; i < 1000; i++){a[i] = rand() % 100000;}a[7] = 100000 + 1;a[49] = 100000 + 2;a[123] = 100000 + 3;a[456] = 100000 + 4;a[789] = 100000 + 5;int k = 5;top_k(a, 1000, k);
}
向上调整算法和向下调整算法的时间复杂度
因为堆是完全二叉树,而满二叉树也是完全二叉树,此处为了简化使用满二叉树来证明(时间复杂度本来看的就是近似值,多几个节点不影响最终结果):
我们令高度为h,节点个数n就等于2^(h)-1个
那么在向上调整算法中:
最坏情况下,最后一层的节点需要向上移动h-1次,依次类推,就得到总次数的表达式,然后再用错位相减法和n和h的关系就能求出时间复杂度f(n)了
在向下调整算法中:
最坏情况下,倒数第二层节点向下只移动一次,第一层最多移动h-1次
总结下来我们就会发现,向上调整算法中是多节点乘多层数的关系,而向下调整算法则是多节点乘少层数的关系,我们进行比较就会发现其实向下调整算法的效率更高,所以在平常的排序和建堆中我们 最常用的还是向下调整算法
向上调整算法的时间复杂度为:
n*log(n)
向下调整算法的时间复杂度为:
log(n)
因此,向下调整算法的效率是远大于向上调整算法的!
好了,今天的分享到这里就结束了,谢谢大家的支持!