如何轻松将上亿的数据玩弄于股掌之中?


在日常生活中,我们经常会遇到排序问题


  • 在打扑克牌的时候,原本拿到手上的牌是乱序的,我们会按照自己喜好的顺序一张一张排好手上的牌,最后看起来是顺眼的。比如小智打扑克牌会将自己手上的牌排成这样:


小智排了一下手上的牌,这次手上的牌还不错


  • 摄影师给毕业的同学们拍照片,要求同学们站好队形,然后要求中间高,两边低的方式排队。如果摄影师发现某个同学的高度跟旁边的同学不协调,这个同学必须马上调整自己的位置,最后是一派整齐的景象


摄影师:嗯,你们排得不错


  • 经常泡图书馆的泡友,会发现有很多志愿者会帮忙整理图书位置。每一本书的书背上面都有一张标签,书架上的图书需要按照标签上的编号排好顺序,这样泡友才能快速找到想要的图书。


小智的书架,是不是还算整齐?


这些例子就是排序问题了。排序问题不仅在生活中常见,在IT届也常见。据说,某科技公司在做一个项目时遭遇大量排序问题,运算速度奇慢,项目经理非常头痛,为招收能制伏排序问题的人才,干脆总结成了一道题目(没想到这道题日后竟成为IT面试届的经典)。这道题就是:


如何在一亿个数当中找到最大的10000个数?


如果让小智手工去找这些数,用一辈子的时间可能还不够。当然我们要用计算机来算,我们不仅要考虑,计算机能够如何找到这10000个最大的数,更重要的是找到这10000个数的时间越短越好


方法一:重复寻找法


我们可以先用最直观的方式来做这道题目,起个名字叫重复寻找法


第1步:我们先在这一亿个数当中,寻找到最大的那个数字,把它记录下来。


第2步:从这一亿个数字中,剔除这个最大的数字


第3步:重复执行第1步和第2步,直至记录下来10000个数字。记录下来的结果即为所求。


以挑苹果为例重复寻找法就好比我们在苹果堆中挑苹果的时候,先在所有苹果里面挑出最好的一个,然后继续在剩余苹果里面再挑出最好的一个……如此类推。


怎么找到最好的苹果?那必须拿着某个苹果,对比一遍所有苹果,如果发现有更好的苹果,把好的苹果拿在手上,把次好的苹果放下,直至对比完所有的苹果后,手上拿着的就是最好的苹果


重复寻找法,就好比在苹果堆中不断挑最大最好看的苹果到自己的篮子里


为了方便讨论起见,我们设 n = 1亿


我们知道,求n个数最大值的比较次数为 n,求最大值的过程需要执行 10000 次,因此,重复寻找法的总比较次数为:


10000 × n


中场解答:


为什么这里只关注总比较次数?实际上我们在做排序的时候,比较次数与数据规模有明显关系,而其他的计算比如赋值、代码解析时间这些与数据规模无关,排序的关键是看比较次数。


为什么求最大值的比较次数为n呢?我们可以假想这样的情景:先拿出n个数中第一个数,作为临时最大值。在遍历n个数的过程中,如果发现有新的数字大于临时最大值,则以该数字为临时最大值。遍历完成以后,临时最大值即真正的最大值,比较的次数只需n次。


虽然这个问题有答案了,但是心里貌似有一些遗憾,不知道大家感受到了没?


其实,遍历10000次,这个次数有点多,为什么不可以遍历1次就得到结果呢?


方法二:局部淘汰法


实际上是可以的,还有一个能够一步到位的方法,叫做局部淘汰法


第1步:先创建一个数组,保存这1亿个数字中的前10000个数字,计算数组的最小数字。


第2步:遍历剩下的数字。如果遍历到某个数 A 大于数组的最小数字,那么则用 A 替换掉数组的最小数字。并重新计算数组的最小数字。

第3步:遍历完成后,数组内的数字即为所求。


以打麻将为例,一开始我们拿了n个牌,局部淘汰法类似我们在打麻将过程中,如果摸到一个自己手上最坏的牌要好的牌,就打出自己手上最坏的牌……如此类推,使得胜利的概率不断增大。


局部淘汰法,可以类比打麻将的过程,不断更换手上的牌,使得胜利的概率越来越大


这样,遍历1次就能得到最后的结果了。总比较次数如何呢?


最好的情况是,如果这1亿个数字刚好已经是降序排列,那么前10000个数字就是结果,只需要进行1次最小值的计算(比较次数 1 × 10000),9999万次最小值的比较(次数向上近似为 n)。


最坏的情况是,如果这1亿个数字刚好已经是升序排列,那么直到最后的10000个数字才是最终结果,因此需要进行9999万次最小值的计算(比较次数 n × 10000),9999万次最小值的比较(次数向上近似为 n 


因此,平均的情况是,要算5000万次最小值(比较次数为 1/2 × n × 10000),要算9999万次最小值比较(次数向上近似为 n ,因此总比较次数近似为 :


1/2 × n × 10000 = 5000 × n


总比较次数下降了一半,这个优化有点用。


但是……大家有没有觉得这个方法还有优化空间?


方法三:最小堆维护法


这个问题嘛……事实上是有的。这个方法能够大幅度降低总比较次数,称之为最小堆维护法


第1步:先利用前10000个数字,搭建一个元素个数为1万的最小堆


有模友可能会问,什么叫做最小堆呢?小智在这里解释一下:


首先,什么是堆?


关于堆这个概念,我们生活中的理解是东西堆在一起,比如沙堆、泥堆、还有小智的一堆东西


计时沙漏中的小沙堆


在计算机领域中,堆这个概念与生活中的有一点点类似,一般的堆也是上面窄下面宽的结构。堆结构,非常类似圆木堆放的结构,充满大自然的气息。


堆结构,可能源自圆木木堆的灵感


堆(heap)是一种基于(tree)的特殊的数据结构。堆有两种形式,分别是最大堆max heap)和最小堆min heap)。在堆顶的节点则被称为根节点。


我们关心最小堆就可以了。最小堆中,如果节点 A 是节点 B 的父节点,节点 A 中的键值必定小于或者等于节点 B 中的键值。根节点是堆的最小值。


以搬砖为例,我们要建一个金字塔,比较稳定的结构是下面重上面轻。最下面的我们放100kg的砖,然后上面可以放轻一点的砖。最小堆的结构也是类似的,位置越往上的节点键值越小。每一个节点都有一个键值,即所对应的数字,好比每一块砖头都对应一个重量,砖头的重量可以作为砖头的键值。


座结构稳定的小金字塔截面结构


堆的形式有非常多,不过堆的最常见实现形式是二叉堆binary heap),最小二叉堆一般也是被直接简称为最小堆,因此我们只需要理解二叉堆即可。我们可以画一个最小二叉堆的例子出来感受一下:


一个最小堆示例


对图中的最小堆分析,一共有三层圆圈,称之为节点,每一个上层的节点都连着下层的两个节点,而且上层节点的键值均比下层的两个节点的键值要小。这个就是最小堆的特征。


我们关注另外一个方面,图中8个元素的二叉堆里面,堆的高度是3。推而广之,对于一个有N个元素的二叉堆,其高度为 log2 N


这里还需要问大家一个问题:假设最小堆堆顶的键值改变,调整的时间是多少?


这个问题也就是问堆调整时间了。一般对于这种问题,我们都要算最坏情况。假设堆顶新键值大于堆里所有的数,那么堆顶这个元素需要调整到堆底,每一次调整都要下降一层,因此调整的次数为堆的高度,即 log2 N


建堆、堆调整以及堆排序的过程展示


解释得有点长,但是对于问题的理解是有帮助的哦。


我们来继续做题吧:


第2步:遍历剩下的数字,与最小堆的根元素键值进行对比。如果遍历到某个数确实大于根元素的键值,则替换根元素的键值,并进行堆调整


第3步:遍历完成后,最小堆当中的所有元素对应的数值即为所求。


刚刚说明了堆调整时间,最坏情况下调整时间为 log2 10000。同时要进行9999万次最小值比较(次数向上近似为 n)。因此上述步骤的比较次数最多为:


n × log2 10000 < 14 × n


总比较次数进一步下降了 5000 ÷ 14 > 350 倍,这个优化确实漂亮。


这个答案小智觉得算是满意的了。


上面这个题目属于 Top K 类问题,这类问题的解法,很多时候都可以用这种数据结构进行解答,往往能得到一些不错的结果。



本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/304427.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

帮助阅读源码的8个技巧

大家好&#xff0c;我是Z哥。之前写了一篇关于阅读源码到底有多少价值的文章《阅读源码的真正价值》&#xff0c;反响还不错。在文中我向你阐明了阅读源码5个价值。面试在工作中更快地上手新项目给自己创造用新技术的机会完善知识体系学习别人的设计思路那么今天我就和你来聊聊…

php webshell开源,[github开源]webshell连接器--Jeshell

前言&#xff1a;以前连接webshell都是用一个好朋友写的Webshellsniper&#xff0c;但是昨天使用webshellsniper测试的时候&#xff0c;发现不能支持shell_exec()这个php函数&#xff0c;问了一下才知道&#xff0c;他写的默认是只用eval()和assert()函数的webshell。于是&…

robcad和catia是什么关系_proe/CATIA/UG/SolidWorks软件区别与联系

proe/CATIA/UG/SolidWorks软件区别与联系相信你一定清楚proe软件的用途&#xff0c;其实它在机械设计上面的应用也是非常广泛&#xff0c;与CATIA、UG、SolidWorks软件一样&#xff0c;这四大软件可谓是在机械设计应用非常广泛的软件&#xff0c;几乎在这个行业里的设计师无外乎…

活动目录组策略统一管理桌面

使用组策略实现企业统一桌面 在企业中为了实现企业形象的统一性&#xff0c;会要求在企业所有计算机上实现标准的桌面化配置环境。1、统一桌面壁纸在域控上建立存放背景图片的文件夹&#xff0c;将其设置为共享文件夹&#xff1b; 然后在开始—运行中GPedit.msc命令进入…

Kubernetes中分布式存储Rook-Ceph部署快速演练

最近在项目中有涉及到Kubernetes的分布式存储部分的内容&#xff0c;也抽空多了解了一些。项目主要基于Rook-Ceph运行&#xff0c;考虑到Rook-Ceph部署也不那么简单&#xff0c;官方文档的步骤起点也不算低&#xff0c;因此&#xff0c;在整合官方文档的某些步骤的基础上&#…

MATLAB向量化函数 举例,MatLab-向量化技巧

《MatLab-向量化技巧》由会员分享&#xff0c;可在线阅读&#xff0c;更多相关《MatLab-向量化技巧(10页珍藏版)》请在人人文库网上搜索。1、MatLab 向量化技巧家家 2007-05-17 13:53大家都知道MatLab是一种解释性语言&#xff0c;它的长处在矩阵运算。因此需要将问题尽量用矩阵…

IT人的八大修炼神器

看到2018年的KPI&#xff0c;你是否感到崩溃&#xff1f;在这个充满竞争的时代&#xff0c;你需要用最有效的方式&#xff0c;学习最有用的知识&#xff0c;来提高自身技能。小编特意为大家准备IT人的八大修炼神器&#xff0c;推荐能帮助我们提升技术的公众号&#xff0c;欢迎大…

hotelling t2 matlab,pca主成份分析方法

1.应用pca的前提应用pca的前提是&#xff0c;连续信号具有相关性。相关性是什么&#xff0c;是冗余。就是要利用pca去除冗余。2.pca的定义pca是一种去除随机变量间相关性的线性变换。是一种常用的多元数据分析方法。pca将互相关的输入数据转换成统计上不相干的主成分(或者特征)…

如何在 WebAPI 中启用 CORS

浏览器安全策略上的安全限制可以有效的阻止 Ajax 向另外一个域server发起请求&#xff0c;这就是著名的 同源策略&#xff0c;那如何突破这种限制呢&#xff1f;可以使用 CORS &#xff08;Cross-Origin Resource Sharing&#xff09; 跨域资源共享来解决此类问题&#xff0c;它…

Kappa信息化谋局电子商务与传统渠道的全面管理

近日&#xff0c;Kappa中国总经理任轶先生与淘宝网首席财务官兼淘宝商城负责人张勇先生会晤于杭州淘宝总部&#xff0c;就淘宝网与Kappa的电子商务战略合作达成全面共识。非常注重企业信息化建设的Kappa在积极推进电子商务的同时&#xff0c;也早早的把电子商务模式下的信息化建…

druid字段级_Druid的数据结构

Druid的数据结构Druid数据存储结构可以分为三层&#xff1a; 1. DataSource 2. Chunk 3. SegmentDataSource相当于传统数据库的按时间分区的表&#xff0c;Chunk相当于MySQL中的按时间分区的表一个分区&#xff0c;但是Chunk不是一个实体&#xff0c;只是一个虚拟的概念&#x…

数据分析师+做过名企项目+懂运营+985毕业=跳槽失败?

数据已经成为很多企业的重要资源&#xff0c;数据分析已经成为了各行业的指导军事&#xff0c;但是数据分析师的工作从来都不是容易的。如今&#xff0c;数据分析师是一个互联网从业人士转型最快捷的入门职位&#xff0c;人工智能、大数据都要依附于数据分析。很多人也因为前途…

matlab 如何画二维图形,Matlab 学习 画图篇 一 二维图形

matlab给绘制二维图形提供了很多的函数&#xff0c;把一些绘制二维图形的基本函数做成一张表&#xff0c;如下图所示&#xff1a;我就按照表的顺序一一记录一些个函数的简略用法。首先是1.plot函数plot函数有很多重载方法&#xff0c;这里只做简单的介绍1.1 plot(Y)1.1 若Y是向…

Newbe.Claptrap 框架入门,第二步 —— 创建项目

接上一篇 《Newbe.Claptrap 框架入门&#xff0c;第一步 —— 开发环境准备》&#xff0c;我们继续了解如何创建一个 Newbe.Claptrap 项目。安装项目模板 打开控制台运行以下命令来安装最新的项目模板&#xff1a;dotnet new --install Newbe.Claptrap.Template安装完毕后&…

TTL expired in transit--问题篇~

今天在做东航事件处理时&#xff0c;发现远程登陆DMS服务器后&#xff0c;ping所有三层交换机<cisco 3550> 都发现一个现象:TTL expired in transit&#xff1b;如图1所示:之后用tracert -d IP 后&#xff0c;如图2所示:如图可见&#xff0c;可以清楚的发现&#xff0c…

生成drl文件_我如何通过编程方式生成.drl文件。任何示例对我都将有所帮助

我搜索了很多站点&#xff0c;但找不到有关.drl文件生成的任何特定相关示例。 .drl文件生成方面的文档也不值得。解决方案//- ---- package部分-------PackageDescr pkg new PackageDescr();pkg.setName(" com.demo.model");// -------此处的导入部分-------ImportD…

【干货】机器学习中样本比例不平衡的处理方法

推荐阅读时间&#xff1a;5min~12min主要内容&#xff1a;机器学习中样本比例不平衡的处理方法在机器学习中&#xff0c;常常会遇到样本比例不平衡的问题&#xff0c;如对于一个二分类问题&#xff0c;正负样本的比例是 10:1。这种现象往往是由于本身数据来源决定的&#xff0c…

Newbe.Claptrap 框架入门,第一步 —— 开发环境准备

Newbe.Claptrap 框架依托于一些关键性的基础组件和一些可选的辅助组件。本篇我们来介绍一下如何准备一个开发环境。必要组件 这些组件是使用本框架进行开发是必须要安装的组件。Docker DesktopDocker Desktop 是以下所有组件运行的基础。开发可以通过以下链接下载对应操作系统的…

php sequelize,node,express_sequelize 联合查询,node,express,mysql,sequelize - phpStudy

sequelize 联合查询我用sequelize 联合查询db.user.hasMany(db.bbsuser,{foreignKey:userId});db.bbsuser.belongsTo(db.user);db.user.findAll({include:[db.bbsuser]})&#xff1b;得到结果格式以下&#xff1a;{"id": 9,"username": "CallMeSoul&q…

vs中断点不能设置

确保你的exe和pdb文件是从当前源代码里编译出来的。或者在 Tool -> options -> debug. 从中找到并取消掉“源代码必须和调试文件的版本一致”。 转载于:https://blog.51cto.com/ustcer/265179