改进MySQL Order By Rand()的低效率

 

Author:flymorn Source:飘易
Categories:PHP编程 PostTime:2011-1-14 15:35:07
正 文:
    最近由于需要研究了一下MYSQL的随机抽取实现方法。举个例子,要从tablename表中随机提取一条记录,大家一般的写法就是:
SELECT * FROM content ORDER BY RAND() LIMIT 1

飘易注:3万条记录查询花费 0.3745 秒(下同);从mysql slow query log看出“ORDER BY RAND() ”全表扫描了2次!

 

后来我查了一下MYSQL的官方手册,里面针对RAND()的提示大概意思就是,在ORDER BY从句里面不能使用RAND()函数,因为这样会导致数据列被多次扫描。但是在MYSQL 3.23版本中,仍然可以通过ORDER BY RAND()来实现随机。

 

但是真正测试一下才发现这样效率非常低。一个15万余条的库,查询5条数据,居然要8秒以上。查看官方手册,也说rand()放在ORDER BY 子句中会被执行多次,自然效率及很低。

 

搜索Google,采用JOIN,查询max(id) * rand()来随机获取数据。
SELECT * 
FROM `content` AS t1 JOIN (SELECT ROUND(RAND() * (SELECT MAX(id) FROM `content`)) AS id) AS t2 
WHERE t1.id >= t2.id 
ORDER BY t1.id ASC LIMIT 1; 

查询花费 0.0008 秒,飘易认为可以推荐使用这个语句!!

 

但是这样会产生连续的5条记录。解决办法只能是每次查询一条,查询5次。即便如此也值得,因为15万条的表,查询只需要0.01秒不到。

 

有一个方法:
SELECT * FROM `content` AS a JOIN ( SELECT MAX( ID ) AS ID FROM `content` ) AS b ON ( a.ID >= FLOOR( b.ID * RAND( ) ) ) LIMIT 5;  

上面这种方式保证了一定范围内的随机,查询花费 0.4265 秒,也不推荐。

 

下面的语句,mysql的论坛上有人使用
SELECT * 
FROM `content` 
WHERE id >= (SELECT FLOOR( MAX(id) * RAND()) FROM `content` ) 
ORDER BY id LIMIT 1;
  
查询花费 1.2254 秒,飘易强烈不推荐!因为实测后,3万行的表,这个语句竟然会扫描500万行!!

 

跟上面的语句还是有很大差距。总觉有什么地方不正常。于是我把语句改写了一下。
SELECT * FROM `content` 
WHERE id >= (SELECT floor(RAND() * (SELECT MAX(id) FROM `content`)))  
ORDER BY id LIMIT 1; 
 
查询花费 0.0012 秒

 

这下,效率又提高了,查询时间只有0.01秒

 

最后,再把语句完善一下,加上MIN(id)的判断。我在最开始测试的时候,就是因为没有加上MIN(id)的判断,结果有一半的时间总是查询到表中的前面几行。
完整查询语句是:
SELECT * FROM `content` 
WHERE id >= (SELECT floor( RAND() * ((SELECT MAX(id) FROM `content`)-(SELECT MIN(id) FROM `content`)) + (SELECT MIN(id) FROM `content`)))  
ORDER BY id LIMIT 1; 
 
查询花费 0.0012 秒

 

SELECT * 
FROM `content` AS t1 JOIN (SELECT ROUND(RAND() * ((SELECT MAX(id) FROM `content`)-(SELECT MIN(id) FROM `content`))+(SELECT MIN(id) FROM `content`)) AS id) AS t2 
WHERE t1.id >= t2.id 
ORDER BY t1.id LIMIT 1;
   
查询花费 0.0008 秒

 

最后在php中对这两个语句进行分别查询10次,
前者花费时间 0.147433 秒
后者花费时间 0.015130 秒
看来采用JOIN的语法比直接在WHERE中使用函数效率还要高很多。(via)

 

======================================
【好了,最后飘易来总结下】
第一种方案,即原始的 Order By Rand() 方法
$sql="SELECT * FROM content ORDER BY rand() LIMIT 12";
$result=mysql_query($sql,$conn);
$n=1;
$rnds='';
while($row=mysql_fetch_array($result)){
$rnds=$rnds.$n.". <a href='show".$row['id']."-".strtolower(trim($row['title']))."'>".$row['title']."</a><br />\n";
$n++;
}

3万条数据查12条随机记录,需要0.125秒,随着数据量的增大,效率越来越低。

 

第二种方案,改进后的 JOIN 方法
for($n=1;$n<=12;$n++){
$sql="SELECT * FROM `content` AS t1 
JOIN (SELECT ROUND(RAND() * (SELECT MAX(id) FROM `content`)) AS id) AS t2 
WHERE t1.id >= t2.id ORDER BY t1.id ASC LIMIT 1";
$result=mysql_query($sql,$conn);
$yi=mysql_fetch_array($result);
$rnds = $rnds.$n.". <a href='show".$yi['id']."-".strtolower(trim($yi['title']))."'>".$yi['title']."</a><br />\n";
}

3万条数据查12条随机记录,需要0.004秒,效率大幅提升,比第一种方案提升了约30倍。缺点:多次select查询,IO开销大。

 

第三种方案,SQL语句先随机好ID序列,用 IN 查询(飘易推荐这个用法,IO开销小,速度最快)
$sql="SELECT MAX(id),MIN(id) FROM content";
$result=mysql_query($sql,$conn);
$yi=mysql_fetch_array($result);
$idmax=$yi[0];
$idmin=$yi[1];
$idlist='';    
for($i=1;$i<=20;$i++){    
if($i==1){ $idlist=mt_rand($idmin,$idmax); }    
else{ $idlist=$idlist.','.mt_rand($idmin,$idmax); }    
}  
$idlist2="id,".$idlist;
$sql="select * from content where id in ($idlist) order by field($idlist2) LIMIT 0,12"; 
$result=mysql_query($sql,$conn);
$n=1;
$rnds='';
while($row=mysql_fetch_array($result)){
$rnds=$rnds.$n.". <a href='show".$row['id']."-".strtolower(trim($row['title']))."'>".$row['title']."</a><br />\n";
$n++;
}

3万条数据查12条随机记录,需要0.001秒,效率比第二种方法又提升了4倍左右,比第一种方法提升120倍。注,这里使用了 order by field($idlist2) 是为了不排序,否则 IN 是自动会排序的。缺点:有可能遇到ID被删除的情况,所以需要多选几个ID。

 

测试方法:
$t = microtime(true); 
//执行语句
echo microtime(true) - $t;  

转载于:https://www.cnblogs.com/zengkefu/p/5725918.html

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/418217.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

匿名子类对象

匿名对象的意义&#xff1a;一般只使用一次&#xff0c;图方便&#xff0c;不需要重新写一个类。 匿名类通常都是的形式结构通常都是&#xff1a; abstract class A ... 创建匿名类&#xff1a; A a1 new A(){ 重写所有抽象类的方法 } package AbstractTest2; public cla…

内部类访问局部变量的时候,为什么变量必须加上final修饰

这里的局部变量就是在类方法中的变量&#xff0c;能访问方法中变量的类当然也是局部内部类了。我们都知道&#xff0c;局部变量在所处的函数执行完之后就释放了&#xff0c;但是内部类对象如果还有引用指向的话它是还存在的。例如下面的代码&#xff1a; class Outer{ …

创建接口匿名实现类的对象的四种方法

package InterfactTest; public class InterfaceTest { public static void main(String[] args) { // TODO Auto-generated method stub Computer com new Computer(); com.transferData(new Print()); //创建了非匿名实现类的匿名对象 …

Thinkphp 数据库配置参数

mysql配置 DB_USER > array(DB_TYPE > mysql,DB_HOST > 127.0.0.1,DB_NAME > blog,DB_USER > root,DB_PWD > ,DB_PORT > 3306,DB_PREFIX > ,DB_CHARSET> utf8, // 字符集), Oracle配置&#xff08;模式&#xff09; DB_DATA > array(DB_TYPE >…

代理模式简单模板

package ProxyTest;//接口的应用:代理模式public class NetWorkTest {public static void main(String[] args) {Server se new Server();new ProxyServer(se).browse();} }interface NetWork{void browse(); }//被代理类 class Server implements NetWork{Overridepublic voi…

写出gradle风格的groovy代码

写出gradle风格的groovy代码 我们先来看一段gradle中的代码&#xff1a; buildscript {repositories {jcenter()}dependencies {classpath com.android.tools.build:gradle:2.1.2} }allprojects {repositories {jcenter()} }task clean(type: Delete) {delete rootProject.buil…

这个社会根本不存在值得我们去仰视的人和事

想改变世界&#xff0c;从整理床铺开始。如果你每天早上整理床铺&#xff0c;你就完成了一天中的第一个任务&#xff0c;这会给你小小的自豪感&#xff0c;并激励你去完成另一个任务&#xff0c;一个接一个的任务。一天下来&#xff0c;每个已经完成的小任务会积累成很多大任务…

ipv6问题

1&#xff09;百度搜索&#xff1a;针对苹果最新审核要求为应用兼容IPv6 2&#xff09; ipV6测试网址&#xff1a;http://test-ipv6.com/ http://ipv6.jmu.edu.cn/ http://ipv6test.google.com/   你可以在浏览器输入这些地址&#xff0c;测试你是否已经使用了ipv6地址。 3&a…

JAVA8后接口的新特性

知识点一: 知识点二&#xff1a; 知识点三: 知识点四: 知识点五:

抽象类和接口的共同点和区别

抽象类和接口个共同点和区别: 共同点: 不能实例化&#xff0c;都可以被继承 不同点: 抽象类有构造器&#xff0c;单继承性 接口没有构造器&#xff0c;多继承性

mybatis里oracle与MySQL的insert_update

需求&#xff1a;gisdata表中插入数据&#xff0c;如果wxid数据存在就更新&#xff0c;不存在就插入 Mysql的mybatis配置 1 <?xml version"1.0" encoding"UTF-8"?>2 <!DOCTYPE mapper PUBLIC "-//mybatis.org//DTD Mapper 3.0//EN" 3…

input的type属性的修改

记录一下成长的历程吧&#xff01; 刚开始写&#xff0c;没什么文笔&#xff0c;也没什么技术含量&#xff0c;可能主要的是纪录一下平常工作学习中遇到的问题&#xff0c;以及解决的办法吧。或者只有问题&#xff0c;没有解决办法。 前两天项目中遇到的一个问题&#xff0c;由…