QQ登录

只需要一步,快速开始

APP扫码登录

只需要一步,快速开始

手机号码,快捷登录

泡泡马甲APP 更多内容请下载泡泡马甲手机客户端APP 立即下载 ×
查看: 154|回复: 0

[其它] MySQL分页时出现的数据重复问题

[复制链接]

等级头衔

积分成就    金币 : 2802
   泡泡 : 1516
   精华 : 6
   在线时间 : 1243 小时
   最后登录 : 2024-4-29

丰功伟绩

优秀达人突出贡献荣誉管理论坛元老

联系方式
发表于 2023-7-12 08:56:12 | 显示全部楼层 |阅读模式
在MySQL中我们通常会采用limit来进行翻页查询,比如limit(0,10)表示列出第一页的10条数据,limit(10,10)表示列出第二页。但是,当limit遇到order by的时候,可能会出现翻到第二页的时候,竟然又出现了第一页的记录。/ r( N: U* E$ L4 w/ W
例如下面这条SQL:
/ ?7 [, F1 ^9 S
  1. SELECT * FROM products WHERE status=1 ORDER BY sort_weight DESC LIMIT 0,10;
使用该SQL查询第二页数据时,可能会出现第一页的数据。但是我将SQL改成下面这种方式:
2 g6 w1 m3 E3 C2 s, m
  1. SELECT * FROM products WHERE status=1 ORDER BY sort_weight DESC,id ASC LIMIT 0,10;
在排序后面加上id升序,此时第二页就不会出现第一页的数据。
( q" T4 l9 f+ U8 _( U1 }- ^1 ~8 j按理来说,MySQL的排序默认情况下是以主键ID作为排序条件的,也就是说,如果在sort_weight相等的情况下,主键ID作为默认的排序条件,不需要我们多此一举加id ASC。但是事实就是,MySQL再order by和limit混用的时候,出现了排序的混乱情况。8 V% x. R/ U: Z0 O) n
分析问题:
0 C0 P1 ]) \  h: v# M$ u$ t在MySQL 5.6的版本上,优化器在遇到order by limit语句的时候,做了一个优化,使用了优先队列(priority queue)。
5 J# e! \% u) v5 t/ _' n* {9 |使用优先队列的目的,就是在不能使用索引有序性的时候,如果要排序,并且使用了limit n,那么只需要在排序的过程中,保留n条记录即可,这样虽然不能解决所有记录都需要排序的开销,但是只需要 sort buffer 少量的内存就可以完成排序。5 H' o8 n1 W7 o' o! z
之所以MySQL5.6出现了第二页数据重复的问题,是因为优先队列使用了堆排序的排序方法,而堆排序是一个不稳定的排序方法,也就是相同的值可能排序出来的结果和读出来的数据顺序不一致' O/ K: Y& C( v. ?7 L: f9 p
在上面的SQL示例中,其执行顺序依次为 form… where… select… order by… limit…,由于优先队列的原因,在完成select之后,所有记录是以堆排序的方法排列的,在进行order by时,仅把sort_weight值大的往前移动。0 o- X) ^, L, G' Q1 Y7 Y
但由于limit的因素,排序过程中只需要保留到10条记录即可,sort_weight并不具备索引有序性,所以当第二页数据要展示时,mysql见到哪一条就拿哪一条,因此,当排序值相同的时候,第一次排序是随意排的,第二次再执行该sql的时候,其结果应该和第一次结果一样。
+ u! b4 D+ ^8 d% z0 z$ T解决方法:
6 W: ~1 K2 N# m我们可以增加有序性的排序字段,例如:主键id
2 ~* a# _& e' A6 C. C" C. [
  1. SELECT * FROM products WHERE status=1 ORDER BY sort_weight DESC,id desc LIMIT 10,10;
这样一来MySQL在select之后获取的每一条数据都具有顺序性,这样就不会出现重复问题了。
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

QQ|手机版|小黑屋|paopaomj.COM ( 渝ICP备18007172号 )

GMT+8, 2024-4-29 19:39

Powered by paopaomj X3.4 © 2016-2024 sitemap

快速回复 返回顶部 返回列表