服务器之家:专注于VPS、云服务器配置技术及软件下载分享
分类导航

Mysql|Sql Server|Oracle|Redis|MongoDB|PostgreSQL|Sqlite|DB2|mariadb|Access|数据库技术|

服务器之家 - 数据库 - Mysql - 浅谈Using filesort和Using temporary 为什么这么慢

浅谈Using filesort和Using temporary 为什么这么慢

2022-09-23 16:52功夫熊猫阿宝 Mysql

本文主要介绍了Using filesort和Using temporary为什么这么慢,文中通过示例代码介绍的非常详细,具有一定的参考价值,感兴趣的小伙伴们可以参考一下

1.简介

我们都知道使用explain 分析sql语句的时候,如果,在Extra这一列发现Using index说明使用了覆盖索引,没有回表操作性能还不错;那么,如果发现是Using filesortUsing temporary 出现了文件排序,临时表, 这个时候,我们就需要进行索引优化了;那么,问题来了,我们需要怎么优化呢?为什么出现这两个的时候,Mysql是怎么执行的呢?效率怎么就低下呢?所以,如果不知道它的执行原理的话,其实,我们也无法进行针对性的优化;所以,本文主要就是探讨一下Mysql 出现Using filesortUsing temporary时的场景和优化方法;

 

2.Using filesort

Using filesort: 文件排序;我们首先来模拟一下文件排序,然后再分析一下为什么文件排序效率较低;最后,在来说一下解决方案;

 

2.1 Using filesort 现象模拟

建表语句

CREATE table study (
	id int(11) not null,
	name varchar(32) DEFAULT NULL,
	score int(11) DEFAULT NULL,
	PRIMARY key (id)
) ENGINE=INNODB DEFAULT CHARSET=utf8;

现在,有一个需求需要把所有的同学都找出来,然后,按照成绩从高到低进行排序;很显然,sql语句可以这么写:

select id, name, score FROM study order by score DESC;

然后,我们对这个sql语句使用explain进行分析:

浅谈Using filesort和Using temporary 为什么这么慢

分析结果如下:使用的是全表扫描,在扫描的过程中,出现了Using filesort文件排序;很显然,对于文件排序我们需要进行优化;

 

2.2 Using filesort 之Mysql的执行过程

Using filesort 文件排序,其实文件排序的话,会有很多种情况,比如说:根据要排序的内容大小,就有内部排序外部排序;如果,排序的内容比较小,那么,在内存中就可以搞定,这就是内部排序(使用快排);如果,要排序的内容太大,那么,就得需要通过磁盘的帮助了,这个就是外部排序(使用归并)。
还有,就是根据一行的大小来进行区分,如果,一行的内容不是很大,那么,就整个字段读取出来进行排序,称为全字段排序;如果,整个字段内容很大,那么,就采用rowid排序,读取rowid和该字段先进行排序,然后,再回表查找其他的内容; 下面,我将分别解释在全字段排序和rowid排序的时候,这个sql的执行过程;

 

2.2.1 全字段排序

sql执行过程

  • 初始化sort_buffer,确定要放入的是id,name,score这三个字段
  • 全表扫描,取出id, name, score这三个字段的值,存入到sort_buffer中;
  • 对sort_buffer中的数据按照字段score做快速排序(在这里产生了filesort);
  • 将排序完的结果进行返回即可

注意:第三步可能是在内存中完成,但是,如果内存中排序数据量太大,内存放不下,则不得不利用磁盘临时文件辅助排序,如果,内存放不下的话,使用的就是外部排序,(将快排的结果写入到临时文件中)外部排序使用的是归并排序;(两个有序文件使用归并排序,时间复杂度为N效率较高)
总结:针对,Using filesort的全字段排序,使用快排时间复杂度为NlogN。所以,效率较低;应该避免。

 

2.2.2 rowid排序

rowid:一张表中如果没有主键或者非空唯一索引时,就会创建一个rowid大小为6字节;
产生背景: 在我们排序的过程中,因为,sort_buffer是有限的,如果,我们要查询的字段很多的话,那么,sort_buffer里面要放的字段数太多,这样内存能够同时放下的行数就会很少,就需要分成多个临时文件,再进行归并,排序的性能会很差;
为了解决这个问题,Mysql会进行优化,如果,一行数据大于一个阈值的话,读入到内存的时候,就是读取rowid + 要排序的字段;然后,再通过rowid回表去查询剩余的字段;我们通过SHOW VARIABLES LIKE '%max_length_for_sort_data%';这个指令可以查看这个阈值;
使用rowid的sql执行过程

  • 初始化sort_buffer,确定要放入的字段为 id, 和 score;
  • 全表扫描,取出id, score这两个字段的值,存入到sort_buffer中;
  • 对sort_buffer中的数据按照字段score做快速排序(如果,数据太多,可能会导致外部文件排序);
  • 所有数据排序好以后,根据id回表查询name字段的内容;
  • 把所有的数据返回给客户端

 

2.3 解决方案

针对,这个题目来说,解决方案也是比较简单的;要查询的字段是id , name, score;然后,需要对score进行排序。可以对score + name 建立联合索引,id是主键,这样,这三个字段都在普通索引中能够查询到,就解决了文件排序,也使用了覆盖索引;

create index index_score_name on study(score, name);

explain分析:

浅谈Using filesort和Using temporary 为什么这么慢

type = index 表示基于索引列的扫描;Extra = Using index 表示覆盖索引 Extra = Backward index scan;表示基于索引从后往前找;效果较佳;经过测试,使用索引,以空间换时间,把数据提交按照score排好序,符合我们的需求;

 

3.Using temporary

背景Mysql 执行查询语句时,对于order by 可能会导致filesort或者temporary。
原则:filesort只能应用于单个表上,如果,有多个表的数据需要进行排序,那么,Mysql会先创建一张临时表来保存数据,然后,再在临时表上使用filesort进行排序,最后输出结果。

 

3.1 场景再现

建表语句:

create table t1(    
id int, col1 int, col2 varchar(10),
key(id, col1));
create table t2(
id int, col1 int, col2 varchar(10),
key(col1));

情况一:

explain select * from t1 force index(id), t2 where t1.id=1 and t1.col1 = t2.col2 order by t1.col1;

浅谈Using filesort和Using temporary 为什么这么慢

这边,即没有使用temporary 也没有使用filesort。
那么,它是怎么执行的呢?
它其实是先定位t1.id;然后,定位t1.col1;这两个都是通过索引来进行;然后,在执行和t2表的联结(where)所以,没有文件排序和临时表;
情况二:

explain select * from t1 force index(id), t2 where t1.id=1 and t1.col1 = t2.col2 order by t1.col2;

浅谈Using filesort和Using temporary 为什么这么慢

这里是产生了filesort;执行过程如下:

  • 根据先定位t1.id;
  • 把id=1的都取出来,把所有的字段也都取出来;存到sort_buffer中。
  • 存入sort_buffer之后,需要根据t1的字段col2进行排序;
  • t1表排序好了后,根据排序好的结果集去联结t2表中的数据;(所以,没有产生临时文件)

情况三:

explain select * from t1 force index(id), t2 where t1.id=1 and t1.col1 = t2.col2 order by t2.col1 ;

浅谈Using filesort和Using temporary 为什么这么慢

这里,产生了temporary 和 filesort;执行过程如下:

  • 根据id索引先定位t1.id = 1所在行;
  • 由于order by的字段是在t2表上;所以,这个时候,不能排好序后再去联结t2表了;
  • 需要把t1 和 t2表先联结起来,保存到temporary表上,然后,再根据t2.col1字段进行filesort;所以效率是很慢的;

 

3.2 解决方案

通过,对temporary的分析,如果,要排序的字段在主表上,是不会产生temporary的;所以,如果可以的话,我们尽量修改sql语句 把要排序字段放在主表中;或者使用straight_join(强制把左边的表设置为驱动表); 针对情况三sql重写

select * from t2 force index(col1)  straight_join t1  on t1.id=1 and t1.col1 = t2.col2 order by t2.col1 ;

explain分析如下:

浅谈Using filesort和Using temporary 为什么这么慢

 

4.总结

本文主要是根据个人写了filesort、temporary 产生原因,处理方式;在处理方案上,可能考虑不足,如果,有一些其他的产生原因或者处理方案。欢迎交流;

到此这篇关于浅谈Using filesort和Using temporary 为什么这么慢的文章就介绍到这了,更多相关Using filesort Using temporary内容请搜索服务器之家以前的文章或继续浏览下面的相关文章希望大家以后多多支持服务器之家!

原文链接:https://juejin.cn/post/6962758454557704205

延伸 · 阅读

精彩推荐
  • Mysqlmysql学习笔记之数据引擎

    mysql学习笔记之数据引擎

    插件式存储引擎是MySQL数据库最重要的特征之一,用户可以根据应用的需要寻找如何存储和索引数据、是否使用事务等。MySQL默认支持多种存储引擎,以适用...

    MYSQL教程网2312020-07-17
  • MysqlMySQL触发器运用于迁移和同步数据的实例教程

    MySQL触发器运用于迁移和同步数据的实例教程

    这篇文章主要介绍了MySQL触发器运用于迁移和同步数据的实例教程,分别是SQL Server数据迁移至MySQL以及同步备份数据表记录的两个例子,需要的朋友可以参考下...

    秦朝古月3412020-05-26
  • Mysql关于mysql innodb count(*)速度慢的解决办法

    关于mysql innodb count(*)速度慢的解决办法

    innodb引擎在统计方面和myisam是不同的,Myisam内置了一个计数器,所以在使用 select count(*) from table 的时候,直接可以从计数器中取出数据。而innodb必须全表扫...

    MYSQL教程网8112019-12-14
  • Mysqlmysql 8.0.18 mgr 搭建及其切换功能

    mysql 8.0.18 mgr 搭建及其切换功能

    这篇文章主要介绍了mysql 8.0.18 mysql搭建及其切换功能,本文通过实例代码给大家讲解的非常详细,具有一定的参考借鉴价值,需要的朋友可以参考下...

    davie20202072020-12-24
  • Mysqlmysql重复索引与冗余索引实例分析

    mysql重复索引与冗余索引实例分析

    这篇文章主要介绍了mysql重复索引与冗余索引,简单说明了重复索引与冗余索引的概念、应用场景并结合实例形式分析了mysql重复索引与冗余索引相关操作技...

    webbc2802020-11-25
  • Mysqlmysql下mysqladmin日常管理命令总结(必看篇)

    mysql下mysqladmin日常管理命令总结(必看篇)

    下面小编就为大家带来一篇mysql下mysqladmin日常管理命令总结(必看篇)。小编觉得挺不错的,现在就分享给大家,也给大家做个参考。一起跟随小编过来看看...

    服务器之家3352020-07-22
  • Mysqlmysql实现设置定时任务的方法分析

    mysql实现设置定时任务的方法分析

    这篇文章主要介绍了mysql实现设置定时任务的方法,结合实例形式分析了mysql定时任务相关的事件计划设置与存储过程使用等操作技巧,需要的朋友可以参考下...

    老52662020-12-11
  • MysqlCentOS8下MySQL 8.0安装部署的方法

    CentOS8下MySQL 8.0安装部署的方法

    这篇文章主要介绍了CentOS 8下 MySQL 8.0 安装部署的方法,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们...

    寰宇0018182021-02-28