返回顶部
首页 > 资讯 > 数据库 >相同sql不同机器上效率差异case有哪些
  • 364
分享到

相同sql不同机器上效率差异case有哪些

2024-04-02 19:04:59 364人浏览 八月长安
摘要

这篇文章将为大家详细讲解有关相同sql不同机器上效率差异case有哪些,小编觉得挺实用的,因此分享给大家做个参考,希望大家阅读完这篇文章后可以有所收获。 一个用户问题,数据从ECS迁移到RDS,相同的语句

这篇文章将为大家详细讲解有关相同sql不同机器上效率差异case有哪些,小编觉得挺实用的,因此分享给大家做个参考,希望大家阅读完这篇文章后可以有所收获。

一个用户问题,数据从ECS迁移到RDS,相同的语句,查询性能下降了几十倍。而实际上RDS这个实例在内存上的配置与原来ECS上的实例相当。

本文简单说明这个case的原因及建议。

用户反馈性能变慢的语句为 (修改了真实表名和列名)
select count(1)  from HR hr join H h on h.hid = hr.hid 
join A e on  e.aid = h.eid 
join A t on t.aid = e.pid 
join A c on c.aid = t.pid 
join A p on p.aid = c.pid  
left join U u on u.uid = hr.uId 
left join E emp on emp.eid = hr.oid   
where  ( hr.s in (1,2,3,4)  and hr.cn = 0 );

背景

Mysql执行语句过程中涉及到两大流程:优化器和执行器。其中优化器最主要的任务,是选择索引和在多表连接时选择连接顺序。在这个case中,join顺序的选择影响了执行性能。

确定join执行顺序就需要估算所有join操作的代价。默认配置下mysql会估算所有可能的组合。
MySQL Tips: MySQL里限制一个查询的join表数目上限为61.

对于一个有61个表参与的join操作,理论上需要61!(阶乘)次的评估。当然这是最坏情况下,实际上减枝算法会让这个数字看起来稍微好一点,但是仍然很恐怖。

在多表join的场景下,为了避免优化器占用太多时间,MySQL提供了一个参数 optimizer_search_depth 来控制递归深度。
这个参数对算法的控制可以简单描述为:对于所有的排列,只取前当前join顺序的前optimizer_search_depth个表估算代价。举例来说,20张表的,假设optimizer_search_depth为4,那么评估次数为20*19*18*17,虽然也很大(因此我们特别不建议这么多表的join),比20!好多了。

于是optimizer_search_depth的选择就成了问题。
MySQL Tips: MySQL中optimizer_search_depth默认值为62.也就是说默认为全排列计算。
这样能够保证得到最优的执行计划,只是在有些场景下,决定执行计划的时间会远大于执行时间本身。

量化分析


在ECS上,是用户自己维护的MySQL,没有设置optimizer_search_depth,因此为默认的62. 
在RDS上,我们的配置是4。 
分析到这里大家能猜到原因是RDS配置的4导致没有得到最优的执行计划。

下图是optimizer_search_depth=4时的explain结果(隐藏了业务相关的表名、字段名)  下图是optimizer_search_depth=62是的场景,当然这个case的join表是8个,因此62和8在这里是等效的。  从图1可以看到,由于optimizer_search_depth=4,优化器认为自己选择了最优的join顺序(22039*1*1*1),优于(41360*1*1*1),而实际上后者才是全局最优。

有趣的是,在这个case里面如果多看一层,就能得到最有解,因为第一个join顺序的第五个表评估rows为82720。

这意味着,在这个case里面,设置为5与设置为62能得到相同的执行计划,当然设置为5时的优化器执行代价更小。这其实也就是提供optimizer_search_depth的本意:减少优化器执行时间,而且概率上还存在局部最优就是全局最优解的情况。

关于实践 
可配置的参数提供灵活性的同时,也提出一个头疼的问题:应该设置为多少才合适。 
实际上当用户执行一个多表join的时候,对这个语句的整体RT的期望值就不会高。因此可以先定义一个预期,比如优化器决策join顺序的时间不能超过500ms。 
用户规格与cpu相关,因此这个只能是建议值。

用户实践 
实际上更重要的是对于用户来说:

1) 当出现实例迁移后,多表join执行结果差异较大的时候,要考虑调整这个值。该参数是允许线程单独设置,因此对于应用层来说,每个连接应该都能得到一个较优的值。

2) 反过来,当设置为默认的optimizer_search_depth=62时,我们我们如何评估我们这个设置是否过大?
MySQL Tips:MySQL profiling 可以用于查看各执行环节的消耗时间。

如下是笔者构造的一个60个表join查询的查询,使用profiling查看执行环节消耗的过程。
  set profiling=1;
  set optimizer_search_depth=4;
  explain select .......
  show profile for query 2;   
  结果如图  继续执行
  set optimizer_search_depth=40;
  explain select .......
  show profile for query 4;  图中标红部分显示了两次优化器的执行时间差异。

小结

1)根据机器配置估算一个可接受的时间,用于优化器选择join顺序。
2)用profiling确定是否设置了过大的optimizer_search_depth。
3)业务上优化,尽量不要使用超过10张表的多表join。
4)PS:不要相信银弹。MySQL文档说设置为0则表示能够自动选择optimizer_search_depth的合理值,实际上代码上策略就是,如果join表数N<=7,则optimizer_search_depth=N+1,否则选N.

多表连接的参数

关于“相同sql不同机器上效率差异case有哪些”这篇文章就分享到这里了,希望以上内容可以对大家有一定的帮助,使各位可以学到更多知识,如果觉得文章不错,请把它分享出去让更多的人看到。

您可能感兴趣的文档:

--结束END--

本文标题: 相同sql不同机器上效率差异case有哪些

本文链接: https://lsjlt.com/news/63113.html(转载时请注明来源链接)

有问题或投稿请发送至: 邮箱/279061341@qq.com    QQ/279061341

猜你喜欢
  • 相同sql不同机器上效率差异case有哪些
    这篇文章将为大家详细讲解有关相同sql不同机器上效率差异case有哪些,小编觉得挺实用的,因此分享给大家做个参考,希望大家阅读完这篇文章后可以有所收获。 一个用户问题,数据从ECS迁移到RDS,相同的语句...
    99+
    2024-04-02
  • C++ 函数异常处理在不同编译器实现上的差异有哪些?
    c++++函数异常处理在不同编译器中存在差异:异常抛出和捕获:大部分编译器使用throw抛出异常,用try-catch块捕获。gcc还支持__attribute__((nothrow))...
    99+
    2024-04-15
    c++ 函数异常处理
  • ARM版和x86版Win8有何不同主要存在哪些差异
    ARM版和x86版Windows 8体验不同,这是微软已经明确表示了的。那么,ARM版和x86版Windows 8有什么不同呢Windows 8 ARM设备将采用德州仪器、高通和Nvidia的处理器,主流W...
    99+
    2022-06-04
    有何不同 差异 ARM
  • 服务器和云服务器的相同点和不同点有哪些
    云服务器和云服务器是两个不同的概念,它们的相同点和不同点如下: 相同点: - 云服务器都是由云主机或者云计算服务提供商创建,是一个虚拟机,能够在云平台上进行快速、便捷、可靠的计算和存储。 - 云服务器提供高性能、高可用性、高扩展性和弹性等...
    99+
    2023-10-27
    不同点 服务器 相同点
  • 服务器和云服务器的相同点和不同点有哪些区别
    硬件资源共享:服务器和云服务器都可以共享相同的硬件资源,如处理器、内存、存储和网络带宽等,以便在同一台服务器上运行多个相同或不同的应用程序。 负载均衡:云服务器可以在多个实例上分别处理请求,以实现更高的可靠性和性能。而服务器通常是单一的实...
    99+
    2023-10-27
    不同点 服务器 相同点
  • 虚拟主机和云服务器有哪些不同
    虚拟主机和云服务器的不同有:1、资源利用率不同,云服务器可以自由定制需要的CPU数量、内存大小,硬盘大小,带宽资源,IP资源等,虚拟主机CPU资源、内存资源、IP资源等资源可操作性受限;2、使用性能不同,云服务器能随时升级服务器配置,如CP...
    99+
    2024-04-02
  • 云服务器和虚拟主机的异同点有哪些
    云服务器和虚拟主机都是基于虚拟化技术实现的互联网应用服务,但在以下方面存在不同:1.资源隔离:云服务器采用硬件虚拟化,每个虚拟机拥有...
    99+
    2023-06-07
    云服务器和虚拟主机 云服务器 虚拟主机
  • PHP中的数组有哪些常用操作方式?与NumPy的相同点和差异是什么?
    PHP中的数组是一种非常常见的数据类型,可以存储多个值,并且可以通过索引访问和操作数组中的元素。在本文中,我们将介绍PHP中的数组常用操作方式,并将其与NumPy进行比较,以便更好地理解它们之间的相同点和差异。 一、PHP中的数组常用操作方...
    99+
    2023-08-26
    数组 numpy spring
  • 云服务器和虚拟主机有哪些不同点
    云服务器和虚拟主机的不同点有:1、使用不同,云服务器使用前,要先进行操作系统安装,且后期要时刻关注服务器的各种指标和运行情况,虚拟主机由技术人员设置好一切,用户把网站数据上传到网站空间就能马上使用;2、性能不同,云服务器能处理大量的数据而不...
    99+
    2024-04-02
  • C++ 技术中的异常处理:不同类型的异常处理机制有哪些?
    c++++中异常处理机制有:1. try-catch 块:捕获和处理异常;2. noexcept 规范符:指定函数是否可能抛出异常;3. 运算符重载:重载运算符抛出异常。实战中,try-...
    99+
    2024-05-10
    c++ 异常处理
  • 免实名云服务器与虚拟主机有哪些不同
    免实名云服务器与虚拟主机的不同点有:1、技术要求不同,云服务器有单独的CPU、内存、操作系统等,需要一定的技术操作,虚拟主机是由服务商提供一切技术方面的支持及运行维护;2、资源利用率不同,云服务器资源共享,性能会受限于母服务器,虚拟主机不会...
    99+
    2024-04-02
  • 轻量应用服务器和虚拟主机连接方法有哪些不同
    轻量应用服务器和虚拟主机都可以用来连接到互联网。它们的连接方式有以下几个不同之处: 连接类型:轻量应用服务器通常可以连接到互联网上的所有主机,而虚拟主机需要通过一个专门的连接才能连接到互联网上的主机。 连接速度:通常情况下,轻量应用服务...
    99+
    2023-10-26
    虚拟主机 服务器 方法
软考高级职称资格查询
编程网,编程工程师的家园,是目前国内优秀的开源技术社区之一,形成了由开源软件库、代码分享、资讯、协作翻译、讨论区和博客等几大频道内容,为IT开发者提供了一个发现、使用、并交流开源技术的平台。
  • 官方手机版

  • 微信公众号

  • 商务合作