返回顶部
首页 > 资讯 > 数据库 >技术分享 | 常见索引问题处理
  • 857
分享到

技术分享 | 常见索引问题处理

技术分享|常见索引问题处理 2019-04-16 14:04:52 857人浏览 才女
摘要

作者:EneTakane 数据库技术爱好者,爱可生 DBA 团队成员,负责 Mysql 日常问题处理以及数据库运维平台的问题排查,擅长 mysql 主从复制及优化,喜欢钻研技术问题,还有不得不提的 warship。 本文来源:原创投稿 *

技术分享 | 常见索引问题处理

作者:EneTakane 数据库技术爱好者,爱可生 DBA 团队成员,负责 Mysql 日常问题处理以及数据库运维平台的问题排查,擅长 mysql 主从复制及优化,喜欢钻研技术问题,还有不得不提的 warship。 本文来源:原创投稿 *爱可生开源社区出品,原创内容未经授权不得随意使用,转载请联系小编并注明来源。

1、sql 执行流程

看一个问题,在下面这个表 T 中,如果我要执行 select * from T where k between 3 and 5; 需要执行几次树的搜索操作,会扫描多少行?

mysql> create table T (
    -> ID int primary key,
    -> k int NOT NULL DEFAULT 0, 
    -> s varchar(16) NOT NULL DEFAULT "",
    -> index k(k))
    -> engine=InnoDB;
mysql> insert into T values(100,1, "aa"),(200,2,"bb"),
  	(300,3,"cc"),(500,5,"ee"),(600,6,"ff"),(700,7,"gg");

这分别是 ID 字段索引树、k 字段索引树

这条 SQL 语句的执行流程:

在 k 索引树上找到 k=3,获得 ID=300 2.回表到 ID 索引树查找 ID=300 的记录,对应 R3 3.在 k 索引树找到下一个值 k=5,ID=500 4.再回到 ID 索引树找到对应 ID=500 的 R4 5.在 k 索引树去下一个值 k=6,不符合条件,循环结束

这个过程读取了 k 索引树的三条记录,回表了两次。

因为查询结果所需要的数据只在主键索引上有,所以必须得回表。所以,我们该如何通过优化索引,来避免回表呢?

2、常见索引优化

2.1、覆盖索引

覆盖索引,换言之就是索引要覆盖我们的查询请求,无需回表。

如果执行的语句是 select ID from T where k between 3 and 5;,这样的话因为 ID 的值在 k 索引树上,就不需要回表了。

覆盖索引可以减少树的搜索次数,显著提升查询性能,是常用的性能优化手段。

但是,维护索引是有代价的,所以在建立冗余索引来支持覆盖索引时要权衡利弊。

2.2、最左前缀原则

B+ 树的数据项是复合的数据结构,比如 (name,sex,age) 的时候,B+ 树是按照从左到右的顺序来建立搜索树的,当 (张三,F,26) 这样的数据来检索的时候,B+ 树会优先比较 name 来确定下一步的检索方向,如果 name 相同再依次比较 sex 和 age,最后得到检索的数据。

# 有这样一个表 P

mysql> create table P (id int primary key, name varchar(10) not null, sex varchar(1), age int, index tl(name,sex,age)) engine=IInnoDB;
mysql> insert into P values(1,"张三","F",26),(2,"张三","M",27),(3,"李四","F",28),(4,"乌兹","F",22),(5,"张三","M",21),(6,"王五","M",28);

# 下面的语句结果相同
	
mysql> select * from P where name="张三" and sex="F";     ## A1
mysql> select * from P where sex="F" and age=26;         ## A2

# explain 看一下

mysql> explain select * from P where name="张三" and sex="F";
+----+-------------+-------+------------+------+---------------+------+---------+-------------+------+----------+-------------+
| id | select_type | table | partitions | type | possible_keys | key  | key_len | ref         | rows | filtered | Extra       |
+----+-------------+-------+------------+------+---------------+------+---------+-------------+------+----------+-------------+
|  1 | SIMPLE      | P     | NULL       | ref  | tl            | tl   | 38      | const,const |    1 |   100.00 | Using index |
+----+-------------+-------+------------+------+---------------+------+---------+-------------+------+----------+-------------+

mysql> explain select * from P where sex="F" and age=26;
+----+-------------+-------+------------+-------+---------------+------+---------+------+------+----------+--------------------------+
| id | select_type | table | partitions | type  | possible_keys | key  | key_len | ref  | rows | filtered | Extra                    |
+----+-------------+-------+------------+-------+---------------+------+---------+------+------+----------+--------------------------+
|  1 | SIMPLE      | P     | NULL       | index | NULL          | tl   | 43      | NULL |    6 |    16.67 | Using where; Using index |
+----+-------------+-------+------------+-------+---------------+------+---------+------+------+----------+--------------------------+

可以清楚的看到,A1 使用 tl 索引,A2 进行了全表扫描,虽然 A2 的两个条件都在 tl 索引中出现,但是没有使用到 name 列,不符合最左前缀原则,无法使用索引。

所以在建立联合索引的时候,如何安排索引内的字段排序是关键。评估标准是索引的复用能力,因为支持最左前缀,所以当建立(a,b)这个联合索引之后,就不需要给 a 单独建立索引。

原则上,如果通过调整顺序,可以少维护一个索引,那么这个顺序往往就是需要优先考虑采用的

上面这个例子中,如果查询条件里只有 b,就是没法利用(a,b)这个联合索引的,这时候就不得不维护另一个索引,也就是说要同时维护(a,b)、(b)两个索引。这样的话,就需要考虑空间占用了,比如,name 和 age 的联合索引,name 字段比 age 字段占用空间大,所以创建(name,age)联合索引和(age)索引占用空间是要小于(age,name)、(name)索引的。

2.3、索引下推

以人员表的联合索引(name, age)为例。如果现在有一个需求:检索出表中“名字第一个字是张,而且年龄是26岁的所有男性”。那么,SQL 语句是这么写的

mysql> select * from tuser where name like "张%" and age=26 and sex=M;

通过最左前缀索引规则,会找到 ID1,然后需要判断其他条件是否满足

在 MySQL 5.6 之前,只能从 ID1 开始一个个回表。到主键索引上找出数据行,再对比字段值。

而 MySQL 5.6 引入的索引下推优化(index condition pushdown),可以在索引遍历过程中,对索引中包含的字段先做判断,直接过滤掉不满足条件的记录,减少回表次数。

这样,减少了回表次数和之后再次过滤的工作量,明显提高检索速度。

2.4、隐式类型转化

隐式类型转化主要原因是,表结构中指定的数据类型与传入的数据类型不同,导致索引无法使用。

所以有两种方案:

  • 修改表结构,修改字段数据类型。
  • 修改应用,将应用中传入的字符类型改为与表结构相同类型。

3、为什么会选错索引

3.1、优化器

选择索引是优化器的工作,其目的是找到一个最优的执行方案,用最小的代价去执行语句。

在数据库中,扫描行数是影响执行代价的因素之一。扫描的行数越少,意味着访问磁盘数据的次数越少,消耗的 CPU 资源越少。当然,扫描行数并不是唯一的判断标准,优化器还会结合是否使用临时表、是否排序等因素进行综合判断。

3.2、扫描行数

MySQL 在真正开始执行语句之前,并不能精确的知道满足这个条件的记录有多少条,只能通过索引的区分度来判断 。显然,一个索引上不同的值越多,索引的区分度就越好,而一个索引上不同值的个数我们称为“基数”,也就是说,这个基数越大,索引的区分度越好。

# 通过 show index 方法,查看索引的基数
mysql> show index from t;
+-------+------------+----------+--------------+-------------+-----------+-------------+----------+--------+------+------------+---------+---------------+
| Table | Non_unique | Key_name | Seq_in_index | Column_name | Collation | Cardinality | Sub_part | Packed | Null | Index_type | Comment | Index_comment |
+-------+------------+----------+--------------+-------------+-----------+-------------+----------+--------+------+------------+---------+---------------+
| t     |          0 | PRIMARY  |            1 | id          | A         |       95636 |     NULL | NULL   |      | BTREE      |         |               |
| t     |          1 | a        |            1 | a           | A         |       96436 |     NULL | NULL   | YES  | BTREE      |         |               |
| t     |          1 | b        |            1 | b           | A         |       96436 |     NULL | NULL   | YES  | BTREE      |         |               |
+-------+------------+----------+--------------+-------------+-----------+-------------+----------+--------+------+------------+---------+---------------+

MySQL 使用采样统计方法来估算基数:

采样统计的时候,InnoDB 默认会选择 N 个数据页,统计这些页面上的不同值,得到一个平均值,然后乘以这个索引的页面数,就得到了这个索引的基数。

而数据表是会持续更新的,索引统计信息也不会固定不变。所以,当变更的数据行数超过 1/M 的时候,会自动触发重新做一次索引统计。

在 MySQL 中,有两种存储索引统计的方式,可以通过设置参数 innodb_stats_persistent 的值来选择:

  • on 表示统计信息会持久化存储。默认 N = 20,M = 10。
  • off 表示统计信息只存储在内存中。默认 N = 8,M = 16。

由于是采样统计,所以不管 N 是 20 还是 8,这个基数都很容易不准确。

所以,冤有头债有主,MySQL 选错索引,还得归咎到没能准确地判断出扫描行数。

可以用 analyze table 来重新统计索引信息,进行修正

ANALYZE [LOCAL | NO_WRITE_TO_BINLOG] TABLE tbl_name [, tbl_name] ...

3.3、索引选择异常和处理

采用 force index 强行选择一个索引。 2.可以考虑修改语句,引导 MySQL 使用我们期望的索引。 3.有些场景下,可以新建一个更合适的索引,来提供给优化器做选择,或删掉误用的索引。

您可能感兴趣的文档:

--结束END--

本文标题: 技术分享 | 常见索引问题处理

本文链接: https://lsjlt.com/news/5023.html(转载时请注明来源链接)

有问题或投稿请发送至: 邮箱/279061341@qq.com    QQ/279061341

猜你喜欢
  • 技术分享 | 常见索引问题处理
    作者:EneTakane 数据库技术爱好者,爱可生 DBA 团队成员,负责 MySQL 日常问题处理以及数据库运维平台的问题排查,擅长 MySQL 主从复制及优化,喜欢钻研技术问题,还有不得不提的 warship。 本文来源:原创投稿 *...
    99+
    2019-04-16
    技术分享 | 常见索引问题处理
  • 技术分享 | InnoDB 的索引高度
    作者:洪斌 爱可生南区负责人兼技术服务总监,MySQL  ACE,擅长数据库架构规划、故障诊断、性能优化分析,实践经验丰富,帮助各行业客户解决 MySQL 技术问题,为金融、运营商、互联网等行业客户提供 MySQL 整体解决方案。 本文来...
    99+
    2015-09-25
    技术分享 | InnoDB 的索引高度
  • Mysql索引常见问题汇总
    Q1:数据库有哪些索引?优缺点是什么? B树索引:大多数数据库采用的索引(innoDB采用的是b+树)。能够加快访问数据的速度,尤其是范围数据的查找非常快。缺点是只能从索引的最左列开始查找,也不能跳过索引中的列,如果...
    99+
    2022-05-17
    MySQL 索引 MySQL 索引问题
  • 常见的反爬虫urllib技术分享
    目录通过robots.txt来限制爬虫:通过User-Agent来控制访问:验证码:IP限制:cookie:JS渲染:爬虫和反爬的对抗一直在进行着…为了帮助更好的进行爬...
    99+
    2024-04-02
  • JumpServer 常见问题处理
    官网地址:JumpServer - 开源堡垒机 - 官网 在线电话:400-052-0755 技术支持:JumpServer 技术咨询 1 概述 本篇文章主要说明使用JumpServer堡垒机时遇到的各种小问题,这些可能是操作不...
    99+
    2023-09-12
    服务器 前端 java
  • minio常见问题处理
    持续更新中。。。 minio集群启动失败日志提示不能使用root分区 问题现象:minio集群启动失败日志提示不能使用root分区 问题原因:minio集群时,数据目录不能和root根文件系统在同一个磁盘,需要使用单独的磁盘,否则启动...
    99+
    2023-09-08
    服务器 运维 Powered by 金山文档
  • MySQL中unique索引的使用技巧与常见问题解答
    MySQL中unique索引的使用技巧与常见问题解答 MySQL是一种流行的关系型数据库管理系统,在实际应用中,唯一索引(unique index)在数据表设计中起着至关重要的作用。唯...
    99+
    2024-03-15
    索引 unique 常见问题
  • 技术分享 | delete 语句引发大量 sql 被 kill 问题分析
    作者:王航威 有赞 MySQL DBA,擅长分析和解决数据库的性能问题,利用自动化工具解决日常需求。 现象 某个数据库经常在某个时间点比如凌晨 2 点或者白天某些时间段发出如下报警 [Critical][prod][mysql] - 超...
    99+
    2017-08-05
    技术分享 | delete 语句引发大量 sql kill 问题分析
  • C++异常处理机制及常见问题分析
    C++异常处理机制及常见问题分析引言:C++是一种强大的编程语言,它提供了异常处理机制来处理程序运行过程中的错误和异常情况。异常处理是一种控制流程的机制,用于在特定的条件下,将控制从当前执行点转移到另一个处理点。本文将介绍C++中的异常处理...
    99+
    2023-10-22
    C++异常处理 问题分析
  • mysql数据库索引常见问题和答案
    这篇文章给大家分享的是mysql数据库索引常见问题和答案。小编觉得挺实用的,因此分享给大家做个参考。一起跟随小编过来看看吧。问题1. 数据库为什么要设计索引?图书馆存了1000W本图书,要从中找到《架构师之...
    99+
    2024-04-02
  • Oracle 11g R2 常见问题处理
    --======================查询Oracle错误日志和警告日志通过命令查看错误日志目录SQL> show parameter background_dump_dest;根据错误提示...
    99+
    2024-04-02
  • ASP 框架开发技术:文件处理的常见问题及解决方法
    ASP框架是一种常用的Web应用程序框架,它可以帮助开发人员快速创建Web应用程序。在ASP框架开发中,文件处理是一个非常重要的部分,然而,由于文件处理的复杂性,开发人员经常会遇到一些常见的问题。本文将介绍ASP框架开发中文件处理的常见问题...
    99+
    2023-09-17
    框架 开发技术 文件
  • ASP 索引关键字同步:常见问题解答。
    ASP 索引关键字同步:常见问题解答 ASP 索引关键字同步是一种非常有用的技术,它可以帮助我们在 ASP 网站上实现更高效的搜索。但是,在实际应用中,我们经常会遇到各种各样的问题。本文将针对这些问题进行解答,帮助你更好地使用 ASP 索引...
    99+
    2023-08-12
    索引 关键字 同步
  • Oracle中常见的索引类型及最佳实践分享
    Oracle中常见的索引类型及最佳实践分享 在Oracle数据库中,索引是提高查询性能的重要机制之一。合理地设计和使用索引可以加快查询速度,优化数据库性能。本文将介绍Oracle中常见...
    99+
    2024-03-10
    唯一 多列 索引类型: b树
  • PHP 索引开发技术的面试问题有哪些?
    PHP 是一种广泛使用的编程语言,被广泛用于 Web 开发和服务器端编程。索引是 PHP 开发中的一个重要概念,它提高了代码的效率和性能。在面试中,面试官通常会问一些关于 PHP 索引开发技术的问题。本篇文章将介绍一些常见的 PHP 索引开...
    99+
    2023-08-19
    面试 索引 开发技术
  • Python 重定向和实时索引:常见问题解答
    在 Python 编程中,重定向和实时索引是两个常见的问题。本文将深入探讨这两个问题,并提供一些解决方案和示例代码。 一、什么是重定向? 在 Python 中,重定向是指将输出从一个文件流(例如标准输出)转移到另一个文件流或文件中。这在处...
    99+
    2023-10-24
    重定向 实时 索引
  • PHP与MySQL索引的常见问题及解决方法
    引言:在使用PHP开发网站应用程序时,经常会涉及到与数据库的交互操作,而MySQL作为开发者最常用的数据库之一,索引的优化对于提高查询效率起着至关重要的作用。本文将介绍PHP与MySQL索引的常见问题,并给出相应的解决方法,同时提供具体的代...
    99+
    2023-10-21
  • 你了解 PHP 面试中常见的索引问题吗?
    PHP 是一种广泛使用的服务器端编程语言,因其易于学习和使用而受到广泛欢迎。在 PHP 面试中,常常会问到与索引相关的问题。在本文中,我们将介绍一些 PHP 面试中常见的索引问题,并提供相应的代码演示。 一、什么是索引? 在数据库中,索引是...
    99+
    2023-08-19
    面试 索引 开发技术
  • Linux系统中常见问题的处理技巧是什么
    Linux系统中常见问题的处理技巧是什么,相信很多没有经验的人对此束手无策,为此本文总结了问题出现的原因和解决方法,通过这篇文章希望你能解决这个问题。对于Linux研发人员来说要每天都要进行文本处理,所以熟练的掌握文本处理命令和技巧很重要。...
    99+
    2023-06-28
  • Java XML 处理中的调试技巧:解决常见问题
    处理 XML 数据时,编写健壮且无错误的代码至关重要。Java 提供了许多功能来简化这一过程,但有时仍会遇到问题。了解常见的调试技巧可以帮助我们快速识别和解决这些问题。 1. 使用 XML 验证器 第一步是使用 XML 验证器检查 XM...
    99+
    2024-03-07
    Java、XML、调试、常见问题
软考高级职称资格查询
编程网,编程工程师的家园,是目前国内优秀的开源技术社区之一,形成了由开源软件库、代码分享、资讯、协作翻译、讨论区和博客等几大频道内容,为IT开发者提供了一个发现、使用、并交流开源技术的平台。
  • 官方手机版

  • 微信公众号

  • 商务合作