【MySQL高級(jí)】 11 - SQL 優(yōu)化

1 SQL優(yōu)化

1.1 大批量插入數(shù)據(jù)

  1. 環(huán)境準(zhǔn)備 :以相同的表結(jié)構(gòu)創(chuàng)建 表 tb_user_1tb_user_2
CREATE TABLE `tb_user_1` (
  `id` int(11) NOT NULL AUTO_INCREMENT,
  `username` varchar(45) NOT NULL,
  `password` varchar(96) NOT NULL,
  `name` varchar(45) NOT NULL,
  `birthday` datetime DEFAULT NULL,
  `sex` char(1) DEFAULT NULL,
  `email` varchar(45) DEFAULT NULL,
  `phone` varchar(45) DEFAULT NULL,
  `qq` varchar(32) DEFAULT NULL,
  `status` varchar(32) NOT NULL COMMENT '用戶狀態(tài)',
  `create_time` datetime NOT NULL,
  `update_time` datetime DEFAULT NULL,
  PRIMARY KEY (`id`),
  UNIQUE KEY `unique_user_username` (`username`)
) ENGINE=InnoDB DEFAULT CHARSET=utf8 ;
  1. 當(dāng)使用load 命令導(dǎo)入數(shù)據(jù)的時(shí)候,適當(dāng)?shù)脑O(shè)置可以提高導(dǎo)入的效率。

對(duì)于 InnoDB 類型的表,有以下幾種方式可以提高導(dǎo)入的效率:

主鍵順序插入

因?yàn)镮nnoDB類型的表是按照主鍵的順序保存的,所以將導(dǎo)入的數(shù)據(jù)按照主鍵的順序排列,可以有效的提高導(dǎo)入數(shù)據(jù)的效率。如果InnoDB表沒有主鍵,那么系統(tǒng)會(huì)自動(dòng)默認(rèn)創(chuàng)建一個(gè)內(nèi)部列作為主鍵,所以如果可以給表創(chuàng)建一個(gè)主鍵,將可以利用這點(diǎn),來(lái)提高導(dǎo)入數(shù)據(jù)的效率。

腳本文件介紹 :
    sql1.log  ----> 主鍵有序
    sql2.log  ----> 主鍵無(wú)序
  1. 插入id順序排列數(shù)據(jù):
load data local infile '/root/sql1.log' into table `tb_user_1` fields terminated by ',' lines terminated by '\n';
插入id順序排列數(shù)據(jù)
  1. 插入id無(wú)序排列的數(shù)據(jù) :
load data local infile '/root/sql2.log' into table `tb_user_2` fields terminated by ',' lines terminated by '\n';
插入id無(wú)序排列的數(shù)據(jù)
  1. 關(guān)閉唯一性索引校驗(yàn) :

在導(dǎo)入數(shù)據(jù)前執(zhí)行 SET UNIQUE_CHECKS=0,關(guān)閉唯一性校驗(yàn),在導(dǎo)入結(jié)束后執(zhí)行SET UNIQUE_CHECKS=1,恢復(fù)唯一性校驗(yàn),可以提高導(dǎo)入的效率。

  1. 手動(dòng)提交事務(wù):

如果應(yīng)用使用自動(dòng)提交的方式,建議在導(dǎo)入前執(zhí)行 SET AUTOCOMMIT=0,關(guān)閉自動(dòng)提交,導(dǎo)入結(jié)束后再執(zhí)行 SET AUTOCOMMIT=1,打開自動(dòng)提交,也可以提高導(dǎo)入的效率。

1.2 優(yōu)化insert語(yǔ)句

1.2.1 當(dāng)進(jìn)行數(shù)據(jù)的insert操作的時(shí)候,可以考慮采用以下幾種優(yōu)化方案。

  1. 如果需要同時(shí)對(duì)一張表插入很多行數(shù)據(jù)時(shí),應(yīng)該盡量使用多個(gè)值表的insert語(yǔ)句,這種方式將大大的縮減客戶端與數(shù)據(jù)庫(kù)之間的連接、關(guān)閉等消耗。使得效率比分開執(zhí)行的單個(gè)insert語(yǔ)句快。

示例, 原始方式為:

insert into tb_test values(1,'Tom');
insert into tb_test values(2,'Cat');
insert into tb_test values(3,'Jerry');

優(yōu)化后的方案為 :

insert into tb_test values(1,'Tom'),(2,'Cat'),(3,'Jerry');

在事務(wù)中進(jìn)行數(shù)據(jù)插入,修改事務(wù)提交方式為手動(dòng)提交。

start transaction;
insert into tb_test values(1,'Tom');
insert into tb_test values(2,'Cat');
insert into tb_test values(3,'Jerry');
commit;

數(shù)據(jù)有序插入

insert into tb_test values(4,'Tim');
insert into tb_test values(1,'Tom');
insert into tb_test values(3,'Jerry');
insert into tb_test values(5,'Rose');
insert into tb_test values(2,'Cat');

優(yōu)化后

insert into tb_test values(1,'Tom');
insert into tb_test values(2,'Cat');
insert into tb_test values(3,'Jerry');
insert into tb_test values(4,'Tim');
insert into tb_test values(5,'Rose');

1.3 優(yōu)化order by 語(yǔ)句

1.3.1 環(huán)境準(zhǔn)備

CREATE TABLE `emp` (
  `id` int(11) NOT NULL AUTO_INCREMENT,
  `name` varchar(100) NOT NULL,
  `age` int(3) NOT NULL,
  `salary` int(11) DEFAULT NULL,
  PRIMARY KEY (`id`)
) ENGINE=InnoDB  DEFAULT CHARSET=utf8mb4;


insert into `emp` (`id`, `name`, `age`, `salary`) values('1','Tom','25','2300');
insert into `emp` (`id`, `name`, `age`, `salary`) values('2','Jerry','30','3500');
insert into `emp` (`id`, `name`, `age`, `salary`) values('3','Luci','25','2800');
insert into `emp` (`id`, `name`, `age`, `salary`) values('4','Jay','36','3500');
insert into `emp` (`id`, `name`, `age`, `salary`) values('5','Tom2','21','2200');
insert into `emp` (`id`, `name`, `age`, `salary`) values('6','Jerry2','31','3300');
insert into `emp` (`id`, `name`, `age`, `salary`) values('7','Luci2','26','2700');
insert into `emp` (`id`, `name`, `age`, `salary`) values('8','Jay2','33','3500');
insert into `emp` (`id`, `name`, `age`, `salary`) values('9','Tom3','23','2400');
insert into `emp` (`id`, `name`, `age`, `salary`) values('10','Jerry3','32','3100');
insert into `emp` (`id`, `name`, `age`, `salary`) values('11','Luci3','26','2900');
insert into `emp` (`id`, `name`, `age`, `salary`) values('12','Jay3','37','4500');

-- 為數(shù)據(jù)庫(kù)創(chuàng)建復(fù)合索引 
create index idx_emp_age_salary on emp(age,salary);

1.3.2 兩種排序方式

  1. 第一種是通過(guò)對(duì)返回?cái)?shù)據(jù)進(jìn)行排序,也就是通常說(shuō)的 filesort 排序,所有不是通過(guò)索引直接返回排序結(jié)果的排序都叫 FileSort 排序。
不是通過(guò)索引直接返回
  1. 第二種通過(guò)有序索引順序掃描直接返回有序數(shù)據(jù)(直接從索引字段中返回,查詢索引字段中的值),這種情況即為 using index,不需要額外排序,操作效率高。
直接返回索引列數(shù)據(jù)
多字段,以及索引字段不同順序 ,排序
查詢返回非索引字段的值
  1. 查看當(dāng)前表中的索引字段 :
show index from emp;
查看當(dāng)前表中的索引字段

1.3.3 Filesort 的優(yōu)化

通過(guò)創(chuàng)建合適的索引,能夠減少 Filesort 的出現(xiàn),但是在某些情況下,條件限制不能讓Filesort消失,那就需要加快 Filesort的排序操作。對(duì)于Filesort , MySQL 有兩種排序算法:

  1. 兩次掃描算法 :MySQL4.1 之前,使用該方式排序。首先根據(jù)條件取出排序字段和行指針信息,然后在排序區(qū) sort buffer 中排序,如果sort buffer不夠,則在臨時(shí)表 temporary table 中存儲(chǔ)排序結(jié)果。完成排序之后,再根據(jù)行指針回表讀取記錄,該操作可能會(huì)導(dǎo)致大量隨機(jī)I/O操作。

  2. 一次掃描算法:一次性取出滿足條件的所有字段,然后在排序區(qū) sort buffer 中排序后直接輸出結(jié)果集。排序時(shí)內(nèi)存開銷較大,但是排序效率比兩次掃描算法要高。

  3. MySQL 通過(guò)比較系統(tǒng)變量 max_length_for_sort_data 的大小和Query語(yǔ)句取出的字段總大小, 來(lái)判定是否那種排序算法,如果max_length_for_sort_data 更大,那么使用第二種優(yōu)化之后的算法;否則使用第一種。

4 . 可以適當(dāng)提高 sort_buffer_size 和 max_length_for_sort_data 系統(tǒng)變量,來(lái)增大排序區(qū)的大小,提高排序的效率。

  1. 可以適當(dāng)提高 sort_buffer_size 和 max_length_for_sort_data 系統(tǒng)變量,來(lái)增大排序區(qū)的大小,提高排序的效率。

  2. 查看 系統(tǒng)變量 sort_buffer_size 和 max_length_for_sort_data 系統(tǒng)變量的大小 :

show  variables like 'max_length_for_sort_data';

show  variables like 'sort_buffer_size';
查看數(shù)據(jù)庫(kù)系統(tǒng)變量 sort_buffer_date 和 max_length_for_sort_data系統(tǒng)變量的大小

1.4 優(yōu)化group by 語(yǔ)句

  1. 由于GROUP BY 實(shí)際上也同樣會(huì)進(jìn)行排序操作,而且與ORDER BY 相比,GROUP BY 主要只是多了排序之后的分組操作。當(dāng)然,如果在分組的時(shí)候還使用了其他的一些聚合函數(shù),那么還需要一些聚合函數(shù)的計(jì)算。所以,在GROUP BY 的實(shí)現(xiàn)過(guò)程中,與 ORDER BY 一樣也可以利用到索引。

  2. 如果查詢包含 group by 但是用戶想要避免排序結(jié)果的消耗, 則可以執(zhí)行order by null 禁止排序。如下 :


-- 查看emp表中當(dāng)前所存在的索引 
show index from emp;

-- 首先刪除原來(lái) emp 表中創(chuàng)建的 復(fù)合索引 
drop index index_emp_age_salary on emp;

-- 分析 分組查詢的
explain select age ,count(*) from emp group by age;
emp表中當(dāng)前存在的索引
分析分組查詢emp表 未創(chuàng)建索引
  1. 優(yōu)化后:禁止排序
explain select age ,count(*) from emp group by age order by null;
分析分組查詢emp表 禁止排序
  • 從上面的例子可以看出,第一個(gè)SQL語(yǔ)句需要進(jìn)行"filesort",而第二個(gè)SQL由于order by null 不需要進(jìn)行 "filesort", 而上文提過(guò)Filesort往往非常耗費(fèi)時(shí)間。
  1. 創(chuàng)建索引 :
create index index_emp_age_salary on emp(age,salary);
  1. 使用索引列進(jìn)行分組:
explain select age,count(*) from emp group by age order by null;
使用索引進(jìn)行分組

1.5 優(yōu)化嵌套查詢

  1. Mysql4.1版本之后,開始支持SQL的子查詢。這個(gè)技術(shù)可以使用SELECT語(yǔ)句來(lái)創(chuàng)建一個(gè)單列的查詢結(jié)果,然后把這個(gè)結(jié)果作為過(guò)濾條件用在另一個(gè)查詢中。使用子查詢可以一次性的完成很多邏輯上需要多個(gè)步驟才能完成的SQL操作,同時(shí)也可以避免事務(wù)或者表鎖死,并且寫起來(lái)也很容易。但是,有些情況下,子查詢是可以被更高效的連接(JOIN)替代。

  2. 示例 ,查找有角色的所有的用戶信息 :

-- 首先查詢有角色信息的用戶信息 
select * from t_user where id in (select user_id from user_role);
查詢右角色的用戶信息
  1. 示例, 查看查詢有角色信息的所有用戶信息sql的執(zhí)行計(jì)劃 :
  explain select * from t_user where id in (select user_id from user_role);
查看使用字表作為查詢條件時(shí)的 sql 執(zhí)行計(jì)劃
  1. 優(yōu)化后 :
-- 多表連接查詢
select * from t_user u , user_role ur where u.id = ur.user_id;
-- 查看多表連接查詢的執(zhí)行計(jì)劃
explain select * from t_user u , user_role ur where u.id = ur.user_id;
執(zhí)行多表連接查詢
執(zhí)行多表連接查詢的執(zhí)行計(jì)劃

1.6 優(yōu)化OR條件

  1. 對(duì)于包含OR的查詢子句,如果要利用索引,則OR之間的每個(gè)條件列都必須用到索引 , 而且不能使用到復(fù)合索引; 如果沒有索引,則應(yīng)該考慮增加索引。

  2. 獲取 emp 表中的所有的索引 :

show index from emp;
獲取emp表中使用的索引
  1. 示例 :使用 or 連接其中一個(gè)有索引,另一個(gè)沒索引,此時(shí)不會(huì)走索引。
explain select * from emp where id = 1 or age = 'Tom';

explain select * from emp wher id = 1 union select * from emp where name='Tom';
使用or關(guān)鍵字 和 union 執(zhí)行計(jì)劃分析
  1. 示例 :
explain select * from emp where age = 20 or salary = 3500;
explain select * from emp where age = 20 union select * from emp where salary =3500;
使用or連接時(shí)如果索引是聯(lián)合索引也不會(huì)走索引
使用union優(yōu)化之后求并集
  1. 示例: 使用單列索引查詢,使用or進(jìn)行連接,查詢效率也不是很高。
explain select * from emp where id =1 or id =10;
explain select * from emp where id = 1 union select * from emp where id = 10;
使用單列索引進(jìn)行查詢,使用or進(jìn)行連接的時(shí)候查詢效率不是很高
使用單列索引使用union進(jìn)行并集查詢效率會(huì)非常高
  1. 示例 :
explain select * from emp where id =1 or age = 20;
explain select* from emp where id = 1 union select *  from emp where age = 20;
單列索引和復(fù)合索引使用or連接
單列索引和復(fù)合索引使用union并集查詢效率比較高
  1. 我們來(lái)比較下重要指標(biāo),發(fā)現(xiàn)主要差別是 type 和 ref 這兩項(xiàng) 。 type 顯示的是訪問(wèn)類型,是較為重要的一個(gè)指標(biāo),結(jié)果值從好到壞依次是:
system > const > eq_ref > ref > fulltext > ref_or_null  > index_merge > unique_subquery > index_subquery > range > index > ALL

1.7 優(yōu)化分頁(yè)查詢

  1. 一般分頁(yè)查詢時(shí),通過(guò)創(chuàng)建覆蓋索引能夠比較好地提高性能。一個(gè)常見又非常頭疼的問(wèn)題就是 limit 2000000,10 ,此時(shí)需要MySQL排序前2000010 記錄,僅僅返回2000000 - 2000010 的記錄,其他記錄丟棄,查詢排序的代價(jià)非常大 。

  2. 示例: 查詢一張用戶數(shù)據(jù)量為 100 完條數(shù)據(jù)的表 ;

-- 查看該表的索引字段 
show index from tb_user_1;

-- 查詢 從 990000 開始之后的 10條數(shù)據(jù) 使用普通的查詢 
select *from tb_user_1 limit 990000 , 10;

查詢tb_user_1的索引字段
查詢 從 990000 開始之后的 10條數(shù)據(jù) 使用普通的查詢

1.7.1 優(yōu)化思路一

  1. 在索引上完成排序分頁(yè)操作,最后根據(jù)主鍵關(guān)聯(lián)回原表查詢所需要的其他列內(nèi)容。

-- 首先完成主鍵id分頁(yè)排序
select id from tb_user_1 order by limit 990000 ,10;

-- 根據(jù)主鍵關(guān)聯(lián)回到原表 
select *from tb_user_1 tu , (select id from tb_user_1 order by id limit 990000 , 10) t where tu.id = t.id;
首先完成主鍵id分頁(yè)排序
優(yōu)化前后查詢效率對(duì)比

1.7.2 優(yōu)化思路二

  1. 該方案適用于主鍵自增的表,可以把Limit 查詢轉(zhuǎn)換成某個(gè)位置的查詢 。但是首先必須滿足該表中主鍵不能出現(xiàn)斷層的情況。
把Limit 查詢轉(zhuǎn)換成某個(gè)位置的查詢

1.8 使用SQL提示

  1. SQL提示,是優(yōu)化數(shù)據(jù)庫(kù)的一個(gè)重要手段,簡(jiǎn)單來(lái)說(shuō),就是在SQL語(yǔ)句中加入一些人為的提示來(lái)達(dá)到優(yōu)化操作的目的。

1.8.1 USE INDEX

  1. 在查詢語(yǔ)句中表名的后面,添加 use index 來(lái)提供希望MySQL去參考的索引列表,就可以讓MySQL不再考慮其他可用的索引。

  2. 查看tb_seller表所包含的索引:

show index  from tb_user;
  1. 為name 、status 、address三個(gè)字段創(chuàng)建復(fù)合索引;
create index index_seller_name_status_address on tb_seller(name,status,address);
  1. 使用use index 為Mysql提供參考,讓其主要使用哪個(gè)索引;
使用use index 為 mysql 提供參考

1.8.2 IGNORE INDEX

  1. 如果用戶只是單純的想讓MySQL忽略一個(gè)或者多個(gè)索引,則可以使用 ignore index 作為 hint 。
  explain select * from tb_seller ignore index(idx_seller_name) where name = '小米科技';
使用 ignore index 忽略一個(gè)不想使用的索引

1.8.3 FORCE INDEX

  1. 為強(qiáng)制MySQL使用一個(gè)特定的索引,可在查詢中使用 force index 作為hint 。
  explain select * from tb_seller force index (idx_seller_addr)  where address = '北京市';
使用force index為mysql強(qiáng)制指定一個(gè)索引
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
【社區(qū)內(nèi)容提示】社區(qū)部分內(nèi)容疑似由AI輔助生成,瀏覽時(shí)請(qǐng)結(jié)合常識(shí)與多方信息審慎甄別。
平臺(tái)聲明:文章內(nèi)容(如有圖片或視頻亦包括在內(nèi))由作者上傳并發(fā)布,文章內(nèi)容僅代表作者本人觀點(diǎn),簡(jiǎn)書系信息發(fā)布平臺(tái),僅提供信息存儲(chǔ)服務(wù)。

友情鏈接更多精彩內(nèi)容