MySQL索引背后的數(shù)據(jù)結(jié)構(gòu)及算法原理(5)
情況七:查詢條件中含有函數(shù)或表達式。
很不幸,如果查詢條件中含有函數(shù)或表達式,則MySQL不會為這列使用索引(雖然某些在數(shù)學意義上可以使用)。例如:
EXPLAIN SELECT*FROM employees.titles WHERE emp_no='10001'ANDleft(title, 6)='Senior';+----+-------------+--------+------+---------------+---------+---------+-------+------+-------------+
| id | select_type |table| type | possible_keys |key| key_len | ref | rows | Extra |
+----+-------------+--------+------+---------------+---------+---------+-------+------+-------------+
|1| SIMPLE | titles | ref |PRIMARY|PRIMARY|4| const |1| Using where|
+----+-------------+--------+------+---------------+---------+---------+-------+------+-------------+
雖然這個查詢和情況五中功能相同,但是由于使用了函數(shù)left,則無法為title列應用索引,而情況五中用LIKE則可以。再如:
EXPLAIN SELECT*FROM employees.titles WHERE emp_no -1='10000';+----+-------------+--------+------+---------------+------+---------+------+--------+-------------+
| id | select_type |table| type | possible_keys |key| key_len | ref | rows | Extra |
+----+-------------+--------+------+---------------+------+---------+------+--------+-------------+
|1| SIMPLE | titles |ALL|NULL|NULL|NULL|NULL|443308| Using where|
+----+-------------+--------+------+---------------+------+---------+------+--------+-------------+
顯然這個查詢等價于查詢emp_no為10001的函數(shù),但是由于查詢條件是一個表達式,MySQL無法為其使用索引。看來MySQL還沒有智能到自動優(yōu)化常量表達式的程度,因此在寫查詢語句時盡量避免表達式出現(xiàn)在查詢中,而是先手工私下代數(shù)運算,轉(zhuǎn)換為無表達式的查詢語句。
索引選擇性與前綴索引
既然索引可以加快查詢速度,那么是不是只要是查詢語句需要,就建上索引?答案是否定的。因為索引雖然加快了查詢速度,但索引也是有代價的:索引文件本身要消耗存儲空間,同時索引會加重插入、刪除和修改記錄時的負擔,另外,MySQL在運行時也要消耗資源維護索引,因此索引并不是越多越好。一般兩種情況下不建議建索引。
第一種情況是表記錄比較少,例如一兩千條甚至只有幾百條記錄的表,沒必要建索引,讓查詢做全表掃描就好了。至于多少條記錄才算多,這個個人有個人的看法,我個人的經(jīng)驗是以2000作為分界線,記錄數(shù)不超過 2000可以考慮不建索引,超過2000條可以酌情考慮索引。
另一種不建議建索引的情況是索引的選擇性較低。所謂索引的選擇性(Selectivity),是指不重復的索引值(也叫基數(shù),Cardinality)與表記錄數(shù)(#T)的比值:
Index Selectivity = Cardinality / #T顯然選擇性的取值范圍為(0, 1],選擇性越高的索引價值越大,這是由B+Tree的性質(zhì)決定的。例如,上文用到的employees.titles表,如果title字段經(jīng)常被單獨查詢,是否需要建索引,我們看一下它的選擇性:
SELECTcount(DISTINCT(title))/count(*) AS Selectivity FROM employees.titles;+-------------+
| Selectivity |
+-------------+
|0.0000|
+-------------+
title的選擇性不足0.0001(精確值為0.00001579),所以實在沒有什么必要為其單獨建索引。
有一種與索引選擇性有關的索引優(yōu)化策略叫做前綴索引,就是用列的前綴代替整個列作為索引key,當前綴長度合適時,可以做到既使得前綴索引的選擇性接近全列索引,同時因為索引key變短而減少了索引文件的大小和維護開銷。下面以employees.employees表為例介紹前綴索引的選擇和使用。
從下圖可以看到employees表只有一個索引,那么如果我們想按名字搜索一個人,就只能全表掃描了:
EXPLAIN SELECT*FROM employees.employees WHERE first_name='Eric'AND last_name='Anido';+----+-------------+-----------+------+---------------+------+---------+------+--------+-------------+
| id | select_type |table| type | possible_keys |key| key_len | ref | rows | Extra |
+----+-------------+-----------+------+---------------+------+---------+------+--------+-------------+
|1| SIMPLE | employees |ALL|NULL|NULL|NULL|NULL|300024| Using where|
+----+-------------+-----------+------+---------------+------+---------+------+--------+-------------+
如果頻繁按名字搜索員工,這樣顯然效率很低,因此我們可以考慮建索引。有兩種選擇,建或,看下兩個索引的選擇性:
SELECTcount(DISTINCT(first_name))/count(*) AS Selectivity FROM employees.employees;+-------------+
| Selectivity |
+-------------+
|0.0042|
+-------------+
SELECTcount(DISTINCT(concat(first_name, last_name)))/count(*) AS Selectivity FROM employees.employees;
+-------------+
| Selectivity |
+-------------+
|0.9313|
+-------------+
顯然選擇性太低,選擇性很好,但是first_name和last_name加起來長度為30,有沒有兼顧長度和選擇性的辦法?可以考慮用first_name和last_name的前幾個字符建立索引,例如,看看其選擇性:
SELECTcount(DISTINCT(concat(first_name, left(last_name, 3))))/count(*) AS Selectivity FROM employees.employees;+-------------+
| Selectivity |
+-------------+
|0.7879|
+-------------+
選擇性還不錯,但離0.9313還是有點距離,那么把last_name前綴加到4:
SELECTcount(DISTINCT(concat(first_name, left(last_name, 4))))/count(*) AS Selectivity FROM employees.employees;+-------------+
| Selectivity |
+-------------+
|0.9007|
+-------------+
這時選擇性已經(jīng)很理想了,而這個索引的長度只有18,比短了接近一半,我們把這個前綴索引 建上:
view sourceprint?ALTERTABLE employees.employeesADDINDEX `first_name_last_name4` (first_name, last_name(4));
此時再執(zhí)行一遍按名字查詢,比較分析一下與建索引前的結(jié)果:
SHOW PROFILES;+----------+------------+---------------------------------------------------------------------------------+
| Query_ID | Duration | Query |
+----------+------------+---------------------------------------------------------------------------------+
|87|0.11941700|SELECT*FROM employees.employees WHERE first_name='Eric'AND last_name='Anido'|
|90|0.00092400|SELECT*FROM employees.employees WHERE first_name='Eric'AND last_name='Anido'|
+----------+------------+---------------------------------------------------------------------------------+
性能的提升是顯著的,查詢速度提高了120多倍。
前綴索引兼顧索引大小和查詢速度,但是其缺點是不能用于ORDER BY和GROUP BY操作,也不能用于Covering index(即當索引本身包含查詢所需全部數(shù)據(jù)時,不再訪問數(shù)據(jù)文件本身)。
InnoDB的主鍵選擇與插入優(yōu)化
在使用InnoDB存儲引擎時,如果沒有特別的需要,請永遠使用一個與業(yè)務無關的自增字段作為主鍵。
經(jīng)常看到有帖子或博客討論主鍵選擇問題,有人建議使用業(yè)務無關的自增主鍵,有人覺得沒有必要,完全可以使用如學號或身份證號這種唯一字段作為主鍵。不論支持哪種論點,大多數(shù)論據(jù)都是業(yè)務層面的。如果從數(shù)據(jù)庫索引優(yōu)化角度看,使用InnoDB引擎而不使用自增主鍵絕對是一個糟糕的主意。
上文討論過InnoDB的索引實現(xiàn),InnoDB使用聚集索引,數(shù)據(jù)記錄本身被存于主索引(一顆B+Tree)的葉子節(jié)點上。這就要求同一個葉子節(jié)點內(nèi)(大小為一個內(nèi)存頁或磁盤頁)的各條數(shù)據(jù)記錄按主鍵順序存放,因此每當有一條新的記錄插入時,MySQL會根據(jù)其主鍵將其插入適當?shù)墓?jié)點和位置,如果頁面達到裝載因子(InnoDB默認為15/16),則開辟一個新的頁(節(jié)點)。
如果表使用自增主鍵,那么每次插入新的記錄,記錄就會順序添加到當前索引節(jié)點的后續(xù)位置,當一頁寫滿,就會自動開辟一個新的頁。如下圖所示:
這樣就會形成一個緊湊的索引結(jié)構(gòu),近似順序填滿。由于每次插入時也不需要移動已有數(shù)據(jù),因此效率很高,也不會增加很多開銷在維護索引上。
如果使用非自增主鍵(如果身份證號或?qū)W號等),由于每次插入主鍵的值近似于隨機,因此每次新紀錄都要被插到現(xiàn)有索引頁得中間某個位置:
此時MySQL不得不為了將新記錄插到合適位置而移動數(shù)據(jù),甚至目標頁面可能已經(jīng)被回寫到磁盤上而從緩存中清掉,此時又要從磁盤上讀回來,這增加了很多開銷,同時頻繁的移動、分頁操作造成了大量的碎片,得到了不夠緊湊的索引結(jié)構(gòu),后續(xù)不得不通過OPTIMIZE TABLE來重建表并優(yōu)化填充頁面。
因此,只要可以,請盡量在InnoDB上采用自增字段做主鍵。
后 記
這篇文章斷斷續(xù)續(xù)寫了半個月,主要內(nèi)容就是上面這些了。不可否認,這篇文章在一定程度上有紙上談兵之嫌,因為我本人對MySQL的使用屬于菜鳥級別,更沒有太多數(shù)據(jù)庫調(diào)優(yōu)的經(jīng)驗,在這里大談數(shù)據(jù)庫索引調(diào)優(yōu)有點大言不慚。就當是我個人的一篇學習筆記了。
其實數(shù)據(jù)庫索引調(diào)優(yōu)是一項技術活,不能僅僅靠理論,因為實際情況千變?nèi)f化,而且MySQL本身存在很復雜的機制,如查詢優(yōu)化策略和各種引擎的實現(xiàn)差異等都會使情況變得更加復雜。但同時這些理論是索引調(diào)優(yōu)的基礎,只有在明白理論的基礎上,才能對調(diào)優(yōu)策略進行合理推斷并了解其背后的機制,然后結(jié)合實踐中不斷的實驗和摸索,從而真正達到高效使用MySQL索引的目的。
另外,MySQL索引及其優(yōu)化涵蓋范圍非常廣,本文只是涉及到其中一部分。如與排序(ORDER BY)相關的索引優(yōu)化及覆蓋索引(Covering index)的話題本文并未涉及,同時除B-Tree索引外MySQL還根據(jù)不同引擎支持的哈希索引、全文索引等等本文也并未涉及。如果有機會,希望再對本文未涉及的部分進行補充吧。
更多文章、技術交流、商務合作、聯(lián)系博主
微信掃碼或搜索:z360901061

微信掃一掃加我為好友
QQ號聯(lián)系: 360901061
您的支持是博主寫作最大的動力,如果您喜歡我的文章,感覺我的文章對您有幫助,請用微信掃描下面二維碼支持博主2元、5元、10元、20元等您想捐的金額吧,狠狠點擊下面給點支持吧,站長非常感激您!手機微信長按不能支付解決辦法:請將微信支付二維碼保存到相冊,切換到微信,然后點擊微信右上角掃一掃功能,選擇支付二維碼完成支付。
【本文對您有幫助就好】元
