數據庫:MYSQL相關設計規範梳理,值得收藏!

一、命名規範

1. 庫名、表名、字段名必須使用小寫字母並採用下劃線分割

2. 庫名、表名、字段名禁止超過32個字符,須見名知意;

3. 庫名、表名、字段名支持最多64個字符,統一規範、易於辨識以及減少傳輸量不要超過32;

4. 庫名、表名、字段名禁止使用MySQL保留關鍵字(如果表名中包含關鍵字查詢時,需要將其用單引號括起來);

5. 臨時庫、臨時表名必須以tmp_爲前綴並以日期爲後綴;

6. 備份庫、備份表名必須以bak爲前綴並以日期爲後綴;

7. 所有存儲相同數據的列名和列類型必須一致(一般作爲關聯列,如果查詢時關聯列類型不一致會自動進行數據類型隱式轉換,會造成列上的索引失效,導致查詢效率降低)。

二、基本設計規範

1. 所有表必須使用Innodb存儲引擎

沒有特殊要求(即Innodb無法滿足的功能如:列存儲,存儲空間數據等)的情況下,所有表必須使用Innodb存儲引擎(MySQL5.5之前默認使用Myisam,5.6以後默認的爲Innodb)Innodb 支持事務,支持行能鎖,更好的恢復性,高併發下性能更好。

2. 數據庫和表的字符集統一使用utf8mb4( 5.5.3版本以上支持)

兼容性更好,統一字符集可以避免由於字符集轉換產生的亂碼,不同的字符集進行比較前需要進行轉換會造成索引失效;

3. 所有表和字段都需要添加註釋

使用comment從句添加表和列的備註 從一開始就進行數據字典的維護;

4. 儘量控制單表數據量的大小,建議控制在1000萬以內

1000萬並不是MySQL數據庫的限制,過大會造成修改表結構,備份,恢復都會有很大的問題可以用歷史數據歸檔(應用於日誌數據),分庫分表(應用於業務數據)等手段來控制數據量大小。

5. 謹慎使用MySQL分區表

業務生命週期內,評估單表數據量是否在1000萬以內,超出此範圍需考慮分庫分表可擴展性;分區表在物理上表現爲多個文件,在邏輯上表現爲一個表,謹慎選擇分區鍵,跨分區查詢效率可能更低,建議採用物理分表的方式管理大數據。

6. 儘量做到冷熱數據分離,減小表的寬度

MySQL限制每個表最多存儲4096列,並且每一行數據的大小不能超過65535字節 減少磁盤IO,保證熱數據的內存緩存命中率(表越寬,把表裝載進內存緩衝池時所佔用的內存也就越大,也會消耗更多的IO) 更有效的利用緩存,避免讀入無用的冷數據 經常一起使用的列放到一個表中(避免更多的關聯操作)。

7. 禁止在表中建立預留字段

預留字段的命名很難做到見名識義 預留字段無法確認存儲的數據類型,所以無法選擇合適的類型 對預留字段類型的修改,會對錶進行鎖定。


8. 禁止在數據庫中存儲圖片,文件等大的二進制數據

通常文件很大,會短時間內造成數據量快速增長,數據庫進行數據庫讀取時,通常會進行大量的隨機IO操作,文件很大時,IO操作很耗時 通常存儲於文件服務器,數據庫只存儲文件地址信息。

9. 禁止在線上做數據庫壓力測試

10. 禁止從開發環境,測試環境直接連接生成環境數據庫。

三、字段設計規範

1. 優先選擇符合存儲需要的最小的數據類型

列的字段越大,建立索引時所需要的空間也就越大,這樣一頁中所能存儲的索引節點的數量也就越少也越少,在遍歷時所需要的IO次數也就越多, 索引的性能也就越差。建議:1)將字符串轉換成數字類型存儲,如:將IP地址轉換成整形數據。2)對於非負型的數據(如自增ID、整型IP)來說,要優先使用無符號整型來存儲因爲:無符號相對於有符號可以多出一倍的存儲空間,VARCHAR(N)中的N代表的是字符數,而不是字節數使用UTF8存儲255個漢字 Varchar(255)=765個字節。過大的長度會消耗更多的內存。

2. 避免使用TEXT、BLOB數據類型

最常見的TEXT類型可以存儲64k的數據,建議把BLOB或是TEXT列分離到單獨的擴展表中。

MySQL內存臨時表不支持TEXT、BLOB這樣的大數據類型,如果查詢中包含這樣的數據,在排序等操作時,就不能使用內存臨時表,必須使用磁盤臨時表進行。

且對於這種數據,MySQL還是要進行二次查詢,會使sql性能變得很差,但是不是說一定不能使用這樣的數據類型。

如果一定要使用,建議把BLOB或是TEXT列分離到單獨的擴展表中,查詢時一定不要使用select * 而只需要取出必要的列,不需要TEXT列的數據時不要對該列進行查詢。

注意:TEXT或BLOB類型只能使用前綴索引,因爲MySQL對索引字段長度是有限制的,所以TEXT類型只能使用前綴索引,並且TEXT列上是不能有默認值的。

3. 避免使用ENUM類型

修改ENUM只需要使用ALTER語句

ENUM類型的ORDER BY操作效率低,需要額外操作

禁止使用數值作爲ENUM的枚舉值

4. 儘可能把所有列定義爲NOT NULL

原因:索引NULL列需要額外的空間來保存,所以要佔用更多的空間;

進行比較和計算時要對NULL值做特別的處理。

5. 使用TIMESTAMP存儲時間

TIMESTAMP 存儲的時間範圍 1970-01-01 00:00:01 ~ 2038-01-19-03:14:07。TIMESTAMP使用4字節,DATETIME使用8個字節,同時TIMESTAMP具有自動賦值以及自動更新的特性。

6. 財務相關的金額類數據必須使用decimal類型

1) 非精準浮點:float,double

2) 精準浮點:decimal

Decimal類型爲精準浮點數,在計算時不會丟失精度。佔用空間由定義的寬度決定,每4個字節可以存儲9位數字,並且小數點要佔用一個字節。可用於存儲比bigint更大的整型數據。

7. 用DECIMAL代替FLOAT和DOUBLE存儲精確浮點數

浮點數相對於定點數的優點是在長度一定的情況下,浮點數能夠表示更大的數據範圍;浮點數的缺點是會引起精度問題

1) 將字符轉化爲數字

2) 使用TINYINT來代替ENUM類型

3) 字段長度儘量按實際需要進行分配,不要隨意分配一個很大的容量

8. 使用UNSIGNED存儲非負整數

同樣的字節數,存儲的數值範圍更大。如tinyint有符號爲-128-127,無符號爲0-255;INT類型固定佔用4個字節存儲

9. 使用INT UNSIGNED存儲IPV4

10. 使用VARBINARY存儲大小寫敏感的變長字符串

11. 禁止在數據庫中存儲明文密碼

四、索引設計規範

建立索引的目的是:希望通過索引進行數據查找,減少隨機IO,增加查詢性能 ,索引能過濾出越少的數據,則從磁盤中讀入的數據也就越少。

索引是一把雙刃劍,可提高查詢效率,但也會降低插入和更新的速度並佔用磁盤空間。

1. 單張表中索引數量不超過5個

限制每張表上的索引數量,建議單張表索引不超過5個索引;索引可以提高效率同樣可以降低效率。索引可以增加查詢效率,但同樣也會降低插入和更新的效率,甚至有些情況下會降低查詢效率。優化器在選擇如何優化查詢時,會根據統一信息,對每一個可以用到的索引來進行評估,以生成出一個最好的執行計劃,如果同時有很多個索引都可以用於查詢,會增加MySQL優化器生成執行計劃時間,降低查詢性能。


2. 禁止給表中的每一列都建立單獨的索引

5.6版本之前,一個sql只能使用到一個表中的一個索引,5.6以後,雖然有了合併索引的優化方式,但遠沒有使用聯合索引的查詢方式效率高。

3. Innodb表必須要有主鍵

Innodb是一種索引組織表:數據的存儲的邏輯順序和索引的順序是相同的。

每個表都可以有多個索引,但是表的存儲順序只能有一種 Innodb是按照主鍵索引的順序來組織表的。不要使用更新頻繁的列作爲主鍵,不使用多列主鍵(相當於聯合索引) 不要使用UUID、MD5、HASH、字符串列作爲主鍵(無法保證數據的順序增長)。

主鍵建議使用自增ID值。

4. 單個索引中的字段數不超過5個

對字符串使用前綴索引,前綴索引長度不超過10個字符;

舉例:如有一個CHAR(200)列,在前10個字符內,多數值是唯一的,就可不要對整個列進行索引。對前10個字符進行索引能夠節省大量索引空間,也可能會使查詢更快。

5. 表主鍵建議

1) 表必須有主鍵,不使用更新頻繁的列作爲主鍵

2) 儘量不選擇字符串列作爲主鍵

3) 不使用UUID、MD5、HASH作爲主鍵

4) 默認使用非空的唯一鍵

5) 主鍵建議選擇自增或發號器重要的SQL必須被索引:

SELECT、UPDATE、DELETE語句的WHERE條件列ORDER BY、GROUP BY、DISTINCT的字段多表JOIN的字段

6. 區分度最大的字段放在索引前面

7. 核心SQL優先考慮覆蓋索引

select的數據列只用從索引中就能夠取得,不必讀取數據行,換句話說查詢列要被所建的索引覆蓋。

8. 避免冗餘或重複索引

合理創建聯合索引(避免冗餘),index(a,b,c)相當於index(a)、index(a,b)、index(a,b,c)

1) 索引不是越多越好,按實際需要進行創建,每個額外的索引都要佔用額外的磁盤空間,並降低寫操作的性能

2) 不在低基數列上建立索引,例如‘性別’

3) 不在索引列進行數學運算和函數運算


9. 儘量避免使用外鍵約束

1) 不建議使用外鍵約束(foreign key),但一定要在表與表之間的關聯鍵上建立索引;

2) 外鍵可用於保證數據的參照完整性,建議在業務端實現;

3) 外鍵會影響父表和子表的寫操作從而降低性能。

10. 不使用%前導的查詢,如like“%xxx”,無法使用索引

11. 不使用反向查詢,如not in / not like

無法使用索引,導致全表掃描,全表掃描導致bufferpool利用降低;

12. 索引列建議

1) 出現在SELECT、UPDATE、DELETE語句的WHERE子句中的列;

2) 包含在ORDER BY、GROUP BY、DISTINCT中的字段;

3) 多表join的關聯列

注意:並不要將符合1和2中的字段的列都建立一個索引,通常將1、2中的字段建立聯合索引效果更好

13. 如何選擇索引列的順序

1) 區分度最高的放在聯合索引的最左側(區分度=列中不同值的數量/列的總行數);

2) 儘量把字段長度小的列放在聯合索引的最左側(因爲字段長度越小,一頁能存儲的數據量越大,IO性能也就越好);

3) 使用最頻繁的列放到聯合索引的左側(這樣可較少地建立一些索引)。

14. 避免建立冗餘索引和重複索引

冗餘/重複索引會增加查詢優化器生成執行計劃的時間。

1) 重複索引示例:primary key(id)、index(id)、unique index(id)

2) 冗餘索引示例:index(a,b,c)、index(a,b)、index(a)

15. 優先考慮覆蓋索引

對於頻繁的查詢優先考慮使用覆蓋索引。

覆蓋索引:即包含了所有查詢字段(where,select,ordery by,group by包含的字段)的索引,覆蓋索引的好處:

1) 避免Innodb表進行索引的二次查詢

Innodb是以聚集索引的順序來存儲的,對於Innodb來說,二級索引在葉子節點中所保存的是行的主鍵信息,如果是用二級索引查詢數據,在查找到相應的鍵值後,還需通過主鍵進行二次查詢才能獲取我們真實所需要的數據。

而在覆蓋索引中,二級索引的鍵值中可以獲取所有的數據,避免了對主鍵的二次查詢 ,減少了IO操作,提升了查詢效率。


2) 可以把隨機IO變成順序IO加快查詢效率

由於覆蓋索引是按鍵值的順序存儲的,對於IO密集型的範圍查找來說,對比隨機從磁盤讀取每一行的數據IO要少得多,因此利用覆蓋索引在訪問時也可以把磁盤的隨機讀取的IO轉變成索引查找的順序IO。

五、SQL開發規範

1. 建議使用預編譯語句進行數據庫操作

預編譯語句可以重複使用這些計劃,減少SQL編譯所需要的時間,還可以解決動態SQL所帶來的SQL注入的問題 只傳參數,比傳遞SQL語句更高效 相同語句可以一次解析,多次使用,提高處理效率。

2. 避免數據類型的隱式轉換

隱式轉換會導致索引失效。

3. 充分利用表上已經存在的索引

1) 避免使用雙%號的查詢條件。

如無前置%,只有後置%,是可以用到列上的索引的

2) 一個SQL只能利用到複合索引中的一列進行範圍查詢

解說:有 a,b,c列的聯合索引,在查詢條件中有a列的範圍查詢,則在b,c列上的索引將不會被用到,在定義聯合索引時,如果a列要用到範圍查找的話,就要把a列放到聯合索引的右側。使用left join或 not exists來優化not in操作,因not in 也通常會使用索引失效。

4. 數據庫設計時,應該要對以後擴展進行考慮

5. 程序連接不同的數據庫使用不同的賬號,禁止跨庫查詢

1) 爲數據庫遷移和分庫分表留出餘地

2) 降低業務耦合度

3) 避免權限過大而產生的安全風險

6. 強烈不建議使用SELECT * ;推薦使用SELECT <字段列表> 查詢

原因:

1) 消耗更多的CPU和IO以網絡帶寬資源

2) 無法使用覆蓋索引

3) 可減少表結構變更帶來的影響

7. 禁止使用不含字段列表的INSERT語句

舉例:insert into values ('a','b','c');

應使用insert into t(c1,c2,c3) values ('a','b','c');

8. 避免使用子查詢,可把子查詢優化爲join操作

通常子查詢在in子句中,且子查詢中爲簡單SQL(不包含union、group by、order by、limit從句)時,纔可以把子查詢轉化爲關聯查詢進行優化。

子查詢性能差的原因:

1) 子查詢的結果集無法使用索引,通常子查詢的結果集會被存儲到臨時表中,不論是內存臨時表還是磁盤臨時表都不會存在索引,所以查詢性能 會受到一定的影響;

2) 特別是對於返回結果集比較大的子查詢,其對查詢性能的影響也就越大;

3) 由於子查詢會產生大量的臨時表也沒有索引,所以會消耗過多的CPU和IO資源,產生大量的慢查詢。

9. 避免使用JOIN關聯太多表

MySQL最擅長的是單表的主鍵/二級索引查詢,MySQL存在關聯緩存的,緩存的大小可以由join_buffer_size參數進行設置。在MySQL中,對於同一個SQL多關聯(join)一個表,會多分配一個關聯緩存,如果在一個SQL中關聯的表越多,所佔用的內存也就越大。

Join消耗較多的內存,產生臨時表;

如程序中大量的使用了多表關聯的操作,同時join_buffer_size設置的也不合理的情況下,就容易造成服務器內存溢出的情況,就會影響到服務器數據庫性能的穩定性。

同時對於關聯操作來說,會產生臨時表操作,影響查詢效率MySQL最多允許關聯61個表,但業務生產環境中建議不超過5個

10. 減少同數據庫的交互次數

1) 數據庫更適合處理批量操作 合併多個相同的操作到一起,可以提高處理效率。

11. 對應同一列進行or判斷時,使用in代替or

不要超過500個in操作可以更有效的利用索引,or大多數情況下很少能利用到索引。

12. 禁止使用order by,rand() 進行隨機排序

隨機排序會把表中所有符合條件的數據裝載到內存中,然後在內存中對所有數據根據隨機生成的值進行排序,並且可能會對每一行都生成一個隨機值,如果滿足條件的數據集非常大,就會消耗大量的CPU和IO及內存資源。

簡單來說:order by,rand()會將數據從磁盤中讀取,進行排序,會消耗大量的IO和CPU。

推薦在程序中獲取一個隨機值,然後從數據庫中獲取對應的數據。

13. WHERE從句中禁止對列進行函數轉換和計算

對列進行函數轉換或計算時會導致無法使用索引。

14. 在明顯不會有重複值時使用UNION ALL而不是UNION

1) UNION會把兩個結果集的所有數據放到臨時表中後再進行去重操作;

2) UNION ALL不會再對結果集進行去重操作。

15. 拆分複雜的大SQL爲多個小SQL

原因如下:

1) 大SQL:邏輯上比較複雜,需要佔用大量CPU進行計算;

2) MySQL:一個SQL只能使用一個CPU進行計算;

3) SQL拆分後可以通過並行執行來提高處理效率。

16. 避免使用存儲過程、觸發器、EVENTS等

1) 降低業務耦合度,爲分庫分表sacleout、sharding留點餘地;

2) 該策略可有效規避BUG。

17. 避免在數據庫中進行數學運算

1) 容易將業務邏輯和DB耦合在一起

2) MySQL不擅長數學運算和邏輯判斷

3) 無法使用索引

六、操作行爲規範

1. 超100萬行的批量寫(UPDATE、DELETE、INSERT)操作,要分批多次進行操作

1) 大批量操作可能會造成嚴重的主從延遲。

主從環境中,大批量操作可能會造成嚴重的主從延遲,大批量的寫操作一般都需要執行一定長的時間,只有當主庫上執行完成後,纔會在其他從庫上執行,會造成主庫與從庫長時間的延遲情況。

2) binlog日誌爲row格式時會產生大量的日誌

大批量寫操作會產生大量日誌,特別是對於row格式二進制數據而言,由於在row格式中會記錄每一行數據的修改,一次修改的數據越多,產生的日誌量也會越多,日誌的傳輸和恢復所需要的時間也就越長,這也是造成主從延遲的一個原因。

3) 避免產生大事務操作

大批量修改數據,一定是在一個事務中進行的,這會造成表中大批量數據進行鎖定,導致大量的阻塞,阻塞會對MySQL的性能影響很大。尤其是長時間的阻塞會佔滿所有數據庫的可用連接,會使生產環境中的其他應用無法連接到數據庫,因此一定要注意大批量寫操作要進行分批。

2. 對於大表使用pt-online-schema-change修改表結構

1) 可避免大表修改產生的主從延遲

2) 可避免在對錶字段進行修改時進行鎖表

生產環境中,對大表數據結構的修改一定要謹慎,會造成嚴重的縮表操作;

pt-online-schema-change首先建立一個與原表結構相同的新表,並且在新表上進行表結構的修改,然後再把原表中的數據複製到新表中,並在原表中增加一些觸發器。

把原表中新增的數據也複製到新表中,在將所有數據複製完成之後,把新表命名成原表,並把原來的表刪除掉。把原來一個DDL操作,分解成多個小批次作業進行。

這也是對錶進行碎片整理/重組的一個常用方式。

3. 禁止爲程序使用的賬號賦予super權限

原因:當MySQL 達到最大連接數限制時,此刻還運行1個有super權限的用戶連接,super權限只能留給DBA處理問題的賬號使用。

4. 對於程序連接數據庫賬號,遵循權限最小原則程序

使用數據庫賬號只能在一個DB下使用,不準跨庫 程序使用的賬號原則上不準有drop權限。

其他一些操作規範:

5. 任何數據庫的線上操作,必須走工單

6. 禁止在主庫上執行統計類的功能查詢;

7. 有大規模市場推廣、運營活動必須提前通知DBA進行流量評估;

8. 對單表的多次alter操作必須合併爲一次操作;

9. 不在MySQL數據庫中存放業務邏輯,即可創建存儲過程;

10. 重大項目的數據庫方案選型和設計必須提前通知DBA參與;

11. 數據必須有備份機制和定期的恢復演練;

12. 不在業務高峯期批量更新、查詢數據庫;


IT技術分享社區


個人博客網站:https://programmerblog.xyz


文章推薦 程序員效率:畫流程圖常用的工具 程序員效率:整理常用的在線筆記軟件 遠程辦公:常用的遠程協助軟件,你都知道嗎? 51單片機程序下載、ISP及串口基礎知識 硬件:斷路器、接觸器、繼電器基礎知識





本文分享自微信公衆號 - IT技術分享社區(gh_a27c0758eb03)。
如有侵權,請聯繫 [email protected] 刪除。
本文參與“OSC源創計劃”,歡迎正在閱讀的你也加入,一起分享。

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章