據(jù)庫分庫分表實戰(zhàn)：解決億級數(shù)據(jù)性能瓶頸)
1. 數(shù)據(jù)庫分庫分表從理論到實戰(zhàn)的全方位解析作為經(jīng)歷過多個億級用戶系統(tǒng)的架構(gòu)師我深刻理解當數(shù)據(jù)量突破單機數(shù)據(jù)庫承載能力時的痛苦。記得有一次凌晨三點我們的訂單數(shù)據(jù)庫因為單表數(shù)據(jù)量超過2億條導(dǎo)致核心交易接口響應(yīng)時間從200ms飆升到8秒整個技術(shù)團隊被迫通宵緊急擴容。正是這次事故讓我意識到分庫分表不是可選項而是高并發(fā)系統(tǒng)發(fā)展到一定階段的必選項。2. 為什么需要分庫分表2.1 單機數(shù)據(jù)庫的性能瓶頸當數(shù)據(jù)量達到千萬級甚至億級時單機數(shù)據(jù)庫會面臨四大核心問題查詢性能斷崖式下跌以MySQL的InnoDB引擎為例當單表數(shù)據(jù)超過500萬行后即使有索引查詢延遲也會顯著增加。這是因為B樹索引的層級會隨著數(shù)據(jù)量增長而加深通常數(shù)據(jù)量500萬B樹3層數(shù)據(jù)量5000萬B樹4層數(shù)據(jù)量5億B樹5層 每增加一層就意味著多一次磁盤I/O性能自然下降。索引效率降低我曾經(jīng)處理過一個案例某用戶表有3億數(shù)據(jù)雖然建立了手機號的唯一索引但由于索引樹過高簡單的SELECT * FROM users WHERE mobile13800138000查詢也需要300ms這在業(yè)務(wù)高峰期是完全不可接受的。連接數(shù)成為瓶頸MySQL默認的最大連接數(shù)是1515.7版本在高并發(fā)場景下很容易被打滿。雖然可以通過參數(shù)調(diào)整但單機連接數(shù)超過1000后上下文切換的開銷會顯著增加CPU負載。存儲空間限制即使使用SSD單塊磁盤的容量和IOPS也是有限的。我們曾經(jīng)有個日志表每月增長1TB不到半年就把服務(wù)器磁盤撐爆了。實戰(zhàn)經(jīng)驗不要等到系統(tǒng)報警才考慮分庫分表。建議單表數(shù)據(jù)量達到以下閾值時開始規(guī)劃OLTP業(yè)務(wù)表500萬行日志類表2000萬行配置類表可適當放寬到1000萬行3. 分庫分表的核心策略3.1 垂直拆分按業(yè)務(wù)維度切分垂直拆分是最容易理解的拆分方式它遵循專業(yè)的人做專業(yè)的事原則。以電商系統(tǒng)為例拆分前單一數(shù)據(jù)庫(ecommerce_db) ├── users ├── orders ├── products ├── payments └── logistics拆分后用戶庫(user_db) └── users 訂單庫(order_db) └── orders 商品庫(product_db) └── products實施要點拆分后各庫應(yīng)部署在不同物理服務(wù)器上避免共享資源需要重構(gòu)事務(wù)代碼跨庫事務(wù)要改為分布式事務(wù)公共配置數(shù)據(jù)如地區(qū)編碼需要同步或冗余踩坑記錄我們曾經(jīng)在拆分后將用戶庫和訂單庫放在同一臺物理機結(jié)果高峰期兩個業(yè)務(wù)互相影響。后來發(fā)現(xiàn)即使做了容器隔離底層磁盤IO仍然是共享的。3.2 水平拆分按數(shù)據(jù)規(guī)則切分水平拆分是解決單表數(shù)據(jù)過大的終極方案。常見的分片算法包括3.2.1 哈希取模法-- 按user_id分4個表 SELECT * FROM users_${user_id % 4} WHERE user_id 12345優(yōu)點數(shù)據(jù)分布均勻缺點擴容困難需要遷移數(shù)據(jù)3.2.2 范圍分片-- 按創(chuàng)建時間分表 SELECT * FROM orders_2023 WHERE created_at BETWEEN 2023-01-01 AND 2023-12-31優(yōu)點易于擴容冷熱數(shù)據(jù)分離方便缺點可能產(chǎn)生熱點問題3.2.3 一致性哈希使用虛擬節(jié)點解決擴容問題適合需要頻繁擴容的場景。分片鍵選擇對比表分片鍵類型適用場景優(yōu)點缺點用戶ID用戶中心系統(tǒng)用戶數(shù)據(jù)集中大用戶可能成熱點訂單ID交易系統(tǒng)避免熱點關(guān)聯(lián)查詢困難時間日志/統(tǒng)計系統(tǒng)方便冷熱分離近期數(shù)據(jù)可能成熱點地理區(qū)域本地生活服務(wù)符合業(yè)務(wù)特性跨區(qū)域查詢性能差實戰(zhàn)技巧分片鍵的選擇要同時考慮數(shù)據(jù)的分布均勻性和查詢模式。我們曾經(jīng)用訂單ID做分片鍵結(jié)果發(fā)現(xiàn)90%的查詢都帶有用戶ID條件導(dǎo)致大量跨庫查詢。后來改為(user_id, order_id)聯(lián)合分片鍵才解決問題。4. 分庫分表中間件深度解析4.1 ShardingSphere實戰(zhàn)ShardingSphere是目前最流行的分庫分表中間件支持JDBC和Proxy兩種模式。以下是一個完整的配置示例# application-sharding.yml spring: shardingsphere: datasource: names: ds0,ds1 ds0: type: com.zaxxer.hikari.HikariDataSource driver-class-name: com.mysql.cj.jdbc.Driver jdbc-url: jdbc:mysql://db-host-1:3306/order_db?useSSLfalse username: root password: 123456 ds1: type: com.zaxxer.hikari.HikariDataSource driver-class-name: com.mysql.cj.jdbc.Driver jdbc-url: jdbc:mysql://db-host-2:3306/order_db?useSSLfalse username: root password: 123456 rules: sharding: tables: t_order: actual-data-nodes: ds$-{0..1}.t_order_$-{0..15} database-strategy: standard: sharding-column: user_id precise-algorithm-class-name: com.example.algorithm.UserIdPreciseShardingAlgorithm table-strategy: standard: sharding-column: order_id precise-algorithm-class-name: com.example.algorithm.OrderIdPreciseShardingAlgorithm key-generate-strategy: column: id key-generator-name: snowflake key-generators: snowflake: type: SNOWFLAKE props: worker-id: 123關(guān)鍵配置解析actual-data-nodes定義物理表分布支持Groovy表達式sharding-column分片字段建議選擇區(qū)分度高且查詢頻繁的字段precise-algorithm-class-name自定義分片算法實現(xiàn)PreciseShardingAlgorithm接口性能優(yōu)化在高并發(fā)場景下建議啟用ShardingSphere的SQL緩存功能props: sql-show: true sql-simple: true max.connections.size.per.query: 54.2 MyCat與ShardingSphere對比特性ShardingSphereMyCat架構(gòu)模式JDBC/ProxyProxy性能損耗低JDBC直連中等網(wǎng)絡(luò)跳轉(zhuǎn)功能完整性完善較完善社區(qū)活躍度高一般學(xué)習曲線中等簡單適合場景中大型互聯(lián)網(wǎng)公司傳統(tǒng)企業(yè)選型建議新項目建議直接用ShardingSphere-JDBC老系統(tǒng)改造可以考慮MyCat。5. 跨庫查詢解決方案實戰(zhàn)5.1 禁止跨庫JOIN的替代方案原始SQLSELECT o.*, u.name FROM orders o JOIN users u ON o.user_id u.id WHERE o.status PAID改造方案先查詢用戶ID列表ListLong userIds orderMapper.selectUserIdsByStatus(PAID);批量查詢用戶信息MapLong, User userMap userMapper.selectByIds(userIds).stream() .collect(Collectors.toMap(User::getId, Function.identity()));業(yè)務(wù)層組裝數(shù)據(jù)ListOrderDTO dtos orders.stream() .map(o - { OrderDTO dto convert(o); dto.setUserName(userMap.get(o.getUserId()).getName()); return dto; }) .collect(Collectors.toList());5.2 異構(gòu)表設(shè)計技巧對于頻繁需要關(guān)聯(lián)查詢的場景可以采用數(shù)據(jù)冗余方案CREATE TABLE t_order ( id BIGINT PRIMARY KEY, user_id BIGINT NOT NULL, user_name VARCHAR(50) COMMENT 冗余字段, user_level INT COMMENT 冗余字段, amount DECIMAL(10,2), status VARCHAR(20), created_at DATETIME, INDEX idx_user_id (user_id) );同步方案使用觸發(fā)器不推薦影響性能應(yīng)用層雙寫需要保證事務(wù)通過CDC工具如Canal捕獲變更5.3 搜索引擎整合對于復(fù)雜的多維度查詢可以引入Elasticsearch// 數(shù)據(jù)同步邏輯 Transactional public void createOrder(Order order) { // 1. 寫入數(shù)據(jù)庫 orderMapper.insert(order); // 2. 異步寫入ES CompletableFuture.runAsync(() - { esClient.index( IndexRequest.of(ir - ir .index(orders) .id(order.getId().toString()) .document(convertToEsDoc(order)) ) ); }, esThreadPool); }性能數(shù)據(jù)我們某個系統(tǒng)的訂單查詢接口從直接查分庫分表平均120ms改為查ES后P99降到了35ms。6. 分布式ID生成方案對比6.1 Snowflake算法優(yōu)化原生Snowflake算法存在時鐘回撥問題改進方案public class EnhancedSnowflake { private long lastTimestamp -1L; private long sequence 0L; public synchronized long nextId() { long timestamp timeGen(); if (timestamp lastTimestamp) { // 時鐘回撥處理 long offset lastTimestamp - timestamp; if (offset 5) { try { wait(offset 1); timestamp timeGen(); } catch (InterruptedException e) { throw new RuntimeException(e); } } else { throw new RuntimeException(Clock moved backwards); } } if (lastTimestamp timestamp) { sequence (sequence 1) sequenceMask; if (sequence 0) { timestamp tilNextMillis(lastTimestamp); } } else { sequence 0L; } lastTimestamp timestamp; return ((timestamp - twepoch) timestampLeftShift) | (datacenterId datacenterIdShift) | (workerId workerIdShift) | sequence; } }6.2 其他ID方案對比方案優(yōu)點缺點適用場景數(shù)據(jù)庫自增簡單可靠有性能瓶頸小規(guī)模系統(tǒng)Redis INCR性能好依賴Redis需要高QPS生成UUID無中心化無序、存儲空間大臨時數(shù)據(jù)標識Leaf-segment高性能、可擴展需要DB支持中大型互聯(lián)網(wǎng)公司7. 分庫分表后的運維挑戰(zhàn)7.1 擴容數(shù)據(jù)遷移方案雙寫遷移流程上線新分片規(guī)則同時寫新舊庫后臺任務(wù)逐步遷移歷史數(shù)據(jù)數(shù)據(jù)校驗確保一致性切換讀請求到新庫下線舊庫寫入// 雙寫示例 public void createOrder(Order order) { // 獲取新老分片目標 String newTarget calculateNewShard(order); String oldTarget calculateOldShard(order); // 開啟事務(wù) TransactionTemplate template new TransactionTemplate(transactionManager); template.execute(status - { // 寫入新庫 newOrderMapper.insert(newTarget, order); // 寫入舊庫 oldOrderMapper.insert(oldTarget, order); return null; }); }7.2 分頁查詢優(yōu)化方案深分頁優(yōu)化方案對比方案實現(xiàn)復(fù)雜度性能適用場景游標分頁低優(yōu)有序ID分頁二次查詢中良非主鍵排序搜索引擎高優(yōu)復(fù)雜條件分頁內(nèi)存分頁低差小數(shù)據(jù)量游標分頁實現(xiàn)示例-- 第一頁 SELECT * FROM orders WHERE user_id 123 ORDER BY id LIMIT 10; -- 后續(xù)頁使用上一頁最后一條記錄的ID SELECT * FROM orders WHERE user_id 123 AND id 上一頁最后ID ORDER BY id LIMIT 10;8. 分布式事務(wù)解決方案8.1 Seata AT模式實戰(zhàn)GlobalTransactional public void placeOrder(OrderRequest request) { // 1. 扣減庫存 productService.reduceStock(request.getProductId(), request.getQuantity()); // 2. 創(chuàng)建訂單 Order order createOrder(request); orderMapper.insert(order); // 3. 扣減余額 accountService.debit(request.getUserId(), order.getAmount()); }AT模式執(zhí)行流程解析SQL生成前后鏡像注冊分支事務(wù)報告全局事務(wù)狀態(tài)異步進行二階段提交/回滾8.2 TCC模式設(shè)計要點public interface OrderTccService { TwoPhaseBusinessAction(name createOrder, commitMethod commit, rollbackMethod rollback) boolean tryCreateOrder(Order order); boolean commit(Order order); boolean rollback(Order order); }TCC注意事項空回滾問題需要判斷try是否執(zhí)行冪等控制網(wǎng)絡(luò)重試可能導(dǎo)致重復(fù)調(diào)用懸掛問題cancel比try先執(zhí)行9. 監(jiān)控與調(diào)優(yōu)實戰(zhàn)9.1 關(guān)鍵監(jiān)控指標# ShardingSphere監(jiān)控指標示例 shardingsphere_statement_latency_milliseconds_sum{typeSELECT} 1500 shardingsphere_statement_total{typeINSERT} 12000 shardingsphere_routed_data_sources_total 4 shardingsphere_routed_tables_total 32監(jiān)控大盤建議分庫分表路由統(tǒng)計SQL執(zhí)行耗時分布分布式事務(wù)成功率連接池使用情況9.2 性能調(diào)優(yōu)案例問題現(xiàn)象某系統(tǒng)分庫分表后查詢性能反而下降。排查過程發(fā)現(xiàn)大量IN查詢跨多個分片跟蹤SQL日志確認分片鍵使用不當分析業(yè)務(wù)場景90%查詢都帶有create_time條件解決方案將分片鍵從user_id改為(create_time, user_id)組合建立月份分表如orders_202301增加本地緩存減少跨分片查詢優(yōu)化效果平均響應(yīng)時間從320ms降到85ms數(shù)據(jù)庫CPU使用率從70%降到35%10. 分庫分表的最佳實踐經(jīng)過多個項目的實戰(zhàn)我總結(jié)了以下黃金法則分片鍵選擇三原則查詢必須帶分片鍵條件數(shù)據(jù)分布均勻避免跨分片查詢擴容預(yù)留空間初始設(shè)計時就考慮2-3倍的擴容空間比如預(yù)計3年數(shù)據(jù)量按6年容量設(shè)計分片數(shù)冷熱據(jù)分離熱數(shù)據(jù)最近3個月用SSD存儲溫數(shù)據(jù)3-12個月用普通磁盤冷數(shù)據(jù)歸檔到對象存儲避免過度設(shè)計單表百萬級不必分表單庫千萬級不必分庫能用讀寫分離解決的不用分庫分表工具鏈建設(shè)數(shù)據(jù)遷移工具分片鍵在線修改工具數(shù)據(jù)校驗工具最后給個實用建議在實施分庫分表前先用現(xiàn)有數(shù)據(jù)做全量壓測模擬分片后的查詢模式這樣可以提前發(fā)現(xiàn)大部分潛在問題。我們曾經(jīng)用這個方法避免了上線后的三次重大事故。 數(shù)據(jù)庫分庫分表實戰(zhàn)：解決億級數(shù)據(jù)性能瓶頸
1. 數(shù)據(jù)庫分庫分表從理論到實戰(zhàn)的全方位解析作為經(jīng)歷過多個億級用戶系統(tǒng)的架構(gòu)師我深刻理解當數(shù)據(jù)量突破單機數(shù)據(jù)庫承載能力時的痛苦。記得有一次凌晨三點我們的訂單數(shù)據(jù)庫因為單表數(shù)據(jù)量超過2億條導(dǎo)致核心交易接口響應(yīng)時間從200ms飆升到8秒整個技術(shù)團隊被迫通宵緊急擴容。正是這次事故讓我意識到分庫分表不是可選項而是高并發(fā)系統(tǒng)發(fā)展到一定階段的必選項。2. 為什么需要分庫分表2.1 單機數(shù)據(jù)庫的性能瓶頸當數(shù)據(jù)量達到千萬級甚至億級時單機數(shù)據(jù)庫會面臨四大核心問題查詢性能斷崖式下跌以MySQL的InnoDB引擎為例當單表數(shù)據(jù)超過500萬行后即使有索引查詢延遲也會顯著增加。這是因為B樹索引的層級會隨著數(shù)據(jù)量增長而加深通常數(shù)據(jù)量500萬B樹3層數(shù)據(jù)量5000萬B樹4層數(shù)據(jù)量5億B樹5層 每增加一層就意味著多一次磁盤I/O性能自然下降。索引效率降低我曾經(jīng)處理過一個案例某用戶表有3億數(shù)據(jù)雖然建立了手機號的唯一索引但由于索引樹過高簡單的SELECT * FROM users WHERE mobile13800138000查詢也需要300ms這在業(yè)務(wù)高峰期是完全不可接受的。連接數(shù)成為瓶頸MySQL默認的最大連接數(shù)是1515.7版本在高并發(fā)場景下很容易被打滿。雖然可以通過參數(shù)調(diào)整但單機連接數(shù)超過1000后上下文切換的開銷會顯著增加CPU負載。存儲空間限制即使使用SSD單塊磁盤的容量和IOPS也是有限的。我們曾經(jīng)有個日志表每月增長1TB不到半年就把服務(wù)器磁盤撐爆了。實戰(zhàn)經(jīng)驗不要等到系統(tǒng)報警才考慮分庫分表。建議單表數(shù)據(jù)量達到以下閾值時開始規(guī)劃OLTP業(yè)務(wù)表500萬行日志類表2000萬行配置類表可適當放寬到1000萬行3. 分庫分表的核心策略3.1 垂直拆分按業(yè)務(wù)維度切分垂直拆分是最容易理解的拆分方式它遵循專業(yè)的人做專業(yè)的事原則。以電商系統(tǒng)為例拆分前單一數(shù)據(jù)庫(ecommerce_db) ├── users ├── orders ├── products ├── payments └── logistics拆分后用戶庫(user_db) └── users 訂單庫(order_db) └── orders 商品庫(product_db) └── products實施要點拆分后各庫應(yīng)部署在不同物理服務(wù)器上避免共享資源需要重構(gòu)事務(wù)代碼跨庫事務(wù)要改為分布式事務(wù)公共配置數(shù)據(jù)如地區(qū)編碼需要同步或冗余踩坑記錄我們曾經(jīng)在拆分后將用戶庫和訂單庫放在同一臺物理機結(jié)果高峰期兩個業(yè)務(wù)互相影響。后來發(fā)現(xiàn)即使做了容器隔離底層磁盤IO仍然是共享的。3.2 水平拆分按數(shù)據(jù)規(guī)則切分水平拆分是解決單表數(shù)據(jù)過大的終極方案。常見的分片算法包括3.2.1 哈希取模法-- 按user_id分4個表 SELECT * FROM users_${user_id % 4} WHERE user_id 12345優(yōu)點數(shù)據(jù)分布均勻缺點擴容困難需要遷移數(shù)據(jù)3.2.2 范圍分片-- 按創(chuàng)建時間分表 SELECT * FROM orders_2023 WHERE created_at BETWEEN 2023-01-01 AND 2023-12-31優(yōu)點易于擴容冷熱數(shù)據(jù)分離方便缺點可能產(chǎn)生熱點問題3.2.3 一致性哈希使用虛擬節(jié)點解決擴容問題適合需要頻繁擴容的場景。分片鍵選擇對比表分片鍵類型適用場景優(yōu)點缺點用戶ID用戶中心系統(tǒng)用戶數(shù)據(jù)集中大用戶可能成熱點訂單ID交易系統(tǒng)避免熱點關(guān)聯(lián)查詢困難時間日志/統(tǒng)計系統(tǒng)方便冷熱分離近期數(shù)據(jù)可能成熱點地理區(qū)域本地生活服務(wù)符合業(yè)務(wù)特性跨區(qū)域查詢性能差實戰(zhàn)技巧分片鍵的選擇要同時考慮數(shù)據(jù)的分布均勻性和查詢模式。我們曾經(jīng)用訂單ID做分片鍵結(jié)果發(fā)現(xiàn)90%的查詢都帶有用戶ID條件導(dǎo)致大量跨庫查詢。后來改為(user_id, order_id)聯(lián)合分片鍵才解決問題。4. 分庫分表中間件深度解析4.1 ShardingSphere實戰(zhàn)ShardingSphere是目前最流行的分庫分表中間件支持JDBC和Proxy兩種模式。以下是一個完整的配置示例# application-sharding.yml spring: shardingsphere: datasource: names: ds0,ds1 ds0: type: com.zaxxer.hikari.HikariDataSource driver-class-name: com.mysql.cj.jdbc.Driver jdbc-url: jdbc:mysql://db-host-1:3306/order_db?useSSLfalse username: root password: 123456 ds1: type: com.zaxxer.hikari.HikariDataSource driver-class-name: com.mysql.cj.jdbc.Driver jdbc-url: jdbc:mysql://db-host-2:3306/order_db?useSSLfalse username: root password: 123456 rules: sharding: tables: t_order: actual-data-nodes: ds$-{0..1}.t_order_$-{0..15} database-strategy: standard: sharding-column: user_id precise-algorithm-class-name: com.example.algorithm.UserIdPreciseShardingAlgorithm table-strategy: standard: sharding-column: order_id precise-algorithm-class-name: com.example.algorithm.OrderIdPreciseShardingAlgorithm key-generate-strategy: column: id key-generator-name: snowflake key-generators: snowflake: type: SNOWFLAKE props: worker-id: 123關(guān)鍵配置解析actual-data-nodes定義物理表分布支持Groovy表達式sharding-column分片字段建議選擇區(qū)分度高且查詢頻繁的字段precise-algorithm-class-name自定義分片算法實現(xiàn)PreciseShardingAlgorithm接口性能優(yōu)化在高并發(fā)場景下建議啟用ShardingSphere的SQL緩存功能props: sql-show: true sql-simple: true max.connections.size.per.query: 54.2 MyCat與ShardingSphere對比特性ShardingSphereMyCat架構(gòu)模式JDBC/ProxyProxy性能損耗低JDBC直連中等網(wǎng)絡(luò)跳轉(zhuǎn)功能完整性完善較完善社區(qū)活躍度高一般學(xué)習曲線中等簡單適合場景中大型互聯(lián)網(wǎng)公司傳統(tǒng)企業(yè)選型建議新項目建議直接用ShardingSphere-JDBC老系統(tǒng)改造可以考慮MyCat。5. 跨庫查詢解決方案實戰(zhàn)5.1 禁止跨庫JOIN的替代方案原始SQLSELECT o.*, u.name FROM orders o JOIN users u ON o.user_id u.id WHERE o.status PAID改造方案先查詢用戶ID列表ListLong userIds orderMapper.selectUserIdsByStatus(PAID);批量查詢用戶信息MapLong, User userMap userMapper.selectByIds(userIds).stream() .collect(Collectors.toMap(User::getId, Function.identity()));業(yè)務(wù)層組裝數(shù)據(jù)ListOrderDTO dtos orders.stream() .map(o - { OrderDTO dto convert(o); dto.setUserName(userMap.get(o.getUserId()).getName()); return dto; }) .collect(Collectors.toList());5.2 異構(gòu)表設(shè)計技巧對于頻繁需要關(guān)聯(lián)查詢的場景可以采用數(shù)據(jù)冗余方案CREATE TABLE t_order ( id BIGINT PRIMARY KEY, user_id BIGINT NOT NULL, user_name VARCHAR(50) COMMENT 冗余字段, user_level INT COMMENT 冗余字段, amount DECIMAL(10,2), status VARCHAR(20), created_at DATETIME, INDEX idx_user_id (user_id) );同步方案使用觸發(fā)器不推薦影響性能應(yīng)用層雙寫需要保證事務(wù)通過CDC工具如Canal捕獲變更5.3 搜索引擎整合對于復(fù)雜的多維度查詢可以引入Elasticsearch// 數(shù)據(jù)同步邏輯 Transactional public void createOrder(Order order) { // 1. 寫入數(shù)據(jù)庫 orderMapper.insert(order); // 2. 異步寫入ES CompletableFuture.runAsync(() - { esClient.index( IndexRequest.of(ir - ir .index(orders) .id(order.getId().toString()) .document(convertToEsDoc(order)) ) ); }, esThreadPool); }性能數(shù)據(jù)我們某個系統(tǒng)的訂單查詢接口從直接查分庫分表平均120ms改為查ES后P99降到了35ms。6. 分布式ID生成方案對比6.1 Snowflake算法優(yōu)化原生Snowflake算法存在時鐘回撥問題改進方案public class EnhancedSnowflake { private long lastTimestamp -1L; private long sequence 0L; public synchronized long nextId() { long timestamp timeGen(); if (timestamp lastTimestamp) { // 時鐘回撥處理 long offset lastTimestamp - timestamp; if (offset 5) { try { wait(offset 1); timestamp timeGen(); } catch (InterruptedException e) { throw new RuntimeException(e); } } else { throw new RuntimeException(Clock moved backwards); } } if (lastTimestamp timestamp) { sequence (sequence 1) sequenceMask; if (sequence 0) { timestamp tilNextMillis(lastTimestamp); } } else { sequence 0L; } lastTimestamp timestamp; return ((timestamp - twepoch) timestampLeftShift) | (datacenterId datacenterIdShift) | (workerId workerIdShift) | sequence; } }6.2 其他ID方案對比方案優(yōu)點缺點適用場景數(shù)據(jù)庫自增簡單可靠有性能瓶頸小規(guī)模系統(tǒng)Redis INCR性能好依賴Redis需要高QPS生成UUID無中心化無序、存儲空間大臨時數(shù)據(jù)標識Leaf-segment高性能、可擴展需要DB支持中大型互聯(lián)網(wǎng)公司7. 分庫分表后的運維挑戰(zhàn)7.1 擴容數(shù)據(jù)遷移方案雙寫遷移流程上線新分片規(guī)則同時寫新舊庫后臺任務(wù)逐步遷移歷史數(shù)據(jù)數(shù)據(jù)校驗確保一致性切換讀請求到新庫下線舊庫寫入// 雙寫示例 public void createOrder(Order order) { // 獲取新老分片目標 String newTarget calculateNewShard(order); String oldTarget calculateOldShard(order); // 開啟事務(wù) TransactionTemplate template new TransactionTemplate(transactionManager); template.execute(status - { // 寫入新庫 newOrderMapper.insert(newTarget, order); // 寫入舊庫 oldOrderMapper.insert(oldTarget, order); return null; }); }7.2 分頁查詢優(yōu)化方案深分頁優(yōu)化方案對比方案實現(xiàn)復(fù)雜度性能適用場景游標分頁低優(yōu)有序ID分頁二次查詢中良非主鍵排序搜索引擎高優(yōu)復(fù)雜條件分頁內(nèi)存分頁低差小數(shù)據(jù)量游標分頁實現(xiàn)示例-- 第一頁 SELECT * FROM orders WHERE user_id 123 ORDER BY id LIMIT 10; -- 后續(xù)頁使用上一頁最后一條記錄的ID SELECT * FROM orders WHERE user_id 123 AND id 上一頁最后ID ORDER BY id LIMIT 10;8. 分布式事務(wù)解決方案8.1 Seata AT模式實戰(zhàn)GlobalTransactional public void placeOrder(OrderRequest request) { // 1. 扣減庫存 productService.reduceStock(request.getProductId(), request.getQuantity()); // 2. 創(chuàng)建訂單 Order order createOrder(request); orderMapper.insert(order); // 3. 扣減余額 accountService.debit(request.getUserId(), order.getAmount()); }AT模式執(zhí)行流程解析SQL生成前后鏡像注冊分支事務(wù)報告全局事務(wù)狀態(tài)異步進行二階段提交/回滾8.2 TCC模式設(shè)計要點public interface OrderTccService { TwoPhaseBusinessAction(name createOrder, commitMethod commit, rollbackMethod rollback) boolean tryCreateOrder(Order order); boolean commit(Order order); boolean rollback(Order order); }TCC注意事項空回滾問題需要判斷try是否執(zhí)行冪等控制網(wǎng)絡(luò)重試可能導(dǎo)致重復(fù)調(diào)用懸掛問題cancel比try先執(zhí)行9. 監(jiān)控與調(diào)優(yōu)實戰(zhàn)9.1 關(guān)鍵監(jiān)控指標# ShardingSphere監(jiān)控指標示例 shardingsphere_statement_latency_milliseconds_sum{typeSELECT} 1500 shardingsphere_statement_total{typeINSERT} 12000 shardingsphere_routed_data_sources_total 4 shardingsphere_routed_tables_total 32監(jiān)控大盤建議分庫分表路由統(tǒng)計SQL執(zhí)行耗時分布分布式事務(wù)成功率連接池使用情況9.2 性能調(diào)優(yōu)案例問題現(xiàn)象某系統(tǒng)分庫分表后查詢性能反而下降。排查過程發(fā)現(xiàn)大量IN查詢跨多個分片跟蹤SQL日志確認分片鍵使用不當分析業(yè)務(wù)場景90%查詢都帶有create_time條件解決方案將分片鍵從user_id改為(create_time, user_id)組合建立月份分表如orders_202301增加本地緩存減少跨分片查詢優(yōu)化效果平均響應(yīng)時間從320ms降到85ms數(shù)據(jù)庫CPU使用率從70%降到35%10. 分庫分表的最佳實踐經(jīng)過多個項目的實戰(zhàn)我總結(jié)了以下黃金法則分片鍵選擇三原則查詢必須帶分片鍵條件數(shù)據(jù)分布均勻避免跨分片查詢擴容預(yù)留空間初始設(shè)計時就考慮2-3倍的擴容空間比如預(yù)計3年數(shù)據(jù)量按6年容量設(shè)計分片數(shù)冷熱據(jù)分離熱數(shù)據(jù)最近3個月用SSD存儲溫數(shù)據(jù)3-12個月用普通磁盤冷數(shù)據(jù)歸檔到對象存儲避免過度設(shè)計單表百萬級不必分表單庫千萬級不必分庫能用讀寫分離解決的不用分庫分表工具鏈建設(shè)數(shù)據(jù)遷移工具分片鍵在線修改工具數(shù)據(jù)校驗工具最后給個實用建議在實施分庫分表前先用現(xiàn)有數(shù)據(jù)做全量壓測模擬分片后的查詢模式這樣可以提前發(fā)現(xiàn)大部分潛在問題。我們曾經(jīng)用這個方法避免了上線后的三次重大事故。