在MySQL運維中,研發(fā)同事想對比下兩個不同實例上的數(shù)據(jù)并找出差異,除主鍵外還需要對比每一個字段,如何做呢?
第一種方案,寫程序?qū)蓚€實例上的每一行數(shù)據(jù)取出來進(jìn)行對比,理論可行,但是對比時間較長。
第二種方案,對每一行數(shù)據(jù)所有字段合并起來,取checksum值,再按照checksum值對比,看著可行,嘗試下。
首先要合并所有字段的值,選用MySQL提供的CONCAT函數(shù),如果CONCAT函數(shù)中包含NULL值,會導(dǎo)致最終結(jié)果為NULL,因此需要使用IFNULL函數(shù)來替換NULL值,如:
CONCAT(IFNULL(C1,''),IFNULL(C2,''))
加入表有很多行,手動拼個腳本比較累,別急,可以使用information_schema.COLUMNS來處理:
## 獲取列名的拼接串 SELECT GROUP_CONCAT('IFNULL(',COLUMN_NAME,','''')') FROM information_schema.COLUMNS WHERE TABLE_NAME='table_name';
假設(shè)我們有測試表:
CREATE TABLE t_test01 ( id INT AUTO_INCREMENT PRIMARY KEY, C1 INT, C2 INT )
我們便可以拼接出下面的SQL:
SELECT id, MD5(CONCAT( IFNULL(id,''), IFNULL(c1,''), IFNULL(c2,''), )) AS md5_value FROM t_test01
在兩個實例上執(zhí)行下,然后把結(jié)果使用beyond compare對比下,就很容易找出不相同的行以及主鍵ID
對于數(shù)據(jù)量較大的表,執(zhí)行出來的結(jié)果集也很大,對比起來比較費勁,那就先嘗試縮小結(jié)果集,可以將多行記錄的md5值合并起來求MD5值,如果最后MD5值相同,則這些行相同,如果不同,則證明存在差異,再按照這些行進(jìn)行逐行對比。
假設(shè)我們按照1000行一組來進(jìn)行對比,如果需要將分組后的結(jié)果合并,需要使用GROUP_CONCAT函數(shù),注意在GROUP_CONCAT函數(shù)中添加排序保證合并數(shù)據(jù)的順序, SQL如下:
SELECT min(id) as min_id, max(id) as max_id, count(1) as row_count, MD5(GROUP_CONCAT( MD5(CONCAT( IFNULL(id,''), IFNULL(c1,''), IFNULL(c2,''), )) ORDER BY id ))AS md5_value FROM t_test01 GROUP BY (id div 1000)
執(zhí)行結(jié)果為:
min_id max_id row_count md5_value 0 999 1000 7d49def23611f610849ef559677fec0c 1000 1999 1000 95d61931aa5d3b48f1e38b3550daee08 2000 2999 1000 b02612548fae8a4455418365b3ae611a 3000 3999 1000 fe798602ab9dd1c69b36a0da568b6dbb
當(dāng)差異數(shù)據(jù)較少時,即使需要對比上千萬數(shù)據(jù),我們可以輕松根據(jù)根據(jù)min_id和max_id來快速定位到哪1000條數(shù)據(jù)里存在差異,再進(jìn)行逐行MD5值對比,最終找到差異行。
在使用GROUP_CONCAT時,需要配置MySQL變量group_concat_max_len,默認(rèn)值為1024,超出部分會被階段。