MySQL實(shí)戰(zhàn)之Insert語句的使用心得
INSERT INTO table (`a`, `b`, `c`, ……) VALUES (’a’, ’b’, ’c’, ……);
這里不再贅述,注意順序即可,不建議小伙伴們?nèi)サ羟懊胬ㄌ柕膬?nèi)容,別問為什么,容易被同事罵。
1-2.插入或更新如果我們希望插入一條新記錄(INSERT),但如果記錄已經(jīng)存在,就更新該記錄,此時,可以使用'INSERT INTO … ON DUPLICATE KEY UPDATE …'語句:
情景示例:這張表存了用戶歷史充值金額,如果第一次充值就新增一條數(shù)據(jù),如果該用戶充值過就累加歷史充值金額,需要保證單個用戶數(shù)據(jù)不重復(fù)錄入。
這時可以使用'INSERT INTO … ON DUPLICATE KEY UPDATE …'語句。
注意事項:'INSERT INTO … ON DUPLICATE KEY UPDATE …'語句是基于唯一索引或主鍵來判斷唯一(是否存在)的。如下SQL所示,需要在username字段上建立唯一索引(Unique),transId設(shè)置自增即可。
-- 用戶陳哈哈充值了30元買會員INSERT INTO total_transaction (t_transId,username,total_amount,last_transTime,last_remark) VALUES (null, ’chenhaha’, 30, ’2020-06-11 20:00:20’, ’充會員’) ON DUPLICATE KEY UPDATE total_amount=total_amount + 30, last_transTime=’2020-06-11 20:00:20’, last_remark =’充會員’; -- 用戶陳哈哈充值了100元買瞎子至高之拳皮膚INSERT INTO total_transaction (t_transId,username,total_amount,last_transTime,last_remark) VALUES (null, ’chenhaha’, 100, ’2020-06-11 20:00:20’, ’購買盲僧至高之拳皮膚’) ON DUPLICATE KEY UPDATE total_amount=total_amount + 100, last_transTime=’2020-06-11 21:00:00’, last_remark =’購買盲僧至高之拳皮膚’;
若username=’chenhaha’的記錄不存在,INSERT語句將插入新記錄,否則,當(dāng)前username=’chenhaha’的記錄將被更新,更新的字段由UPDATE指定。
對了,ON DUPLICATE KEY UPDATE為MySQL特有語法,比如在MySQL遷移Oracle或其他DB時,類似的語句要改為MERGE INTO語法,兼容性讓人想罵街。但沒辦法,就像用WPS寫的xlsx用Office無法打開一樣。
1-3.插入或替換如果我們想插入一條新記錄(INSERT),但如果記錄已經(jīng)存在,就先刪除原記錄,再插入新記錄。
情景示例:這張表存的每個客戶最近一次交易訂單信息,要求保證單個用戶數(shù)據(jù)不重復(fù)錄入,且執(zhí)行效率最高,與數(shù)據(jù)庫交互最少,支撐數(shù)據(jù)庫的高可用。
此時,可以使用'REPLACE INTO'語句,這樣就不必先查詢,再決定是否先刪除再插入。
'REPLACE INTO'語句是基于唯一索引或主鍵來判斷唯一(是否存在)的。'REPLACE INTO'語句是基于唯一索引或主鍵來判斷唯一(是否存在)的。'REPLACE INTO'語句是基于唯一索引或主鍵來判斷唯一(是否存在)的。
注意事項:如下SQL所示,需要在username字段上建立唯一索引(Unique),transId設(shè)置自增即可。
-- 20點(diǎn)充值REPLACE INTO last_transaction (transId,username,amount,trans_time,remark) VALUES (null, ’chenhaha’, 30, ’2020-06-11 20:00:20’, ’會員充值’); -- 21點(diǎn)買皮膚REPLACE INTO last_transaction (transId,username,amount,trans_time,remark) VALUES (null, ’chenhaha’, 100, ’2020-06-11 21:00:00’, ’購買盲僧至高之拳皮膚’);
若username=’chenhaha’的記錄不存在,REPLACE語句將插入新記錄(首次充值),否則,當(dāng)前username=’chenhaha’的記錄將被刪除,然后再插入新記錄。
id不要給具體值,不然會影響SQL執(zhí)行,業(yè)務(wù)有特殊需求除外。
小tips:ON DUPLICATE KEY UPDATE:如果插入行出現(xiàn)唯一索引或者主鍵重復(fù)時,則執(zhí)行舊的update;如果不會導(dǎo)致唯一索引或者主鍵重復(fù)時,就直接添加新行。REPLACE INTO:如果插入行出現(xiàn)唯一索引或者主鍵重復(fù)時,則delete老記錄,而錄入新的記錄;如果不會導(dǎo)致唯一索引或者主鍵重復(fù)時,就直接添加新行。
replace into 與 insert on deplicate udpate 比較:
1、在沒有主鍵或者唯一索引重復(fù)時,replace into 與 insert on deplicate udpate 相同。
2、在主鍵或者唯一索引重復(fù)時,replace是delete老記錄,而錄入新的記錄,所以原有的所有記錄會被清除,這個時候,如果replace語句的字段不全的話,有些原有的比如c字段的值會被自動填充為默認(rèn)值(如Null)。
3、細(xì)心地朋友們會發(fā)現(xiàn),insert on deplicate udpate只是影響一行,而REPLACE INTO可能影響多行,為什么呢?寫在文章最后一節(jié)咯~
1-4.插入或忽略如果我們希望插入一條新記錄(INSERT),但如果記錄已經(jīng)存在,就啥事也不干直接忽略,此時,可以使用INSERT IGNORE INTO …語句:情景很多,不再舉例贅述。
注意事項:同上,'INSERT IGNORE INTO …'語句是基于唯一索引或主鍵來判斷唯一(是否存在)的,需要在username字段上建立唯一索引(Unique),transId設(shè)置自增即可。
-- 用戶首次添加INSERT IGNORE INTO users_info (id, username, sex, age ,balance, create_time) VALUES (null, ’chenhaha’, ’男’, 26, 0, ’2020-06-11 20:00:20’); -- 二次添加,直接忽略INSERT IGNORE INTO users_info (id, username, sex, age ,balance, create_time) VALUES (null, ’chenhaha’, ’男’, 26, 0, ’2020-06-11 21:00:20’);二、大量數(shù)據(jù)插入2-1、三種處理方式2-1-1、單條循環(huán)插入
我們?nèi)?0w條數(shù)據(jù)進(jìn)行了一些測試,如果插入方式為程序遍歷循環(huán)逐條插入。在mysql上檢測插入一條的速度在0.01s到0.03s之間。
逐條插入的平均速度是0.02*100000,也就是33分鐘左右。
下面代碼是測試?yán)樱?/p>
1普通循環(huán)插入100000條數(shù)據(jù)的時間測試
@Test public void insertUsers1() { User user = new User(); user.setUserName('提莫隊長'); user.setPassword('正在送命'); user.setPrice(3150); user.setHobby('種蘑菇'); for (int i = 0; i < 100000; i++) { user.setUserName('提莫隊長' + i); // 調(diào)用插入方法 userMapper.insertUser(user); } }
執(zhí)行速度是30分鐘也就是0.018*100000的速度。可以說是很慢了
發(fā)現(xiàn)逐條插入優(yōu)化成本太高。然后去查詢優(yōu)化方式。發(fā)現(xiàn)用批量插入的方法可以顯著提高速度。
將100000條數(shù)據(jù)的插入速度提升到1-2分鐘左右↓
2-1-2、修改SQL語句批量插入insert into user_info (user_id,username,password,price,hobby) values (null,’提莫隊長1’,’123456’,3150,’種蘑菇’),(null,’蓋倫’,’123456’,450,’踩蘑菇’);
用批量插入插入100000條數(shù)據(jù),測試代碼如下:
@Test public void insertUsers2() { List<User> list= new ArrayList<User>(); User user = new User(); user.setPassword('正在送命'); user.setPrice(3150); user.setHobby('種蘑菇'); for (int i = 0; i < 100000; i++) { user.setUserName('提莫隊長' + i); // 將單個對象放入?yún)?shù)list中 list.add(user); } userMapper.insertListUser(list); }
批量插入使用了0.046s 這相當(dāng)于插入一兩條數(shù)據(jù)的速度,所以用批量插入會大大提升數(shù)據(jù)插入速度,當(dāng)有較大數(shù)據(jù)插入操作是用批量插入優(yōu)化
批量插入的寫法:
dao定義層方法:
Integer insertListUser(List<User> user);
mybatis Mapper中的sql寫法:
<insert parameterType='java.util.List'> INSERT INTO `db`.`user_info` ( `id`, `username`, `password`, `price`, `hobby`) values <foreach collection='list' item='item' separator=',' index='index'> (null, #{item.userName}, #{item.password}, #{item.price}, #{item.hobby}) </foreach> </insert>
這樣就能進(jìn)行批量插入操作:
注:但是當(dāng)批量操作數(shù)據(jù)量很大的時候。例如我插入10w條數(shù)據(jù)的SQL語句要操作的數(shù)據(jù)包超過了1M,MySQL會報如下錯:
報錯信息:
Mysql You can change this value on the server by setting the max_allowed_packet’ variable. Packet for query is too large (6832997 > 1048576). You can change this value on the server by setting the max_allowed_packet’ variable.
解釋:
用于查詢的數(shù)據(jù)包太大(6832997> 1048576)。 您可以通過設(shè)置max_allowed_packet的變量來更改服務(wù)器上的這個值。
通過解釋可以看到用于操作的包太大。這里要插入的SQL內(nèi)容數(shù)據(jù)大小為6M 所以報錯。
解決方法:
數(shù)據(jù)庫是MySQL57,查了一下資料是MySQL的一個系統(tǒng)參數(shù)問題:
max_allowed_packet,其默認(rèn)值為1048576(1M),
查詢:
show VARIABLES like ’%max_allowed_packet%’;
修改此變量的值:MySQL安裝目錄下的my.ini(windows)或/etc/mysql.cnf(linux) 文件中的[mysqld]段中的
max_allowed_packet = 1M,如更改為20M(或更大,如果沒有這行內(nèi)容,增加這一行),如下圖
保存,重啟MySQL服務(wù)。現(xiàn)在可以執(zhí)行size大于1M小于20M的SQL語句了。
但是如果20M也不夠呢?
2-1-3、分批量多次循環(huán)插入如果不方便修改數(shù)據(jù)庫配置或需要插入的內(nèi)容太多時,也可以通過后端代碼控制,比如插入10w條數(shù)據(jù),分100批次每次插入1000條即可,也就是幾秒鐘而已;當(dāng)然,如果每條的內(nèi)容很多的話,另說。。
2-2、插入速度慢的其他幾種優(yōu)化途徑A、通過show processlist;命令,查詢是否有其他長進(jìn)程或大量短進(jìn)程搶占線程池資源 ?看能否通過把部分進(jìn)程分配到備庫從而減輕主庫壓力;或者,先把沒用的進(jìn)程kill掉一些?(手動撓頭o_O)
B、大批量導(dǎo)數(shù)據(jù),也可以先關(guān)閉索引,數(shù)據(jù)導(dǎo)入完后再打開索引
關(guān)閉:ALTER TABLE user_info DISABLE KEYS;開啟:ALTER TABLE user_info ENABLE KEYS;
三、REPLACE INTO語法的“坑”上面曾提到REPLACE可能影響3條以上的記錄,這是因?yàn)樵诒碇杏谐^一個的唯一索引。在這種情況下,REPLACE將考慮每一個唯一索引,并對每一個索引對應(yīng)的重復(fù)記錄都刪除,然后插入這條新記錄。假設(shè)有一個table1表,有3個字段a, b, c。它們都有一個唯一索引,會怎么樣呢?我們早一些數(shù)據(jù)測試一下。
-- 測試表創(chuàng)建,a,b,c三個字段均有唯一索引CREATE TABLE table1(a INT NOT NULL UNIQUE,b INT NOT NULL UNIQUE,c INT NOT NULL UNIQUE);-- 插入三條測試數(shù)據(jù)INSERT into table1 VALUES(1,1,1);INSERT into table1 VALUES(2,2,2);INSERT into table1 VALUES(3,3,3);
此時table1中已經(jīng)有了3條記錄,a,b,c三個字段都是唯一(UNIQUE)索引
mysql> select * from table1;+---+---+---+| a | b | c |+---+---+---+| 1 | 1 | 1 || 2 | 2 | 2 || 3 | 3 | 3 |+---+---+---+3 rows in set (0.00 sec)
下面我們使用REPLACE語句向table1中插入一條記錄。
REPLACE INTO table1(a, b, c) VALUES(1,2,3);
mysql> REPLACE INTO table1(a, b, c) VALUES(1,2,3);Query OK, 4 rows affected (0.04 sec)
此時查詢table1中的記錄如下,只剩一條數(shù)據(jù)了~
mysql> select * from table1;+---+---+---+| a | b | c |+---+---+---+| 1 | 2 | 3 |+---+---+---+1 row in set (0.00 sec)
(老板:插入前10w數(shù)據(jù),插入5w數(shù)據(jù)后還剩8w數(shù)據(jù)??,咱們家數(shù)據(jù)讓你喂狗了嗎!!)
REPLACE INTO語法回顧:如果插入行出現(xiàn)唯一索引或者主鍵重復(fù)時,則delete老記錄,而錄入新的記錄;如果不會導(dǎo)致唯一索引或者主鍵重復(fù)時,就直接添加新行。
我們可以看到,在用REPLACE INTO時每個唯一索引都會有影響的,可能會造成誤刪數(shù)據(jù)的情況,因此建議不要在多唯一索引的表中使用REPLACE INTO;
總結(jié)到此這篇關(guān)于MySQL實(shí)戰(zhàn)之Insert語句的使用心得的文章就介紹到這了,更多相關(guān)MySQL Insert語句使用心得內(nèi)容請搜索好吧啦網(wǎng)以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持好吧啦網(wǎng)!
相關(guān)文章:
1. Oracle數(shù)據(jù)庫中臨時表的進(jìn)一步深入研究2. 目前學(xué)習(xí)到的常用命令之Mariadb3. 深入探索數(shù)據(jù)庫MySQL性能優(yōu)化與復(fù)雜查詢相關(guān)操作4. SQLServer的內(nèi)存管理架構(gòu)詳解5. centos編譯安裝mariadb的詳細(xì)過程6. Linux安裝MariaDB數(shù)據(jù)庫的實(shí)例詳解7. MySQL百萬數(shù)據(jù)深度分頁優(yōu)化思路解析8. 盤點(diǎn)SqlServer 分頁方式和拉姆達(dá)表達(dá)式分頁9. Mysql優(yōu)化方法詳細(xì)介紹10. 初識SQLITE3數(shù)據(jù)庫
