用sql語句快速生成大量數據，批量生成數據
1.首先先建兩個表
– 創建一個臨時內存表
set global log_bin_trust_function_creators=1;
DROP TABLE IF EXISTS vote_recordss_memory;
CREATE TABLE vote_recordss_memory (
id int(10) unsigned NOT NULL AUTO_INCREMENT,
user_id varchar(20) NOT NULL DEFAULT ‘’,
vote_num int(10) unsigned NOT NULL DEFAULT ‘0’,
group_id int(10) unsigned NOT NULL DEFAULT ‘0’,
status tinyint(2) unsigned NOT NULL DEFAULT ‘1’,
create_time datetime NOT NULL DEFAULT ‘1971-01-01 01:01:01’,
PRIMARY KEY (id),
KEY index_user_id (user_id) USING HASH
) ENGINE=InnoDB AUTO_INCREMENT=1 DEFAULT CHARSET=utf8;
– 創建一個普通表，用作模擬大數據的測試用例
DROP TABLE IF EXISTS vote_records;
CREATE TABLE vote_records (
id int(10) unsigned NOT NULL AUTO_INCREMENT,
user_id varchar(20) NOT NULL DEFAULT ‘’ COMMENT ‘用戶Id’,
vote_num int(10) unsigned NOT NULL DEFAULT ‘0’ COMMENT ‘投票數’,
group_id int(10) unsigned NOT NULL DEFAULT ‘0’ COMMENT ‘用戶組id 0-未激活用戶 1-普通用戶 2-vip用戶 3-管理員用戶’,
status tinyint(2) unsigned NOT NULL DEFAULT ‘1’ COMMENT ‘狀態 1-正常 2-已刪除’,
create_time datetime NOT NULL DEFAULT ‘1971-01-01 01:01:01’ COMMENT ‘創建時間’,
PRIMARY KEY (id),
KEY index_user_id (user_id) USING HASH COMMENT ‘用戶ID哈希索引’
) ENGINE=InnoDB DEFAULT CHARSET=utf8 COMMENT=‘投票記錄表’;
2.創建一個可生成長度爲n的隨機字符串的函數
– 爲了數據的隨機性和真實性，我們需要創建一個可生成長度爲n的隨機字符串的函數。
– 創建生成長度爲n的隨機字符串的函數
DELIMITER // – 修改MySQL delimiter：’//’
DROP FUNCTION IF EXISTS rand_strings //
SET NAMES utf8 //
CREATE FUNCTION rand_strings (n INT) RETURNS VARCHAR(255) CHARSET ‘utf8’
BEGIN
DECLARE char_str varchar(100) DEFAULT ‘abcdefghijklmnopqrstuvwxyzABCDEFGHIJKLMNOPQRSTUVWXYZ0123456789’;
DECLARE return_str varchar(255) DEFAULT ‘’;
DECLARE i INT DEFAULT 0;
WHILE i < n DO
SET return_str = concat(return_str, substring(char_str, FLOOR(1 + RAND()*62), 1));
SET i = i+1;
END WHILE;
RETURN return_str;
END //
3.創建一個插入數據的存儲過程
– 爲了操作方便，我們再創建一個插入數據的存儲過程
– 創建插入數據的存儲過程
DROP PROCEDURE IF EXISTS insert_vote_recordss_memory //
CREATE PROCEDURE insert_vote_recordss_memory(IN n INT)
BEGIN
DECLARE i INT DEFAULT 1;
DECLARE vote_num INT DEFAULT 0;
DECLARE group_id INT DEFAULT 0;
DECLARE status TINYINT DEFAULT 1;
WHILE i < n DO
SET vote_num = FLOOR(1 + RAND() * 10000);
SET group_id = FLOOR(0 + RAND()*3);
SET status = FLOOR(1 + RAND()*2);
INSERT INTO vote_recordss_memory VALUES (NULL, rand_strings(20), vote_num, group_id, status, NOW());
SET i = i + 1;
END WHILE;
END //
DELIMITER ; – 改回默認的 MySQL delimiter：’;’
4.生成數據
– 開始執行存儲過程，等待生成數據(100W條)
– 調用存儲過程 生成100W條數據
CALL insert_vote_recordss_memory(10000000);
– 查詢內存表已生成記錄(爲了下步測試，目前僅生成了x條)
SELECT count() FROM vote_recordss_memory;
– 把數據從內存表插入到普通表中(100w條數據ys就插入完了)
INSERT INTO vote_records SELECT * FROM vote_recordss_memory;
– 查詢普通表已的生成記錄
SELECT count() FROM vote_records;
5.實時監控mysql的工具
實時監控mysql的工具
https://blog.csdn.net/u013820054/article/details/54022456
---------±------mysql-status-------±----threads-----±----slow-----±–bytes—±--------locks----------
time | QPS TPS ins upd del| run con cre cac| sql tmp Dtmp| recv send| lockI lockW openT openF
---------±-------------------------±----------------±-------------±----------±-----------------------
23:15:03 | 0 3738 3738 0 0| 3 3 0 0| 0 1 0| 0K 8K| 1 0 121 27
23:15:04 | 0 3781 3781 0 0| 3 3 0 0| 0 1 0| 0K 8K| 1 0 121 27
23:15:05 | 0 3733 3733 0 0| 3 3 0 0| 0 1 0| 0K 8K| 1 0 121 27
23:15:06 | 0 3737 3737 0 0| 3 3 0 0| 0 1 0| 0K 8K| 1 0 121 27
23:15:07 | 0 3576 3576 0 0| 3 3 0 0| 0 1 0| 0K 8K| 1 0 121 27
23:15:08 | 0 3589 3589 0 0| 2 3 1 1| 1 1 0| 0K 8K| 1 0 121 27
23:15:09 | 0 3548 3548 0 0| 2 3 0 1| 0 1 0| 0K 8K| 1 0 121 27
23:15:10 | 0 3791 3791 0 0| 2 3 0 1| 0 1 0| 0K 8K| 1 0 121 27
23:15:11 | 0 3861 3861 0 0| 2 3 0 1| 0 1 0| 0K 8K| 1 0 121 27
23:15:12 | 0 3892 3892 0 0| 2 3 0 1| 0 1 0| 0K 8K| 1 0 121 27
23:15:13 | 0 3857 3857 0 0| 2 3 0 1| 0 1 0| 0K 8K| 1 0 121 27
23:15:14 | 0 3900 3900 0 0| 2 3 0 1| 0 1 0| 0K 8K| 1 0 121 27
23:15:15 | 0 3701 3701 0 0| 2 3 0 1| 0 1 0| 0K 8K| 1 0 121 27
23:15:16 | 0 3856 3856 0 0| 2 3 0 1| 0 1 0| 0K 8K| 1 0 121 27
23:15:17 | 0 3166 3166 0 0| 2 3 0 1| 0 1 0| 0K 8K| 1 0 121 27
23:15:18 | 0 3865 3865 0 0| 2 3 0 1| 0 1 0| 0K 8K| 1 0 121 27
23:15:19 | 1 3853 3853 0 0| 3 3 0 1| 0 1 0| 0K 8K| 1 0 121 27
23:15:20 | 0 2864 2864 0 0| 2 3 0 1| 0 1 0| 0K 8K| 1 0 121 27
23:15:21 | 0 2927 2927 0 0| 2 3 0 1| 0 1 0| 0K 8K| 1 0 121 27
23:15:22 | 0 3820 3820 0 0| 2 3 0 1| 0 1 0| 0K 8K| 1 0 121 27
實踐得到生成10000條數據時間是23秒左右；生成100萬條數據在2300秒（38分鐘）