mysql高效导数据的方法讲解
编程学习 2021-07-05 15:27www.dzhlxh.cn编程入门
模拟现网测试，需要搭建测试环境，导入上亿级的数据到数据库。对于到的问题做些简单记录，有需要的朋友可以参考一下
数据：一个db，2000个表格，2000张表格数据，每条记录30个column，平均每张表格4.3w条记录，总共86388670条记录。
机器：linux 64bit 8G内存 4核IntelX3320@2.5GHz
基本思路：
mysql -utest -pxxxx -s -e "source xxxx.sql"
将load语句放在xxxx.sql中
load语法：
load data [low_priority] [local] infile 'file_name.txt' [replace | ignore]
如果串行导入数据，会很慢，考虑并行，但可能有冲突，解决办法：
load之前清空表
truncate table xxxx 或 delete from table xxxx;
或使用replace或ignore关键字。
机器：linux 64bit 8G内存 4核IntelX3320@2.5GHz
基本思路：
代码如下:
mysql -utest -pxxxx -s -e "source xxxx.sql"
将load语句放在xxxx.sql中
load语法：
代码如下:
load data [low_priority] [local] infile 'file_name.txt' [replace | ignore]
如果串行导入数据，会很慢，考虑并行，但可能有冲突，解决办法：
load之前清空表
代码如下:
truncate table xxxx 或 delete from table xxxx;
或使用replace或ignore关键字。