大批量插入数据库的三种方法速度对比


第一种方法: 使用insert into 插入 for 循环sql插入数据

    $param = [‘id’=>1];

    set_time_limit(0);

    echo date(“H:i:s”);

    for($i=0;$i<2000000;$i++){

        $db->Insert($param,$table,true);

    };

    echo date(“H:i:s”);

第二种方法: 使用事务提交,批量插入数据库(每隔10W条提交下)最后显示消耗的时间为:22:56:13 23:04:00 ,一共8分13秒  ,代码如下:

echo date(“H:i:s”);

$connect_mysql->query(‘BEGIN');

$params = array(‘value'=>'50′);

for($i=0;$i<2000000;$i++){

$connect_mysql->insert($params);

if($i%100000==0){

$connect_mysql->query(‘COMMIT');

$connect_mysql->query(‘BEGIN');

}

}

$connect_mysql->query(‘COMMIT');

echo date(“H:i:s”);

第三种方法:使用优化SQL语句:将SQL语句进行拼接,使用insert into table()values(),(),(),()然后再一次性插入,如果字符串太长,则需要配置下MYSQL,在mysql命令下运行:set  global max_allowed_packet = 2*1024*1024*10 


$structinfo =[]; //查询的数组

$data =[];  //需要插入的数据组合成数组

foreach ($structInfo as $k => $v){

    $data[$k]['company_k']                 = $v['company_k'];

    $data[$k]['company_name']          = $v['company_name'];

    $data[$k]['dept_k']                         = $v['dept_k'];

    $data[$k]['dept_name']                  = $v['dept_name'];

    $data[$k]['one_lead_code']           = $v['one_lead_code'];

    $data[$k]['one_lead_realname']      = $v['one_lead_realname'];

    $data[$k]['two_lead_code']              = $v['two_lead_code'];

    $data[$k]['two_lead_realname']        = trim($v['two_lead_realname']);

    $data[$k]['company_admin_code']    = $v['company_admin_code'];

    $data[$k]['company_admin_realname']= $v['company_admin_realname'];

    $data[$k]['user_code']  = $v['user_code'];

    $data[$k]['realname']  = $v['realname'];

    $data[$k]['job_name']  = $v['job_name'];

    $data[$k]['user_level']= $v['level'];

    $data[$k]['in_date']    = $v['in_date'];

}

var_dump(array_keys($data[0]));

$fildString = "". implode(',',array_keys($data[0]))."";  //要插入的表里的字段

$sql = "INSERT INTO `lzh_score_template`($fildString)VALUE ";

$string =  "'" .join("','",$data[0])."'";

//join函数是implode函数的别名  把数组元素分割为字符串implode(separator,array)separator规定数组元素之间放置的内容

foreach ($dataas $k => $v){

    $sql .= "('" .join("','",$v)."'),";  //以','分割字符串,然后在在两边拼接分号'',这样元素值就以分号分割了

}

$sql = substr($sql,0,strlen($sql)-1);

最后总结下,在插入大批量数据时,第一种方法无疑是最差劲的,而第二种方法在实际应用中就比较广泛,第三种方法在插入测试数据或者其他低要求时比较合适,速度确实快。

©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 203,362评论 5 477
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 85,330评论 2 381
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 150,247评论 0 337
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 54,560评论 1 273
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 63,580评论 5 365
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 48,569评论 1 281
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 37,929评论 3 395
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 36,587评论 0 258
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 40,840评论 1 297
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,596评论 2 321
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 37,678评论 1 329
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 33,366评论 4 318
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 38,945评论 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 29,929评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,165评论 1 259
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 43,271评论 2 349
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 42,403评论 2 342

推荐阅读更多精彩内容