在调试程序的时候,因为数据量[100w+]过多。报了如下错误哦,我使用的是gorm这个orm
[mysql] 2018/07/15 11:26:08 packets.go:145: write tcp 127.0.0.1:58420->127.0.0.1:3306: write: broken pipe
网上查找各种解决方案,找到的解决答案如下:
设置maxIdleTime<mysql的wait_timeout
mysql的wait_timeout 默认是28800s, 8小时.
db.SetConnMaxLifetime(time.Hour*7)
参考:https://imhanjm.com/2017/04/26/mysql%E8%BF%9E%E6%8E%A5%E6%B1%A0%E9%97%AE%E9%A2%98/
最后
以上依然不能解决我的问题。中途有把数据拆分来查询,发现超过5w条就会报这个错误,那么我设置每次4w条。开16个go程去执行,这样是可以。但是速度依然很慢。
我觉得才那么点数据,而且我电脑内存够。应该不会报这个错才对,于是我就不用gorm,换原生sql来查询数据。
rows, err := db.Query(sqls)
if err != nil {
return
}
for rows.Next() {
rows.Scan(...)
}
运行,不报错了。
1610387 rows, use 8 second.
100w+条数据,需要8秒。虽然还在有点慢,但是和之前的报错比起来至少是可以运行的。