批量化
很多情况下性能瓶颈都在于数据库操作太多,此时可以优先考虑批量化
写数据库时,使用批写接口,常用数据库一般都支持批写。这是常见操作,一般情况不需要改变业务代码流程。
读数据时,一次读取批量的数据,缓存在内存或redis里。一般会对业务流程有少量影响,常见的是在一个大循环里进行数据处理,可以把数据读取放到循环外边统一处理
缓存:
数据库读缓存:
可以选择springcache或mybatis二级缓存
我更喜欢用springcache+Caffeine缓存,无侵入,又能灵活控制。
mybatis缓存则要求数据的读写都在一个mapper对象里,不然容易读到脏数据
接口缓存:
查询类接口,服务端使用缓存直接返回数据
如果客户端调用服务端非常频繁,考虑在客户端也加缓存,减少调用次数
调参:
常见的包括 jvm tomcat 线程池 linux的参数 中间件的参数
jvm参数其实一般不需要调,默认值就已经很好了,除非一些特殊的场景,比如边缘计算需要轻量化,此时调一些参数还是有效的
tomcat一般也不用调,只有一些高并发场景,需要设置连接数和线程数
线程池:这个是最常见的,需要用心来配参数的,需结合业务设计合理的线程池模型
linux参数:参数很多,我常用的:
net.core.somaxconn = 65535
net.ipv4.tcp_max_syn_backlog = 65535
net.ipv4.tcp_fin_timeout = 30
net.ipv4.tcp_tw_recycle=1
net.ipv4.tcp_tw_reuse=1
系统所有进程能打开的最大文件数量
fs.file-max = 11000000
单个进程最大文件数
fs.nr_open = 10000000
Linux性能调优,看这一篇就够了_netdevbacklog-CSDN博客
并发:
使用线程池,并行流 来增加并发。
比如我们要对大量设备进行计算,可以把他们分发到线程池里并发计算
分阶段并发:
计算过程可以分为多个阶段,比如阶段A B C,不同阶段的并发粒度不同,比如阶段A只能按设备,阶段B每个设备还可以按参数,此时可以为不同阶段采用不同的线程池可以提升并发度
如果多个阶段时间存在join点,那么可以用fork-join模型来处理,比如使用CompletableFuture来join
这样分多阶段独立线程池+forkjoin协同,要比整个使用一个线程池的并发度更好,也更容易优化。但是也增加了复杂度
数据库:加索引, 分库分表,优化查询语句
削峰:
引入MQ,将业务高峰期流量进行削峰
业务设计时也要考虑避免和减少业务高峰
二次查询:将一次耗时的查询操作分为两次操作,其中第一次耗时很少,第二次耗时长但是不经常出现。比如我们要读一个数据,这个数据可能出现在几年前,但是大部分场景下他出现在最近几天内。那么我们可以分两次查询,先查几天内,查不到再查几年的
业务流程优化: 简化流程,减少交互次数,减少同步阻塞处理