对perl语言脚本做性能优化,采用工具NYTProf
安装
cpanm 方式
cpanm Devel::NYTProf::SubInfo
CPAN shell 方式
perl -MCPAN -e shell
install Devel::NYTProf::SubInfo
使用方法
# profile code and write database to ./nytprof.out
perl -d:NYTProf some_perl.pl
# convert database into a set of html files, e.g., ./nytprof/index.html
# and open a web browser on the nytprof/index.html file
nytprofhtml --open
# or into comma separated files, e.g., ./nytprof/*.csv
nytprofcsv
NYTProf默认在当前路径生成日志文件 nytprof.out ,如需要指定输出文件可以使用环境变量方式进行指定:
export NYTPROF=file=/tmp/nytprof.out
更多参数请阅读官方文档: https://metacpan.org/pod/release/TIMB/Devel-NYTProf-6.06/lib/Devel/NYTProf.pm
正则表达式性能分析
代码功能: 判断变量值是否是指定字符,是则跳过后续步骤
方式一正则:if ($Base =~ /-|x/i)
方式二比较:if ($Base eq '-' || $qryBase eq 'X')
优化程序中已经将$Base转换为大写字母,所以无需对x
进行比较,这也是原程序中的一种写法上的性能损耗
两种方式进行运行时间对比
[***@*** perl_test]$ perl reg.pl
!!! start : Mon Apr 15 20:59:47 2019
!!! reg : Mon Apr 15 21:01:33 2019
!!! eq : Mon Apr 15 21:01:54 2019
可以看出使用eq进行匹配速度比正则方式快了106-21=85秒
将判断语句注释后进行轮空循环
[***@*** perl_test]$ perl reg.pl
!!! start : Mon Apr 15 21:03:01 2019
!!! reg : Mon Apr 15 21:03:11 2019
!!! eq : Mon Apr 15 21:03:20 2019
将上一次时间减去轮空时间进行比较 reg: 106-10=96秒,eq: 21-9=12秒,性能相差8倍
使用性能分析工具进行统计
[***@*** perl_test]$ perl -d:NYTProf reg.pl
!!! start : Mon Apr 15 21:04:05 2019
!!! reg : Mon Apr 15 21:09:34 2019
!!! eq : Mon Apr 15 21:11:14 2019
使用性能分析工具执行程序会带来很大的性能损耗,但整体趋势不会有太大变化,可以用来参考,本次执行时间为 reg: 329秒, eq: 100秒
将分析结果转换为html格式
[***@*** perl_test]$ nytprofhtml
结果将生成在 ./nytprof/
下,可以通过浏览器进行查看
由图可见正则匹配方式所用时间远大于直接比较
结论
perl语言中单字符比较尽量使用eq
形式替代正则表达式,正则表达式更适用于较复杂场景以减少代码量,当perl程序使用正则表达式处理大量文本而导致性能低下,可优先考虑将简单正则表达式改为直接比较
测试代码
reg.pl
#!/bin/perl
###################
# 2019/04/15
# by dongye_bio@qq.com
###################
$sbjSeq = "AGGCTTACTTA--CTGATAGTAGATCAACGATCAGTATAATTAAGTCT";
$qrySeq = "AGACTTAATTATACTGATCGTTGATCTACTATCAG--TAAGTAAGCCT";
$N = 1395310;
print "!!! start : ". localtime()."\n";
for (my $n=0; $n<$N; $n++){
for ( my $i = 0 ; $i < length( $qrySeq ) ; $i++ ){
my $qryBase = substr( $qrySeq, $i, 1 );
next if ( $qryBase =~ /-|x/i || $sbjSeq =~ /-|x/i);
}
}
print "!!! reg : ". localtime()."\n";
for (my $n=0; $n<$N; $n++){
my $len = length($qrySeq);
for ( my $i = 0 ; $i < $len ; $i++ ){
my $qryBase = substr( $qrySeq, $i, 1 );
next if ( $qryBase eq '-' || $qryBase eq 'X' || $sbjSeq eq '-' || $sbjSeq eq 'X');
}
}
print "!!! eq : ". localtime()."\n";