今天分享一个实用的数据提取思路：从VCF文件中提取指定列，比如有1000个样本，需要从中提取出200个制定样本，形成新的vcf文件。需要在Linux环境下进行操作，主要用到perl脚本和shell脚本。
原始数据
原始文件vcf ：开始为若干行注释信息以##开头，然后是表头信息由#开始（该行包括样本ID）
待提取的样本ID：txt文件，每个样本ID一行（list.txt）
什么是VCF文件？
伴随着大规模的基因分型及测序数据的产生，迫切需要一种新的格式来记录高效的记录这些变异信息。VCF(Variant Call Format)就是这样一种用来贮存基因序列变异信息的文本文件。
VCF 格式文件信息：
- header section：元信息(meta-information)，以‘##’为前缀，通常包含fileformat、fileDate、reference等信息。头行信息( header line )，以‘#’为前缀
- data section：该部分为主题部分，记录了每个样品每个位点处的基因分型信息。可以看做是一个大的Excel表格，每行是一个位点，每列是一个样本。
创建一个工作文件夹work，将第一个文件放在其data子文件夹下，第二个文件放在工作文件夹work中。
一般每个染色体有一个VCF文件，压缩为xxx.vcf.gz，将全部压缩包保存到一个目录data下。
操作步骤
批量解压缩
在data文件夹中，输入gunzip *.vcf.gz解压所有文件，获得很多个VCF文件
保存注释信息
由于VCF文件刚开始几十行为注释信息（假设为78行），可以先把注释信息截取出来单独存放为一个zhushi.vcf，然后再对剩下的数据矩阵进行转置筛选，最后将注释信息加上。
head -n 78 ./data/xxx.vcf > zhushi.vcf
转置VCF文件
由于VCF文件的每一列为一个样本，为了进行筛选，先将其转置，变为每行一个样本的格式，使用如下perl脚本（s1.pl）：
#! /usr/bin/perl -w
use strict;
die "perl $0 \n" unless @ARGV==1;
my $lst=shift;
open IN,$lst;
my (@a,@b);
my $len;
my $max=0;
while(<IN>){
chomp;
next if /^##/;
# 上面这行代码表示以##开头的行被忽略
@b=split/\t/,$_;
$len=@b;
$max=$max > $len ? $max:$len;
push @a,[@b];
}
close IN;
for my $i(0..$max-1){
for(@a){
@$_[$i]||="";
print "@$_[$i]\t";
}
print "\n";
#换行显示
}
执行脚本：
perl s1.pl ./data/xxx.vcf > ./data/xxx.vcf_1
筛选指定样本
转置之后的vcf_1文件每一行是一个样本，根据所需的样本待提取编号进行提取，提取所用到的perl脚本（s2.pl）如下：
#! /usr/bin/perl -w
use strict;
open IN1,"$ARGV[0]" or die;
open IN2,"$ARGV[1]" or die;
open OUT,">$ARGV[2]" or die;
#需要三个参数，需要提取的样本ID编号序列信息、待提取的原始文件名、提取后新生成的文件名
my %hash;
while(<IN1>){
chomp;
my @a=split/\s/,$_;
$hash{$a[0]}=1;
}
close IN1;
while(<IN2>){
chomp;
print OUT $_,"\n" if /^#/;
print OUT $_,"\n" if /POS/;
print OUT $_,"\n" if /ID/;
print OUT $_,"\n" if /REF/;
print OUT $_,"\n" if /ALT/;
print OUT $_,"\n" if /QUAL/;
print OUT $_,"\n" if /FILTER/;
print OUT $_,"\n" if /INFO/;
print OUT $_,"\n" if /FORMAT/;
#如果改行一以上述关键字出现，则全部保留，因为这些是文件的有用信息
my @b=split/\s/,$_;
if(exists $hash{$b[0]}){print OUT join("\t",@b),"\n"}
else{next}
}
close IN2;close OUT;
执行脚本：
perl s2.pl list.txt ./data/xxx.vcf_1 ./data/xxx.vcf_2
重新转置数据
筛选完成后，需要对数据进行转置，还原为之前的数据格式，直接调用s1.pl即可完成。
perl s1.pl ./data/xxx.vcf_2 > ./data/xxx.vcf_3
转置后需要将刚开始提取的表头注释信息再添加上去，用cat命令将两个文件合并到一起。
cat zhushi.vcf ./data/xxx.vcf_3 > ./data/xxx.vcf_4
如上得到的vcf_4文件就是筛选得出的最终结果，对其改名，然后使用gzip压缩为原来的压缩包格式。流程结束！
mv ./data/*.vcf_4 `sed 's/.vcf_4/.vcf/g'`
gzip *.vcf
批量进行操作
以下内容为bash脚本，用于批量处理多个vcf文件。
批量解压、转置、提取
#!/bin/bash
gunzip ./data/*.gz
for i in $(ls ./data/*.vcf)
do
echo $i
perl s1.pl $i > ${i}_1
perl s2.pl list.txt ${i}_1 ${i}_2
perl s1.pl ${i}_2 > ${i}_3
cat zhushi.vcf ./data/xxx.vcf_3 > ./data/xxx.vcf_4
echo "ok"
done
批量改文件名
#!/bin/bash
for i in `ls ./data/*.vcf_4`;do
echo $i | mv $i `sed 's/.vcf_4/.vcf/g'`
echo ${i}ok
done
本文由mdnice多平台发布
