背景介绍
一句话介绍iSeq:
Download sequencing data and metadata from GSA, SRA, ENA, and DDBJ databases.
iSeq
用于从GSA
,SRA
,ENA
, 和DDBJ
数据库下载原始数据
和元信息
。
今天要介绍的工具叫iSeq
,也是一个用来下载原始数据
的工具。比较特别的是它可以访问到GSA
。那么什么是GSA呢?
一句话介绍GSA:
国家基因组科学数据中心(
NGDC
)的基因组序列归档库
(Genome Sequence Archive
,GSA
)是中国首个被国际期刊认可的组学原始数据归档库,旨在收集、存储、管理和共享原始测序数据。相当于中国版的NCBI
资源
- GitHub地址:
https://github.com/BioOmics/iSeq
- 论文DOI号:
10.1093/bioinformatics/btae641
- 发表时间:
2024-10-24
工具还在活跃的开发中,在我写这篇推文的2024-12-19
时,4天前(2024-12-26)刚发布了v1.5.0
版本。
安装
conda就完事儿了
conda install iseq
当前最新版Version 1.5.0
使用
基本使用详解
基本的使用方式就是
iseq -i accession [options]
iSeq可以接受的登录号有这些:
Accepted accession formats:
1.Projects: PRJEB, PRJNA, PRJDB, PRJC, GSE
2.Studies: ERP, DRP, SRP, CRA
3.BioSamples: SAMD, SAME, SAMN, SAMC
4.Samples: ERS, DRS, SRS, GSM
5.Experiments: ERX, DRX, SRX, CRX
6.Runs: ERR, DRR, SRR, CRR
看得出来各个层级和各个数据库都是覆盖了的。
场景1: 下载一整个BioProject
例如有的文章里会写到:
The raw CAGE sequencing data generated in this study have been submitted to the NCBI BioProject database (BioProject; https://www.ncbi.nlm.nih.gov/bioproject/) under accession number PRJNA483730.
那么就可以
iseq -i PRJNA483730 -g -t 8 -p 2
解释一下参数。
-i
是--input
,必须要指定的参数-g
是--gzip
, 直接下载fastq.gz格式的文件,免去转换的步骤-t
是--threads
, 指定用8个线程来下载-p
是--parallel
,可以并行的下载数据,而非串联下载,这一步我设置成2,iSeq将会同时下载两个文件,速度更快。这个功能是之前别的工具所不具备的,好评!
下载过程中会输出两个log文件,success.log
和fail.log
,记录哪些文件下载完成或者失败了。
场景2: 只获取元信息
有的时候数据已经下好了但是发现不知道分组之类的信息,那么可以加上``参数来只获取元信息而非下载数据
iseq -i PRJNA483730 -m
输出如下:
iseq -i PRJNA483730 -m
Note: PRJNA483730.metadata.tsv exists, skip downloading metadata for PRJNA483730
Note: You choose to skip downloading SRA files (-m used), only retrieve the metadata for each accession, see PRJNA483730.metadata.tsv
========================PRJNA483730 download finished========================
-
-m
是--metadata
,作用是去获取数据库中的数据元信息。
里面的内容跟你去NCBI的run select
(https://www.ncbi.nlm.nih.gov/Traces/study/
)工具里查询的结果是一致的。
当然,你也可以用https://sra-explorer.info/
来查询。这个工具也很好用,是我日常使用率很高的工具。
场景3: 下载GSA数据库的数据
既然iSeq支持下载GSA的数据,那咱们试试看吧。
iseq -i PRJCA030030
如果后面什么参数都不加,默认会存一个*.metadata.csv
。文件,自动下载一个csv格式
的元信息的表格。
本来以为这个数据库在国内,在圣路易斯发送下载请求会比较慢,结果发现速度也不慢,能达到几Mb
到十几Mb
每秒的速度,完全OK。
File size: 2.45G Database: GSA Mode: ftp
CRR1295209_f1.fq.gz 13%[=> ] 346.55M 12.4MB/s eta 4m 4s
萌哥碎碎念
现在国内的测序量远远超过任何一个西方国家,我们也有了自己的原始数据存放库,大量的数据还是掌握在自己手里比较好。
之前还担心下载国内的数据的速度不行或者干脆无法下载(当然,确实有一些数据是Non-downloadable
的,比如我搜索的“water lily”
,无法下载的数据有312,921条
,能下载的有115,968条
。但是这个哪儿都一样,数据敏感程度不同。)尝试了一下发现速度还不错,体验极佳。
总的来讲iSeq
体验不错,好用,特别是能下载SGA数据库的数据
是蛮不错的亮点,推荐给大家。