教你3种方法下载NCBI GEO数据

1.常规下载方式:prefetch

    对于常规下载sra数据来说,NCBI提供了它自己的一套工具(SRA-Toolkit),其中用prefetch来下载数据,用fastq-dump来解压数据。

1.1 首先需要获取数据信息

    一般来说,我们需要下载的数据都是来自于文献已经发表的,在文献中都会给一个GEO号,它长这个样子GSE106826。 然后我们就可以直接到GEO DataSets中去搜索该数据集中的数据了。如下图所示,直接点击Search:


然后我们就可以转到这个有文章title的界面,如下所示:


点击进去就可以进入该GEO号对应的数据集了:

那么我们的sra文件在哪里呢?可以看到下边有一个SRA SRP124852,没错,就是它了!点进去:

然后选择任意一个连接点进去,进入到一个像这样的界面:

点击里边的All run, 最终,终于找到了我们所有sra信息所在的位置:

在这个页面里,我们需要下载两个table,就是Download下边的两个:RunInfo TableAccession List. 其中RunInfo Table会告诉你sample的信息,比如是什么细胞类型,来自什么组织;而Accession List则是储存里我们sra文件的获取序列号:

$ cat SRR_Acc_List.txt
SRR6283792
SRR6283793

1.2 然后用prefetch下载数据

  有了以上的sra Accession number,就可以直接用脚本命令下载数据了。

# 切换到SRR_Acc_List.txt所在的文件夹
$ ls 
SRR_Acc_List.txt
# 然后用以下命令下载
$ prefetch `less SRR_Acc_List.txt`
#如果想要后台运行可以使用nohup加&
#这样即使退出终端也不会断掉的
$ nohup prefetch `less SRR_Acc_List.txt` &

2. sacp ,飞一般的下载速度

2.1 安装ascp

wget http://download.asperasoft.com/download/sw/connect/3.7.4/aspera-connect-3.7.4.147727-linux-64.tar.gz

tar zxvf aspera-connect-3.7.4.147727-linux-64.tar.gz

# install
bash aspera-connect-3.7.4.147727-linux-64.sh

# check the .aspera directory
cd # go to root directory
ls -a # if you could see .aspera, the installation is OK

# add environment variable
echo 'export PATH=~/.aspera/connect/bin:$PATH' >> ~/.bashrc
source ~/.bashrc

# check help file
ascp --help

2.2 了解数据储存结构

注意!最近突然发现以下这个路径找不到文件了,可能NCBI储存结构已经改变,请看后边ENA部分!

  NCBI的ftp网站上可以找到我们想要的sra文件,如果你比较一下就会发现,这些储存的连接是有规律可循的,如下两个文件:

ftp://ftp.ncbi.nlm.nih.gov/sra/sra-instant/reads/ByRun/sra/SRR/SRR690/SRR6904179/SRR6904179.sra
ftp://ftp.ncbi.nlm.nih.gov/sra/sra-instant/reads/ByRun/sra/SRR/SRR690/SRR6904180/SRR6904180.sra

你会发现它们前半部分都是一样的,都以ftp://ftp.ncbi.nlm.nih.gov/sra/sra-instant/reads/ByRun/sra/SRR/开头,而后边紧跟的是SRR 序列号SRR6904179的前6位SRR690,然后就是序列号SRR6904179,再后边就是序列号加一个后缀.sraSRR6904179.sra.

   由于最近NCBI的sra数据找不到具体储存路径了,所以就从ENA数据库下载吧,ENA和NCBI存储的数据是一样的,所以不用担心数据问题,而且ENA储存的是fastq格式,更是省去了下载后从sra到fastq转化这一步骤,简直完美!

  • ENA 的数据结构是这样的:
http://ftp.sra.ebi.ac.uk/vol1/fastq/SRR121/SRR121621/SRR121621_1.fastq.gz
http://ftp.sra.ebi.ac.uk/vol1/fastq/SRR121/SRR121621/SRR121621_2.fastq.gz

基本是和ncbi之前的存储类似的,这里不再赘述。以下是下载一个文件的示例:

ascp -QT -l 300m -P 33001 -i ~/.aspera/connect/etc/asperaweb_id_dsa.openssh era-fasp@fasp.sra.ebi.ac.uk:/vol1/fastq/SRR121/SRR121621/SRR121621_1.fastq.gz path/to/download_dir
  • 需要注意,下载时文件地址前统一用era-fasp@fasp.sra.ebi.ac.uk:开头,后边跟随文件地址/vol1/fastq/SRR121/SRR121621/SRR121621_1.fastq.gz,中间是:连接,不是/,一定要注意!!

如果是下载多个文件的话,首先像用prefetch那样拿到GEO序列号,然后用一个循环脚本就可以搞定了:

ftp='era-fasp@fasp.sra.ebi.ac.uk:/vol1/fastq'

mkdir sra  # make a output directory
cat SRR_Acc_List.txt |  while read i
 do
       SRR=$(echo ${i:0:6}) 
       # ascp -QT -l 300m -P 33001 -i ~/.aspera/connect/etc/asperaweb_id_dsa.openssh ${ftp}/${SRR}/${i}/{i}.fastq.gz ./sra 单端测序的话只有这一个文件
       ascp -QT -l 300m -P 33001 -i ~/.aspera/connect/etc/asperaweb_id_dsa.openssh ${ftp}/${SRR}/${i}/${i}_1.fastq.gz ./sra
       ascp -QT -l 300m -P 33001 -i ~/.aspera/connect/etc/asperaweb_id_dsa.openssh ${ftp}/${SRR}/${i}/${i}_2.fastq.gz ./sra
 done

实测ascp下载速度可达150M/s,如果你的网络给力还可以更快!


3. wget 下载sra文件

  之前经常使用prefetch下载sra文件,而且量比较大,但是经常会出现time-out这种情况,会导致很多文件下载不下来,所以就考虑用wget试一下。但是这个真的不建议,除非你没有办法的情况下。wget很容易断点导致数据不完整!

  • 数据来源的话依然参考上边ENA部分,脚本也基本相同,如下:
    注意这次网址直接使用的是:http://ftp.sra.ebi.ac.uk/vol1/fastq
ftp='http://ftp.sra.ebi.ac.uk/vol1/fastq'

mkdir sra  # make a output directory
cat SRR_Acc_List.txt |  while read i
 do
       SRR=$(echo ${i:0:6}) 
       # wget -c -t 0 -P ./sra ${ftp}/${SRR}/${i}/${i}.fastq.gz 单端只有一个文件
       wget -c -t 0 -P ./sra ${ftp}/${SRR}/${i}/${i}_1.fastq.gz
       wget -c -t 0 -P ./sra ${ftp}/${SRR}/${i}/${i}_2.fastq.gz
 done

参数说明:
-c 自动断点续传,一定要加!否则数据会有不完整的情况
-t 配合-c参数,设置为0表示连接失败后无限次重新尝试,直到成功为止
-P 表示把数据下载到指定文件夹下

   三种方法比较下,首先推荐ascp,速度是真的快啊;其次是prefetch,速度一般般,很容易下载失败,需要多次尝试重新下载;最不推荐的是wget,但是如果以上两种方式你都不适用,那就试试这个吧。

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 216,402评论 6 499
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 92,377评论 3 392
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 162,483评论 0 353
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 58,165评论 1 292
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 67,176评论 6 388
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 51,146评论 1 297
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 40,032评论 3 417
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 38,896评论 0 274
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 45,311评论 1 310
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 37,536评论 2 332
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 39,696评论 1 348
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 35,413评论 5 343
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 41,008评论 3 325
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 31,659评论 0 22
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,815评论 1 269
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 47,698评论 2 368
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 44,592评论 2 353

推荐阅读更多精彩内容