EGA(European Genome-Phenome Archive)数据申请下载

2023-6-13更新

太大的数据还是放弃下载吧
几个月过去,本来以为pyega3不行的话ascp肯定行
结果43T下载下来17T,c4gh解码失败了一半
有这些时间干点啥不好,裂开


3个月前完全没有想到会这么坎坷 -_- |||

查找数据集ID

一般在文章Methods或者Data Availability部分

申请数据

EGA官网搜索栏输入数据集ID,就会看到这样的界面

数据集页面会有联系人邮箱

给红框里这个联系人邮箱发邮件申请就可以,感觉一般是模板回复,甚至有一次周末给我秒回我整个人惊呆

邮件格式可以参考这个


这个联系人我查了下不是教授,是女生,所以我就写了Ms.,但后来发邮件多了发现好像直接Hi加名字就可以哈哈哈

准备材料

回复邮件里都会要求提供使用者(必须是PI,研究生不配独立申请哈哈哈)和机构负责人(我找的医院院长)签名的Data Access Agreement文件,协议内容大概就是保密啊不卖原始数据啊之类的(我走院长签名OA审批的时候还要我把协议全文翻译成中文真是服了,都是些法律相关术语,难道不应该行政科室的人更熟悉么-_- |||)

另外有的数据集会要求提供所有使用者的姓名职位邮箱电话,有的会要求提供一个固定公网IP用来接收数据,可能还有更奇葩的我没遇到


要求1:没有奇怪要求,只要Data Access Agreement,但是user和supervisor的定义属实不太清晰
要求2:哭了他非要固定IP,大陆的话去三大通信运营商搞不得几千块

关于这个固定IP,我最后自费斥巨资500块在华为租了个弹性IP+云服务器解决
其实淘宝也有十几块的国内固定IP可以租,但毕竟是人遗相关,数据量又大,我就还是找了靠谱点的,免得到处出bug误事

回信求数据

回信1
回信2

常规下载

首先介绍一个大部分EGA数据集都在用的流程:

申请1:非常周到地说会抄送本急急国王

申请1:真的抄送我了

申请1通过:生日当天收到哈哈哈

但是不要高兴得太早,我等了2天都没收到所谓的initial login details邮件(不是说好up to 24小时嘛),并且当我按照指示点进forget password链接,它完全就没任何反应,聪明的我立马猜到肯定是谷歌人机识别被墙了无法显示,但是我的梯子已经半年多无法使用,好不容易求到能用的梯子,我就收到这个报错
不光我一个,我老板和师兄的账号也报这个错

这就让我开始怀疑他们根本没给我注册账号
于是就开始了我的给helpdesk连环发邮件之路
求助1

等了一天没消息,怕是他没看到,再发一遍
求助2

结果刚发完我的第一个求助就被受理了,然后第二天我的第二次求助又被受理一遍,总之是解决了,速度也挺快
受理1

终于收到我的initial login details

受理2:还挺智能,知道看之前的记录,虽然还是让我多重置一次密码

终于可以下载了,照着官网说明来,先下载下载工具pyEGA3(我python-3.6.14下载然后升级也就只能到pyEGA3-3.4.1,最新版是5.0.1)
然后就是很慢,氪金275包年100M带宽梯子,快了很多,但还是要1年多才能下载完
再次联系客服
求助3

客服残忍拒绝,要我试试最新版,我只想说用脚趾思考也知道新版一样烂,而且数据太大了
受理3

于是我抱着证明给他看pyEGA3真的不行的心态,去下载最新版
我的pip3只能更新到3.4.1,所以我就直接GitHub下载了
然后开始下载数据

python3 -m pyega3.pyega3 -cf confidential.json -c 5 fetch EGAFxxxxxxx --output-dir OUT_DIR

官网写的python,但我服务器python是2,python3才是3
然后我不知道为啥只能在pyega3父目录才能调用这个模块,不管了本急急国王无所谓
-c感觉相当于多线程下载,会快一些,官网建议好像是从30开始试,但我发现5就差不多到头了

总的来说官网介绍的步骤还是很清晰,选择也很多,但很多时候还是要自己长个心眼,不然就会因为很蠢的问题卡很久

果然一晚上就得到了心仪的报错,我当场就是一个邮件发给helpdesk


log就不展示了,除了版本号以外跟上次完全一致

本急急国王已经快被逼疯了

等回复,希望让我用Aspera且Aspera好用

个性化下载

有的机构就非常与众不同了,比如我这次这个要固定IP还要ftp协议传输的

one seesion是不可能one seesion的

我租的7M带宽90G存储1个月(妈的2月只有28天好亏),下载速度理论上是带宽除以8,但大陆到国外的路由比较堵,只开一个session的话速度只有100K/s,于是我大胆开了12个,这样白天路由不太堵的时候带宽会到10M还不错的,晚上10-12点就慢很多,这个数据集2.2T,一共400多个5G左右的小文件,穷学生只能随时手动把数据挪回课题组服务器,还好大陆内部速度很快,基本8M/s,希望1个月能搞定不要再多花钱了
(这个数据集要求ftp传输,所以要记得打开服务器的21端口哦,另外记得mget -c,这样下载中断了会自己重新连接)
华为云网速不错子

下载下来文件大小不完全一样,但是还好MD5对上了,吓我一跳 -_- |||


祝我好运吧


后续2023-2-25

ftp下载的那个大概3月3号就可以下载完,使用钞能力扩容到150G存储,带宽加到12Mbit/s, 每天可以下载100Gb左右,虽然总共也要花将近一个月,好歹是能看到希望

EGA自己提供软件下载的我已经有点佛了,43T的数据,1Mb/s的速度都达不到,各种报错,发好几次邮件过去也没人搭理,所以前两天在Github发了,还收到一位印度友人的评论说完全一毛一样的问题,甚至下载到最后还要来一个MD5不对应的终极折磨,我真的麻了,求求EGA不要再用pyEGA3折磨我,给我个Aspera账号吧

他们确实有在努力优化pyEGA3,但效果属实不咋地,软件下载的话conda应该是最方便的,一步到位,最新版,pip3 install 如果版本不够高就下不到最新的软件,然后就会被staff要求试试最新版的新参数,nmmd根本屁用没有


后续2023-3-7

ftp下载的顺利结束,虽然比预计晚了2天

Ega helpdesk回邮件给我Aspera账号啦,只是Aspera下载下来的文件是加密的,到时还得解密,不知道要花多久,但是下载速度可以有4.5-5MB/s了,虽然还是很慢,但MD5出问题的概率应该会低一些吧(求求了

本来想几个设备一起下载的,结果ascp它一个账号不支持双开,麻了
还好申请数据的时候给师兄账号也顺手申请了,试试能不能再要一个ascp账号吧

解密要另外提供一个邮箱,会收到一个神神秘秘的电子阅后即焚密码


电子阅后即焚密码

等下完再说吧

ascp也是挺烦,不懂得断了自动重连的 (-_-||| 睡一觉起来发现刚睡下就断了,麻

后续2023-3-12

师兄申请Aspera账号的邮件惨遭拒绝,理由又是他妈的我们进行了一些优化你再试试不行再说

好在我的ascp多开成功,两台linux设备同时下载

但是windows设备怎么都用不了ascp,一直报failed to authenticate,所以我就在windows设备用回pyega3

pyega3现在速度也能到4MB/s左右,但有时候会连续好几个小时卡住,并且我下301GB的一个文件两次MD5 mismatch然后自动重开还没下载成功,它是真的不适合下载大文件

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 213,558评论 6 492
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 91,002评论 3 387
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 159,036评论 0 349
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 57,024评论 1 285
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 66,144评论 6 385
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 50,255评论 1 292
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 39,295评论 3 412
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 38,068评论 0 268
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 44,478评论 1 305
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 36,789评论 2 327
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 38,965评论 1 341
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 34,649评论 4 336
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 40,267评论 3 318
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 30,982评论 0 21
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,223评论 1 267
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 46,800评论 2 365
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 43,847评论 2 351

推荐阅读更多精彩内容