毫秒级浏览超大文件(Gb级)- 天下武功,唯快不破

写在前面

人性!在我们开展生物信息数据分析的过程中,总是有一些咋看起来奇怪,但事实上却合情合理的需求,比如本文主题,打开文件,看看里面都是啥?。一般这种需求的产生有两种原因:

  1. 高通量测序数据分析结果,总是产生大文件(上Gb的基因组序列文件)或者大表格(不好意思,还真有上G的制表符分隔文件,如表达量和各种注释信息一起的文件,或者vcf文件)
  2. 不知为何,就是想看看

前一点是可以理解的,毕竟大文件,不好找到软件去查看。如果是在Linux或者其他nix流派,直接head或者tail即可,但在可视化界面工具上,极少。估摸着,可能是五年前的事情,那会有个朋友,就是想看看一些公司结题报告中的基因注释信息文件【注:文本文件,以.xls为后缀,Excel是打不开的】。索性,我就写了两个功能:BigTextPreview 和 BigTablePreview。


两者目的相似,主要在于,预览大文本和大表格。有使用 TBtools 的朋友应该会有体会,不少工具,拖拽并放置输入文件,TBtools 会自动弹出文本预览窗口...这个预览窗口几乎是毫秒级弹出,无论文件多大,比如几百Gb。

BigTextPreviw的使用

前述菜单,点击即可弹出对话框,直接拖拽文件并放置其中,即可瞬间显示文本,毫无卡顿


动图没做任何修剪。这个原理很简单,从代码实现的角度,就是直接读取一部分文件内容,直接展示,所以是毫秒级。当然,你可以点击Next Page不断翻页。整体上,用于预览已经足够。
同时,这个功能直接支持.gz压缩的文件,比如你的基因组文件太大(如小麦16Gb+)或者甚至,你就是要看看公司返回的测序原始数据.fq.gz,那么操作完全相同。

BigTablePreview的使用

事实上,这个功能跟 BigTextPreview 类似,只是以表格的方式来展示。很多生信数据分析结果文件,以制表符或者csv格式保存,比如基因结构注释文件 GFF3/GTF。 大多数时候这类文件就几十Mb,使用 Notepad++的文本编辑器也可以查看,只是速度慢了点。但有时候,GFF3或者GTF文件也可以达到上G大小。于是,使用 TBtools 做简单的预览,就显得方便。


当然了,这个一样支持.gz压缩的文件...具体就不做演示。

浏览,而不仅仅是预览

人性啊~ 正如文首,有些时候人总是有各种好奇心,不知为何,就想看看。比如,几十Mb或者几十Gb的文件,就是手痒,想随便翻翻。这个时候,常见的文本编辑器可能确实无法满足你的需求。很早前,我用过一个叫 EmEditor,还是不错,但为了看看文件,专门去下载一个软件,并挑选他的阉割免费版,不是我的操作习惯。正好,有用户直接在群里开怼,提到 TBtools 功能有限,为啥看不到大文件云云。搞下来,发现其并没有更新。于是我又看了看以前写的Code,写得挺好,就是有时候用起来不爽,只能看头,不能看脚,有时候还会遇到用户想看中间~~。于是顺手就实现了一个,前后不到一个小时,具体翻公众号历史推文。效果如下:


浏览序列文件感觉似乎确实没啥用,那就自由地浏览gff3文件试试

Emmm,感觉好多了

写在后面

其实...没什么好写的。只是人啊,有时候总是被自己一个人感动。于是才会有我哭了,你呢?
不同的视角,看到的问题完全不同。感同身受,是个伪命题。
正如我可能永远想不明白,为什么存在这么一种需求,不知为何,就是想看看。但需求,应该被考量,被接受,而不是批判。于是我又花多一个小时加了一个功能。受益的不只是需求方,也包括我自己。

©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 216,324评论 6 498
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 92,356评论 3 392
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 162,328评论 0 353
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 58,147评论 1 292
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 67,160评论 6 388
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 51,115评论 1 296
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 40,025评论 3 417
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 38,867评论 0 274
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 45,307评论 1 310
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 37,528评论 2 332
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 39,688评论 1 348
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 35,409评论 5 343
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 41,001评论 3 325
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 31,657评论 0 22
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,811评论 1 268
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 47,685评论 2 368
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 44,573评论 2 353

推荐阅读更多精彩内容