大型单细胞数据分析解决方案

为什么要做大型单细胞数据分析

因为单细胞数据在呈指数增长,遇到大数据集只是早晚的问题。曾经我们困惑一个物种的基因组那么大,如果给很多物种都测基因组的话,拿什么来存储这些数据?随着单细胞技术的成熟,测序成本的下降,眼见单细胞数据通量将会呈现超指数增长。在bulk时代所几十例转录组会觉得已经做了很多了,而单细胞时代少则几千大则百万的数据量。我们不能怪时代太快,只能怪自己没有做好心理准备。

Exponential scaling of single-cell RNA-seq in the past decade

如今在生命科学研究范式里,有了数据驱动(data-driven)的选项。那么,什么是数据驱动的呢?这一概念源于现代技术的进步,不断带来大量系统、全面和深入的数据。当范式改变时,数据驱动新的科学发现,而不是相反。能够利用现有数据的研究人员能够挖掘出意想不到的、不可预测的关系和新知识。与此同时,计算能力、机器学习、人工智能和其他可用来处理这些数据的技术已经显著提高,并为那些成功将数据与自己的工作联系起来的人提供了巨大的机会。

大型单细胞数据分析,涉及到多个dataset的处理,它往往即是科学上的也是工程上的,所以有一些项目管理的原则是适用的。如大型单细胞数据分析的周期/ 交付结果 等。而我们关注的是数据分析,在单细胞数据科学中有哪些策略来应对大型单细胞数据分析呢?通常可以采用的技术有:

  • 0, 降维

降维我们并不陌生,目前已经广泛地应用到单细胞转录组的数据分析流程中了,如PCA。

  • 1,并行化策略

越来越多的分析工具开始允许用户适用多线程和并行化策略分析数据,如scenic的python版本以及Seurat的几个消耗资源的函数。

  • 2,downsample

当我们明确了单细胞数据分析的基本单位是细胞亚群而不是单个细胞的时候,在数据分析以及可视化的过程中应用downsample在一个亚群内随机取子集的策略就会显得很自然了。特别是在绘制热图时。

  • 3,pseudocell

同样地,在某细胞亚群内随机选取小子集做基因表达量的平均,也是一个数据缩减的方法。其核心依然是:保留亚群内均和亚群间差异,也即单细胞数据分析的基本单位是细胞亚群而不是单个细胞。

  • 4,C++重写算法

当需要处理大型的矩阵时,如矩阵计算,转置等,不用底层语言往往会把内存吃完,特别是当我们的数据中有很多零的时候。这时,会不会底层语言就显得很重要了。

5,项目管理在数据分析中的应用

大型单细胞数据分析,其涉及到的dataset更多,分析周期也比一般的小图谱要长,所以需要一些数据管理的经验。

本文所说大型单细胞其实只是细胞数比较多,20W+,而没有涉及到单细胞多模态的数据分析。同时,数据分析的另一个趋势:机器学习,也没有提到。这并不代表它们不重要。

Svensson, V., Vento-Tormo, R. & Teichmann, S. Exponential scaling of single-cell RNA-seq in the past decade. Nat Protoc 13, 599–604 (2018). https://doi.org/10.1038/nprot.2017.149
https://www.scilifelab.se/data-driven

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 204,793评论 6 478
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 87,567评论 2 381
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 151,342评论 0 338
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 54,825评论 1 277
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 63,814评论 5 368
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 48,680评论 1 281
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 38,033评论 3 399
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 36,687评论 0 258
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 42,175评论 1 300
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,668评论 2 321
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 37,775评论 1 332
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 33,419评论 4 321
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 39,020评论 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 29,978评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,206评论 1 260
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 45,092评论 2 351
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 42,510评论 2 343

推荐阅读更多精彩内容