生物技能树--fasta和fastq格式文件的shell小练习

这个是有机结合生物信息学的linux和数据格式的练习题:
下载bowtie2软件后拿到示例数据:

mkdir -p ~/biosoft
cd ~/biosoft
wget https://sourceforge.net/projects/bowtie-bio/files/bowtie2/2.3.4.3/bowtie2-2.3.4.3-linux-x86_64.zip 
unzip bowtie2-2.3.4.3-linux-x86_64.zip 
cd ~/biosoft/bowtie2-2.3.4.3-linux-x86_64/example/reads

http://ascii.911cha.com/

做题之前的碎碎念:
本来用conda安装了bowtie2,但是进入文件目录没有发现示例文件夹,找了N久没发现(这是我的第一个疑问o(╥﹏╥)o)。于是按照jimmy老师的方法,用wget下载再解压就有了。之前买了腾讯云99一年的服务器,练手可以,下几个软件可以,但是一牵扯分析数据啊什么的,就内存不不足。于是618活动买了进阶版的云服务器,内存做几个样本的分析是够了。但是昨晚下载bowtie2花了近三个小时,最后让电脑run着,我跑去睡了,今早一看,软件下好了。

拿到example数据,先自己查看一下要联系的数据内容什么的吧。
练习数据:reads_1.fq



1) 统计reads_1.fq 文件中共有多少条序列信息

  • 方法一:wc -l
    fastq格式总共是4行,wc -l命令是统计有多少行,40000/4=10000条序列
  • 方法二:grep



2)输出所有的reads_1.fq文件中的标识符(即以@开头的那一行)

  • 方法一:less reads_1.fa | paste - - - - | cut -f 1

cut -f命令
使用教程实例:



  • 方法二:grep (个人本来倾向用grep)




3) 输出reads_1.fq文件中的 所有序列信息(即每个序列的第二行)


4)输出以‘+’及其后面的描述信息(即每个序列的第三行)
和上一题类似

less reads_1.fq | paste - - - - |cut -f 3
or
less -SN reads_1.fq |paste - - - -| awk ' {print $3}'


5)输出质量值信息(即每个序列的第四行)

less reads_1.fq | paste - - - - |cut -f 4
or
less -SN reads_1.fq |paste - - - -| awk ' {print $4}'


6) 计算reads_1.fq 文件含有N碱基的reads个数


7) 统计文件中reads_1.fq文件里面的序列的碱基总数


8)计算reads_1.fq 所有的reads中N碱基的总数


9)统计reads_1.fq 中测序碱基质量值恰好为Q20的个数
如何知道Q20对应的ASCII值,详见
https://www.jianshu.com/p/248308513e2e


根据以上图片知道Q20对应的ASCII为5;Q30为?
因此只要找Q20的个数


10)统计reads_1.fq 中测序碱基质量值恰好为Q30的个数
同Q9


11)统计reads_1.fq 中所有序列的第一位碱基的ATCGNatcg分布情况



12)将reads_1.fq 转为reads_1.fa文件(即将fastq转化为fasta)
fq→fa,需将@替换为>,并只提取前两行


13) 统计上述reads_1.fa文件中共有多少条序列


20000/2=10000


14)计算reads_1.fa文件中总的碱基序列的GC数量


个人更倾向方法三,感觉更简单。grep -o : 只输出文件中匹配到的内容并计数;-e:指定字符串作为查找文件内容的范本样式


15)删除 reads_1.fa文件中的每条序列的N碱基

  • 方法一 less reads_1.fa | paste - - | cut -f 2 | sed 's/N//g'

  • 方法二:less -SN reads_1.fa |tr -d 'N'


16)删除 reads_1.fa文件中的含有N碱基的序列

  • 方法一less reads_1.fa | paste - - | cut -f 2 | grep -v 'N'
    grep -v 反向输出

17) 删除 reads_1.fa文件中的短于65bp的序列
cat reads_1.fa |paste - - |awk '{if (length($2) >= 65) print $0}'|tr '\t' '\n'


18) 删除 reads_1.fa文件每条序列的前后五个碱基
less reads_1.fa |paste - -|awk ' {print $2}'|sed 's/^.....//'|sed 's/.....$//'


19)删除 reads_1.fa文件中的长于125bp的序列
cat reads_1.fa |paste - - |awk '{if (length($2) <= 125) print $0'


20)查看reads_1.fq 中每条序列的第一位碱基的质量值的平均值

这题 perl -alne 那块不太懂(⊙_⊙)? 看了网上别人的作业答案

less -SN reads_1.fq |paste - - - -|awk ' {print $4}'|cut -c 1|perl -alne '{print ord($_)-33}'|paste -s -d+|bc

ord()函数主要用来返回对应字符的ascii码,chr()主要用来表示ascii码对应的字符他的输入时数字,可以用十进制,也可以用十六进制。


©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 194,088评论 5 459
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 81,715评论 2 371
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 141,361评论 0 319
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 52,099评论 1 263
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 60,987评论 4 355
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 46,063评论 1 272
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 36,486评论 3 381
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 35,175评论 0 253
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 39,440评论 1 290
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 34,518评论 2 309
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 36,305评论 1 326
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 32,190评论 3 312
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 37,550评论 3 298
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 28,880评论 0 17
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 30,152评论 1 250
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 41,451评论 2 341
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 40,637评论 2 335