[NCO,NCL]基础NCO、NCL命令

最近接触单柱模式,需要处理输出NC文件,即NetCDF文件(Network Common Data Format),简单了解了NCL和NCO工具。一个NetCDF数据集包含维(dimensions)、变量(variables)和属性(attributes)三种描述类型,每种类型都会被分配一个名字和ID,这些类型共同描述了一个数据集,NetCDF库可以同时访问多个数据集,用ID来识别不同数据集。变量存储实际数据,维给出了变量维度信息,属性则给出了变量或数据集本身的辅助信息属性,又可以分为适用于整个文件的全局属性和适用于特定变量的局部属性,全局属性则描述了数据集的基本属性以及数据集的来源。
流行的处理软件有很多,对比如下:

Paste_Image.png
Paste_Image.png

NCL

NCL全称为NCAR Command Language,是由美国大气研究中心(NCAR)开发的 专门用于科学资料分析与可视化的一门解释型语言。
NCL支持的数据类型包括NetCDF 3/4,GRIB 1/2, HDF 4/5,HDF-EOS 2/5, shapefile,ASCII,binary。内建了大量的分析函数。可以很方便的产生 高质量的图形并且有大量的图形源(resource)可被用于自定义图形。大量 示例脚本和相应的图形可在官网(ncl.ucar.edu)学习。

基本命令
参考资料

官网

Paste_Image.png

http://ncl.readthedocs.io/zh_CN/latest/index.html
https://blog.tianqitu.net/2011/10/22/ncl-e5-9f-ba-e6-9c-ac-e8-af-ad-e6-b3-95/
https://linux.die.net/man/1/ncrename

NCO工具

netCDF Operators (NCO) 工具用来操作和分析netCDF自描述数据存储格式。
nco 使用频率较高的两中处理方式就是average与concatenation
添加(Appending)是针对变量的。
file1 = T,U,V
file2 = P,C
file3 = T,U,V,P,C
连接(Concatenation)是针对(如:时间)维度的。
file1 = T(0-12,:,:)
file2 = T(13-24,:,:)
file3 = T(0-24,:,:)

基础命令

ncks filename | more #查看文件
ncks -v variable filename
ncrcat #将已有record集合为一个文件
ncecat#将ensemble集合为一个文件
ncra #将record取平均
ncwa#将record的某些部分取平均, -a 是去掉某些变量
ncdiff #取不同
ncea #变量取平均
ncrename #变量重命名
cdo #变量插值
ncpdq -U #变量类型转换

参考资料

官网网站http://nco.sourceforge.net/nco.html
http://bosomfriend.blog.edu.cn/home.php?mod=space&uid=1555165&do=blog&id=75336
http://hxfcalf.blog.163.com/blog/static/21575548201051191420134

实践

  1. 在我的实验中只用到了几个命令
    ncrename ##rename dimensions, variables, and attributes in netCDF file.
    ncdump -h XXX.nc #查看文件结构
    ncks XXX.nc | more##查看数据内容
    ncks -H -v u -d lev,15 -d time,56,1136 ARM95_4scam.nc U850.nc ##查看搜索lev数组第15元素,time数组在56,1136标号内,变量为u的数据并输出到U850.nc文件中
    ncwa -a time,lev U850.nc -O U850.nc ##平均掉time和气压水平

  2. cnl文件
    <pre>
    load "$NCARG_ROOT/lib/ncarg/nclscripts/csm/gsn_code.ncl"
    load "$NCARG_ROOT/lib/ncarg/nclscripts/csm/gsn_csm.ncl"
    load "$NCARG_ROOT/lib/ncarg/nclscripts/csm/contributed.ncl"
    load "$NCARG_ROOT/lib/ncarg/nclscripts/csm/shea_util.ncl"
    load "$NCARG_ROOT/lib/ncarg/nclscripts/contrib/ut_string.ncl"
    begin
    ;var_names = (/"LWCF", "SWCF", "PRECT", "Q850", "T850"/)
    var_names = (/"U200","U850","V200","V850","PRECT","Q850","FLUT","FSNTOA","T850","T200","CLDHGH","CLDLOW","CLDMED","CLDTOT","PS"/)
    obs_path = "/home/huangxin/CSM-tunner/SCAM/cesm1_2_2/SCMtest_11111/run/metrics/climo/obs"
    model_base = "/home/huangxin/CSM-tunner/SCAM/cesm1_2_2/SCMtest_11111/run/metrics/climo/model/tune/"
    climo_path = "/home/huangxin/CSM-tunner/SCAM/cesm1_2_2/SCMtest_11111/run/metrics/climo/"

    num_vars = dimsizes(var_names)
    var_obs = new((/num_vars/), float)
    var_obs@_FillValue = 1.0e33
    var_obs = var_obs@_FillValue
    var_model = new((/num_vars/), float)
    var_model@_FillValue = 1.0e33
    var_model = var_model@_FillValue
    var_rms = new((/num_vars/), float)
    var_rms@_FillValue = 1.0e33
    var_rms = var_rms@_FillValue
    do k = 0, num_vars - 1
    obs_file = obs_path + "/" + var_names(k) +".nc"
    model_file = model_base + "tmp.nc"
    fp_obs = addfile(obs_file, "r")
    ;print(fp_obs->$var_names(k)$)
    var_obs(k) = fp_obs->$var_names(k)$(0,0)
    fp_model = addfile(model_file, "r")
    var_model(k) = fp_model ->$var_names(k)$(0,0,0)
    end do
    var_rms = (var_obs - var_model)^2
    </pre>

  3. 未解决:利用bash的while循环按行读文件(如下),每读一行处理一次ncl,但会遇到语法问题:syntax: line -1
    <pre>
    while read variable
    do
    ...
    ncl XXX.ncl
    ...
    done
    </pre>
    目前用csh来处理,或bash的其他效率低的读文件方式。

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 204,921评论 6 478
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 87,635评论 2 381
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 151,393评论 0 338
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 54,836评论 1 277
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 63,833评论 5 368
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 48,685评论 1 281
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 38,043评论 3 399
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 36,694评论 0 258
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 42,671评论 1 300
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,670评论 2 321
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 37,779评论 1 332
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 33,424评论 4 321
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 39,027评论 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 29,984评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,214评论 1 260
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 45,108评论 2 351
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 42,517评论 2 343

推荐阅读更多精彩内容

  • 1. Java基础部分 基础部分的顺序:基本语法,类相关的语法,内部类的语法,继承相关的语法,异常的语法,线程的语...
    子非鱼_t_阅读 31,577评论 18 399
  • linux资料总章2.1 1.0写的不好抱歉 但是2.0已经改了很多 但是错误还是无法避免 以后资料会慢慢更新 大...
    数据革命阅读 12,131评论 2 34
  • 第1章 小试牛刀 $ 是普通用户,# 表示管理员用户 root。 shebang:#!。sharp / hash ...
    巴喬書摘阅读 6,326评论 1 4
  • 不支持上传文件,所以就复制过来了。作者信息什么的都没删。对前端基本属于一窍不通,所以没有任何修改,反正用着没问题就...
    全栈在路上阅读 1,948评论 0 2
  • 朋友佳佳从远方传来婚讯,一脸幸福地宣告她要走进婚姻啦。 还记得那些日子,看起来憔悴不堪的她总是深夜里和我聊天,隔着...
    伊达生活笔记阅读 227评论 0 0