#6801#

第4章 语料库与语言知识库

语料库统计

两层含义:利用语料库对于语言的某个方面进行研究;一句语料库所反应出来的语言事实对现行语言学理论进行批判,提出新观点和理论。

  • 平衡语料库 平行语料库
    同一种语言的语料上平行(国际英语语料库)
    两种或多种语言之间的平行采样和加工

  • 通用语料库和专用语料库
    抽样时仔细从各个方面考虑了平衡问题的平衡语料库

  • 共时语料库和历时语料库
    为了对语言进行共时研究而建立的语料库
    历时:为了对语言进行历时研究而建立的语料库。判断四条准则:必须开放的、动态的;所有语料库都应该来源于大众传媒,都具有不同统计计算方法与传媒特色相应的流通度属性;随着语料的动态采集,预料也应该进行动态加工;语料的加工结果也应该是动态和历时的。

  • 生语料和标注语料库
    标注:
    根据加工程度,汉语为主的分词语料库、分词与磁性标注语料库、tree bank、proposition bank、discourse tress bank。

分词问题始终是困扰中文信息处理的问题,因此建立了汉语自动分词系统提供训练数据以建立汉语分词库和分析与词性标注库。

汉语语料库建设等问题(略)

典型语料库:

  1. LDC中文树库(Chinese Tree Bank)
    UPenn负责开发,收集语料取材新华社和香港新闻等媒体,165w汉子,文件由GBK和UTF-8两种编码格式存储。

  2. 命题库(PropBank)、名词化树库(NomBank)、语篇树库(Penn Discourse Tree Bank)是PTB扩展

  3. 布拉格依存树库
    三个语料库:捷克语依存树库、捷克语-英语、阿拉伯语一寸树库

  4. BTEC口语语料
    主要用于语音翻译

5.现代汉语口语语料

  1. 台湾中研院语料库
    汉语平衡语料库和汉语树库
最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 213,014评论 6 492
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 90,796评论 3 386
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 158,484评论 0 348
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 56,830评论 1 285
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 65,946评论 6 386
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 50,114评论 1 292
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 39,182评论 3 412
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 37,927评论 0 268
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 44,369评论 1 303
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 36,678评论 2 327
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 38,832评论 1 341
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 34,533评论 4 335
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 40,166评论 3 317
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 30,885评论 0 21
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,128评论 1 267
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 46,659评论 2 362
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 43,738评论 2 351

推荐阅读更多精彩内容

  • References: 《speech and language processing 》2nd & 3rd 《统...
    艺术叔阅读 7,491评论 1 8
  • 常用概念: 自然语言处理(NLP) 数据挖掘 推荐算法 用户画像 知识图谱 信息检索 文本分类 常用技术: 词级别...
    御风之星阅读 9,167评论 1 25
  • 命名实体识别 命名实体的提出源自信息抽取问题,即从报章等非结构化文本中抽取关于公司活动和国防相关活动的结构化信息,...
    我偏笑_NSNirvana阅读 10,224评论 1 35
  • 大头说:你主动这样 我很高兴 哈哈哈哈 说的是我主动亲他 白眼哈哈哈 自家男票 我有啥不主动的 我骨子里可是相当火...
    鼓鼓的大头阅读 318评论 0 1
  • 奶茶小夏 小夏十多岁的时候,最喜欢喝奶茶。在小夏眼里,夏天的时候,捧上一杯冰奶茶,穿着热裤,汗流浃背地在街上走,真...
    喜糖阅读 321评论 0 1