python自然语言处理学习笔记(一)

一、语言计算:文本和单词

1. NLTK简介

NLTK 创建于 2001 年,最初是宾州大学计算机与信息科学系计算语言学课程的一部分。 从那以后,在数十名贡献者的帮助下不断发展壮大。如今,它已被几十所大学的课程所采纳, 并作为许多研究项目的基础。

语言处理任务与相应NLTK模块以及功能描述

使用pip install nltk即可安装成功。安装完 NLTK之后,使用如下代码来安装《python自然语言处理》这本书所需要的数据:

import nltk
nltk.download()
运行代码后弹出的界面

查看和使用所下载的文本数据:

2. 搜索文本

词语索引视图显示一个指 定单词的每一次出现,连同一些上下文一起显示。查看《白鲸记》中的词 monstrous:

可以用.similar方法来识别文章中和搜索词相似的词语:

.common_contexts允许我们研究两个或两个以上的词共同的上下文:

判断词在文本中的位置:从文本开头算起在它前面有多少词。这个位置信息 可以用离散图表示。每一个竖线代表一个单词,每一行代表整个文本:

3. 计数词汇

使用len(text3)获取文本中出现的词和标点符号为单位算出文本从头到尾的长度。

set(text3)获得 text3 的词汇表,然后用 sorted()包裹起 Python 表达式 set(text3),得到一个词汇项的排序表:

计数一个词在文本中出现的次数和计算一个特定的词在文本中占据的百分比:



二、近观 Python:将文本当做词链表

这里就是介绍python的list和字符串,因为已经学习过了,所以稍微看了下就跳过了。


三、计算语言:简单的统计

1. 频率分布

使用 FreqDist 寻找《白鲸记》中最常见的 50 个词:

FreqDist::plot(n):该方法接受一个数字n,会绘制出现次数最多的前n项,在本例中即绘制高频词汇:

FreqDist::hapaxes(): 该方法会返回一个低频项列表,低频项即出现一次的项。

2. 细粒度的选择词

长高频词一般为文本的特征词,我们可以看看文本中长度大于7个字符出现次数超过7次的词:

3. 词语搭配和双连词( bigrams)

一个搭配是经常在一起出现的词序列。 red wine 是一个搭配而 the wine 不是 。collocations()函数可以做这些:

4. NLTK频率分布类中定义的函数


四、回到 Python:决策与控制

主要还是一些python的控制语句,略


五、自动理解自然语言

  • 词意消歧
  • 指代消解
  • 自动生成语言
  • 机器翻译
  • 人机对话系统
  • 文本含义识别

NLP 的局限性:尽管在很多如 RTE 这样的任务中研究取得了进展, 但在现实世界的应用中已经部署的语言理解系统仍不能进行常识推理或以一种一般的可靠的方式描绘这个世界的知识。我们在 等待这些困难的人工智能问题得到解决的同时,接受一些在推理和知识能力上存在严重限制 的自然语言系统是有必要的。因此,从一开始,自然语言处理研究的一个重要目标一直是使 用浅显但强大的技术代替无边无际的知识和推理能力,促进构建“ 语言理解”技术的艰巨任务 的不断取得进展。事实上,这是本书的目标之一,我们希望你能掌握这些知识和技能,构建 有效的自然语言处理系统,并为构建智能机器这一长期的理想做出贡献。

©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 221,198评论 6 514
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 94,334评论 3 398
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 167,643评论 0 360
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 59,495评论 1 296
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 68,502评论 6 397
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 52,156评论 1 308
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 40,743评论 3 421
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 39,659评论 0 276
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 46,200评论 1 319
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 38,282评论 3 340
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 40,424评论 1 352
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 36,107评论 5 349
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 41,789评论 3 333
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 32,264评论 0 23
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 33,390评论 1 271
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 48,798评论 3 376
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 45,435评论 2 359

推荐阅读更多精彩内容