自然语言处理(NLP)论文总结(4)基于上下文的情感词向量混合模型

摘要

一句话总结:使用词向量来表示单词或短语;进而使用句子或者文档中单词或短语来表示它们的特征。

主要工作

词的上下文模型介绍:


D是数据集,w是词向量,θ是参数,wi是目标词,wn是人为噪声,k是因子

通过上述处理可以很自然的将前馈神经网络lookup →linear →hTanh→linear.查找层的输入是目标词w 和上下文词h 的连接, 输出是长度为1 的线性层, 表示上下文词h 和目标词w 之间的相关性。

.情感极性模型


排名模型不需要计算概率,故出去了softmax层

混合情感极性模型


将上下文预测模型和性感极性判断模型融合

损失函数为:

其中α为权重系数

数据集

对于中文情感词向量定量评估, 本实验选取中文极性情感词典NTUSD(National Taiwan University Sentiment DicGtionary)中的情感词作为候选词集合. 词向量训练数据集取自于CORA2014 任务手机领域的评论, 选择其中2232 条积极评论和2146 条消极评论. 考虑到词向量的训练语料库不能完全覆 盖NTUSD 中 的 所 有 词, 实 验 选 用 词 向 量 集 合 与NTUSD 的交集作为中文实验数据集, 最终得到积极词1285个, 消极词2804 个.对于英文情感词向量定量评估, 词向量训练的数据集取自NRC(National Research Council) 推文. 使用两个人工标注的情感词典, 即 BL(Basic Language) 情感词典与 NRC 情感词典. 同样地, 取词向量集合与两个情感词典的交集作为英文实验数据集在将数据输入到情感词向量训练模型之前, 首先对数据进行预处理工作

(1)对于英文评论数据, 将所有的词转化为小写;

(2)对于中文评论数据, 将所有的评论文本进行分词处理, 对于中 英 文 数 据, 分 别 使 用 NLPIR ( Natural LanguageProcessing & Information Retrieval Sharing Platform )和Stanford CoreNLP 提供的分词工具进行分词


结果:

情感词获取实验

给定一个情感词作为输入, 首先, 找出情感词典中最接近该词的前 Nw 个词. 本文将 Nw 设置为10 和30来评估情感词向量的性能. 两个词的邻近度通过词向量之间的相似性(例如余弦) 来测量. 然后, 计算这些邻近词与目标情感词具有相同的情感极性的百分比

模型更为优秀,α=0.5-0.6时,性能最佳

词级情感词向量实验

从情感词典中选取部分词做训练集, 训练分类模型, 将3 个情感词典(BL,NRC 和NTUSD) 进行二进制极性分类, 预测其他词是表达积极还是消极的意义, 衡量其准确性. 其中, 词的连续词向量可以作为其分类的特征。

.模型更为优秀。

©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 219,589评论 6 508
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 93,615评论 3 396
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 165,933评论 0 356
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 58,976评论 1 295
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 67,999评论 6 393
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 51,775评论 1 307
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 40,474评论 3 420
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 39,359评论 0 276
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 45,854评论 1 317
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 38,007评论 3 338
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 40,146评论 1 351
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 35,826评论 5 346
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 41,484评论 3 331
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 32,029评论 0 22
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 33,153评论 1 272
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 48,420评论 3 373
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 45,107评论 2 356