文本匹配模型TextMatching

0. 写在前面

本次分享一篇NLP文本匹配的经典文章,主要思路是借鉴图像识别的思路来解决NLP文本匹配问题,毕竟计算机视觉技术的发展在当时异常迅猛。

个人心得:

  1. 文本匹配问题可转化为二分类问题,输出概率则为相似度
  2. 将图像识别的思路应用于文本匹配任务中,利用卷积抽取文本特征

论文地址:

https://arxiv.org/pdf/1602.06359.pdf

1. 背景

文本匹配广泛用于搜索引擎、问答系统、信息流相关文章推荐等场景中,目的是为了在文本库中找出与目标文本类似或相关的文本。本文即将介绍的TextMathcing模型是一种端到端的文本匹配方法,将计算机视觉领域图像识别任务的解决方案思路引入文本匹配模型中,让我们一起来看看作者是如何设计和实现的。

2. 模型架构

TextMatching模型架构如图所示。

image

我们将模型架构拆解为如下几个步骤:

  1. 文本嵌入
    本文方法首先利用词向量模型得到文本或者句子中的每个词的embedding向量,这一步也是非常通用的步骤,目前主流的词向量模型为word2vec/fastText/glove/bert等,本文选用glove。

  2. 计算相似度矩阵
    对待匹配的文本(具体而言是一个二维数组,每一维是文本中每个词的embedding向量)进行外积,得到每个词之间的相似度得分。如果两个文本分别由M,N个词组成,那么,相似度矩阵大小为M*N。作者提供了三种词与词之间的相似度得分计算方法:

    a. 0-1类型,对应的词相同为1,否则为0。这种方法的缺点在于无法捕获相似词间的语义匹配关系。

    image

    b. cosine相似度

    image

    c. 点积

    image

    经实验,方案3的效果最佳。

  3. CNN特征提取

    为什么说本文的思路是像图像识别一样作文本匹配呢?关键一步就是作者使用了图像识别中常用的CNN卷积层来提取文本特征。TextMatching模型使用了两层CNN从相似度矩阵中抽取特征。这里需要注意的一点是,不同的文本对产生的文本相似度矩阵大小是不一致的,为了让CNN抽取的feature map在输入到全连接层时能够在尺寸上保持一致,作者在第一层CNN后使用了一层动态pooling层来动态调整feature map尺寸。

  4. 全连接层

    经CNN抽取特征后,TextMatching将特征送入两层全连接层,再经softmax得到模型推理结果,输出的概率值即可认为是文本对的匹配程度。

3. 模型评估

作者将本文模型与其他主流文本匹配模型进行对比,可以看出,本文提出的TextMatching模型效果还是优于当时的主流模型的。

image

4. 总结

本文介绍了一种文本匹配的经典工作,其思路是将基于CNN的图像识别思路引入文本匹配模型中,进而提升文本匹配效果。

©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 212,657评论 6 492
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 90,662评论 3 385
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 158,143评论 0 348
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 56,732评论 1 284
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 65,837评论 6 386
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 50,036评论 1 291
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 39,126评论 3 410
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 37,868评论 0 268
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 44,315评论 1 303
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 36,641评论 2 327
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 38,773评论 1 341
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 34,470评论 4 333
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 40,126评论 3 317
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 30,859评论 0 21
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,095评论 1 267
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 46,584评论 2 362
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 43,676评论 2 351

推荐阅读更多精彩内容