什么是循环神经网络

哈喽,大家好。在上一篇文章中我们简单了解了下卷积神经网络的基本介绍和基本的结构原理。一些小伙伴们给我提出了很多的指正。谢谢各位。话不多说,今天让我们来了解下什么是循环神经网络RNN。

在这篇文章中,我们会聊一聊语言分析,序列化数据中穿梭自如的循环神经网络。那么首先第一个问题,RNN是干什么的呢?他和普通的神经网络有什么不同呢?我们接下来会一一进行探讨。首先我们来想一下乔布斯,现在给你一张乔布斯的照片,不出意外,你应该会脱口而出他的名字,因为你很有可能就正在使用他的一款产品。那么现在先抛开这些产品,先来想一想史蒂芬乔布斯的这个名字,再把它逆序念出来,斯布乔.芬蒂史。有点难吧。这就说明对于预测顺序排列是多么重要,我们可以按照一定的排列顺序来预测接下来可能会出现的字。但是打字顺序我们就很难去分析我们在说什么了。我们现在再想象下现在有一组序列数据Date0,Date1,Date2,Date3,在预测result0的时候我们会基于Date0进行分析,同样在预测其他数据的时候,我们也会根据原有的单组数据进行分析,这样,每一次使用的神经网络都是NN,现在在假设Date0,Date1,Date2,Date3这些数据都是具有关联的顺序的,就好比你在厨房做菜酱料A一定会比调料B早下锅,不然就会串味了。所以普通的网络结构NN并不能让这些数据之间产生关联。那么我们应该怎么样让数据之间的关联让NN也可以加以分析呢?

现在先让我们想想人类是怎么样去分析各种事物是怎样关联的吧。最基本的方式呢就是记住这些事物。那么我们就让神经网络也具有记住这种事物的能力。在分析Data0的时候,我们把分析结果存入NN记忆(Ram),在分析Data1的时候,NN会产生新的记忆,但是问题来了,新的记忆和老的记忆并没有什么关联。我们就简单的把老的记忆调用过来一起分析,如果要分析更多的数据,NN就会把更多的数据都累计起来一起分析,我们再重复一下刚才的流程,不过这次要加一下一些数学的东西。现在的NN变成了我们现在的RNN,每次RNN循环完成后都会产生一个对于当前状况的一个描述,我们把这个结果叫做S(t),记为s在t时刻产生的数据,然后这个RNN开始分析在t+1的时候的数据,这时候RNN也会产生s(t+1)的结果,不过这时候做的Y(t+1)其实是由s(t)和s(t+1)共同得到的,最后我们所说的RNN可以表示成下图所示的那个样子。

RNN的结构形式远不仅仅只有这一种,他的结构形式很自由。比如用于分类的问题,比如一个人说了一句话,这句话里所包含的感情色彩是消极的还是积极地,那么我们就可以用只在最后输出判断结果的RNN,又或者这是可以用于图片描述的RNN,我们只需要一个接口来接受输入的图片,然后生成对于图片描述的一段话,或者是语言翻译的RNN,给他一句中文,让他翻译成英文。有了这样不同形式的RNN,RNN的功能就越发的强大,现在看已经有很多的有趣的RNN应用。比如现在说让RNN描述照片,让RNN来写学术论文,让RNN来写程序脚本,让RNN来作曲。对于我们一般人来说,这是很难分辨出这是人写的还是机器写的,最后,放上一个连接,让我们来欣赏下RNN做出的音乐吧。

http://web.mit.edu/felixsun/www/neural-music.html

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 205,033评论 6 478
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 87,725评论 2 381
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 151,473评论 0 338
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 54,846评论 1 277
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 63,848评论 5 368
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 48,691评论 1 282
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 38,053评论 3 399
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 36,700评论 0 258
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 42,856评论 1 300
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,676评论 2 323
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 37,787评论 1 333
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 33,430评论 4 321
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 39,034评论 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 29,990评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,218评论 1 260
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 45,174评论 2 352
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 42,526评论 2 343

推荐阅读更多精彩内容

  • 此文基于周莫烦大神@莫烦的视频,文章以及各种论文以及自己的一些心得。 1.2.1 卷积神经网络 CNN 卷积和神经...
    阿阿阿阿毛阅读 719评论 0 1
  • 姓名:覃杏留 公司:河池南门时尚商贸有限公司 组别:258期利他二组 【日精进打卡第0079天】 【知~学习】 诵...
    隔世的风阅读 203评论 0 0
  • 人都是感情动物,在我们生活和成长的过程中,我们学会了穿衣打扮,学会了善恶是非,学会了相处共事,当我们日渐长大成熟起...
    暗空星烁阅读 721评论 5 5
  • 昨天一早上我就和约好的户外队友去体育场徒步去了,回来时已经快中午了。打开微信,看到了颖姐给我的留言,说丽雅晚...
    雨落云嫣阅读 486评论 3 7
  • 一、添加MySQL 应用创建好后,默认样式如下图: database有三种供选择,因为我使用的是MySQL数据库,...
    YunsChou阅读 549评论 0 0