AutoML——为神经网络选择正确的架构

[Description]

谷歌首席执行官Sundar Pichai在面向app程序员和硬件制造商举办的年度I/O开发者大会上发布了一个名为AutoML的项目,它可以自动化设计深度学习软件最难的部分之一:为神经网络选择正确的架构。

[Keywords]

AutoML、神经网络、、深度学习、谷歌、AI

[Question]

AutoML是神马东西?有什么作用?

[Text]

      谷歌在I/O大会上新发布的AutoML旨在自动化设计深度学习软件最难的部分之一——为神经网络选择正确的架构。这些人工神经网络被设计成模仿大脑的学习方式。按照谷歌首席执行官Sundar Pichai解释说法,AutoML的工作方式就是我们采用一组候选神经网络,将它们看作是baby神经网络,然后用一个神经网络来遍历它们,直到我们找到最好的神经网络。

       谷歌的研究人员创建了一个使用强化学习的机器学习系统——试错法本身就是谷歌许多最著名的AI应用的核心理念——用以找出完成语言与图像识别任务的最佳架构,在这个强化学习过程中,计算机可以将尝试和错误与某种奖励联系起来,就像教狗新把戏一样。但整个过程需要超强的计算能力,而谷歌的硬件已经进入可以支撑一个神经网络分析另外一个神经网络的阶段。以前科学家和工程师的专家团队通常需要花费大量的时间来组合神经网络,现在有了AutoML,几乎任何人都能够构建AI系统来处理任何他们想做的任务。

一个神经网络选择其他神经网络

       Pichai在一篇博文中写道:“我们希望AutoML的能力抵得上现在几个博士之和,并且可以在三到五年时间内为成千上万的开发人员设计出新的神经网络以满足他们的特殊要求。”

       机器学习就是使用计算机根据样本数据做出自己的决策,是开发人工智能的一种方法,它涉及到两个主要步骤:训练和推理。训练过程要求一台计算机看成千上万的猫狗照片,以了解每种动物呈现出怎样的像素组合。随后的推理过程是系统根据其学到的东西作出猜测,用神经网络替换猫和狗,AutoML要做的不是识别动物,而是识别出哪些系统是最聪明的。根据Google的研究,AutoML在找到解决问题的最佳方法方面比人类专家更聪明,这可能会为未来AI系统的构建节省大量工作,因为它们可以进行部分程度的自我构建。就如Google科学家QuocLe和Barret Zoph所说:“我们认为这可以激发新型神经网络,并且使非专家可以根据自己的特定需求创建神经网络,从而使得机器学习增加对人们的影响力。”

       AutoML的选择结果不仅可以与最佳的人性化设计架构相抗衡,而且系统做出了一些非常规的选择,研究人员以前会认为类似的选择不适合这些任务,相关研究人员对MIT Tech Review表示,这种方法还有很长的路要走,因为它捆绑了800个强大的图形处理器。不过谷歌认为,自动化构建机器学习系统的过程可以帮助克服人机学习和数据科学人才的短缺,正是这两点拖慢了新技术的应用进程。

       AutoML并不是唯一的一个,据Wired报道,Facebook的工程师们也已经开发了称为“自动化机器学习工程师”的工具。它的名字也叫AutoML,能够就最有可能解决问题的算法和参数做出选择。

       去年夏天,一个称为AutoML challenge的挑战任务(资助者包括微软、英伟达等)让很多团队开始构建一种机器学习“黑匣子”,能自行选择模型和调整参数,而无需人为干预。挑战任务甚至吸引了游戏设计师的参与,游戏Space Engineers的开发团队利用部分游戏收入组件了一个专家团队来设计可以优化自己软硬件的AI。

       AI在让自己变得更聪明的过程中变得更聪明。虽然此类自动化可以使非专家更容易设计和部署AI系统,但它似乎也为机器控制自己的命运奠定了基础。“递归的自我完善”概念是大多数从中等智能快速跃升至AI超级智能理论的核心。其核心理念在与,随着AI越来越强大,它可以开始自我调整,以提高其能力。AI在让自己变得更聪明的过程中变得更聪明,这很快就会导致了智能化的指数增长。一般来说,所谓的“种子AI”被设想为通用人工智能 (AGI),它是一种能够执行任何智力任务的机器,就像人类一样,而不是像今天的大部分算法一般,只是某一个领域的专家。今天的系统离AGI还有很长的路要走,它们的目的是开发和改进其他机器学习系统,而非自身。在机器学习之外,代码的自我调整已经存在了一段时间,但是部署这种技术来编辑神经网络可能要复杂得多。但是创造能够处理机器学习代码的算法显然是迈向未来学家设想的自我改进AI的第一步。

       最近一些其他技术进展可能也会推动这一方向的发展,许多AI研究人员正在努力将好奇心和创造力编码到机器学习系统中,如加州大学伯克利分校研发的为AI植入好奇心,这两个特征可能对一台重新自我设计以提升性能的机器来说是必须的。还有一些研究人员正在尝试让机器人分享他们所学到的东西,有效地将它们变成一种“蜂巢思想”。毫无疑问,这些能力想要达到可以有效地实现能够自我改进的AI,还有很长的路要走,但我们确实已经可以看到一些相关技术基础正在铺设之中。

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 212,657评论 6 492
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 90,662评论 3 385
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 158,143评论 0 348
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 56,732评论 1 284
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 65,837评论 6 386
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 50,036评论 1 291
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 39,126评论 3 410
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 37,868评论 0 268
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 44,315评论 1 303
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 36,641评论 2 327
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 38,773评论 1 341
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 34,470评论 4 333
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 40,126评论 3 317
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 30,859评论 0 21
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,095评论 1 267
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 46,584评论 2 362
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 43,676评论 2 351

推荐阅读更多精彩内容