张凯 17021211151
转载至:https://mp.weixin.qq.com/s/AG7lkgzxbBNY1yR3nDrY0Q
嵌牛导读:AI机器人AlphaGo打败天下无敌手,已经出人头地了。人们何不向AlphaGo(及AlphaGo Zero)学习呢?
嵌牛鼻子:AlphaGo
嵌牛提问:在当今AI潮流下,企业和年轻人,如何出人头地呢?
AlphaGo懂得如何征服自己面对的巨大不确定性棋局,因而超越了人类顶尖高手。学习AlphaGo如何探索机会之后,创客就懂得了如何面对AI的不确定市场。企业就像AlphaGo一样,可以超越顶尖的人类竞争对手,出人头地了。
传统上,人类的学习偏重于“利用”所学的知识,去发挥所长,解决问题。如果人类能从AI强化学习得到启示,强化探索能力,则人人能探索更多可能,得到更多机会,如图1所示。
在高度不确定性的环境里,唯有懂得降低风险,才敢大胆探索、提高胜率。一旦你选择了创客/创业之路,若能向它学会探索机会的方法,将会协助你在创业路途上心想事成,鸿图大展。
强化学习
探索和利用之间找到平衡
强化学习(Reinforcement Learning)的算法又称为近似动态规划(approximate dynamic programming,简称ADP)。它在探索(在未知的领域)和利用(现有知识)之间找到平衡。探索就是尝试以前从未想过或做过的事情,以求获得更高的报酬。利用就是做当前条件下能产生最大回报的事情。
例如,假设在你家的附近有十个餐馆,到目前为止,你只在其中的八家餐馆吃过饭,了解了这八家餐馆中哪家是最好吃的。如果有一天,你的女朋友来看你,你想请她去最棒的餐馆晚餐。请问您会如何选择餐馆呢?在这个例子里,利用就意味着你带她去所知道的八家中最好吃餐馆;而探索则是带她去你从没吃过的第九家或第十家餐馆晚餐。
如果你选择八家中最好吃的餐馆,那么,也许第九家或第十家比这八家都好吃呢?反之,如果你选择第九家或第十家,也许这两家也可能比那八家都难吃。
那么,你该如何选择呢?这就是“探索-利用”困境。强化学习更接近生物学习的本质,一个标准的强化学习算法必然要包括探索和利用,强化学习更接近生物学习的本质。
谷歌的专家们(即人类老师)已经把这种“探索和利用”平衡的技巧(算法)教给了AlphaGo(机器学生),让AlphaGo(及AlphaGo Zero)超越了人类的围棋顶尖高手。
传统的人类学习是学以致用(利用所学)为依归,由于常常受限于现有知识,无论是人类或机器学生都只能得到区域最优,如图2所示。
因此,无论是机器学生或人类学生,一旦具有强化学习能力,都能大大提升其探索未知机会的能力,有信心去探索更大的状态空间,从而得到全局最优,让学生们成为AI时代的大赢家,人人能探索更多可能,也捕捉到更多好机会。
懂得避风险
才敢大胆探索,才有热情创新
大胆探索的同时,必须要有效降低风险。这是AI时代人类可以向机器学习的重要一课。AI强化学习已经把这种“探索-利用”最佳平衡的算法效益发挥出来,然而需要搭配一种降低风险的策略。
AlphaGo的目标总是将获胜机率最大化放在第一位,它会透过寻找确定的搜索途径实现最低风险的获胜机会。例如,AlphaGo的行为会倾向为了取胜而放弃更多赢子数,只为了降低不能取胜的风险。
AlphaGo的蒙地卡罗算法给出的是搜索之后的胜率评估,然后AI会根据这个胜率来选择落子点。懂得避免风险,才敢大胆探索、热情创新。因而,AlphaGo能在高度不确定性的围棋棋局中超越人类高手。
俗语说,商场如战场,它们都跟围棋竞赛一样具有高度的不确定性。因而人们(如企业家)可以从AlphaGo学会如何在商场上,善于面对如围棋棋局中高度不确定性的市场环境,超越其他竞争者!
不确定性
与不确定性共舞
向AlphaGo学习,有助于提升人们(如学生)的避风险能力和信心,以便更具备创新精神。就如同,下述这句名言:
When you focus on problems,you’ll have more problems. When you focus on possibilities,you’ll have more opportunities.
当你专注于问题时,你就会有更多的问题;当你专注于可能性时,你就会有更多的机会。
当人们一直专注于问题时,是基于过去经验,评估具有现实条件支撑,力求化解问题或避免问题发生的或然性(probability),在心中逐渐萌生具有高度的明确感。这种通过或然性思维而得到地明确感称为或然性明确感。
大家都知道,当面对不确定情况时,人们总是需要明确感才会安心。大多数人习惯于或然性思维,一直专注于问题,力求化解问题或避免问题发生的或然性。于是,在心中逐渐萌生具有高度安心的明确感
这种或然性思维得到的明确感称为或然性明确感,但是,常常会基于经验和现实而过滤掉机率小的可能方案,而失去许多机会。
可能性明确感试图涵盖未来各种可能的机会,避免基于经验和现实而过滤掉或机率小的可能方案。然后,逐步探索经验和现实进行否证而去芜存菁,逐渐提升心中的明确感。即面对复杂和新的未知世界,培养先容纳内心的不确定性,规划方案并采取行动试验(试错),逐渐提升明确性和信心。
可能性意味着或然性很小的事件,有人称之为“黑天鹅”。它的出现,初期并不起眼,经过一段时间,逐渐产生乘数效果的巨大效应。为什么会是“当你专注于可能性时,你就会有更多的机会”呢?
因为上述的一段时间是一项宝贵的资产,例如,张荣发先生也是洞悉到物流集装箱(黑天鹅)而获得宝贵时间,并且预做准备,因而获得更多机会。而后来才进入的竞争者,就因缺乏时间资源而失去竞争力。
大多数人习惯于或然性思维者,他们常常成为失去宝贵时间的后知后觉者,因为他们会觉得黑天鹅,还没普及流行,尚未成气候。这种面对不确定,逐步提升心中的明确感,通称为与不确定性共舞。人们总是需要明确感才会安心。或然性明确感与可能性明确感,其目的是一致的:满足内心所需的明确感。只是手段不同而已。
例如,一只小狮子肚子饿了,依据成功经验奋力去追兔子,只是捕获的兔子日渐减少(可能兔子变敏感了),有些困惑(明确感降低)。这只小狮子的妈妈就教他:肚子饿了,就闭上眼睛睡大觉,不要乱跑。小狮子满脑困惑,不确定感急速上升,非常不安。但母命难违,只好勉强为之,果然耳朵变灵敏了,清晰地听见兔子声音越来越近,然后猛然奔出一抓,轻易捕获,饱餐一顿,继续睡大觉。
君不见,身为野兽之王的雄狮、母狮,常常看似想睡觉的表情,真是“总裁狮子心”呀!小狮子专注于问题(如肚子饿了),却引来更多的问题(如追累了,走不动,引来生命危险)。妈妈教小狮子不要围绕问题,而专注于可能性(如原来以为兔子不可能自动送上门),反而发现更多的机会(如更容易填饱肚子的新途径)。
结 语
从AlphaGo下围棋可以发现,在面对高度不确定性的环境时,它懂得专注于可能性,探索更多机会,获得全局最优而出人头地。人类可以从AlphaGo学习到与不确定性共舞的能力,就会如同小狮子一般,探索到更多赢家之道。
作者信息
高焕堂,台湾VR产业联盟主席、厦门VR/AR协会荣誉会长兼总顾问
AI不仅仅发生在对计算要求高的云端,还会出现在数量更加庞大的物联网边缘端,例如消费电子、汽车电子、工业控制、测试测量等领域。 为此,本媒体邀请部分AI芯片及EDA/IP厂商,介绍边缘AI的最新技术进展和解决方案。