人工智能简述:
通过人工标注的数据集合,绝大多数的AI通过生成简短标签(好的/坏的)来建立模型工具,它需要大量的数据作为基础,通过算法完善自身,我们通常将这些算法分为各种监督学习工具,通过工具生成的模型可以生成复杂的输出结果,例如文本、图片和视频。
安全与监管问题:
我个人认为,AI威胁论是对一种先进生产力的抵触也是一种未雨绸缪的预见性,有利有弊。类似的事情发生在蒸气机时代,蒸汽机的出现带动了生产力的极大进步,它带来了技术的爆发进步和恐怖的战争时代,世界格局发生深远且持续的变化。冷战后,我们几乎都还保持着冷战思维,民族仇恨通过历史材料和影视剧提醒大家不要忘记,同时也在与各国加深合作关系,世界大部分仍在和平与发展中进步,这种安全的生活来之不易,相比于仍处于战乱国家的我们,更需要格外珍惜,所以我们渴望和平,渴望持续安全地生活。
在最近的2023世界政府峰会上,马斯克给出了他的看法:未来十年,总是很难准确地预测技术,特别是在十年范围内,因为技术在快速变化。我们正在向可持续能源过渡,包括太阳能、风能、电池和新能源汽车,他们的增长比例非常高。尽管我们目前还是基于化石燃料经济的大规模工业基础,即使汽车百分百过渡为新能源汽车,也需要20年的时间,这仍然是需要逐渐转变的过程,它是至少以三四十年的时间范围来衡量的,而在更短的时间范围内,我认为我们更需要颇为担忧的是人工智能,我们需要关心人工智能的安全问题。关于ChartGPT,我在创建OpenAI的过程中发挥了重要作用。当时我担心谷歌并没有对人工智能的安全问题给予足够的重视,所以我和一些人共同创建了OpenAI。一开始,它被创建为一家开源的非盈利组织,而现在它变成了闭源的盈利组织。我已经没有任何OpenAI的股份,我不在董事会里,我不再以任何方式控制它。但是,我认为ChartGPT已经向人们展示了人工智能已经变得多么先进。人工智能已经发展了相当长的时间,它只是并不具有大多数人都能使用的用户界面,ChartGPT所做的就是在为已存在多干年的人工智能技术添加一个可用的用户界面,而且还会有更先进的版本问世。坦率地说,我认为我们需要监督人工智能的安全问题。因为如果你想想任何可能对人们造成风险的技术,比如汽车、飞机和药品,我们有监管机构来监督它们的公共安全问题,我认为我们应该对人工智能有类似的监管监督,因为它对社会的风险,事实上比汽车、飞机或药品更大,这可能会减缓人工智能的发展,但是我认为这可能也是件好事。挑战在于,政府的监管机构往往是应对已发生的坏事而设立的,比如汽车或飞机,一开始,汽车是不受监督的,飞机也是不受监督的,但发生了很多飞机失事的状况。有时,制造商偷工减料,导致很多人死亡,公众对此颇为不满,于是他们建立一个监督机构来提高安全性,而现在,商业航班非常安全,事实上,航班比开车驾驶更安全,而相对过去,汽车也是极其安全的。但如果你想想安全带是怎么引入的,汽车行业引入安全带将其作为一项安全措施而斗争了10年或15年,最后监管机构才让他们在汽车上安装安全带,这极大提高了汽车的安全性,然后,汽车气囊也是安全方面的另一个重大改进。所以我的担心是,对于人工智能而言,如果它出了什么问题,从监管的角度来看,反应可能会太慢。我想说,对于未来文明而言,最大的风险之一就是人工智能。但是人工智能既有消极的一面也有积极的一面,它富有希望,具有强大的能力,但同时也伴有巨大的危机。看看核物理的发现,我们可以因此获取核能发电,但同时也带来了核弹。总之,我认为我们应该深度关注这个问题,我们应该对那些从根本上对公众构成风险的东西进行某种监管。
总结下马斯克的说法,需要AI很强大也具有风险,需要政府提前设计监管举措,防范未出现某些公众危机。
AI对普通和行业内人员究竟有哪些影响?
1、AI是希望,它提供了下一次科技革命的生产力
正如马斯克所说,AI的生产力其实早就被某些企业所使用,只是没有开放给普通用户,爆火的ChartGPT证明了AI的生产力价值,对某些行业的冲击,已经到来。
为了了解现状,需要回顾下第三次工业革命。二战后,世界各国消耗了极大的资源发展科技,军事上发明的各种先进技术开始向民间普及,计算机技术也在其中。初期的互联网是用户访问中心网络为主,信息由政企发布,用户单方面获取,数据量取决于企业的处理能力。从社交网络开始,自媒体开始发展,网络信息开始逐渐由用户发布信息为主,从此,网络数据开始急剧增加,包括文本、图片、视频等数据开始爆发式增长,大数据技术应运而生。
而AI做的事情,大概可以这样描述:在网络虚拟世界和现实世界之间建立起越来越多的连接,基于人们越来越依赖网络而不断产生的数据,人们找到了某些方法,从数据中提取模型,生成一些仿佛是人类产生的数据,这些模型能够整合数据、模拟数据为人类创造新的事物。
从AI向下普及开始,很多单一的创造性行业,如文案广告写手、图形设计师等创造性行业将面临失业的冲击。
AI并不是一件坏事,就像宇航员飞向太空证实了没有上帝一样,技术的进步会战胜恐惧,畏惧的人只是怕失去自己的某种地位罢了。人类是进步的,技术应该服务于人,让人类生活得更好。
2、AI是文明的吸血鬼
AI的基础是数据,数据的来源涉及到版权、隐私等各种问题。其中最先让民众担忧的就是隐私问题,那些AI公司有没有使用我的照片,我的文章,甚至我的艺术画作和视频素材?
目前所有的AI公司都面临一个现状,就是AI的获益不足以雇佣足够多的优秀工程师去开发AI程序,质变无法完成就只能从量变出发,催生了基与大数据、云计算SaaS服务需求。
说白了,就是需要庞大的数据和廉价的人工标注。这些数据都是在各个网络平台和社交软件中提取的,通过低价劳动力进行标注。关键的问题是,如何去保障使用的数据不侵犯个人隐私?怎么保证你的照片头像没有被用来训练识别亚洲面孔的特征?如何来保障优秀艺术家的画作不被成为AI生成画作的底层“养料”?
为此,吴恩达最近给出了他的个人看法:当我们在某些任务中与SaaS提供商合作时,完全保证隐私是不现实的,但是某些工具在执行记录和监视时保护了隐私。希望我们能持续开发可以使人工智能系统在云端处理数据,同时最大限度地为用户和客户提供隐私保护的新技术。
参考素材:
【马斯克在2023年世界政府峰会上谈ChatGPT和人工智能风险,教育,推特愿景和世界大同】 https://www.bilibili.com/video/BV1r54y1w7ud/?share_source=copy_web&vd_source=d92ed8cae541c63e4b9d6aad502a3f5d
【ChatGPT会抢走哪些工作?我算是玩明白了…】https://www.bilibili.com/video/BV1Vg4y1p7Gc?vd_source=d92ed8cae541c63e4b9d6aad502a3f5d
吴恩达来信:合法vs公平 - 吴恩达的文章 - 知乎
https://zhuanlan.zhihu.com/p/604883301
吴恩达来信:发展保护隐私的AI - 吴恩达的文章 - 知乎
https://zhuanlan.zhihu.com/p/588382681