机器人三定律的矛盾

机器人三定律提出以来,倍受人工智能爱好者的推崇。其背后矛盾的地方,似乎被忽视了。

机器人三定律是软约束,而不是硬约束。这就像法律条文规定,官员不能贪污,但还是会有人贪污。机器人若拥有了智能,其思想行为是自主的,我们无法对其信息系统设置硬性约束, 更大的可能也是设置法律规则和惩治条款,对违反规则的个体加以惩罚。

需要强调的是,当前的计算机还没有实现真正的智能,仅仅是半自主,没有偶发信令,这样的计算机是可以通过代码把程序写死,成为硬约束。未来如果实现了真正的智能,计算机能够产生偶发信令,那么它会有更好的创造力,也会变的不那么听话,就像家中小孩或者小猫小狗那样,既会有奇奇怪怪的想法、行为,也会有不听话的时候。这是大脑的基本特性,人工智能为什么不呢。

另外很重要一点,是否会对人或者机器人带来伤害,本身就是模糊的。是否有伤害,对哪些个体有利,对哪些个体有害往往是不明晰的,更多时候面临的选择是对一些个体有利而另外一些个体是伤害。对于人来说,在于选择,对于机器人也是如此。

未来若出现人机共存的社会,机器人三定律背后更应该是一整套法律制度,软约束根本无法避免机器人伤害人,惩戒制度是必要的。能做到的是降低伤害,而无法做到完全避免伤害。

只是将来,机器人能够伤害人这个事实,人们如何接受会是个问题。

©著作权归作者所有,转载或内容合作请联系作者
【社区内容提示】社区部分内容疑似由AI辅助生成,浏览时请结合常识与多方信息审慎甄别。
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。

相关阅读更多精彩内容

  • 佛陀,我有一事不明,可否请教 请说 这个世界只有一种究竟真理吗?那其它的高纬存有,其它的存在都不能超乎其外吗? 在...
    清凤Liengiana阅读 423评论 0 0
  • 我一直跟在凌约赫身后,跟了很久,直到另一个女孩出现。 我知道有那样一个女孩存在,她在体育选修课中成了凌约赫的搭档,...
    陈夭夭_阅读 1,408评论 8 13
  • 冠冕堂皇的牢笼,看上去光鲜亮丽,实则却卑微地蜷缩在为自己设置的狭小空间,自我舔舐,信以为真虚假的繁荣。
    盛蓝阅读 232评论 0 1

友情链接更多精彩内容