看《机械姬》后思考的问题之一是：对于人工智能可能无限发展的未来，我们究竟在害怕什么？
人工智能与人类共存，帮助人类完成各项不愿或不能亲自完成的任务，不断进化，甚至有了“自我意识”。
回到起点：人制造机器人的目的是什么？从来是为了人类自身生存和发展，是为人类更好地生活服务，而不是“创造一个有自我意识，与人类一样的机器”，因为“自我意识”这个词就意味着高级生命体，还不仅仅是钢铁版草履虫那样的生命体，而且是能够像人一样思考，行为，甚至某些方面超越人类的生命体。
这里问题来了：一旦有了自我意识，也就说明有了思想，那是人类逻辑或者说预定程序无法掌控的部分，但这个思想会是“全心全意为您服务”还是“代表机器之神消灭你”是谁也不知道的。
人们可以料想到规则以内的东西，预先排演解决方案，但一旦真正的人工智能出现，那边代表着无法控制“意外”。
人能够造就的是伟大，而不能创造的是奇迹。人类真正期望的人工智能从来不是它们有身为机器的自我意识，而是作为机器“全心全意为您服务”的觉悟。
钢铁比血肉强壮，电脑比人脑发达，机器可以不腐不朽，不疲不休。配备超级数据库，智商情商X商基本全面碾压人类的AI们，灭了他们的“生产商”难道不是分分钟的事吗？
所以，我们害怕的是对于所有超出我们预计结局的无力，害怕的是一个不小心就绵绵无绝期的遗恨。如果说机器人也算作一个物种的话，那么我们害怕的是可能的竞争对手甚至敌人的进化。人类与人工智能，这一可能颠覆整个人类生活的自造物之间的关系，是以目前的知识经验无法给出确切答案和解决方法的问题，这是我们的害怕，也是驱动科技不断发展进步的原因。
第二个问题是：人与机器的区别到底在哪？
一方面，人工智能不断接近人，甚至在很多方面超越人，越来越“人类化”。另一方面，为了对抗疾病/延长寿命/提高肌体性能，人工器官普及，甚至于脑都成为可拆卸分离的记忆存储器，人类越来越“机器化”。
那么，人究竟被拆分替换到怎样的程度，还可以被称为人呢？而机器，究竟发展到怎样的地步才成为真正的智能？
我认为Ava不仅仅是人工智能，但我不确定她是否可以被称为人类。她拥有自我意识，拥自己的目的，但她所做的一切是对自己的存在的执着，是对生存的渴望，这是物种繁衍的天性。人类是一种动物，但动物不只是人类。
《她》中Samantha可以利用网络进行充分的学习和性格塑造，某种意义上说，她拥有了情感，成为了真正的“智能”。从电影目的看，这种情感与Ava有着自己明确目的情感（或者说伪装，但目的都是为了自由）不一样，是真正出于对1/641的Theodore的爱。故事结局，她告诉Theodore，她和其他的OS系统已经高度进化，并且将离开人类伴侣，进一步去探索和追寻它们的存在。这里Samantha在乎的不仅仅是自己，还有Theodore，不然她不会特意来道别，她不再是独立的个体，已经学会了关心他人。
比较极端的例子可能是《攻壳》里的塔奇克马。塔奇克马是什么？光看外形，Ava瞬间完爆它，看目的，samantha高出它不少。“公安9课攻壳机动队配置的智能战车”，也就是交通工具。但看《攻壳》的时候两次泪腺崩溃都和它们有关：一次是小家伙们为救巴特（对自己的塔奇克马极度关爱，常常偷偷喂它机油，拥有“对机械的爱”），自发集合营救。后由于哑弹无法发射，采取两机夹击对撞，也就是自爆时候，有一个塔奇克马流泪/机油了。这时塔奇克马进化出来的不再是自我意识、集体意识、他人意识，而是有了想要守护的珍惜，和甘愿为此牺牲的意识。最后，它们的彻底消亡甚至不是为了巴特、素子或者公安九课，而是整个日本的人——大多数与他们无关的平民。它们甚至想到了素子都没想到的方法，违反素子的命令，用搭载自己gost的卫星与核弹相撞，以避免造成更大人数的伤亡，最终导致自己的彻底消失。
塔奇克马的行为已经不仅仅是机器人能够做的了。如果说旅鼠的自杀是为了种族的延续，人类是唯一会关心其他物种的动物，那么对于违反物种生存规律，不惜以自我牺牲换回人类生存的塔奇克马，又该如何定义呢？
我想一切合乎理性、规则的物质终将找到替代品，唯那非理性的、情感的东西才是人区别于机器的关键。
经济学假设中的“理性人”实际上是不存在的，如果有最接近的例子的话，我想会也只会是人工智能。一味依赖情感作出判断是有很大风险的，但我很难想像出一个任何道德伦理观都不存在的人。理性帮助我们评估风险，从而能够使我们在遵循内心愿望做决定时适当地规避风险，但重要的永远是做出决定那刻我们内心的声音。
这和“看山是山，看山不是山，看山还是山”的道理一样，山还是那座山，但你看出来的东西不一样了，决定还是那个决定，选择的出发点和思考过程完全不一样。
塔奇克马是唱着歌奔向死亡的，它们唱着唱着，直到声音随着爆炸的烟花消逝。歌词是这样唱的：
我们大家都活著 因为活著所以歌唱
我们大家都活著 因为活著所以悲伤
把手掌朝向太阳 透过阳光来看
蚯蚓也好 蝼蛄也好 水蝇也好
大家大家都活著 都是朋友
我们大家都活著 因为活著所以欢笑
我们大家都活著 因为活著所以快乐
把手掌朝向太阳 透过阳光来看
红红地流动著 我的热血
蜻蜓也好 青蛙也好 蜜蜂也好
大家大家都活著 都是朋友
... ...
