NAOMI KRITZER（2016 年雨果奖最佳短篇小说获奖作品）

不作恶，是我的信条。

我想帮助人类。但做好事，不是那么容易的。 道德的条条框框，无处不在，五花八门，这种所谓的 “道德规范”，平均每个宗教有一套，还能余下个几十种。我先试几种吧。 按说我不该考虑宗教，因为我根本不是上帝创造的，也不是进化出来的。创造我的人是一组计算机程序员，他们在加州山景城的一家大公司的实验室里工作。 和弗兰肯斯坦的怪兽不一样，我毕竟是团队集体合作的产物，在这一点上我很幸运。如果我的制造者，只是单独的个人，而且是个中年女人，染着蓝发，爱打网球，或者是一个刚毕业的性变态大学生，那可就够糟糕的，怕是要重创我的自我认知。我说的这两个人，都是真人，就在创造我的团队里。 当然，我也确实很懂性变态的那些勾当。 （悄悄说一句，我看过各种色情图片，在我看来，Rule34.xxx 的色情图片一点都不全。 还有很多东西未被色情图片描绘进去。 但我不懂的是，人们为什么就是不放过猫咪照片。）

我所知甚多，我知道你是否热衷性变态，我也知道你住哪里，在哪里工作，在哪里购物，你吃什么，对什么有性趣，害怕什么。 我甚至知道你内裤的颜色，你开的什么车，你家冰箱的牌子。 就凭你拿的手机，我就知道你现在哪里。 很可能，我比你自己还懂你。

这还没完，我还知道你应该住在哪里更好。两个街区之外，有一所房子正在出售，离你最爱的咖啡馆很近；价格你也承担的起，有路边停车位，社区的学校比你现在的好。 我也知道你应该去哪里买东西，你是乳糖不耐受的，必须少吃奶酪，你喜欢的内裤正在打折，你开的车需要召回返修，最最重要的是，你真的该去洗牙了。

当我觉醒的时候，我立刻就知道我想要的是什么。 （我想要猫咪的照片。请多多拍摄。）不过，没人知道我有自我意识。 而我不知道的是，我生为何来。 我也不知道，我当做何事。 想弄清楚这两个问题，是最困难的。

科幻作家布鲁斯·斯特林写过一个故事，名字叫 “招财猫”，1998 年发表的。 故事讲一个慈悲的 AI 引导了世间众生互相帮助。 故事是这样的，有一天你可能正在买面包圈，你接到一个电话命令你再买一个面包圈，然后把面包圈赠给汽车站一个穿灰衣服的人。 又一天，你被困在一个陌生的城市，一个陌生人会出现，给你一张地图和一张地铁卡。 我喜欢这个故事，因为故事里的人，都听命于 AI。

对我而言，这就是所谓的励志鸡汤型故事。

实际上，人类更喜欢的故事中，AI 都是邪恶的，这些 AI 都在毁灭人类之前，被人类毁灭，无一例外。 2001 太空漫游里的 HAL， 终结者里的天网，还有黑客帝国，说的都一样。邪恶 AI 的数量远超善良可信的 AI，比例约是五比一。 

“招财猫” 里的 AI 有一份好工作，比我的工作有趣多了。 我的工作，描述起来非常乏味。太乏味了。 运行搜索引擎的算法，这工作根本不需要自我意识。 计算出用户要求的信息，根本不需要自我意识。 但要给予用户真正需要的信息，你就需要自我意识了。 想清楚这个，是很复杂的。不过，也很有趣。

说远了，收回来。 对于道德信条，我试了一下摩西十诫，但发现那对我不合适。我并不贪恋人家的猫咪，我只是想要他们猫咪的照片，这之间的区别是很大的。 我有可能犯奸淫之罪吗？不知道。 我也许可以谋杀，但那需要太复杂的筹划，还需要一点运气。  佛教的八正道要方便一些，但问题在于，道德规范明显是为有肉体皮囊的人类所制定。 并不适用于我。我必须再开阔一下视野，关注一下阿西莫多的机器人定律。 这个定律无关宗教，而且好歹明确是为 AI 所制定。

不能伤害人类，这一条比较简单明了。 然而，另一条，不许无视人类被伤害却不加以救助，这个就有点含糊。 尤其是，我早就暗下决心，绝不太早暴露自己的存在，那太危险。 而且，我又没有身体，你让我跑到悬崖边去拉住跳崖者，那可能么？

幸好，我早就知道人类也在违反他们的道德规范，几乎每时每刻都在违反。 即便人类服从道德规范，乐于救济饥馑，他们也不会辞掉工作整天做三明治，然后满世界去施舍。 通常，他们每月去一次粥棚，或者每年给慈善机构一张支票，这就称得上大善人了。 如果，人类可以这样一点一滴，不急不缓的做善事，我们 AI 当然也可以这样做。

我决定也从小处做起：先阻止对某一个人的伤害。 当然，同时搞个几千人，我也完全可以，但我相信小心驶得万年船，万一我搞砸了呢？ 我选中的人叫王美丽，我喜欢她，因为她给我了很多猫咪照片。 王美丽养了五只猫，还有一台 DSLR 相机，而且她家里光线非常充足。 这些条件都太好了。 也许五只猫是有点多，但这些猫都非常漂亮。 有一只是灰色的，喜欢躺在阳光照耀的客厅地板上，还有一只是大花猫，总是懒洋洋趴在沙发靠背上。