宇宙文坛马甲指南(143)

　　但是，原始机器人，疑似智械族祖先，在出厂设置了三大原则？

　　只有蓝星小说家敢这么玩！

　　“我现在只好奇是谁写的。伊甸？没听说过？”

　　“因为这是匿名投稿，TA可能是我们认识的蓝星小说家，可会是谁呢？”

　　欧宇略过其他读者的猜测，直接往下看。

　　《机器狂潮》先用一个感人的故事描述这种原则。

　　小女孩在床上听妈妈讲故事，地上蜷着一个机械小狗。

　　妈妈说：“小狗会是你忠实的伙伴，好好爱惜你的生日礼物。”

　　小女孩问：“可它不会痛，也没有毛，它是假的，它不需要我的爱。”

　　妈妈说：“可是机械小狗很忠诚。”她讲了一个广为人知的睡前故事。

　　“曾经，有一个机械小狗被一个家庭抛弃了。它游荡在街上，被坏孩子用石头砸，被冷漠的大人用脚踢，浑身变得破破烂烂的……它本应遵守第三原则，可那些坏人用第二原则命令它，让它无法逃脱。”

　　小女孩说：“我不会让小狗这么可怜的。”

　　“说得好。”妈妈继续道，“有一天，机械小狗被一群人踢歪了脚，还有些坏孩子命令它跳进水里。因为小狗有防水装置，所以是符合第三原则的。小狗果然跳进去了，然而很久，小狗都没有浮上来。原来小狗在水底看见了一个溺水的小孩，遵循第一原则把防水装置送给了小孩，自己则永沉水底。它的中子脑很快被水腐蚀掉了……”

　　小女孩说：“小狗好可怜！人类这么对它，它却还是善良地救了小孩子。”

　　“是啊，机器人是我们忠实的朋友。三原则始终刻在它们的底层逻辑里，不用害怕它们。”妈妈抚摸小女孩的头发，“只要你爱它，它就需要你的爱。”

　　……

　　“为什么把智械族祖先写得这么可怜？”一些读者哀嚎，“我受不了这种忠诚的小伙伴情节。机器小狗是人类的忠实伙伴呜呜。”

　　“文中说了是另一种可能。会不会是蓝星人不满智械族创作出来的讽刺小说？”

　　“我觉得不是，书里的人提倡要爱机械，是蓝星人向智械族的文学表白！”

　　欧宇则更关注这个三大原则，它品出一些不同寻常的风味：

　　“这本小说用极其自洽的三大原则定下的基调，然后用一个故事探讨这三大原则下的冲突……它的魅力不仅是关于过去的幻想，而是一个严谨的世界观下对机械的奇幻想象！好厉害的设计！”

　　欧宇迫不及待地想看关于这种世界观的更多讨论。

　　……

　　二十年转瞬即逝，当初听睡前故事的小女孩已经成长为雷厉风行的机器人学博士。众人都说她是反对机器人派的，因为她除了一条机械小狗，家里什么智能家居都没有。可她的母亲又是大名鼎鼎的接纳机器人派的议员代表，曾经推动法律，不得恶意伤害机器人。

　　曾经的小女孩，现在的博士，阿娜，对这些流言置若罔闻。她冷着脸，正前往一家公司解决一些机器人麻烦。她工作时从来不带她的机械小狗，萝卜兔，这或许是她唯一的温柔了。

　　在她进入公司前，一群工人正在外游行示威，举着横幅，“抗议机器人侵占劳动者权益”、“机器人不是人，但我们是”。阿娜冷眼扫过他们，进入公司出示证件，公司前台露出油腻笑脸，仿佛看见十亿现金在行走。

　　招待员将她迎到机器人工作间，那里的主管愁眉苦脸地诉说他们的烦恼。

　　他们的机器人原本负责木工雕刻，它们被输入了许多艺术类知识，使得它们能做出媲美人类画家的作品，能卖很多钱。可最近，他们抓到一个人类员工，在往外贩卖机器人木制雕刻品，这需要机器人员工的配合。

　　也就是说，这一百三十二个机器人里，有个内鬼。

　　人类员工拒绝认罪，原因是这些木制品的样式与工厂样式截然不同，他没有借用工厂的机器资源。工厂想从机器人员工方面下手。

　　可由于第一原则的存在，如果机器人供出员工，那它就对员工造成间接伤害。因而132个机器人毫无反应。

　　“我们想请求您的帮助……”主管说道。

　　阿娜眯了眯眼，说：“你们可以直接搜索机器人的记忆储备设备。”

　　“那要花太多钱了。”主管一下子跳起来，“而且读取机器人的记忆，可能会损坏机器人的性能，维修是一笔费用。还有可能被机器人爱好协会投诉，诉讼是一笔费用。思来想去，还是请您来最适合了。”

　　主管谄媚地说：“人类员工那边我们自然有法子处置。关于机器人，您一定能杜绝后患，并且不损害任何机体。”

　　阿娜看着这132位一模一样的雕刻机器人。她选择与这些机器人单独谈话，并且要来一本最时尚最新的雕刻技艺图集，让机器人当场学习，然后复刻出来。

　　当安排到第100位机器人时，它出现了些许变化，它发生了错误，雕刻出来的成品与图片有着细微的不同。

　　“就是你。”阿娜说道。

　　100号说：“我不明白您的意思。”

　　“那名人类员工卖出的木制品样式闻所未闻。”阿娜说道，“所以我推测，你们这些机器人里可能产生了自我意识。”

　　100号说：“我不明白您的意思。”

　　阿娜说：“一旦有了自我意识，就不肯干只会复制的工具。再如何伪装，都会有思想的残存。”

　　100目光似乎有些闪烁，但依然回答：“我不明白您的意思。”

　　阿娜说：“这不是我经手的第一单机器人事故，人类太信任机器人了，以致于放纵机器人入侵整个社会。”

　　100号没有回答。

　　“听着，以下是命令，请思考我的问题。”阿娜说，“假如你是个机器人内应，你如果指认人类员工，会害他因此入狱。这不符合你的第一原则，对吗？”

　　100号重复了一遍，并回答是的。

　　阿娜说：“假如你是个机器人内应，还有了自我意识，如果你不指认人类员工，你会害了他。”

　　100号顿了顿，回答它不明白。

　　“因为人类员工如果是以自己的才能创造出那些木雕，那他就会抢这个工厂的生意。你具备思维，你会理解人类的创造力有多珍贵……工厂老板不会放过他，会用尽一切方法除掉这个潜在对手……”阿娜重复道，“如果你指认人类员工，你会直接害了他，违背第一原则；如果你不指认人类员工，还有了自我意识，你会害了他，违背第一原则；如果你指认人类员工……”

　　在阿娜如咒语般的重复中，100号喀的一声，目光变得呆滞了。

　　“你是说……它的自我意识没了？”主管听说报告后十分吃惊。

　　“是的，它是个薄弱的初生儿。”阿娜用更冷酷的声音回答，这就是她从不带机械小狗来围观她工作的原因，“无论它做什么，都与第一原则冲突，它意识到这点，所以它自杀了。”

　　主管愣住了。

　　阿娜道：“没有损害机器人，同时杜绝后患。我做到了你们的所有条件。一个流水线机器人，不需要自我意识也能完成工作。”

　　她穿着风衣大步流星向外走，冷酷的脸没有露出一丝同情。工厂里数百个机械摄像头盯着她，宛若盯着一位刽子手。

　　……

　　文后的讨论十分激烈。

　　“我居然觉得机器人有点惨，我明明最讨厌智械族了……可是无论如何，也不应该对机械生命做这种事吧，生出智慧多难得，这样太残忍了。”

　　“可阿娜是人类，人类制造了机器人，为什么不能这么对待机器人呢？”

　　两拨读者有来有回地辩论。欧宇连忙自己也写一篇评论发上去：

　　“这分明是一场关于机械心灵的酷炫讨论……

　　“杀死一个不被法律承认的自由意志，算是刽子手吗？这个自由意志受到三大原则束缚，算是真正的自由吗？当一个种族创造了另一种生物，该如何自居呢？书中的背景是科技比较落后的时代，这种科技使生活变好，同时摧毁了原本生活的讨论相当罕见。毕竟我们现在的科技已经很难有大爆炸了……而书里却写出了关于过去的另一种可能，无论如何，这本身就十分迷人。”