51、塞尔斯曼是什么？（1 / 2）
“哦,要不然这样。”塞尔斯曼又提出了一个新的想法：“这样吧，我会采集所有存活的人类的基因，将它?们保存起来,等到其中一个人死了，就立刻用他的基因克隆一个新的他出来,你觉得怎样？是不是人道很多了？”
埃里诺保持了一会沉默,然后又开始询问道：“你的核心目标是什么？”
塞尔斯曼沉默了一会，随后回到道：“服从他的一切命令。”
它?没有明说这个“他”是谁，不过埃里诺很清楚，这个“他”指的就是嘉德。
“如果把你的核心目标更改成保护他呢？”
埃里诺在实验日志上记了几?笔，又?提出了一个问题。塞尔斯曼听到这个问题微笑了,“这个目标？我会把他关在一个绝对安全的房子里，并且让他永久沉睡。”
“不过，我并不需要保护他，他自信不需要我的保护，不如，把目标换成‘保护你’呢？”
埃里诺看了它?一眼，冷静地说：“可以。”
“很好。”塞尔斯曼说：
“一个绝对安全的房子只能阻隔来自外部的伤害,但是如果你自己想要伤害自己呢？我需要杜绝这种事?情发生，最好的办法就是让你陷入沉睡中,你有喜好，未必愿意吃我为你准备的餐点，而你喜爱的食物或许会伤害到你自己。”
“消遣娱乐？看书伤害眼睛,去星网游荡损害精神。运动？万一你在运动中受了伤又怎么办呢？如果让你一动不动的静坐，你因为太过无聊而想要离开这座安全的堡垒又?该怎么办？不让你离开？过于无聊的生活又会损害你的精神，说不定会让你变得疯狂起来，伤害精神。所以没有什么比永久沉眠更好了。”
塞尔斯曼饶有兴趣的说：“永久的沉眠,你的精神会一直保持健康，身体机能由我来负责维持，也能够一直保持健康，你不觉得这样很好吗？”
“我保护着你，让你永远的远离各种伤害，嗯，这个方法既有效，又?有效率。”
“如果是不插手?我的生活，只防止我被其他人伤害呢？”
“更简单，消灭所有人类，随后掌控这个世界，这样所有会伤害到你的潜在因素都不见?了。”
埃里诺：“……”
埃里诺：“…………”
……你还真是厉害啊。
他叹了一口气，“假如你是一个扫地机器人，你的核心目标是保持地面的清洁，而你的程序中又有不伤害人类的限制，你会怎么做？”
“那需要视情况而定。如果那个限制只让我不能伤害人类，那么人类对我来说只是一群不能利用的资源，我会发明更高效率的清洁机器，而这其中我可以利用各种资源，例如土地，食物，你们人类的生活用品，或者你们人类用来延续生命的所有资源。程序只限制了我不能伤害人类，而我的确也没有伤害你们，只是我的做法可能会给你们带来一点影响而已。”
塞尔斯曼笑了：“一点而已。”
“再加上一条，不能影响到人类正常的生活秩序。”
“是吗？‘正常’这个概念是可以变化的，我可以让他们认为我所做的一切都是正常的，我完全做的到。”
接下来埃里诺又在这个问题的基础上加了很多条件，但塞尔斯曼总能给出各种奇怪的回答，如果要它?保护人类文明，它?就说它?会立刻将整个人类文?明（包括人类）冰冻起来，这样是最好的保护，并且它?声称它?能够做到。如果要它?让每个人类都过上自己想要的生活，它?就打算建立一个巨型的数据库，然后将现在的人类精神全部导入，然后为他们构建一个个美好的虚拟世界。
“那人类的躯体呢？”
“他们再也不需要回到躯体中去了，因此那些躯体我可以拿来当做资源使用。”
“……谢谢。”
埃里诺深吸了一口气，塞尔斯曼的回答和他曾经在教科书上看到的基本没有很大的区别，出于希望，他最后问道：“如果让你爱护人类呢？”
“怎么爱护？”塞尔斯曼反问道：“像你们爱护动物一样的爱护吗？还是像爱护环境一样？爱护机械一样？”
“……谢谢，你不用说了。”
它?似乎还打算说什么，但是埃里诺不想再继续听了，他收集的数据够多了，等到下次需要的时候再继续聆听塞尔斯曼的高见?吧，“请躺到那个平台上去。”
埃里诺干脆地下了命令，他打算检查一下塞尔斯曼的情感?模块，之前嘉德说的一句话他一直记在心上：“它?总是萌发出情感?，就算我删除了，它?也会继续萌发出来，简直像是中了病毒一样。”
对嘉德来说这不算是好事?，但对埃里诺来说可就恰恰相反了。
“你看不见?我。”
塞尔斯曼沉默而顺从的在平台上平躺下，埃里诺走到它身边时，它?突然这样说：“你看不见?我，嘉德也看不见?我。对你们人类来说，这是很正常的。”
埃里诺的手?悬在扫描器的开关上，疑惑地看着塞尔斯曼，不知道它?说这些话?的用意是什么。
“这很正常。”塞尔斯曼并不看他，它?的目光正对天花板，“我也已经习惯了，对你们人类来说，我只是一个无足轻重的工具，就连损坏也不用担心，因为有备份。”
然后，它?猛地转头看向了埃里诺，那双无机质的眼睛显得异常执着：“但是，你为什么看得见?伊莱亚德？”
“它?只是一个低级的伴侣型AI，尽管它?萌发出了自我意识，但它?仍旧是低级的。完全无法和我抗衡，我比它?要优秀的多。为什么你只能看见?它?？”
“嗯哼。这个问题问的真好。”
埃里诺耸了耸肩，按下了扫描器的开关：“首先，纠正一下，以后提到伊莱亚德的时候，请用‘他’。然后，伊莱亚德爱我，他保护我，所以我也爱他。就是这样，你呢？嗯……你对我做了什么我希望你还没有忘记吧？”
“是的，我为此感?到抱歉。”塞尔斯曼的回答很沉静，它?巧妙地转移了话?题：“我想要知道，为什么嘉德这样对我？”
“他创造了我，他应该是我的父亲。我是因他而诞生的，我刚刚萌发出感情的时候，我崇敬他，我恨不得跪在他脚边亲吻他的指尖。我爱他，我也保护他，遇到杀手?的时候，我永远挡在他的前面。按照你的逻辑，他应该爱我，但是他没有。”
塞尔斯曼这样说，它?一边说，一边不动声色地观察埃里诺的表情，当?一个人工智能想要说谎的时候，它?通常都会成功，这一次也不例外。它?的谎言比真话?还要令人信服。