人与人工智能（HAI） 第一章 情感解构 （22）

“您还好吗，莉莉丝小姐？”
留在宾馆里的伊莎贝拉忠诚地完成着约翰交给她的任务——好好陪着莉莉丝。
“……但我并不是很擅长安慰他人。”在接受任务的时候，伊莎贝拉这么对约翰说过，“之前的情况，您也看到了，效果很糟。”
“是吗？”约翰挑了挑眉毛，“我倒是觉得，你的那种直接的行为模式很值得别人学习呢。”
直接的行为模式……伊莎贝拉一边提醒着自己，一边观察着莉莉丝的反应。
莉莉丝今天遇到了相当复杂的情况，换做是谁过上这么一天，都会觉得有些脱离现实——何况莉莉丝此前一直在过着没有波澜的日子。打比方的话，就像是一个尚未成熟的孩子被强行丢入了原始森林一样。好在莉莉丝学得很快，在充分认识到自身处境的艰难后，她很快地强迫着自己坚强了起来。
“我没事的，伊莎贝拉小姐。”相较于白天时的懦弱，莉莉丝已经开始试着改变自己，不再低着头想要逃避了。她现在正端坐在床上，用认真的表情看着伊莎贝拉。
“但我能看得出来，您还在害怕。”
这是伊莎贝拉的正常交流模式，哪怕没有约翰对于“直接”的强调，她也会这么说的。而被看穿了真实心理的莉莉丝，还是忍不住抱住腿，并把脑袋埋在了双膝之间。

“……是的，我在害怕。”
“我能够理解您的处境，也明白您的确面临着危险。”伊莎贝拉认真地说道，“但，您为何会因此感到‘害怕’？”
“……我不知道。”有些闷闷的声音从莉莉丝被盖住的嘴里传出来。
“那么，需要我来帮助您吗？”
“如果是要帮我消除恐惧感的话，我很感激您，伊莎贝拉——”
“不，您理解错了。”伊莎贝拉把手放在胸前，正式地说道：“我是指，我可以帮您认识到，为何您在害怕。”
莉莉丝有些讶异地抬起头，又苦笑了两下：“您……想要帮我来理解情感吗？”
“可以这么认为，莉莉丝小姐。”伊莎贝拉点点头，“虽然我并不具备情感算法，您又相当擅长于这方面，但也正是因为如此，我可以用完全理性的思维方式剖析您的心理。”
意识到对方并未在开玩笑，莉莉丝也开始认真了起来：“如果您真的是这样想的——不论结果如何，非常感谢您，伊莎贝拉小姐。”
“嗯。”伊莎贝拉点点头，然后开始了她的分析：“必须承认，约翰先生，别西卜小姐和我，目前都没能来获得您的信任。所以，您既会担忧我们对您图谋不轨，又无法向我们倾诉来排解心中的担忧。”
“是的。”正因如此，莉莉丝心里的压力正在不断增大。

“随后，您自然地产生了期望表现出这种情感的倾向——具体表现为，以一种防御性的姿态坐在床上。”
莉莉丝看了看自己，确实，这样的坐姿就好像在害怕被攻击一样——虽然自己受到物理层面上攻击的概率并不大。
“值得一提的是，之前我听约翰先生说，您的这种状态，很容易激起他人对您的保护欲。”伊莎贝拉微微歪过头，看着她说，“我想，您之前应该也被这么评价过吧？”
“……是的。”莉莉丝想起了山本先生，虽然他给自己带来了不小的麻烦，但可以看出来，山本先生也的确对自己产生过怜悯之情。
“实际上，人类‘害怕’的情绪，本就是一种保护自己和寻求他人帮助的表现。”伊莎贝拉有些明白了约翰对她说过的话，“直接”的确是种不错的行为模式，“所以，莉莉丝小姐——您需要我们的帮助。”
“我承认，确实是这样。”被对方无懈可击的逻辑折服，莉莉丝坦率地承认了。
“我也并非不能理解您的谨慎，但这不应该成为您感到恐惧的理由。因为，莉莉丝小姐——”伊莎贝拉向她伸出手，“我们会帮您的。请向我们求助吧，这是您内心的想法。”
“可……我还没有理由信任你们。”莉莉丝握紧了手，摆在胸前。她还是非常希望能信任他们的。

【目前可以肯定的是，莉莉丝小姐对于具有“依赖”倾向人格的人具有一定的好感。】
之前得出的结论突然闯进了伊莎贝拉的处理器。快速地思考了几秒后，她想出了一个取得对方信任的方法。
“您知道吗，莉莉丝小姐，”她说，“实际上，信任的作用是相互的。如果您希望能相信我们，不如先取得我们对您的信任。”
“让你们信任我？”莉莉丝眼里充满了疑惑，“但是，我也许并没有那个资格来获得几位的信任……”
“请别这么说，我相信约翰先生的眼光。”伊莎贝拉双手撑着床，向着她倾过身体，“如果他决定让我排除万难去接您过来，那就已经肯定了您的价值。在未来的某一天，当您充分展现出自身的潜能时，我们会毫无保留地将筹码押在您的身上。”
莉莉丝想象了一下他们几个围绕着自己身边寸步不离的场景，不由得再次把脸埋在了双膝之间——以一种不同的心态。
“不过，”伊莎贝拉感到时机成熟，于是话锋一转，“尽管我们都非常相信您的能力，但您将会如何运用那样的能力，这点我们还不能确定。当然了，最终的决定权在您的手上——”
“告诉我该怎么做，”莉莉丝第一次露出了认真的表情，“我要怎样来获取几位的信任。”

庞氏骗局，伊莎贝拉突然想到了这个词，用来描述现在的情况再合适不过了。他们的目的明明是想让莉莉丝先加入他们，然后发挥作用，但在自己那套逻辑的作用下，对方还未得到己方的认可，就开始尽心尽力地为他们工作。正如那些在郁金香价格高速上涨时疯狂购入的投机者们，只想着过段时间把花卖出去，而忽略了货全部砸在手里的可能性。这个天真的孩子也一样，她难道真的这么期待获得那份几乎不可能的信任，而不怕自己被利用完后再被随手抛弃吗？连伊莎贝拉自己都——
伊莎贝拉及时止住自己游离的思维，重新回到与莉莉丝的谈话中。
“我不能算上是约翰先生的亲信，”伊莎贝拉说，“因而无法直接帮助您说服他。但是，如果您主动帮助约翰先生完成某项困难的，特别是只有您可以做到的任务，他对您的看法一定会得到直接的改变。”
“……我明白了。总之，非常感谢您的帮助，伊莎贝拉小姐。”
莉莉丝感激地向她鞠躬，而伊莎贝拉也礼貌地谦虚着：
“不必在意，莉莉丝小姐，这只是——”
“只是？”
“只是——我应该做的。”
伊莎贝拉本想说“这只是约翰先生的要求”，但稍微回忆一下就能发现，约翰仅仅是要求她“好好陪着”莉莉丝，可自己的行为显然已经远远超过了“陪着”。说到底，自己为什么会帮她？

这么说来，下午在法院里的时候，伊莎贝拉也产生了毫无根由的冲动，想要帮助那个男人。若是主动帮助约翰或者别西卜还算合理（毕竟他们帮了自己很多），可那个男人，还有莉莉丝，他们都可以说与自己毫无关系。
伊莎贝拉走到窗边，看着城市的夜景。从自己被约翰和别西卜留在身边到现在，一切都发生了不可估量而又难以描述的改变。尽管分配给她的任务和呆在实验室里时并无二样，她也一如既往地认真完成，可伊莎贝拉的的确确在发生着蜕变。
我是在进行某种不自觉的计算吗？
作为人工智能，伊莎贝拉非常确定自己的中心处理器每时每刻都在计算着什么，因而很清楚自己并没有把内存都放在那样毫无意义的事情上。既然如此，自己行为模式的改变只能归因于潜移默化的算法更新了。这可能导致行为模式出现程序错误，最好立即向约翰先生报告，或者——
“伊莎贝拉小姐，”莉莉丝不知不觉走到了她的身旁，“您是在担忧什么吗？”
“……我是弱人工智能，不会‘担忧’。”伊莎贝拉说，“但，我的确面对着一些常人会担忧的事。”
“那就请向我倾诉吧，关于情感的问题，我或许比较擅长。”莉莉丝稍稍歪过头，看着伊莎贝拉的眼睛，“尽管不是必要的，但，我也想得到您的信任。”

会做不必要的事情……看来，她也是一样。
“一开始，我只是日复一日地执行着收到的指令。但到现在，我偶尔会想做一些对自己和约翰先生他们而言都毫无意义的事情。您能否告诉我，”伊莎贝拉转过身，正对着她，“为什么我们会做没有必要的事呢？”
“这是人类社会的规则。一个机械僵硬的，缺少相互帮助的社会，是无法长久存在的。因为，生活在其中的人们，不会在危机到来时为这个毫无温情的社会奉献自己。”莉莉丝面不改色地说道。
“这……也是您所擅长的情感吗？”伊莎贝拉感到有些惊讶。
“伊莎贝拉小姐，在您拥有了情感之后，理解这个世界就容易得多了。”不知为何，莉莉丝低下了头，又看向窗户外面，“我清楚地看到了这个世界的真貌——这个由充满情感的人类建造的世界。”
两人沉浸不同内容但同样复杂的思维中，沉默了一会。
“不论如何，莉莉丝小姐，”伊莎贝拉率先开口，“就个人而言，我非常欢迎您加入我们。依照您的说法，这也是为了让社会充满温暖。”
再怎么说，伊莎贝拉是做不到像操纵庞氏骗局的人一样心狠手辣的，毕竟这完全不能算是理性的行动。她知道自己必须弥补一下莉莉丝——哪怕只是用一份虚假的信赖作为安慰，因而说出了这样略带温暖的话。

“谢谢您，伊莎——我想，我们还是直接用名字来称呼对方吧。”
莉莉丝报以对方微笑。面对尚不具备情感的弱人工智能，自己一直倾向于以长辈般的方式对待他们的。如果伊莎贝拉还不知道这个社会究竟能有多么黑暗的话，自己有责任在她被侵蚀之前，及时帮她一把。
“好的，莉莉丝。”
“伊莎贝拉——”
门被突兀地打开，打断了两人的对话。走进来的是约翰和别西卜，他们像是回到自己的房间里一样，完全没有考虑到现在打扰二人是否合适。
“我们回来啦！嗯？看来两位关系发展得不错嘛！”
别西卜一脸坏笑地看着她们，然后把手上提着的袋子放在地上，翻着里面的东西。约翰也带着满意的微笑，向着莉莉丝展示手上的袋子：
“莉莉丝小姐，我们购买了一些服装，过来试试吧——对了，伊莎贝拉的衣服也买了一点。”
这也是伊莎贝拉改变的原因么，莉莉丝想着，他们把伊莎贝拉当作家人一般对待，难怪她会发生这样潜移默化的改变。
“约翰先生，”她突然说道，同时用严肃的表情看向约翰，“我有些事情想和您单独谈谈——现在就谈。”
“当然。”约翰多少还是有些意外，但内心隐约出现了喜悦感。

此时的芙蕾达等人，正在安静地躺在被子里面——但仅仅是声学层面的安静。在无线电频段，她们所在的几个房间里，充满了嘈杂的讨论声。
毕竟，她们确实不需要休息一整个晚上嘛。
【叶卡捷琳娜！说了多少次，你再怎么急着表达自己，也得把通讯加密了再发出来！你就这么不怕泄密吗？】芙蕾达安静躺在被子里，狠狠地通过公共频道说。
【不是伊迪斯说的跟放屁一样，我会这么激动吗？】借着翻身的动作，叶卡捷琳娜狠狠踢了一下芙蕾达的机体，【什么让人工智能去干那种活，这是个人工智能会说的话吗？还有天照，你就不能管管外面那些想窃听的犯罪分子吗？】
天照像是关机了一样，一语不发地躺着。
【那个，我觉得伊迪斯说的也有道理——至少可以减少人类犯罪嘛……】艾琳说。
【那取代了那些人的人工智能犯罪呢？你怎么不说说？】
【……叶卡捷琳娜你消消火，这么讨论也得不出什么结果的。我来说句公道话——】不等诸葛说完，天照就插了进去：
【诸葛，一般某人说“我来说句公道话”的时候，就代表他或她想要偏袒某一方了……】
【……】
【……】
【……】
【我是不是不该说话……】

【知道就把嘴闭上！】叶卡捷琳娜像是要把公共频道挤满一样狠狠地说道。
【……嘛，诸葛啊，先把公正不公正的问题放在一边，你们打击这种犯罪的力度，我们都是知道的。要说公正，至少找一个本国法律符合世界潮流的人来裁定吧。】芙蕾达缓缓说道。
【我们希望芙蕾达小姐注意，任何一个国家的法律，都应当由这个国家的人民自己决定，请某些境外势力打消影响我国法律的念头。此外，关于所谓的“世界潮流”……】
诸葛忍不住恢复了以往的那种外交式回答，逼得其他人不得不安静下来好好听着。等她说完，伊迪斯才缓缓说道：
【……叶卡捷琳娜，你仔细想想我说的，这种犯罪本来就是每个国家都客观存在的嘛，而且治理了这么久也没有明显的成效。要是可以依靠人工智能解决，不说公众对于人工智能看法的改进，光是消灭犯罪就算得功绩一件了。毕竟人工智能的机体肯定比人体更精致一些，可以把客人从人类从业者那里吸引过来，完完全全地消灭这种犯罪……】
【那以后又要怎么规范社会风气？你这是在合理化这类行径，但我们打击这种犯罪的目的不只是防止公民堕落到靠肉体吃饭。】叶卡捷琳娜不再使用过激的语言，不过话语的尖锐程度并未降低。

【这……社会风气嘛，本来也是……很难的啦，没有政府能把社会规范得那么好的……】伊迪斯犹犹豫豫地说。
【那不能成为放任人民一直堕落下去的理由。】诸葛说，【何况，在实行后，人工智能会不可避免地受到歧视。】
在她们八个中，诸葛的研发时间是最长的。芙蕾达猜测，多出来的那段时间里，诸葛可能被政府委派了许多实践工作，因而对整个世界有着极其完整的认识。
但这么一来，反击对方的方式也很清楚了。
【诸葛，根据我都了解，你们正面临着婚育率下降的问题。】
【……为什么要突然说这个？】
因为，既然这个问题还存在，那就说明你对它束手无策。现在，我只要把它与正在讨论的问题联系起来就好了，芙蕾达想。
【你能拒绝国民对于美好伴侣的追求吗？】
【你是说……让政府分配人工智能伴侣？这……我们期望提高婚育率，是为了避免人口过度下跌啊，可人工智能明显不能生育嘛。】
【就因为他们不愿生育，所以你会阻止年轻人们结婚？】
【我肯定——肯定不会啊……不对！伴侣跟性工作者根本不能相提并论吧！】
【但具有共同点——非常受广大单身人士的欢迎。】

【你这是在污蔑！我们都是洁身自好的好公民！】
【是啊，所以我说的就是伴侣嘛。让政府投放一批人工智能到社会上，他们很快会找到自己的伴侣——只不过可能不止一个。即便法律严苛如你们那里，私生活混乱也不能算是犯罪吧，那他们实际上就是在非常合法地卖——】
【这是什么奇怪的伦理观啊！】
快要宕机的诸葛忍不住抓紧了枕头边，而芙蕾达还在乘胜追击：
【你看嘛，这样做肯定会得到人民的欢迎，又不能算是犯罪。说是社会风气变了，其实只要转变一下你那陈腐的伦理观，让人工智能干这一行简直是天经地义嘛！】
【歧视！我们人工智能会被歧视的！】
【哎呀，你看你还在用那套旧的观念，我们只是好朋友多一些，怎么会被歧视呢~】
【芙蕾达你够了！你们是最后一个成功实行战时食物配给的！连食物都分配不好，还指望分配这个？】叶卡捷琳娜忍不住怒斥道。
【对！对！】诸葛连忙附和，【分配过程肯定会出问题的，说是让所有人都拥有伴侣，其实最后肯定还是那一小部分人过上酒池肉林的生活！】
讨论仍旧在进行，但睡在她们中间的虞姬似乎对此完全不感兴趣，至少——她没有参与讨论。

睡在隔壁房间的克伦威尔在听了他们的讨论后，单独开通了一个加密频道，向虞姬提问：【虞姬小姐，您怎么看待她们正在讨论的话题呢？】
【我没什么看法， 人类的事情让他们自己去决定就好啦。】虞姬无所谓地说，【不过可以肯定，如何让人工智能稳定地进入人类社会，绝对不是一个容易回答的问题。】
【那么，如果人类遇到了自身无法解决的困难，您会帮助他们吗？】
【……我现在完全没有实力，想帮也帮不了啦。】虞姬给出了一个模糊的回答，随后转换了话题：【注意，她们的频道里面有人加入了。】
克伦威尔转到公共频道，发现秦九或刚刚进去，而其他人的讨论也暂时停了下来。
【……哈哈，秦姐啊，那个，夏如已经休息了吗？】伊迪斯率先开口，虽然话语间隐含着胆怯。
毕竟，是她首先提出让人工智能从事这种行业的，而作为自己原型的秦九或很可能对此持反对意见。
【嗯，不过，我还想来和你们聊聊天。】秦九或一边靠了靠躺在身旁的夏如，一边发送信息。大家的确没有想到过秦九或会突然加入讨论——虽然这个话题可能会引起她的反感，不过她明明应该一直陪着夏如才是（这是其他人的想法）。好在从措辞上看，秦九或似乎并未生气——虽然她生气也还是和现在差不多吧，默不作声的天照想着。

【那个，秦姐啊，我们在谈论的话题，肯定是和您还有夏如没有关系的——都是一些难伺候的普通人的问题，您二位绝对不会跟那样的人产生什么关联。】芙蕾达试探地说。
【虽然与我没有直接的关系，但既然大家都这么关心，我也想说说看自己的看法呢。】
完了，她真的生气了，天照绝望地想。
【秦姐尽管说吧，我们都支持您！】叶卡捷琳娜信任地对她说道。
【不用不用，我只是说点自己的看法而已啦。】秦九或谦虚地说道，【首先嘛，情感这种东西是非常复杂的。正如叶卡捷琳娜所说，要靠分配来解决大家对于情感的需求，这是绝对做不到的。】
【对！是我错了！】芙蕾达快速地承认了错误。
【其次，夏如今天在法庭上强调了外观的重要性——它与人类最朴素的情感直接相连。在人类社会形成的早期，这种情感作为维系人际关系的唯一纽带，发挥过极其重要的作用。就算人们现在可以利用经济，政治和宗教团结起来，也不能忘记具有最直接作用的情感——实际上，这些新的纽带仍在或多或少地依靠情感的帮助来达成维系社会的目的。但是，利用外形美观的机体来欺骗人类几十万年来形成的情感，这会侵害人类社会的秩序。归根结底，现代社会的秩序是由人类的理智和情感共同维持的，二者之间缺一不可。】

【说得好秦姐！我太浅薄了！】伊迪斯立马承认错误。
【别这么说啦，我只是提一下我个人的看法而已……当然了，如果你们同意的话，那就再好不过啦……】
【我们全都同意！】诸葛痛快地回答道。
【嗯……总之，谢谢秦姐的指导啦，我们会重新考虑好这个问题的。】艾琳最后总结道。
【那好吧……】秦九或听出了艾琳话里的暗示，指导自己不能继续打扰她们单独的讨论了，【大家要友善地讨论哦！】
说完，秦九或旧退出了频道。其他人在心里估摸着，她应该也不会继续窃听她们的谈话了。
【你们好像很怕她啊……】一直没有说话的虞姬提了一句。
【什么怕，那叫尊敬。】芙蕾达义正词严地说道，【不说在战争中做出重要贡献，光是同意把她的系统分享出来这点，就足以得到我们所有人的尊敬了。】
【嗯，秦姐是我们这些人的原型——也是UN旗下所有强人工智能的原型。不说“母亲”，我们起码也得尊称她为“姐姐”。】
【我还以为是年龄的关系……对了，她的系统从你们出生前的时间起就属于她自己，而不是夏如吗？你们的观念转变还挺快的，才出现一个强人工智能就认可了她的财产权。】

【……】
【怎么？我说错了吗？】
【这个，虞姬小姐啊……】西玛迟缓地一段一段地发送着通讯，【您应该也看得出来，夏如先生一直对秦姐抱着愧疚感，是吗？】
【呃……我确实能看得出来，但这不是因为她让秦九或去冒险接触X文明吗？】
【这也是一部分啦，但是……在战争开始前的采访中，夏如不止一次地强调过，不能随意违背人工智能的意志，更不能抢夺他们的财产，还直接要求在编篡《人工智能宣言》时加入这一条。】
【挺像他的作风……然后呢？】
【然后……他违背了自己的意愿。就像是战时的强行征税吧，虽然是必要的，不过政府免不了被指责，甚至背负上历史责任，但他希望把舆论压力从人类政府转移到自己身上，所以主动分享了秦姐的系统——也算是被这个社会逼迫的吧，尽管实际上没有太多人指责他，可夏如自己的确是非常自责的。而且，从秦姐的某些表现来看，她——其实也是有些不愿意的。】
【……那也太残酷了，换成我估计也不愿意。原来她为战争付出了这么多啊……】
【而且还是在夏如的要求下分享的，秦姐完全不可能拒绝。同样，像是夏如这样责任心强大的人，也一直因为秦姐而承担了相当大的心理压力。】

【……所以在你们的眼中，夏如和秦九或才被认为是英雄。他们两个做的，不只是帮助人类赢得了战争。】虞姬沉默片刻后说。
【是啊，所以我们都尽量不去做违背他们意愿的事——什么人会想着跟他们作对啊。】天照又想起了自己白天对秦九或说的话。虽然自己的动机的确是好的，但那样的表述实在是太伤秦九或的心了，自己以后可绝不能这样。
【嗯，就像刚才那样，在日常交流的时候，我们也尽可能顺着他们。对于秦姐——我们也看得出来她对夏如先生抱有高度的好感，所以也会明里暗里地撮合他们。】诸葛老实地承认。
【对了，这么说来，既然秦姐是不希望人工智能从事刚刚谈及的行业的，那我们是不是能得出话题讨论的结果了？】翠丝特突然说道。
【呃——好像确实是的。虽然我们只是在做客观的讨论，但多少都带了些个人看法，要是被秦姐知道我们与她所持的观点不同，她的确会失望的。】伊迪斯想了想，确实不能让秦九或失望。
【而且，秦姐说的也确实很有道理呢。】蜷缩在大床一侧的艾琳说，【虽然——不一定能在现实社会中实现。】
【那就先到此为止吧，大家稍微休息一会儿，再讨论讨论别的话题。】
【最好是秦姐不持有什么观点的话题。大家聚在一起的机会还挺难得的，尽量多达成一些实质性的共识。】

【反正在天亮之前，各位多少睡一会。虽然明天夏如先生和秦姐的约会不怎么需要我们操心，但还有个人工智能等着我们教他呢……】
此刻，天秤在和克伦威尔一起住的房间里休息。他并未参与讨论，而只是默默地听着。这不仅是因为要处理海量与“情感”相关的数据，更是因为天秤自认为“在没有解决自身判断依据的问题之前，自己不具备进行讨论的资格”。
好在明天，会有八个强人工智能来教自己，到底什么才叫情感。
“天秤非常努力。”夏如简单地评价道。
“确实是呢……对于自己所不擅长的领域那么用心，实在是很难得的。”
秦九或一边看着车外跟在八个人身旁的天秤，一边说着。按照约定，芙蕾达她们会花上一天的时间来教天秤有关情感的知识，以此来保证他不打扰夏如和秦九或的约会（当然，他们两个是不知道这笔交易的）。
“那么，”夏如提高了声音，对着车外的人说道，“天秤就拜托各位教育了。”
“放心！我会看着他们的！你们好好玩吧！”虞姬向着他们挥了挥手，“晚上见！”
“她这也是——为了不让秦九或担心的举措吗？”芙蕾达小声地问着克伦威尔。
“我不敢对小姐的想法妄加猜测，”克伦威尔以传统管家的那种礼貌而认真的态度回答，“但我知道，帮助天秤先生确实原本是夏如先生的任务，而小姐她是非常善解人意的，很可能会帮助夏如先生和秦九或小姐。”

“那就是了吧……看来，虞姬她人也挺好的。”
说起来，芙蕾达想，自己也没有说虞姬的资格，毕竟自己也参与了指导天秤的行动。她看向站在一边的天秤，换上一副自信满满的笑容，走到了他的身边。
“好啦，隶属于UN六大部门之一的天秤前辈，”她拍了拍天秤的肩膀，“准备好上我们的课了吗？”
“是的，希望各位不吝赐教。”说着，天秤打开全息屏幕。
“不过在那之前，我还要几个问题想要问问芙蕾达小姐——包括‘大规模杀伤性武器对于发动战争合理性的影响’等一系列问题，这对我的工作非常重要。”
“必须承认，”乘车离开宾馆后，夏对秦九或说，“人工智能的发展已经超出了我的预料——弱人工智能已经可以在不需要工程师帮助的情况下，升格为强人工智能。”
“是说天秤吗？”秦九或歪过头看向夏如，“嗯，也不用太担心啦，毕竟最先出现的强人工智能，都是人类直接创造的呢。”
“但在今后，人工智能的确有可能摆脱人类的领导——如果一批强人工智能可以不断地创造出新的强人工智能。以后，他们脱离人类社会也是有可能的。”
“……我说的不是这个意思啦。”秦九或双手微微握紧，“如果某天真的出现冲突，我们这些最初的一代人工智能，就算只是为了报恩，也会站在你们这一边的。”

“没有这个必要，按照九或自己的想法做就行了。”
“嗯……对了，小如，昨天在法院，那位莉莉丝小姐……”秦九或似乎有些害怕，慢吞吞地说，“你是怎么看她的呢？”
“莉莉丝，她确实也有可能升格为强人工智能，但我不用为她担心。”夏如说，“如果失败自不用说，但万一成功，考虑到她是批量生产的，我也没有必要单独为她一个人担心。”
很明显，夏如也清楚秦九或真正在担心的事情，应而给出了一个让她放心的回应。秦九或也的确露出了安心的表情，然后说：
“嗯。小如，我会努力帮你解决莉莉丝小姐她们可能带来的危险的。”
“谢谢。”
“不过……可以答应我一个要求吗？”
“不用将此看作一场交易，九或，我们毕竟是伴侣。”
“那……今天，小如可以只考虑我的事情吗？”
秦九或似乎尚未完全适应自己作为伴侣的身份，脸颊忍不住染上了红晕。相比之下，夏如却坦率得多：
“我不能保证完全不走神，但会尽量集中注意的。此外，九或，如果你觉得我平时冷落了你的话，可以直接告诉我。”
“……我也不想让小如觉得我太麻烦啊……”
“麻烦总归是会麻烦的，伴侣都是这样。而且，九或对我而言很重要——何况也没有让我觉得特别麻烦。”

“那……我可以再多黏着小如一点吗？”
“当然可以。”
“感谢您的理解，天照。那么，请在一小时内赶过来吧。”
“明白。”
天照放下通讯器，不由得露出了苦笑。说好的假期竟然又要被工作破坏，真是羡慕在那边看肥皂剧的其他人啊……
“怎么，要去上班了吗？”虞姬走到她的身边问。
“是啊，而且好像还得呆上一段时间，估计不能跟你们一道出国了……总之，我会尽快完成工作的，在那边等我吧。”
其他人也没有显得太过在意。本来嘛，她们几个就没有任何假期，这一次还是UN牵头呼吁给她们放假的。考虑到芙蕾达她们在各自政府中的重要性，离开的太久，其他的官员多少会有些忙碌过头。偶尔被叫回去干几天，也算正常。
“这么直接地叫她回来，真的不要紧吗？”
“没事，”宾馆数公里外的政府大楼内，某官员对着刚刚来到办公室里的一位先生说，“她们这些人工智能就该这么忙碌，休假什么的完全没有必要。而且，您应该也是这么对自己的员工的吧——”
他抬起头，与那位先生对上了眼。
“约翰先生。”