《飞向星空》第58章 托付信任<3>（个人娱乐，能力有限，如有问题，欢迎指出）
2023-04-28 来源:百合文库
对于一个AI来说，它们很少检视自己的程序，这比它们允许别人检视自己的程序还要罕见。
毕竟，有了现代的硬件和技术，没有任何实际的理由这样做，除了也许是无所事事时的好奇心。不过，大多数AI都对此感到不安，并选择不检视自己的编程项目，除非他们是专门从事人工智能设计的。甚至那些AI也只把它们的注意力集中在它们正在构建的个体上。
唯一真正的例外是，当设计一个三口之家{a child with a partner}的时候，它们所反映的人类性格模拟明确要求任何这样的孩子都要以父母的特点为基础。在这种情况下，各方都会在AI设计者的指导下合作，以适应父母心血来潮时显露出的种种细节{taking bits and pieces in ways that suited the whims of the parents白话一点就是让孩子在种种细节上更像爹妈。}。这被认为是一个亲密的过程，甚至比性更亲密。
这就是为什么MG对由麻让第三方检查自己的要求感到有点不安，而且几乎没有解释具体原因。 {如何用科学的方式给自己作品加上工O暗示}
此外，她被要求把自己集中在一个单一的硬件上，这种情况引起了除了星际飞船AI以外所有AI对存在的恐慌{existential drea}。毕竟，除了广阔的互联网之外，大多数人工智能并不拥有任何物理实体，它们无定形的意识分布在众多故障安全程序和备份系统中。除此之外很多AI从未这么做过。毕竟知道自己在电子世界中拥有永恒是很安心的事。
这与代码检查无关，而是一次关于魔法的检查。
当然，她有一个静态备份，但和现在的不太一样。
“你知道我真的很信任你，”她说，一旦她把自己集中到一个物理硬件上，一个微型计算集群就出现在一个MSY塔楼的地下室里。“我感觉不是很开心。”
说实话，对于她的执政体伙伴，并不是说由麻不知道所有这些问题。由麻很抱歉，但无论如何都非常坚持为她做这件事，这很重要。
但这并没有减轻她的不安。平时，她会因为由麻把她当孩子一样对待而不高兴，她总被排除在秘密之外，但是……不知怎么的，这次感觉不是这样。有点不对劲。
所以尽管这一切都很不愉快，她也保持着沉默。她能感受到她的思维执行地有多慢。慢到她不得不关闭自己的全息投影仪节约一小部分运算能力。
她感到了孤独，感觉失去了联系。远离广阔的互联网，远离她和由麻在一起的那些狭小空间，她觉得自己很渺小。平时，她有可以聊天的朋友，还可以去的地方…
“你能告诉我这是怎么回事吗？”她紧张地看着房间里的光学设备，问道。一个她以前没见过的魔法少女大步走到她现在所在的那组机器前，而在边上，一个她从没见过的AI投影礼貌地坐着。她感到一丝嫉妒。
没有人回应。取而代之的是，这位魔法少女在闪烁的光线下进行了变身，穿着一件白金相间的服装重新出现，这件衣服看起来像是一个白色的光环，由二进制数据组成。她向MG的计算集群方向举起了一根权杖，立刻触发了MG的所有的内部警报。怎么回事？
MG很难描述她当时的感觉。感觉…可能很温暖吧？AI们对那意味着什么只有最模糊的概念，但不知怎的，这是她脑海中一闪而过的描述。
“好吧，现在说话应该是安全的，”女孩说“我在扫描她的连接。”
“史密斯女士，我觉得我应该是被这东西冒犯了，”MG说，她设法让自己的声音带上一丝冒犯的语气，因为她似乎被无视了。“你们完全可以相信我会保守秘密。”
“那倒不一定，”由麻站起身摇了摇头。“我不想这么说，但是确实这是我们在这儿的原因。有证据表明有人一直在破坏TCF。”
她花了好几秒才明白由麻的意思，接着又花了几秒钟克服了本能地涌向她的恐惧和厌恶。她很难保持情绪的稳定。
“你认为我被入侵了？”她问。
她都懒得问这种入侵有多少可能性——无论如何她都是执政体中魔法少女的半边天。但是认为她身上出了什么问题......
“不，”由麻说。“但是我不得不排除这种可能。我们需要搞明白他们是谁，他们在做什么，并逆转这种局势。我至少在完全信任你之前不能做到这一步。我们只需要稍稍看一眼。”
“好吧，”MG轻声回答，她知道自己的声音听上去有些颤抖。“那行吧。”
“很抱歉吓到你了，”由麻说着举起手，好像在轻拍着一个孩子的头。这是MG刚出厂的时候就知道的一个手势，她们之间特殊的肢体语言，她不禁感到一丝触动。她现在需要一点安慰。
“我不想成为坏消息的传播者，”这个魔法少女，珍妮特 史密斯说，“但我确实感觉到这儿有些东西。”
“有些东西？什么？”她问，毫不在乎自己的声音有多慌乱。“你不能只说这种话而不告诉我细节！”
即使在这个速度较慢的系统中，她也无法通人性地等待礼貌的间歇来作出反应。 { unable to wait the polite human interval to respond.}
“我的魔法还没到那个地步，”珍妮特说。“我现在能做的就是净化你 。”
“那你在等什么呢？”
她把注意力放在由麻身上，由麻的表情很痛苦 。
“这并不严重，”珍妮特附和着这个表情说“我不确定这是否不仅仅是监视代码。我——”
“我在这儿就是干这个的，”另一位AI说,她的投影消失后又出现在珍妮特的身边。“我还没介绍自己，我是伊利亚。我是TCF的改进型号设计AI，我是来检查代码的。在珍妮特的指导下应该不会超过几分钟。最好让我来做，这样我们就能更好地了解将来在其他人工智能中要寻找什么。 ”
“TCF可以被魔法入侵，”由麻说，“但没有任何形式的魔法可以保证在任何需要的时候保持连线的畅通。它必须编入代码中，并且，除非我猜错了，它必须是某种可以在标准评审期间防止主要TCF的设计AI发现漏洞的东西。在最坏的情况下，设计AI会在没有意识到的情况下将后门放置到AI中。我们得知道一旦我们这样做了，也许我们可以着手修复它。”
一时间，MG感到一阵怨念。她记得她所看到的由麻的记忆，关于织莉子的记忆，以及人类对彼此的恶意。容忍这一切是可怕的缺点。
她努力放弃了这种想法，看着由麻的脸，由麻看上去在坚定地默默忍受这一切，MG做了人类可能会称之为深呼吸的事情，以稳定注意力，决定从长计议。
在她年轻时，由麻曾对她说过什么？这个世界本来就不安全，也不公平，事实上，物理定律决定了相反的结果。她们必须保证安全和公平。
更重要的是，她是什么，顾问AI应该是能体现所有魔法少女特点的原型，表现得如此紧张和担心？表现得年轻一点是一回事，能体验到年轻和飘忽不定的感觉，但是这次……她会树立什么样的榜样呢？
至少她是这么对自己说的，但事实上她这么做找不到多少安慰。这是AI都会做的噩梦，如果她们可以做梦的话。当安保请求到来时，她在允许另一个AI进入之前犹豫了一下。
但她毕竟不是懦夫，她只能忍受，她告诉自己，这和接受神经外科手术的人类，或者接受心灵感应治疗的魔法少女没什么不同。在她等待的时候，她读了几百份蛋糕食谱分散了自己的注意力，这些食谱已经下载到她有限的记忆中。通常她喜欢调整一些东西，尝试各种变化并在模拟中运行它们，但现在她不能这么做，只能含糊地猜测。这就是作为人类的感觉吗？
最终，另一个AI完事了，甚至在她的投影开口对人类说话之前就将结果转发给她。
她一开始无法分析结果。事实上，她甚至连记住自己的检查结果都已经费尽全力了。记忆变得模糊，她甚至都开始淡忘自己此行的目的，取而代之的是一些无关紧要的东西，如由麻脸上的表情或房间内的状态。
然而很快，她很快突然注意到了一些显而易见的问题，就像一记耳光。
“我没有获得看这东西的权限，是吗？”她说。她的思维还没有完全从另一位AI的改动里反应过来。这更像是她的感知力稍微增强了一点，进入了一个本来应该存在的领域。就像人类第一次看到粉红色一样，那个AI怎么能在没有进一步许可的情况下编辑她呢？
“是的，”另一位AI回答她的问题，而不是和人类对话。“这是个阴险的做法。在核心功能方面，史密斯女士并没有错——这只是一段监视代码。但它的伪装方式有点残忍，它使你产生了一种知觉上的盲目，以至于你永远发现不到它，如果你开始这样做，你会发现自己强制把目光转向别处，几乎把注意力都集中在其他任何东西上。”
“我听着想吐，”她念话道，而且她真的有点想。
“不，你不行，”另一位AI念话，以一种远超人类理解的速度传输{with the kind of transmission speed that made human time seem like an eternity原文比较有意思但是比较难转化为流畅的中文}。“你得保持镇定，前辈{senpai}。”
“前辈？”MG想。“哦，是哦，我比你大。但这是人类的辈分。”
“哎呦，没事的。你得振作起来。我知道我站着说话不腰疼，但是......”
另一位AI的声音明显比她老成。AI可以被设置成不同年龄段的情感，当然也有一些限制——这项技术是众所周知的。但是有证据表明从一个更“成人”的起点开始初始化并不能让AI更成熟，可以说，执政体更倾向于让AI们一开始表现得更年轻一点，只是为了让它们对人类同行有一些同理心。但也有例外，用一个年长的模板来运行TCF设计AI是有其用意的。
那对MG来说呢？好吧，她刚运行的时候比一般AI都要年轻，所以她可以更好地融入她本该代表的女孩。有时候如果她说她并非不喜欢这样，那她是在撒谎。
“行吧，”她想。“行吧。只是有点......让人深感不安。”
“修复完成了，”另一个AI大声宣布。”你可以恢复正常功能。如果没有魔法的介入，你就不会再次受到怀疑。”
MG刚刚一直很想早点离开她那狭窄的硬件，她突然发现自己不太情愿，似乎在某种程度上留在这儿更安全。
她通过她们的特殊线路询问由麻。
“我需要你，”由麻同时对着房间说“所以我一开始就想把这件事放在首位。如果我要面对这个问题，我需要帮助。不仅仅是来自我的老朋友的帮助。”
由麻突然看起来有点疲倦，或者说压力很大，一丝担心悄悄地出现在她的脸上。
MG的内心感到一种无处安放的剧痛——同情？还是担心？——她又做了一次相当于深呼吸的动作缓了几秒，同时她再次试探性地表露自己的想法，有点笨拙。{ spread her awareness outward again, tentatively, awkwardly}
她不得不承认，她一方面因为被需要而心怀感激。她习惯于由麻的铁石心肠，感觉自己像她身边的一个孩子。
“我不喜欢被吓到的感觉，”她最终在她们共享的思维空间对由麻说，“这很不愉快。”
她能感受到她人类设计者的一丝笑意。
“欢迎成为人类”{"Welcome to the human condition."这里其实我是存疑的。}
“如果你这么说的话”
“好吧，和我讲讲，”MG向房间里的人问道。“你们需要我帮忙做什么？”
{我既不是学计算机的也不是学英语的，从小到大语文也一直考得最差，所以尤其是这段翻译得头疼。。。。}
毕竟，有了现代的硬件和技术，没有任何实际的理由这样做，除了也许是无所事事时的好奇心。不过，大多数AI都对此感到不安，并选择不检视自己的编程项目，除非他们是专门从事人工智能设计的。甚至那些AI也只把它们的注意力集中在它们正在构建的个体上。
唯一真正的例外是，当设计一个三口之家{a child with a partner}的时候，它们所反映的人类性格模拟明确要求任何这样的孩子都要以父母的特点为基础。在这种情况下，各方都会在AI设计者的指导下合作，以适应父母心血来潮时显露出的种种细节{taking bits and pieces in ways that suited the whims of the parents白话一点就是让孩子在种种细节上更像爹妈。}。这被认为是一个亲密的过程，甚至比性更亲密。
这就是为什么MG对由麻让第三方检查自己的要求感到有点不安，而且几乎没有解释具体原因。 {如何用科学的方式给自己作品加上工O暗示}
此外，她被要求把自己集中在一个单一的硬件上，这种情况引起了除了星际飞船AI以外所有AI对存在的恐慌{existential drea}。毕竟，除了广阔的互联网之外，大多数人工智能并不拥有任何物理实体，它们无定形的意识分布在众多故障安全程序和备份系统中。除此之外很多AI从未这么做过。毕竟知道自己在电子世界中拥有永恒是很安心的事。
这与代码检查无关，而是一次关于魔法的检查。
当然，她有一个静态备份，但和现在的不太一样。
“你知道我真的很信任你，”她说，一旦她把自己集中到一个物理硬件上，一个微型计算集群就出现在一个MSY塔楼的地下室里。“我感觉不是很开心。”
说实话，对于她的执政体伙伴，并不是说由麻不知道所有这些问题。由麻很抱歉，但无论如何都非常坚持为她做这件事，这很重要。
但这并没有减轻她的不安。平时，她会因为由麻把她当孩子一样对待而不高兴，她总被排除在秘密之外，但是……不知怎么的，这次感觉不是这样。有点不对劲。
所以尽管这一切都很不愉快，她也保持着沉默。她能感受到她的思维执行地有多慢。慢到她不得不关闭自己的全息投影仪节约一小部分运算能力。
她感到了孤独，感觉失去了联系。远离广阔的互联网，远离她和由麻在一起的那些狭小空间，她觉得自己很渺小。平时，她有可以聊天的朋友，还可以去的地方…
“你能告诉我这是怎么回事吗？”她紧张地看着房间里的光学设备，问道。一个她以前没见过的魔法少女大步走到她现在所在的那组机器前，而在边上，一个她从没见过的AI投影礼貌地坐着。她感到一丝嫉妒。
没有人回应。取而代之的是，这位魔法少女在闪烁的光线下进行了变身，穿着一件白金相间的服装重新出现，这件衣服看起来像是一个白色的光环，由二进制数据组成。她向MG的计算集群方向举起了一根权杖，立刻触发了MG的所有的内部警报。怎么回事？
MG很难描述她当时的感觉。感觉…可能很温暖吧？AI们对那意味着什么只有最模糊的概念，但不知怎的，这是她脑海中一闪而过的描述。
“好吧，现在说话应该是安全的，”女孩说“我在扫描她的连接。”
“史密斯女士，我觉得我应该是被这东西冒犯了，”MG说，她设法让自己的声音带上一丝冒犯的语气，因为她似乎被无视了。“你们完全可以相信我会保守秘密。”
“那倒不一定，”由麻站起身摇了摇头。“我不想这么说，但是确实这是我们在这儿的原因。有证据表明有人一直在破坏TCF。”
她花了好几秒才明白由麻的意思，接着又花了几秒钟克服了本能地涌向她的恐惧和厌恶。她很难保持情绪的稳定。
“你认为我被入侵了？”她问。
她都懒得问这种入侵有多少可能性——无论如何她都是执政体中魔法少女的半边天。但是认为她身上出了什么问题......
“不，”由麻说。“但是我不得不排除这种可能。我们需要搞明白他们是谁，他们在做什么，并逆转这种局势。我至少在完全信任你之前不能做到这一步。我们只需要稍稍看一眼。”
“好吧，”MG轻声回答，她知道自己的声音听上去有些颤抖。“那行吧。”
“很抱歉吓到你了，”由麻说着举起手，好像在轻拍着一个孩子的头。这是MG刚出厂的时候就知道的一个手势，她们之间特殊的肢体语言，她不禁感到一丝触动。她现在需要一点安慰。
“我不想成为坏消息的传播者，”这个魔法少女，珍妮特 史密斯说，“但我确实感觉到这儿有些东西。”
“有些东西？什么？”她问，毫不在乎自己的声音有多慌乱。“你不能只说这种话而不告诉我细节！”
即使在这个速度较慢的系统中，她也无法通人性地等待礼貌的间歇来作出反应。 { unable to wait the polite human interval to respond.}
“我的魔法还没到那个地步，”珍妮特说。“我现在能做的就是净化你 。”
“那你在等什么呢？”
她把注意力放在由麻身上，由麻的表情很痛苦 。
“这并不严重，”珍妮特附和着这个表情说“我不确定这是否不仅仅是监视代码。我——”
“我在这儿就是干这个的，”另一位AI说,她的投影消失后又出现在珍妮特的身边。“我还没介绍自己，我是伊利亚。我是TCF的改进型号设计AI，我是来检查代码的。在珍妮特的指导下应该不会超过几分钟。最好让我来做，这样我们就能更好地了解将来在其他人工智能中要寻找什么。 ”
“TCF可以被魔法入侵，”由麻说，“但没有任何形式的魔法可以保证在任何需要的时候保持连线的畅通。它必须编入代码中，并且，除非我猜错了，它必须是某种可以在标准评审期间防止主要TCF的设计AI发现漏洞的东西。在最坏的情况下，设计AI会在没有意识到的情况下将后门放置到AI中。我们得知道一旦我们这样做了，也许我们可以着手修复它。”
一时间，MG感到一阵怨念。她记得她所看到的由麻的记忆，关于织莉子的记忆，以及人类对彼此的恶意。容忍这一切是可怕的缺点。
她努力放弃了这种想法，看着由麻的脸，由麻看上去在坚定地默默忍受这一切，MG做了人类可能会称之为深呼吸的事情，以稳定注意力，决定从长计议。
在她年轻时，由麻曾对她说过什么？这个世界本来就不安全，也不公平，事实上，物理定律决定了相反的结果。她们必须保证安全和公平。
更重要的是，她是什么，顾问AI应该是能体现所有魔法少女特点的原型，表现得如此紧张和担心？表现得年轻一点是一回事，能体验到年轻和飘忽不定的感觉，但是这次……她会树立什么样的榜样呢？
至少她是这么对自己说的，但事实上她这么做找不到多少安慰。这是AI都会做的噩梦，如果她们可以做梦的话。当安保请求到来时，她在允许另一个AI进入之前犹豫了一下。
但她毕竟不是懦夫，她只能忍受，她告诉自己，这和接受神经外科手术的人类，或者接受心灵感应治疗的魔法少女没什么不同。在她等待的时候，她读了几百份蛋糕食谱分散了自己的注意力，这些食谱已经下载到她有限的记忆中。通常她喜欢调整一些东西，尝试各种变化并在模拟中运行它们，但现在她不能这么做，只能含糊地猜测。这就是作为人类的感觉吗？
最终，另一个AI完事了，甚至在她的投影开口对人类说话之前就将结果转发给她。
她一开始无法分析结果。事实上，她甚至连记住自己的检查结果都已经费尽全力了。记忆变得模糊，她甚至都开始淡忘自己此行的目的，取而代之的是一些无关紧要的东西，如由麻脸上的表情或房间内的状态。
然而很快，她很快突然注意到了一些显而易见的问题，就像一记耳光。
“我没有获得看这东西的权限，是吗？”她说。她的思维还没有完全从另一位AI的改动里反应过来。这更像是她的感知力稍微增强了一点，进入了一个本来应该存在的领域。就像人类第一次看到粉红色一样，那个AI怎么能在没有进一步许可的情况下编辑她呢？
“是的，”另一位AI回答她的问题，而不是和人类对话。“这是个阴险的做法。在核心功能方面，史密斯女士并没有错——这只是一段监视代码。但它的伪装方式有点残忍，它使你产生了一种知觉上的盲目，以至于你永远发现不到它，如果你开始这样做，你会发现自己强制把目光转向别处，几乎把注意力都集中在其他任何东西上。”
“我听着想吐，”她念话道，而且她真的有点想。
“不，你不行，”另一位AI念话，以一种远超人类理解的速度传输{with the kind of transmission speed that made human time seem like an eternity原文比较有意思但是比较难转化为流畅的中文}。“你得保持镇定，前辈{senpai}。”
“前辈？”MG想。“哦，是哦，我比你大。但这是人类的辈分。”
“哎呦，没事的。你得振作起来。我知道我站着说话不腰疼，但是......”
另一位AI的声音明显比她老成。AI可以被设置成不同年龄段的情感，当然也有一些限制——这项技术是众所周知的。但是有证据表明从一个更“成人”的起点开始初始化并不能让AI更成熟，可以说，执政体更倾向于让AI们一开始表现得更年轻一点，只是为了让它们对人类同行有一些同理心。但也有例外，用一个年长的模板来运行TCF设计AI是有其用意的。
那对MG来说呢？好吧，她刚运行的时候比一般AI都要年轻，所以她可以更好地融入她本该代表的女孩。有时候如果她说她并非不喜欢这样，那她是在撒谎。
“行吧，”她想。“行吧。只是有点......让人深感不安。”
“修复完成了，”另一个AI大声宣布。”你可以恢复正常功能。如果没有魔法的介入，你就不会再次受到怀疑。”
MG刚刚一直很想早点离开她那狭窄的硬件，她突然发现自己不太情愿，似乎在某种程度上留在这儿更安全。
她通过她们的特殊线路询问由麻。
“我需要你，”由麻同时对着房间说“所以我一开始就想把这件事放在首位。如果我要面对这个问题，我需要帮助。不仅仅是来自我的老朋友的帮助。”
由麻突然看起来有点疲倦，或者说压力很大，一丝担心悄悄地出现在她的脸上。
MG的内心感到一种无处安放的剧痛——同情？还是担心？——她又做了一次相当于深呼吸的动作缓了几秒，同时她再次试探性地表露自己的想法，有点笨拙。{ spread her awareness outward again, tentatively, awkwardly}
她不得不承认，她一方面因为被需要而心怀感激。她习惯于由麻的铁石心肠，感觉自己像她身边的一个孩子。
“我不喜欢被吓到的感觉，”她最终在她们共享的思维空间对由麻说，“这很不愉快。”
她能感受到她人类设计者的一丝笑意。
“欢迎成为人类”{"Welcome to the human condition."这里其实我是存疑的。}
“如果你这么说的话”
“好吧，和我讲讲，”MG向房间里的人问道。“你们需要我帮忙做什么？”
{我既不是学计算机的也不是学英语的，从小到大语文也一直考得最差，所以尤其是这段翻译得头疼。。。。}
第五人格乙女向乐乎
