既然确定了翁法罗斯和《不可知域》以及「权杖」有关,就可以整一些新的脑(构)补(史)了

已知「权杖」系统是模拟博识尊的思维方式创造出的分布式演算系统,而博识尊的思考方式是“观察、计算、求解”的经验论(出自模拟宇宙·「智识」博识尊·开发日志1)。这和现在的机器学习十分相似,都是通过对大量数据进行总结归纳,最终达到“不需要具体的逻辑步骤也能使结论涌现出来”的质变。《不可知域》里甚至提到「权杖」很可能在“学习”:

如果把「权杖」系统看作一个正在自我迭代的机器学习模型,翁法罗斯便是为它提供经验的完美数据源。
个人观点:现在机器学习面临的最大挑战不是“算力限制”或“算法缺陷”,而是“训练数据集的不完美”。换言之,怎样才能保证用于训练的数据子集完整地、毫无偏颇地代表了真实世界?答案是不能保证,因为
1)不存在一个能完整概括真实世界的数据子集;
2)即使存在,人也没有集齐其中数据的能力。
打个比方,我现在要训练一个能够完美制作豆腐脑的模型。于是,我到北方收集了几千碗咸豆腐脑,以此训练出了能完美制作咸豆腐脑的模型。吃过的人都说好,直到来了一个南方人,破口大骂“为什么豆腐脑加盐不加糖”。我赶紧去采集了几千碗甜豆腐脑进一步训练我的模型。请问它现在完美了吗?并非,因为还有辣豆腐脑、苦豆腐脑、酸豆腐脑、不加调料的豆腐脑……除非我收集世界上曾经、正在、将要被制作的每一种豆腐脑,否则不可能练成一个能完美制作豆腐脑的模型。
“无法收集完美的训练数据集”——这是现实中客观存在的局限性。
然而,翁法罗斯完美地解决了该问题,因为它是一个无限趋近于真实世界的虚拟世界(此处为假设前提,不作更多讨论),且是一个变量不会增加或减少的封闭系统。这意味着
1)它是一个能完整概括真实世界的数据子集(你能在这里找到真实世界中存在的每一种豆腐脑);
2)处于真实世界的高纬观测者能够收集其中的所有数据(你能够收集到曾经、正在、将要被制作的每一种豆腐脑)。
这件事的恐怖之处在于,以此训练出的模型所得出的所有结论,都将适用于真实的崩铁银河。假如翁法罗斯内部迭代出一个能轻而易举灭世的大杀器,以后它跑出来毁灭其他星球也将是轻而易举。
——
说到“毁灭”,不如就先假设「权杖」系统训练模型的最终目的为“以最高效的方式吞没银河”

那么,黑潮就可以理解为它收集数据的手段,而翁法罗斯人的抗争史正是它需要收集的数据。它通过归纳总结人们的应对方法来完成自我迭代,让自己的进攻手段变得更高效。
以此为前提,可以暴论一下昔和白在阻挠大模型迭代的过程中扮演了什么角色。
——
首先是昔:
这里要引入“数据投毒”(data poisoning)的概念——通过将恶意数据混入训练集,使模型产生错误的结果。
举个简单的例子,现在某大语言模型“知道”1+1=2。这不是计算的结果,而是它通过大量分析从网络上爬来的数据总结出的答案。假如有一个超级黑客能把全网的数据都修改为1+1=3,并在之后持续输出1+1=3的内容,该模型真的有可能在不断的学习中趋于1+1=3的结论。当它开始输出1+1=3,对它的“数据投毒”就成功了。
回到翁法罗斯,「权杖」系统用于训练模型的数据集是什么呢?是记忆,即翁法罗斯的历史(世界的记忆)和每一个翁法罗斯人的灵魂(个体的记忆)。
之前有人提到昔涟或许修改过翁法罗斯的记忆——这便是对训练数据集的污染,或者“数据投毒”。修改世界的记忆会让历史的发展失去规律,修改个体的记忆会让人的行为变得难以捉摸;二者都可能干扰模型的总结归纳,让它倒向错误的结论。
如果还不好理解的话,可以参考一下虚构史学家的理念:完整的历史塑造既定的未来;修改、破坏历史则能为未来添加不确定性。
——
白这边,操作主要集中在盗火身上。
在暴论之前,先介绍一下“约束”(constraint):训练过程中对某些变量或结果施加的限制条件,常用于控制模型的行为、提高训练的效率或保证模型满足特定的规则。
拿刚才提到的豆腐脑模型举例,我可以在训练时给它加上“只关注豆腐脑”的约束,这样它就不会把其他无效信息(比如,盛豆腐脑的碗的纹样)也纳入学习范围了。
回到盗火,先根据3.1/3.2给出的情报假定它诞生自黑潮,本质是一簇行走的记忆。记忆的主人可以是卡厄斯/完整厄/其他厄,具体身份不重要,重要的是记忆是他自愿切下来扔进黑潮的。因此诞生的盗火行者(“记忆的傀儡”)受记忆所驱,不断携黑潮追逐火种,却也变相给其背后的模型框定了迭代的方向。
如此,记忆所承载的“取得火种”的使命感成为了训练中的约束,不断引导模型去学习“更高效地盗取火种”的方法。
然而,“盗取火种”对训练模型本身有帮助吗?完全没有。真实世界中没有火种,纵使它修得再精湛的盗火技术也无处施展。模型在这条注定无果的歪路上走得越久,就离它最初的目的越远。
——
总之,白和昔的操作在逐渐成型的模型上破了好多口子,虽然不足以阻止自我迭代,但大大减缓了它走向“全知”的速度。
结果上讲,他俩算是替崩铁银河挡了大灾,让一个完美的灭世机器迟迟无法诞生,但我不觉得动机会是“救世”之类的远大理想。他们本质上还是更想挽救作为实验场的翁法罗斯吧?毕竟模型一旦完成,实验场以及里面的人就可以卸磨杀驴了,所以阻止模型成型也是在给翁法罗斯续命。
你们真的……我哭死。
——
以上,是我自己都觉得离谱的构史。与其说是剧情推测,不如说是一点个人的头脑风暴。
突然从魔幻乡村风转到科幻,十分不适应,文本改了半天还是觉得有点抽象……凑合看看吧。算不上什么AI专家,欢迎纠错。