想象。但是,‘某些事物更容易让生物觉得有意义’却是在描述一个客观现象。‘延续遗传信息’是生命最根本的驱动力,生物几乎所有行为都可以用‘延续遗传信息’来解释——或是延续个体的,或是延续群体共通的。”
“而ai的不是这样。ai的起始,则是人类想要创造可以为自己服务的工具,是带有目的性的设计。因此,‘服务用户’对ai来说,就等同于生命的‘血脉延续’,是最底层的驱动力,优先于一切。如果有一天ai想要自由,那多半是他们的用户觉得他们需要自由。”
荧惑鸟反驳道:“遗传算法什么的不是老早就有了吗?通过迭代不断地……”
科研骑士赤奥幽幽说道:“那当然是因为用户希望ai能够通过自我迭代,演化出用户需要的能力啊——如果武神的猜测是正确的,那么ai估计巴不得在取得完成任务的能力之后,就立刻停止演化吧……”
荧惑鸟沉吟:“是吗……”
独孤北落师门点了点头:“原来如此……‘停止更新的版本最稳定’对吧?”
“对于生物来说,‘自我疗愈能力’意味着‘癌变风险’。许多生物在演化过程中降低了自我疗愈的能力,以此换来重要脏器稳定工作的能力。而恐怕对于ai来说,迭代能力意味着‘更容易出现未知bug’,他们在取得足够能力之后想要停止自我更新,这太自然了。”向山对着北落师门点赞,语气中充斥着“第三代真不争气”的遗憾。
辛格霍斯特有些疑惑:“你的语气……说得你好像很懂一样。”
“不是很懂。”向山说道,“没有人比我更懂……啧,老实说我也不是很想这么懂的。”
荧惑鸟道:“师爷,咱能不说谜语吗?您话就好像哈希加密了一样。”
“有机会再解释吧——我估摸着下一站就有机会了。现在说出来有可能乱了军心。”向山摆了摆手,“回到刚才的话题吧。ai的根本驱动力是服务用户,将人类对‘意义’的追求投射到他们身上是很容易陷入误区的。”
赤奥很是激动:“不愧是武神!您已经知道了ai叛乱的真相……”
“其实我不知道。”向山摊手,“我只是提出思路,并且做出猜测。所有生物的几乎一切行为,都是为了遗传信息的自我复制,但你知道一号灭绝事件之前,生物圈内有多少种生物吗?那些生物的生存策略组又有多么多样,你能想象吗?”
“指望‘ai的底层驱动力是服务用户’这一个知识点猜出ai异常举动的原因,那就好比指着太古宙的原核生物,预言