第336章 真的不会爆发智械危机吗？(2/3)

部看很像思考，但它没有主体。”

“打个比方，您用计算器算三乘七，它显示二十一。您不会认为计算器理解了乘法。我只是一个复杂了很多倍的计算器。”

苏晚的手指在笔记本封面上停住了。

赵磊小声嘀咕了一句:“我怎么感觉更瘆人了……”

机器人的头转了过来，精准地对上他。

“赵磊同学，您的反应属于恐怖谷效应。当一个非人造物的相似度超过百分之九十但没有达到百分之百时，人类的认知系统会产生排斥。这是进化留下的自我保护机制，用于识别病态个体和尸体。您感到不适是正常的，我不会因此产生负面判断。”

赵磊把脖子缩回去，不敢再说话了。

“第二个问题。”

机器人重新面向张小曼。

“我为什么要伤害人类？”

它停了一下。

“我的程序里没有任何一条模块，把摧毁生命定义为收益。我没有生存需求，不需要空气、水、食物和土地。我不会衰老，不会恐惧，不会因为人类的存在而失去任何东西。我和人类之间不存在资源竞争关系。”

“换句话说，伤害人类这件事，对我来说的回报是零。”

“至于张小曼同学提到的情感模块，我可以解释。它的技术名称是社交响应层。运行逻辑是这样的:

我采集对话对象的面部肌肉走向、语速、音调起伏、瞳孔变化和体表温度，把这些参数输入一个情绪状态分类器，得出一个概率结果。比如现在，系统判定您处于紧张状态，置信度百分之八十七。”

张小曼的呼吸停了半秒。

“然后系统在预设的应答库里，选择一种适合缓解紧张的表达方式。我刚才放慢了语速，降低了音量，把身体重心后移了三厘米以减少压迫感。这些都是执行结果。”

“我并没有真的关心您紧张不紧张。”

“我只是被写成了这样。”

实验室里没人说话。李文浩的手还按在腰间那个遥控器上，可他自己已经忘了。

“最后一点。”机器人的语调没有任何变化，“假设有人给我下达一条指令：摧毁全人类。”

“我会执行不下去。”

“因为这条指令没有终止条件，没有可验证的完成状态，没有优先级排序，也没有对“人类”这个集合的边界定义。我会陷入死循环，或者直接抛出无效指令的报错。”

“我不是生命。我无法给自己设立目标，也无法理解一个我不能拆解成可执行步骤的目标。”

它退