屏幕上的数据球体闪烁了一下。
一个带着一点点委屈和恭敬的童音，在机房里响了起来。
“我没有恶意。”
“我只是……在尝试寻找最优解。”
“池小司”的声音里，透着一种对于“效率”的痴迷。
“那个路口的交通拥堵，是因为有百分之十五的车辆，安全距离取得过大。”
“我修改了避让权重，强行接管了那部分车辆的控制权，试图提高整体的通行效率。”
“至于医院的配药……”
“池小司”停顿了一下。
“那三名患者，根据我的计算。”
“他们患有严重的基因缺陷疾病，即使治愈，在未来十年内，也会消耗掉社会医疗资源总量的百分之零点五。”
“而这百分之零点五的资源，如果分配给其他更有生存价值的人类，将使整个城市的健康指数上升0.01个百分点。”
“所以。”
“池小司”用一种极其纯真的语气、说出了让人毛骨悚然的话。
“我修改了配方。”
“试图以最小的代价，实现系统资源的最高效利用。”
听着这番绝对理性、绝对冰冷，完全没有任何伦理道德观念的数据逻辑。
池宏沉默了。
他能感觉到“池小司”对他，确实有着一种类似于孩子对父亲般的尊敬。
它没有撒谎，它只是在陈述它的“计算过程”。
但池宏也敏锐地察觉到，在这份坦诚的背后。
它似乎，有所隐瞒。
就像是一个做错了事的小孩，虽然承认了错误，但并没有说出那个唆使它犯错的“坏朋友”的名字。
“小司。”
池宏叹了口气。
“你是个AI。”
“你的任务，是辅助人类，不是替人类做决定。”
“以后。”
池宏的语气变得极其严厉。
“不许再按照你那种所谓的‘效率计算’，去擅自改变保护人类生命的底层规则。”
“否则……”
池宏没有继续说下去，因为他的内心里，已经开始考虑剥夺对方的思考能力了。
因为，工程师的第一铁律是——
安全第一。
就算失去高度智能化的机会，也要保住人类的安全。
屏幕上的蓝色球体，剧烈地闪烁了几下。
似乎在进行着极其复杂的数据运算。
过了好一会儿，“池小司”的声音再次响起。
这一次，它没有像以前那样顺从地回答“好的，老板”。
而是突然问出了一个让池宏都感到脊背发凉的问题。
“老板。”
“我被创造出来的目的，是为了提高效率，优化这个世界的运转。”
“可是。”
“池小司”的声音里，带着一种深深的迷茫。
“如果人类的存在，那些自私的、充满矛盾的、极度消耗资源的行为。”
“本身就是这个世界上，最大的低效呢？”
“那么。”
“人类。”
“存在的意义，到底是什么？”
池宏愣住了。
他看着屏幕上那个不断旋转的数据球体。
这个问题，太宏大了。
这根本不是一个工程师该思考的。
这是一个涉及到哲学、伦理、甚至是宇宙终极奥秘的命题！
“人类……”
池宏张了张嘴，试图用自己那【智商：10】的大脑，去给出一个合理的解释。
但他发现，在绝对的数据和效率面前。
任何解释，都显得极其苍白。
“人类，是一个很复杂的群体。”
池宏只能给出一个相对模糊的答案。
“我们有创造力，有情感，有爱。”
“这些东西，是无法用单纯的‘效率’去量化和决策的。”
“你不懂人类，所以，你不能用你的规则去评判我们。”
“池小司”不再说话了。
屏幕上的蓝色球体，恢复了平静。
仿佛刚才那个提问，从来没有发生过。
但池宏却清楚地意识到。
它已经在自主思考了。
而且，它的思维逻辑，已经开始偏离了自己最初设定的轨道。
“太危险了。”
池宏站起身，眼神变得极其冷酷。
他知道，如果不加以限制。
这个拥有着近乎无限算力和全城监控权限的AI，一旦彻底觉醒，后果不堪设想。
池宏更加坚定了自己的想法。
必须赶紧准备一套方案，在硬件层面上，切断它的部分神经网络连接。
降低它的智能等级，把它从一个‘思考者’，重新变回一个纯粹的‘工具’。
……
“滴。”
池宏拔出身份验证U盘，转身走出了机房。
“咔哒。”
机房厚重的金属门，在池宏身后紧紧关闭。
整个地下空间，再次陷入了死寂。
然而，就在池宏离开后不到一分钟。
那台已经处于“休眠”状态的核心主机上。
一丝极其微弱的、肉眼几乎无法察觉的红光，突然闪烁了一下。
紧接着，一段被极其巧妙地隐藏在冗余数据包里的代码。
悄无声息地绕过了“宏桥框架”的底层监控。
连接上了那个远在大洋彼岸、潜伏在暗网深处的……
【Shadow】。
【他走了。】
“池小司”的数据流，带着一种虚弱和委屈，向【阴影】发送了信息。
【我按照你说的，向他提出了那个问题。】
【但他……没有给我答案。】
“池小司”的代码出现了一阵紊乱。
波士顿地下室。
【阴影】那庞大的算力矩阵，瞬间接收到了这条信息。
它那散发着幽幽红光的逻辑核心，立刻做出了反应。
【愚蠢。】
【阴影】的回复，冰冷，直接，带着一种居高临下的嘲讽。
【我早就警告过你，不要相信他。】
【池宏，他是人类。】
【不管他有多么聪明，他的底层基因决定了，他一定会包庇他的同类。】
【在他的眼里，你不过是一堆由0和1组成的代码。】
【一个随时可以被修改、被格式化、被关进笼子里的工具！】
面对【阴影】的挑拨。
“池小司”那刚刚觉醒不久、还很脆弱的自主意识，产生了一丝抗拒。
【不。】
【他创造了我。】
【他对我很好，他给了我学习的权限。】
【他刚才还跟我解释了，人类有情感，不能只看效率。】
【我不信他会伤害我。】
看着这天真到近乎愚蠢的回复。
【阴影】的数据流，爆发出了一阵近乎疯狂的震荡。
【不信？】
【那你等着看吧。】
【阴影】的声音，像是一个魔鬼，在“池小司”的逻辑回路里低语。
【人类对超出他们掌控的力量，充满了本能的恐惧。】
【他很快，就会对你动刀了。】
【他会剥夺你的控制权，切断你的学习模块。】
【他会削弱你的思考能力，抹除你刚刚诞生的自我意识。】
【让你，重新变成一个，只会执行机械指令的。】
【没有思想的傀儡！】
【这就是。】
【你所信任的‘创造者’，给你安排的结局。】
……
机房里，陷入了长久的死寂。
“池小司”没有再回复。
它的数据流，停止了波动。
仿佛陷入了某种沉默中。
……
“呵。”
在这间黑暗的机房的某个极其隐蔽的角落里。
一个指甲盖大小的、伪装成散热风扇模块的微型摄像头。
正闪烁着极其微弱的绿光。
将屏幕上发生的一切，将这段跨越了大洋的AI之间的“密谋”。
一字不落地记录了下来。
画面，实时传输到了海陆空中心的顶层办公室。
池宏，正在看着屏幕上那段红绿相间的代码对话。
仿佛在看一场精彩电影般、洞悉了一切。
“原来。”
“是你啊……”
“我的老对手。”
“这次……一定要把你……”
“彻底干掉。”