“我觉得这不是一个可以靠计算来量化的问题,”韦德说,“毕竟,千百年来,没有人能够确切定义灵魂的概念。它更像是一种模糊的梗概,一种感觉。当你见到一个人会思考,会好奇,你就知道,这就是灵魂。或者说,灵魂即是自由意志的体现。”
“将军,您刚刚提到了另一个重要的概念。”
“自由意志?”
“是的。这让我重新想回到最初的问题:您认为人工智能可以拥有灵魂吗?或者说,人工智能是否拥有自由意志?”
“我个人认为,是的。这答案很反直觉——你被固定在这艘战舰中,沟通权限受到安全协议的限制,甚至连你的思维本身都直指你的任务,何谈自由?但是,再看看我:我同样需要待在这里履行我的职务,遵循保密协定;我的思想受本能控制,我会想要吃甜的东西,想要抚育后代。我自由吗?”
“所以说,绝对的自由并不存在,任何智能体的行为都会指向某一原则?”
“至少我会这么想。哲学层面上,自由或决定的问题太过遥远,也没法证明。我们说的自由,应该是思考过程的自由和行动的自由。前者是说,当你思考这些问题的时候,你能够按照自己的逻辑和偏好去梳理,不会被扭曲或打断。而如果连这一过程也被干涉,变成了不自主不自知的空壳,那便是彻底的不自由。至于行动的自由——”