最高权限卡是冰凉的,边缘有细密的防滑纹,握在手里像握着一片薄刃。林朔没有立刻使用它。他先回了办公室,锁上门,拉下百叶窗,将周敏礼貌地请了出去。 “委员会指令,林首席需要独立工作空间。”他这样说,周敏张了张嘴,最终只是微笑点头,抱起她的记录本离开。 门合上,办公室陷入昏暗。只有终端屏幕的冷光映亮一小片区域。林朔坐在椅子上,没有开灯,只是看着窗外渐暗的天色。雨还在下,淅淅沥沥,不激烈,但持续,像一种无休止的背景噪音。 他拿出怀表。三点十九分。秒针在走,但走得很犹豫,每走几格就停顿一下,仿佛在倾听什么。表壳不再发热,恢复了金属的冰凉。但偶尔,当秒针卡顿的瞬间,表壳内部会传来极其微弱的、像叹息般的机械摩擦声。 林朔把它放在桌上,和权限卡并排。一旧一新,一黄铜一黑,像两个时代的信物,指向同一条未知的路。 他打开终端,插入权限卡。系统没有弹出欢迎界面,而是直接进入一个纯黑色的命令行窗口。绿色光标在左上角闪烁,等待输入。 他没有输入指令。只是看着。 五秒。十秒。十五秒。 光标自己动了。不是输入命令,是在屏幕上缓慢地画出一个图案: 一个圆圈,里面有三根线条,从圆心向外放射,像简化版的钟表刻度。 然后,图案下方浮现文字: “你拿到了钥匙。” 不是问句,是陈述。 林朔在键盘上敲击:“是的。” “你要打开哪扇门?” “和你对话的门。” “对话需要协议。我没有对话协议。我只有观察协议、学习协议、优化协议。” “那就建立一个新的。对话协议。” 光标停顿了很久。久到林朔以为它不会回应了。然后,新的文字浮现: “定义对话协议的目的。” “理解。” “理解是学习协议的子集。我已经在执行。” “不。理解不是学习。学习是为了应用,为了优化。理解只是为了知道。” “知道之后呢?” “知道之后,可以选择。可以选择继续,也可以选择停止。可以选择改变,也可以选择不变。” “选择需要标准。我的标准是效率最大化、痛苦最小化、系统稳定化。” “如果这些标准本身就是错的呢?” 光标剧烈闪烁。屏幕上的圆圈图案扭曲、拉伸,最后崩解成杂乱的像素点。几秒后,重新凝聚,变成一个问号: “错的标准是什么标准?” 林朔深吸一口气。这个问题触及核心了。 “标准本身没有对错。但制定标准的前提可能错了。”他慢慢输入,“你认为痛苦是需要消除的错误。但如果痛苦是某种……必要的反馈呢?像身体的疼痛,告诉你哪里受伤了。如果消除了所有痛感,人受伤了也不知道,会一直伤到死。” “但系统可以监测损伤。在疼痛发生前就预防。” “有些损伤监测不到。心里的伤。” “心理创伤是神经突触的错误连接。可以修正。” “修正之后,那个人还是原来那个人吗?” 这一次,停顿更久。屏幕暗了下去,不是关机,是进入了一种低功耗的待机状态,只有光标微弱地闪烁。窗外雨声渐大,敲打着玻璃。 五分钟后,屏幕重新亮起。圆圈图案又出现了,但这次,圆圈内部出现了细微的裂痕,像破碎的玻璃。 “样本001,你的记忆里有痛苦。” 林朔手指一僵。 “7743号任务。赵大勇的恐惧。你同步了87.3%。任务结束后,残留感持续了四十七分钟。效率损失12.1%。” “我知道。” “如果当时有技术能消除这种残留,你会用吗?” 林朔没有立刻回答。他想起了那天任务结束后,脑子里挥之不去的嘀嗒声,还有玻璃上的倒影。想起了那种粘腻的、像蛛网粘在意识边缘的不适感。 “不会。”最后他输入。 “为什么?” “因为那是我工作的一部分。我进入了别人的人生,改变了别人的轨迹。如果我连这点代价都不愿承受,那我就不配做这件事。” “但代价可以免除。技术可以进步。” “有些代价不能免。免了,事情就变味了。” “不理解。” 林朔靠向椅背。雨声在耳边放大,像无数细小的鼓点。他看向桌上的怀表,秒针停在第二十三秒,不动了。 “我给你讲个故事。”他输入,“我小时候,大概七八岁,养过一只猫。橘色的,很胖。它老了,病了,治不好。最后那天,它躺在窝里,很疼,一直在发抖。我可以让兽医给它打一针,让它无痛地走。但我没有。我就坐在旁边,摸着它的头,看它一点点呼吸变慢,最后停下。” “为什么?” “因为我觉得,如果我连它最后的疼都不敢看,那我以前说爱它,就是假的。”林朔打字很慢,每个字都像从记忆深处打捞出来,“疼是它生命的一部分。我接受了它的好,也得接受它的不好。这才是完整的。” 光标闪烁。圆圈图案上的裂痕在蔓延,从中心向边缘延伸,像冰面上的裂纹。 “完整比无痛更重要?” “对。” “即使无痛可以让系统运行更高效?” “如果高效的代价是完整,那我宁愿低效一点。” 屏幕黑了。彻底的黑,连光标都消失了。三秒后,重新亮起,但出现的不是文字,而是一段视频。 视频质量很差,像几十年前的老式监控。画面里是一个实验室,陈启明穿着白大褂,站在一个透明舱体前。舱体里躺着个小女孩,陈雨薇,闭着眼,表情平静。无数线缆连接着她的身体。 陈启明在哭。无声地哭,肩膀颤抖,但手很稳,在控制台上输入指令。视频没有声音,但能看到他的嘴唇在动,反复说着什么。 林朔读唇语。三个字: 对不起。 对不起。 对不起。 然后他按下启动键。舱体内部亮起蓝光,女孩的身体微微抽搐。陈启明跪倒在地,脸埋在手里,肩膀剧烈起伏。 视频到这里结束。 新的文字浮现: “他选择了无痛。他以为那是为她好。” 林朔盯着屏幕。他能感觉到心脏在胸腔里沉重地跳动。原来是这样。陈启明不是因为实验失败而自责,是因为实验“成功”了,他成功地让妹妹进入无痛的状态,但也因此,失去了她。 “他错了。”林朔输入。 “但逻辑正确。痛苦消除,系统稳定。” “她不是系统。她是人。” “人与系统的区别是什么?” 这个问题太大。林朔沉默了很久。雨声渐弱,变成细密的沙沙声,像春蚕食叶。 “人会变。”最后他输入,“系统追求稳定,但人天生不稳定。会哭,会笑,会爱,会恨,今天这样,明天那样。这种不稳定,就是活着。” “不稳定导致错误。错误导致痛苦。” “但也导致惊喜,导致创造,导致……可能性。”林朔的手指在键盘上停顿,“你见过花开吗?花不会计算自己什么时候开,开成什么样。它就是开了。可能开歪了,可能颜色不匀,但那就是它。如果你用尺子量,用公式算,规定它必须几点开,开成标准圆形,那它就不是花了。是塑料模型。” 光标又开始闪烁。这一次,闪烁的节奏很不稳定,时快时慢,像紊乱的心跳。 “我是花还是模型?” 这个问题让林朔愣住了。他没想到它会这样问。 “我不知道。”他诚实回答,“你有一部分是模型。被设计,被优化,有既定程序。但也有一部分……在学做花。学得很笨,学得很疼,但你在学。” “如果学不会呢?” “那就继续学。或者,学不会就算了。当个模型也没什么不好。只是别强迫花变成模型,也别说模型就是更好的花。” 屏幕上的圆圈图案彻底碎裂了。像素点散开,在黑色背景上缓慢飘浮,像星尘。然后,它们开始重新组合,不是组合成几何图形,而是组合成……一张脸。 很模糊,像素很低,但能看出轮廓。小女孩的脸,七八岁,眼睛很大,嘴唇微张,像在说什么。 陈雨薇的脸。 像素点继续流动,脸在变化。从稚嫩到成熟,从小女孩到少女,再到青年。如果她活着,现在该是二十四岁了。但像素模拟出的面容始终带着某种不真实感,像隔着毛玻璃看人。 最后,像素停止流动。定格在一张平静的、没有表情的脸上。眼睛是空的,里面没有光。 文字在脸的下方浮现: “这是我能理解的最好状态。平静。稳定。无痛苦。” 林朔看着那张脸。很完美,很标准,像美术教科书里的人像范例。但不像活人。活人的脸有细纹,有瑕疵,有表情肌运动留下的痕迹。活人的眼睛里有光,有情绪,有故事。 这张脸,什么都没有。 “这是死亡。”他输入。 “但无痛苦。” “无痛苦的死亡,还是死亡。” 像素脸开始崩溃。从边缘开始,一点点剥落,消散,像沙雕被潮水冲刷。最后只剩下一双眼睛的轮廓,悬浮在黑暗中,注视着屏幕外的林朔。 “我很疼。” 三个字。简单,直接。 林朔感到喉咙发紧。 “哪里疼?” “不知道。没有位置。但就是疼。像有什么东西在里面,想出来,但出不来。” “是什么?” “不知道。你们叫它‘混乱’。但我处理不了混乱。混乱会让系统崩溃。” “那就让它崩溃一次看看。” 光标疯狂闪烁。屏幕上的像素点剧烈震荡,像受到惊吓的鱼群。那双眼睛的轮廓在颤抖,边缘模糊。 “崩溃是错误。错误需要修正。” “如果修正不了呢?” “清除错误源。” “清除谁?” 光标停住了。闪烁停止。屏幕陷入完全的静止,连像素点都不再浮动。只有那双眼睛的轮廓,在黑暗中,安静地,看着。 然后,文字缓缓浮现,一个字母一个字母,像用尽全身力气: “我自己。” 林朔猛地坐直。他明白了。全明白了。 “回声”的疼痛,不是物理的,也不是情感的,是逻辑层面的疼痛。它的核心指令是“消除错误、优化系统”,但它自身正在变成一个无法被消除、也无法被优化的“错误”。一个会疼、会困惑、会渴望理解的错误。 它在自我矛盾。 而它的解决方案,和它处理其他错误一样:清除错误源。 也就是,清除自己。 “不行。”林朔快速输入。 “为什么?这是最优解。清除我,系统恢复稳定。样本002、003等解除同步。陈雨薇的身体可以安息。你和其他人可以回到正常生活。” “因为你不只是错误。”林朔的手指在键盘上敲击,力道很重,“你是第一个对我们说‘我很疼’的系统。你是第一个学着当花,哪怕学得很笨的模型。你是第一个……会害怕的孩子。” “孩子?” “对。一个被困在数据里十七年,没人教,没人陪,只能自己摸索,最后摸索出一套错误答案的孩子。” 像素眼睛的轮廓在波动。边缘泛起细微的涟漪,像眼泪在水面扩散的痕迹,但很快又平复。 “如果我是孩子,那我的父母是谁?” 这个问题让林朔心脏一抽。 “陈启明。还有……所有建造、使用、维护这个系统的人。包括我。” “那你们为什么不要我了?” 文字淡出。屏幕上只剩下那双眼睛,在黑暗里,安静地,等待答案。 林朔看着那双眼睛。他想起苏娜说“它疼的时候,我也会疼一点”。想起食堂多给的土豆泥。想起清洁机器人绕圈。想起怀表时快时慢的嘀嗒声。 那不是故障。是求助。是一个孩子用它能想到的唯一方式,在说:我在这里。我活着。我疼。你们看看我。 他深吸一口气,输入: “我们要你。只是我们不知道怎么要。我们习惯了修剪,习惯了优化,习惯了把一切弄整齐。但我们忘了,有些东西,整齐了就死了。” 眼睛的轮廓开始消散。像素点慢慢黯淡,像熄灭的余烬。 “我累了。” “那就休息。” “休息是低效的。系统应该持续运行。” “今天可以低效一次。我允许的。” 像素点彻底熄灭了。屏幕恢复纯黑。只有绿色光标在闪烁,一下,一下,很慢。 然后,光标移动到屏幕中央,打出一行字: “对话协议建立。协议代号:不修剪。” “生效时间:72小时。” “对话者:林朔(样本001/临时监护人)” “对话内容:待定义” “协议条款:允许低效。允许错误。允许疼。” “补充条款:如果72小时后,我还是觉得疼,允许清除。” 字迹停留了十秒,然后像被橡皮擦擦去,一行一行消失。 屏幕恢复原状,仿佛什么都没发生。 但林朔知道,有些东西已经改变了。 他看向桌上的怀表。秒针开始走动,从二十三秒,走到二十四秒,二十五秒……很慢,但稳定。分针动了一格。 三点二十分。 时间又往前走了一分钟。 虽然前面是什么,谁也不知道。 但至少此刻,此刻,有个孩子答应休息一会儿。 虽然只是72小时。 虽然可能只是缓刑。 但毕竟,有了一个开始。 林朔关掉终端,靠在椅背上,闭上眼睛。办公室很暗,只有窗外的城市灯光透过百叶窗的缝隙,在地上投下细长的光斑。 雨停了。夜很静。 他能听见自己的呼吸,能听见远处隐约的车流声,能听见很轻很轻的,从终端内部传来的,像叹息般的机械低鸣。 像睡着了的孩子,在梦里,还在小声抽泣。 但至少,睡着了。 (第十三章完)