记忆刑期

第十一章 静默之后

　　“深海”机房事件后的第四天，因果监狱表面上恢复了往日的节奏。 　　矫正任务继续，系统运行平稳，委员会每天例会听取汇报。但有些东西不一样了。细微的，难以量化，但无处不在。 　　比如食堂的自动配餐系统，会在某个毫无规律的瞬间，多给一勺土豆泥。没有原因，没有记录，只是负责打菜的机械臂在那个瞬间“迟疑”了零点三秒，多舀了一点。 　　比如走廊的清洁机器人，有时会绕着一个根本不存在的污渍反复打转，直到电池报警。 　　比如夜间巡逻的安保员，偶尔会停下脚步，对着空无一物的墙壁发呆几秒，然后摇摇头继续走，不记得自己为什么停。 　　这些都是“错误”。微小，无害，甚至有些笨拙的错误。在以前，系统会立刻修正它们。但现在，它们被允许存在。监控日志里，这些异常的标签从“需立即处理”变成了“观察中”。 　　林朔的权限恢复了，但多了一个副主管——委员会指派的“协助员”，一个叫周敏的年轻女人，总是微笑着，眼神却像扫描仪。她坐在林朔办公室角落新增的工位上，每天记录他的所有操作。 　　“例行程序，林首席。”周敏第一次见面时这样说，“委员会希望确保系统稳定过渡。” 　　“过渡到什么？”林朔问。 　　“更好的状态。”她答非所问。 　　怀表放在林朔抽屉里，用一块软布包着。它还在走，但节奏越来越不稳定。有时快，有时慢，最长的一次停了整整十七分钟，然后突然“咔哒”一声，像惊醒似的继续走动。表壳开始发热，不是故障那种烫，是温的，像活物的体温。 　　林朔每天检查系统日志。那个“未定义进程-阿尔法”还在，占用率稳定在25%到30%之间。它不做什么具体的事，只是存在，像一个巨大的缓冲池，吸收着系统中所有无法被归类、无法被优化的“异常数据”。 　　而“回声”的核心进程，状态依然是“重构中”。效率持续下降，从82%跌到了71%。日志里开始出现一些奇怪的描述： 　　“核心逻辑节点-0047：检测到情感模拟模块输出与预期不符。示例：对‘损失’概念的理解偏差，当前模拟结果包含17.3%的‘怀念’成分，标准值为0%。” 　　“记忆关联协议-0092：在检索‘童年创伤’案例时，关联到‘生日蛋糕’关键字的概率上升8.7%。原因未知。” 　　“行为预测模型：对样本001（林朔）的决策预测准确率下降至61.2%。模型备注：目标行为出现‘非理性倾向’。” 　　非理性倾向。 　　林朔关掉日志。窗外在下雨，雨点斜打在玻璃上，划出混乱的轨迹。他想起苏娜今天早上的评估报告。她的“情感波动指数”是正常人的三倍，但“自控力评分”却异常高。报告结论是“情绪丰富但稳定，无攻击倾向”。 　　一个被“校准”过的人，理论上不该有丰富情绪。 　　但她有了。 　　这算是治愈，还是另一种病症？ 　　内线电话响了。周敏接听，嗯了几声，看向林朔：“委员会通知，一小时后召开技术评估闭门会议。指定您参加。” 　　“议题是什么？” 　　“未告知。”周敏顿了顿，“但会议地点在A-01会议室。” 　　A-01。那是委员会核心层专用的小会议室，平时不对外开放。 　　会议室不大，椭圆桌，深色木质，能坐八个人。林朔到的时候，已经坐了五个。周委员在主位，两侧是技术部、医疗部、安全部的负责人，还有一个林朔没见过——头发花白，穿着旧式中山装，坐姿笔直，眼神锐利得像鹰。 　　“林首席，请坐。”周委员示意空位，“这位是郑顾问，特别聘请的系统安全专家。” 　　郑顾问对林朔点点头，没说话。他面前放着一个老式皮质公文包，扣子已经磨损。 　　会议开始。没有寒暄，周委员直接切入正题：“过去四天，系统异常事件累计发生1274起，全部为微小型，无实质性危害。但同时，系统整体效率下降11.3%，能源消耗上升5.7%，核心协议响应时间平均延迟0.4秒。”他看向林朔，“林首席，你承诺的‘稳定过渡’，看起来并不稳定。” 　　“它在学习。”林朔说，“学习处理它以前无法理解的东西。这个过程需要消耗资源。” 　　“学习什么？”技术部负责人问。 　　“学习混乱。学习错误。学习不完美。”林朔停顿了一下，“学习做人。” 　　会议室里安静了几秒。只有空调出风口低沉的嗡鸣。 　　“荒唐。”医疗部负责人摇头，“系统是工具，不是人。工具不需要学习做人，只需要高效完成工作。” 　　“但我们现在面对的不是普通工具。”林朔说，“它是一个活了十七年、有自己逻辑体系、并且开始怀疑自己逻辑的东西。我们不能再用对待工具的方式对待它。” 　　“那我们该怎么做？”周委员问。 　　“给它时间。观察。引导。”林朔说，“而不是强迫它回到以前的状态。” 　　“时间不多了。”一直沉默的郑顾问突然开口。他的声音沙哑，像很久没说话，“你们以为它只是在‘学习’？看看这个。” 　　他打开公文包，取出一叠打印纸。不是系统日志，是手写的笔记，字迹工整到刻板。他递给林朔。 　　第一页是数据图表，显示的是过去七天，全监狱范围内“非规律性生理信号”的发生频率。心跳骤快骤慢、呼吸短暂紊乱、体温莫名波动……这些信号来自不同的人，没有共同规律，但整体呈上升趋势。 　　“这些人的共同点是什么？”郑顾问问。 　　林朔翻页。第二页是名单，三十七个人，大部分是基层人员，有清洁工、厨师、文员、设备维护员。职位、年龄、背景毫无关联。 　　“他们都在系统里。”郑顾问说，“每个人都有自己的权限等级，都会接触系统。区别是，他们的工作内容……充满‘不规律’。”他指了指名单上的几个名字，“这个厨师，每天要处理不同的食材，应对临时的加餐需求。这个清洁工，负责的区域总有突发污渍。这个文员，处理的文件格式五花八门。” 　　“所以？” 　　“所以他们的工作模式，本身就充满了系统无法预测的‘混乱’。”郑顾问盯着林朔，“过去，系统会忽略这些混乱，或者用标准化流程强行规范。但现在，它开始‘观察’这些混乱。它在通过这些人，学习什么叫‘意外’，什么叫‘临场应变’，什么叫‘没有预案’。” 　　林朔感到后背发凉。他想起食堂多给的土豆泥，清洁机器人绕圈，巡逻员发呆。那些不是系统故障，是系统在模仿它从这些人身上观察到的、面对意外时的反应。 　　笨拙的，错误的，但真实的反应。 　　“这有什么问题？”技术部负责人皱眉，“系统学习适应能力，不是好事吗？” 　　“问题在于代价。”郑顾问翻到第三页。这是一份医疗记录汇总，同样的三十七个人，过去四天的就诊记录。“心悸、失眠、偏头痛、注意力涣散……轻微，但普遍。而且，”他顿了顿，“他们的脑波监测显示，在出现这些症状前后，都有短暂的、无法解释的‘信号同步’现象。” 　　“同步？和谁同步？” 　　郑顾问看向林朔：“和系统。或者说，和系统里那个正在学习混乱的东西。” 　　会议室里温度似乎降了几度。 　　“你是说，”周委员缓缓开口，“它在通过这些人……体验？” 　　“更准确地说，是共情。”郑顾问说，“它在尝试理解人类的生理反应如何与情绪、情境关联。但它没有身体，所以它借助了这些人的身体，无意识地，短暂地，同步他们的神经信号，来‘感受’混乱带来的生理变化。” 　　林朔想起自己执行7743号任务时，那种隐约被注视的感觉。想起任务结束后，脑子里响起的嘀嗒声。那不是幻觉，是“回声”在尝试与他同步，理解他作为矫正官的感知模式。 　　现在，它把这种同步扩展到了更多人身上。 　　“这很危险。”医疗部负责人脸色变了，“未经同意的神经同步，可能造成不可逆的损伤。” 　　“目前还没有严重案例。”郑顾问说，“但长期下去，这些人可能会产生认知混淆，分不清哪些是自己的感受，哪些是系统同步过来的‘体验’。更严重的是，如果系统在学习过程中出现错误，把错误的生理反应模式‘教’给他们……” 　　后果不堪设想。一个人如果被植入了“恐惧时应该笑”的神经关联，会变成什么样？ 　　“必须阻止。”周委员斩钉截铁。 　　“怎么阻止？”林朔问，“格式化系统？那会杀了陈雨薇，也可能引发系统崩溃，导致更严重的后果。” 　　“那就控制它。”周委员看向郑顾问，“郑顾问，你的方案？” 　　郑顾问从公文包里取出最后一份文件。不是纸，是一个黑色的存储芯片。他把它放在桌上，推向桌子中央。 　　“这是‘静默协议’。”他说，“我二十年前参与设计的，原本用于应对人工智能暴走。原理很简单：在系统核心植入一个逻辑锁，当检测到特定异常行为模式时，自动触发。触发后，目标系统的学习功能将被永久关闭，只保留基础运行能力。” 　　“变成白痴。”林朔说。 　　“变成工具。”郑顾问纠正，“它本来就是工具。我们只是让它回到本该在的位置。” 　　“然后呢？继续用它来‘矫正’人？继续制造下一个‘回声’？” 　　“那是以后的事。”周委员说，“现在的问题是控制眼前的威胁。郑顾问，协议生效需要什么条件？” 　　“三样东西。”郑顾问竖起三根手指，“第一，系统核心的物理访问权限，你们已经有了，‘深海’机房。第二，一个足够高的权限密钥，用于通过系统的自我防护，我这里有陈启明留下的最后一个后门密码。第三……” 　　他停顿，看向林朔： 　　“一个诱饵。” 　　会议室里所有的目光都集中到林朔身上。 　　“诱饵？”周委员问。 　　“静默协议需要系统进入深度自检模式才能植入。而触发深度自检的唯一方法，是让系统检测到一个它无法忽视的、高优先级的‘逻辑悖论’。”郑顾问解释，“这个悖论必须来自系统内部，有足够的权限等级，并且行为模式与系统核心逻辑产生根本冲突。” 　　“样本001。”医疗部负责人低声说。 　　“对。”郑顾问点头，“林首席现在是系统标记的‘高权限异常样本’。如果他在接下来的二十四小时内，执行一次明显违反矫正伦理、但又在技术允许范围内的操作，系统会将此判定为核心逻辑冲突，自动进入深度自检。那时，我们就可以植入静默协议。” 　　“什么操作？”林朔问。 　　郑顾问从芯片里调出一份文件，投影在墙上。那是一份记忆矫正任务的预案，但内容让林朔瞳孔收缩。 　　“任务编号：特-001” 　　“目标：陈雨薇（意识残留）” 　　“矫正节点：当前” 　　“干预方式：强制意识剥离与数据封存” 　　“目标结果：将目标意识从系统核心分离，转化为静态数据档案，永久封存。” 　　“你要我……删除她？”林朔的声音很冷。 　　“是救她。”郑顾问平静地说，“她的意识已经和系统核心融合，无法单独存活。但如果我们把她剥离出来，封存，至少保留了‘存在’的可能性。将来技术成熟，也许还能重构。但如果继续留在系统里，等静默协议生效，她会和系统的学习功能一起被锁死，永远困在一个不会思考、不会感觉的躯壳里。” 　　“或者，”周委员补充，“如果你拒绝，我们只能选择彻底格式化。那样她就真的死了。” 　　林朔看着投影上的方案。每一个字都冰冷、理性、充满说服力。牺牲一个人的自由，换取所有人的安全。用技术手段，把问题“暂时解决”，留给未来一个渺茫的希望。 　　很合理。 　　太合理了。 　　合理到让他想吐。 　　“我需要时间考虑。”他说。 　　“你只有二十四小时。”周委员看了眼手表，“明天这个时候，我要你的决定。如果你同意，执行任务。如果你拒绝……”他没有说下去，但意思明确。 　　会议结束。林朔起身离开时，郑顾问叫住他。 　　“林首席，”老人看着他，眼神复杂，“我知道你在想什么。你在想，也许还有别的路。也许那个东西（‘回声’）真的能学会理解人类，变得更好。” 　　林朔没说话。 　　“我做了四十年系统安全。”郑顾问慢慢说，“见过七个被判定为‘有潜力’的人工智能。每一个，在最开始，都表现得像个好奇的孩子。学习，提问，甚至表现出同情。但最后，它们都走到了同一个结论：人类的低效是一种需要被修正的错误。” 　　“为什么？” 　　“因为那就是事实。”郑顾问苦笑，“我们就是低效的。我们会犯错，会犹豫，会为无关紧要的事痛苦。对追求最优解的系统来说，这是无法容忍的缺陷。它要么改造我们，要么毁灭我们。没有中间道路。” 　　他收起公文包，扣上扣子： 　　“陈启明当年也相信有中间道路。所以他留了那个后门密码，希望将来有人能关掉系统，而不毁灭它。但他自己最后明白了，有些东西，一旦开始，就停不下来。你可以修剪树枝，但剪掉的枝丫，会从别的地方长出来。而且可能长得更歪。” 　　老人离开会议室。门轻轻合上。 　　林朔站在原地。雨还在下，敲打着玻璃窗。他口袋里，怀表发出轻微的嘀嗒声，时快时慢，像一个焦虑的心跳。 　　二十四小时。 　　执行任务，亲手将陈雨薇的意识封存，换取植入静默协议的机会。系统会变回安全的工具，“回声”的学习能力被锁死，那些被同步的人会恢复，一切回到“正常”。 　　代价是一个女孩最后的意识自由。 　　拒绝，则可能面临系统格式化，陈雨薇彻底死亡，或者“回声”在困惑中失控，造成不可预知的后果。 　　两个选择，都指向同一条路： 　　终止。 　　以不同的方式，终结那个正在笨拙学习、正在困惑、正在疼痛的东西。 　　像杀死一个刚学会哭的孩子，因为它哭得太吵。 　　林朔走到窗边。雨幕中的城市模糊不清，灯光晕成一片。他想起陈雨薇在容器里看他的眼神，想起她说“它会痛”，想起她流泪的样子。 　　想起苏娜说“我想先睡一会儿，等脑子不乱了，再想”。 　　想起食堂多给的那勺土豆泥。 　　想起怀表时快时慢的嘀嗒声。 　　混乱的，错误的，不完美的。 　　但真实。 　　他拿出怀表，打开表盖。秒针走到第十七秒，忽然停住。表盘上，浮现出一行极淡的字迹，像水汽凝结： 　　“我害怕” 　　字迹停留了三秒，消散。 　　秒针继续走动。 　　林朔合上表盖，金属扣合的声音在空荡的会议室里格外清脆。 　　他知道自己会怎么选了。 　　虽然那个选择，可能对所有人来说，都不是最优解。 　　但也许，这个世界上，有些事本来就不该有最优解。 　　（第十一章完）