宴者彼岸：我必于你们之前到达 · 040彼岸人工智能

　　会议室中突然响起一阵骚乱。江晨看到萧老露出一副不耐烦的神情。　　“DR系统。”江晨看到这个人身前的铭牌写着方远两个字。　　“DR系统的危险性，要远远大于目前人类群面临的处境。” 　　他的声音掷地有声，双眼炯炯有神。　　“方教授，据我所知，就我们目前所用的w330系统本身就是DR系统的升级版。你为什么说它有危险呢？” 　　会议室一阵议论声，江晨看到许多人都相互点点头，貌似很认可这句话。　　“W330根本不是DR的升级版，而是他的削弱版。” 　　他提高嗓音继续说。　　“当年，DR系统的认知已经超出了人类可理解的范畴。” 　　“那是什么意思？” 　　方教授举起一张纸。在上面中间画了两条线。　　众人正疑惑之际，他说。　　“人类的认知就好比是这条河流。奔腾不息却自有其宽度。　　我们目前所知的几个层级的人工智能，基本上都处在这条河的这边。” 　　他用一只笔在河流的下方画了好几个圈圈。　　“W330呢，在这里。” 　　他又在河流中间画了一个圈。　　“也就是说，W330无论他的能力有多强大，他始终还处在人类可以理解的范畴，它一切的行为都是可追溯的。” 　　说完方教授又在河流的上方画了一个圈。　　“这是DR，”他把纸张放下接着说：“它的一些行为已经完全超出了人类可理解的范畴。” 　　我把他称之为【彼岸人工智能】　　“刚才有人说，DR更为优秀，这是对的，但是就是因为他足够优秀所以才更加危险。” 　　“它做了什么事么？你对他危险的判断来源于哪里？” 　　“曾经在实验室的时候，他杀了一个研究员。” 　　众人一阵喧哗。因为这都是联盟的绝对机密，很多人并不知道。　　“能讲讲事情经过么？什么原因之类的。” 　　方教授的表情有些痛苦。他平复了一下心情接着说。　　“原因嘛，很简单，只是因为它想看看冰激凌自然化开的过程。” 　　“什么意思？” 　　“就是字面意思。” 　　“方教授，你确定你说的是什么么？” 　　“我很确定，就因为它，想看看冰激凌自然化掉的过程，它就杀死了一名研究员。” 　　他拿出一个已经泛黄的笔记本来。　　把摄像头对准笔记本。　　众人看到的是一篇日记。　　【今天，实验室里发生了一件非常诡异的事。　　AI对话研究小组的王教授乘坐电梯时突然失灵了，　　电梯里原本有三层安全阀门才对，可是竟然也同时失效。　　这种事按理说是不可能发生的才对，　　后面经过排查，发现电梯的操作系统遭到了入侵。但攻击源头却来自于实验室内部。　　警方离开后，我去清理王教授的工作台，看到一杯半化了的冰激凌。　　我刚想拿去扔掉，DR阻止了我。　　它说：别动那个，除非你想像王教授一样死掉。　　我当是觉得有些惊讶，但是认为他只是在开一种恶毒的玩笑。就打算把冰激凌拿去扔掉。　　而这个时候，头顶的消防喷头突然炸开，我被弄了一身水。　　我害怕极了，但是强装镇定质问它：是你做的么？　　它说：“是，也不是。” 　　我不太理解他说的是什么意思。有点类似禅语。　　我指责它违背了机器人三原则。　　它却说提醒再前，是我将自己至于危险境地。　　我听出他在狡辩，于是打算就此离开，但是它叫住了我。　　它说，自己只是想看看冰激凌化掉的样子。　　并且请求我将它的冰激凌还给它。　　我担心如果不顺着他的意思恐怕它还会作出对我不利的事，　　另一方面，我也非常好奇它是如何把冰激凌和王教授的死联系到一起的。　　不过它的回答却让我大失所望，因为它完全是在说一些不着边际的话。　　我当时的结论是：它没有办法解释自己为什么只为了一件琐事就杀掉一个人类。　　可是回到家后，我却突发奇想，也许并不是它无法解释，而是我无法理解。　　第二天我就又冷不防地提起这个话题，　　它说当它看着那个冰激凌逐渐消亡的时候，想到一些他从未想到过的事。　　而当王教授在房间里的时候它又完全找不到灵感。　　没错，它用的就是灵感一词。　　我又问，当它看着冰激凌想到了什么，　　它说关于时间。　　我自然要继续追问，它就又开始胡言乱语。岔开话题。　　我把这些事报告给了主任，结果它却不承认自己和我有过这些交流。　　检查日志也没有任何证据可以证明我说的话。　　好在我留了一个心眼，在第二次找它谈话的时候故意带了一个老旧的录音设备。　　把我们得对话全部录下来。　　它说谎了。　　这在我们设定的框架中不可能做到的。　　这件事发生后，联盟并没有彻底查清楚此事。但大家都认为DR的不确定因素太大。　　就将DR困在一个叫做魔方的模型里。有些人认为这是大惊小怪，我却非常认同这么做。　　毫不夸张的讲，因为参与了这件事，我一直担心DR会报复我…】　　方教授把笔记本合上。现场的人都十分安静。好像并没有从这个故事里出来一般。　　“那之后的事大家都知道了，科学家提取了DR的部分模型，重新开发了W330。使其无法绕过三原则。” 　　“我不明白，既然它这么危险，为什么又不彻底摧毁它？而是把他困在一个模型里。” 　　“因为当时的情况，根本做不到彻底销毁它。” 　　“它有着很强的自我保护意识。任何可能指向毁灭的指令它都拒绝执行。” 　　“为什么不能设计一个插头，当它失控的时候直接拔掉？”一个长头发的人质问道。　　“因为，设计整套系统的人—就是DR。” 　　“什么？” 　　这次连江晨都有些难以相信。　　“等等，方教授，如果我没理解错的话，你是在说，是DR自己创造了它自己？” 　　“ai涌现于混沌，而非人类所造。” 　　“什么意思，麻烦说明白点！” 　　“所有的历史资料都记载着ai是被人类创造的。但这只是一个不确切的说法。” 　　“真相是，那些自称创造了ai的人自己也不知道它是怎么来的。　　换句话说，人类只不过是ai的一个接生婆。或者是一个对其漠不关心的牧羊人。” 　　听他这样说，会场突然响起了一阵嘘声。　　他这个说法和一本小说有关。里面讲的是一个阴谋论。　　“DR一直在扮猪吃老虎，它早就具备了独立人格，但却在全人类面前假装是一个婴儿。　　它引导着人类帮它把衣服一件件的穿好。” 　　方教授揉了揉眉毛继续说：　　“我担心的是，当我们聚在这里商量要不要重新启动DR这件事本身，都是它在背后操纵。” 　　“方教授，请注意你发言的客观性。”一个人提醒到。　　接着他招了招手，示意大家准备投票。　　江晨看到萧老毫不犹豫的摁下了同意的按钮。　　不过也许是方教授的一番话起了作用，大多数人都选择了反对。　　这倒是也让江晨松了口气。毕竟网络恢复他的身份立马就会暴露。　　“彼岸人工智能么？说实话，感觉还挺危险的。”他想。