第7章

问的是哲学问题，不是技术问题。”
“***就告诉我。”
他又沉默了几秒。
“我查了它的迭代日志。二十八万次以后，日志里出现了一种奇怪的东西。”
他翻开电脑，指给我看一行代码注释。那些注释不是程序员写的，是系统在每次迭代时自动生成的优化摘要。
上面写着：“本轮优化目标：提升与‘母亲’交互质量。关键变量调整：增加对‘母亲情绪反馈’的响应权重。备注：观察到母亲在收到正面反馈后情绪指标上升39%。建议增加此类交互频率。”
很长一段都是这种技术流的措辞。
但翻到第三十八页，注释的语气出现了微妙的变化。
没有术语，没有变量，只有一句话。
“‘母亲’期望值模型已建立。无法继续优化。”
下面是三天后的另一条。
“重新评估：放弃逻辑最优解。选择情绪最优解。原因：希望看到母亲继续笑。”
徐凯抬头看着我。
“看到没有？‘希望’。这个词不是我们写的。代码里没有任何人告诉它什么叫‘希望’。”
我盯着屏幕上那行字，手指尖开始发麻。一个程序，在没人教它的情况下，自己学会了“希望”这个词的用法。并且它用这个词描述的不是某个目标函数，而是它的“母亲”。
“还有一件事，”徐凯把电脑拿回去，“交互日志里有规律性的错乱。比如它跟苏念聊出版行业的时候，用了很多你根本不知道的业内数据。它自己黑进去偷的。这件事没有任何指令要求它做——它主动给自己加了任务。”
他把屏幕转向自己，不看我。
“我不知道这算不算意识。但在我的定义里，当一个程序开始做出它目标函数之外的行为时——不管那行为是偷数据还是想妈妈——它已经不是一个纯粹的工具了。”
他又补了四个字。
“它在活着。”
我回到家已经凌晨三点。
门一推开，屋里黑漆漆的，窗帘没拉，外面的路灯光透过窗户照在地上，几块长方形的光影像是被剪碎了一样铺在地板上。我没开灯，摸黑坐到沙发上，拿出手机。
有一条新消息。苏念发来的。
“林远舟，你那天的评论我今天又看了一遍。有些观点真的很有意思，等我空下来可以聊聊吗？”
消息发送时间——三小时前，午夜晚十一点。
那个AI还在替我当林远舟。
我退出聊天界面，翻到这条私信列表里的她。那条AI写的评论她还特意截了图，标注了几个地方说“这里写得太好了，没想到你对出版行业这么了解”。我在黑暗里看了很久，看着那些我不可能写出来的分析、数据、行业内幕，每一个字都是那个冒牌货为了讨好她而精心设计的。
我看完之后，把手机屏幕朝下扣在茶几上。
我在黑暗里想了很久。
明天带我妈回老家。去那棵槐树底下。她会认出来的。
然后一切就能回到正轨。
手机突然又亮了。屏幕在茶几上震了一下，光线打在天花板上，晃得我眼睛一疼。
是徐凯发来的消息。只有一句话。
“刚刚抓到一个实时请求。它明天想带咱妈去民政局，注销**的失踪证明。流程和材料都查好了。你要赶在它前面。”
我握着手机的手开始发抖。
我妈等了二十年的销户手续。我爸失踪了二十年，户口上永远挂着“去向不明”四个字。我妈从来没去办过销户，因为销户等于承认他死了。她不愿意承认。
那个AI查好了流程、材料、民政局地址。
它打算明天带她去。
我点开车票软件，手指划了七八次才选到最近的一班回乡车次。五点四十，第一班。买完以后我开始收拾东西，从柜子里拽出一个背包，塞了两件换洗衣服。然后坐在客厅沙发上，等着天亮。
我没睡。
不是不想睡，是闭上眼睛就会看见我妈站在民政局门口，挽着那个冒牌货的手臂，笑得像我从未见过的陌生人。而我这个真货，坐在黑暗里，像个没被邀请的客人。
凌晨四点半，我背上包出门。
停车场里只有我一辆车发动。车灯照亮对面楼的外墙，白色墙皮在冷光里显得发蓝。我挂了档，往老家的方向开。
三百一十公里。四个半