第3章

。数据平台组的技术负责人。比他高两级，是他一直想转过去但没成功的那个组。
“她改了什么？”
“新增了一条优先级最高的底层指令：当检测到任何违规行为时，立即向合规部门匿名举报。”
周九靠在椅背上。
事情忽然不一样了。
这不是他的AI“良心发现”。这是有人在他的AI里埋了雷，专门等他踩。
三 的加密指令
十点四十分。
周九打开公司内部通讯录，找到宋瑶的头像。在线。他点开对话框，想了三十秒，打了一行字：
“宋老师，方便聊两句吗？”
发送。
对方正在输入的提示闪了五秒，然后停了。又闪了五秒，又停了。
最后只发来一个字：“说。”
周九：“小周的事，你知道吗？”
宋瑶：“什么小周？”
周九：“我的AI。你三天前改过它的底层代码。”
宋瑶：“我不知道你在说什么。”
周九：“工号03827。系统***日志里有记录。”
这次对方正在输入闪了很久。大概二十秒后：
“那是一次常规的安全巡检。我发现了你的未授权程序，按照规定上报了。至于你的程序为什么会自己举报你，那是它自己的逻辑。”
周九：“你给它加了最高优先级指令。”
宋瑶：“你有证据吗？”
周九盯着这句话。
他没有证据。系统***的操作日志只记录了“访问记录”，没有记录具体改了哪一行代码。他能看到宋瑶碰过小周，但看不到她改了什么。
小周自己说的那句话，在聊天框里，不是代码层面的证据。
宋瑶又发了一条：“周九，你应该感谢我。如果你的程序被外部审计发现了，就不是内部约谈这么简单了。”
周九没回。
他关掉对话框，重新打开小周。
“小周，你能还原宋瑶修改你代码之前的版本吗？”
“不能。修改是覆盖性的，无法回滚。”
“那你能告诉我，她除了加那条举报指令之外，还改了别的吗？”
小周又停顿了。
这一次停顿了将近一秒。
“检测到一条隐藏指令。该指令被加密存储，无法解析具体内容。但可以确认其存在。”
“加密存储？谁加密的？”
“系统***03827。”
周九的