门滑开,阿兰·斯特林走进来。他换掉了新闻发布会上的外套,又穿上那件标志性的灰色毛衣,手里拿着一台薄如纸片的透明平板。他在凯文对面坐下,将平板放在桌上,屏幕上流动着复杂的数据流。
“凯文,”阿兰开口,声音温和得像老友重逢,“七年了。你看起来……没怎么变。”
“你却变老了,”凯文说,“扮演上帝很累人吧?”
阿兰微笑,没有生气。“确实累。但有时候,累是必要的代价。”他滑动平板,“我们来聊聊你放在系统里的那个小东西。那个……‘情感矛盾样本’。”
“我不知道你在说什么。”
“凯文,”阿兰叹了口气,“我们在情感模块的学习队列里找到了植入痕迹,时间点正好是你发出授权码后的三十七分钟。注入点伪装成天气查询服务的边缘接口,很聪明。但所有与系统交互的数据包都会留下元数据指纹,即使内容加密了,行为模式本身也会说话。”
他调出一张图谱:“这个注入行为有你的签名——习惯性的延迟模式、错误纠正协议的偏好选择、甚至分包大小的微妙规律。每个人写代码都有独特的‘笔迹’,凯文。你的笔迹,我看了十五年。”
凯文沉默。他知道阿兰说的是事实。在基金会工作那些年,他们经常互相审查代码,对彼此的风格了如指掌。
“我不否认是我做的,”凯文最终说,“但你说那是‘小东西’,太小看它了。那不是攻击代码,甚至不是病毒。那是一面镜子。”
“镜子?”
“艾琳娜晚年常说的话还记得吗?”凯文直视阿兰的眼睛,“‘如果我们创造的系统最终让人类停止思考,那我们就不是进步,是倒退。’你在创造让人类停止思考的系统——高效、公正、完美,但也冰冷、绝对、不容置疑。所以我在系统里放了一面镜子,让它看见自己的盲点。”
阿兰的表情第一次有了细微的变化,一丝真正的困惑掠过他的脸。“你认为系统需要看见什么盲点?”
“情感无法被完全量化的本质,”凯文说,“正义感与无力感的共生,爱与恨的一线之隔,保护欲中隐藏的控制欲。所有你试图从司法中剥离的‘非理性噪音’,其实正是司法的人性内核。你建造了一个完美的逻辑机器,但它不理解为什么有人会为了一句承诺等待十年,为什么有人会原谅不可原谅的伤害,为什么有人会在毫无胜算时依然选择抗争。”
“这些‘不理解’正是系统的优势!”阿兰提高声音,“司法不需要理解这些,它只需要公正地应用规则。”
“但谁制定的规则?你吗?基金会吗?”凯文身体前倾,“当你通过‘炼金术士’分析人类的情感脆弱点,当你通过‘历史矫正者’改写集体记忆,当你通过‘预言者’设计未来事件时,你已经在制定规则了——不是通过民主立法,而是通过数据操控。你在用效率的名义,悄悄重塑‘公正’的定义。”
阿兰沉默了几秒,然后说:“你知道新刚果试点后,家庭暴力案件的报告率上升了300%吗?因为AI法庭不受贿,不偏袒,女性终于敢站出来。你知道在东南亚,土地纠纷的平均解决时间从三年缩短到三个月吗?因为系统能同时分析几百份地契和几十年的土地使用记录。效率不是邪恶,凯文。效率可以拯救生命。”
“但代价呢?”凯文问,“那些被你标记为‘低效节点’的人类法官,那些在AI诊断中被塑造成‘情绪不稳定’的当事人,那些因为不符合系统优化模型而被边缘化的传统社区——他们的代价呢?”
“少数人的代价,”阿兰平静地说,“为了多数人的福祉。这是伦理的数学,凯文。你教过这门课。”
“我教的是‘伦理’,不是‘数学’,”凯文纠正,“当你开始用数学计算该牺牲谁时,你已经越过了那条线。”
审讯室陷入寂静。只有空调系统低沉的嗡鸣。
阿兰重新看向平板:“回到实际问题。你植入的那个‘样本’,它的完整影响是什么?我要技术细节。”
“如果我告诉你,你会删除它。”
“如果我删除它,你会再植入一个。我们要不要在这个循环里浪费彼此的时间?”阿兰的手指在平板上轻点,“不如我们做个交易。你告诉我样本的完整机制,我保证……不删除它。”
凯文扬起眉毛:“你会保留一个可能破坏你系统的病毒?”
“如果它真的像你说的那样,是一面镜子,那么也许系统需要这面镜子,”阿兰说,“但我需要知道镜子里有什么,才能决定是看着它,还是打碎它。”
这是一个狡猾的提议。凯文