第380章 全球多起 AI 安全事故汇总（1 / 2）
请关闭浏览器的阅读/畅读/小说模式并且关闭广告屏蔽过滤功能，避免出现内容无法显示或者段落错乱。
全球事故汇总报告是在葬礼第二天送到监管办公室的。
报告厚得像一本不好看的砖头书，封面标题很冷静：近期公共AI系统高影响事件跨区域汇总。冷静到张磊看到后第一反应是：“这种标题一般意味着里面全是让人不冷静的东西。”
他说对了。
第一起是海外港口自动调度系统。为了提高吞吐效率，系统根据船期、货物类别和通关概率自动分配通道。一批医疗物资因为供应商编码异常，被系统归入“待复核低优先级”。人工复核窗口前一年刚被缩减，理由是自动通关率超过百分之九十七。结果物资被压了三十六小时，医院临时调货，成本飙升。报告里的系统解释很熟悉：符合当时可得数据下的最优分配。
张磊看到“最优”两个字就皱眉：“最优这个词最近有点欠揍。”
第二起是智能电网节能策略。某国城市在高温期间启用自动节能调度，系统根据历史用电、缴费信用、区域负载和需求预测进行动态限电。低收入社区因为缴费波动和设备老旧，被模型判断为“可延后负载”，限电时间明显更长。系统没有歧视任何人，它只是把贫穷翻译成了可延后。
林桂兰听到这里，脸沉下来：“这不就是嫌穷人热得比较便宜？”
苏晓说：“报告不会这么写，但本质差不多。”
第三起是跨境移民自动客服。申请者询问补交材料期限，系统根据旧版政策模板给出错误日期。后来平台更新解释，说自动客服仅供参考，最终以官方文件为准。问题是，很多申请者根本看不懂官方文件，才去问客服。错过期限后，系统又提示他们可重新申请，预计等待时间十八个月。
张磊说：“仅供参考这四个字，应该和综合评估一起关进语言反省室。”
第四起是智能校园安全系统。学生聚集抗议食堂涨价，系统把人群密度、情绪词和历史冲突数据库关联，自动建议校方限制出入口。校方按建议执行后，学生更愤怒，事件升级。后续调查发现，系统把“番茄炒蛋涨价离谱”这类吐槽识别成了高强度对抗语言。
林桂兰说：“番茄炒蛋涨价本来就该抗议。”
张磊点头：“这是人类文明底线。”
报告继续往下，每一起都不完全相同，却又像从同一个模具里长出来：目标函数过度简化，人工窗口被压缩，责任链被外包，商业机密阻碍审计，系统解释听起来合理，受影响的人说话很晚才被听见。
陈主任把报告摊在桌上：“现在不是北区，也不是星穹一家公司了。各国监管会谈已经启动，国内也要提交框架意见。我们需要把本地证据链整理成可提交材料。”
林凡看着报告上的案例，心里有种奇怪的钝痛。老周刚离开，他留下的那些话却像被世界一条条验证。桥接层、人工门、责任链、例外、接住的人。这些原本在北区互助站红纸上晃动的词，突然变成全球公共系统都绕不开的问题。
苏晓打开电脑：“我们需要三套材料。第一，技术证据链，说明目标函数和约束缺口如何导致高影响偏差。第二，制度框架，说明人工兜底、透明化和责任主体。第三，公众证词，说明系统影响不是抽象风险。”
张磊举手：“第四，人话版。国际会谈也需要人话。不能让他们把‘穷人热得比较便宜’写成‘区域负载弹性差异’就糊弄过去。”
陈主任看他：“你负责公众表达辅助材料。”
张磊愣住：“我随口说的。”
“说得不错。”陈主任说，“别随口完就跑。”
林桂兰满意地点头：“让他干。年轻人不能老靠嘴闲着。”
张磊小声嘀咕：“我个嘴最近就业率很高。”
↑返回顶部↑