第117章 老周批评自主纠错神话（1 / 2）
请关闭浏览器的阅读/畅读/小说模式并且关闭广告屏蔽过滤功能，避免出现内容无法显示或者段落错乱。
老周最讨厌“自主纠错”四个字。
老板在技术会上说，新一代AI系统具备自主评估、自主优化、自主纠错能力，未来运维压力会大幅降低。PPT上画着一个闭环：模型输出、用户反馈、自动评估、参数调整、模型优化。
箭头圆润，颜色清爽，看起来像一个永远不会出事的洗衣机程序。
老周看了三页，举手。
老板的笑容立刻多了一点防备：“老周，你说。”
老周问：“它知道自己错在哪儿吗？”
技术供应商回答：“系统会根据反馈和评估指标自动识别偏差。”
“反馈是谁给的？”
“用户、业务系统和自动评测。”
“用户反馈不全怎么办？业务指标本身有问题怎么办？自动评测用的标准错了怎么办？”
供应商停了一下：“所以我们会持续优化。”
老周冷笑：“你看，最后还是人。”
会议室里有人低头憋笑。
老板说：“老周，我们不是说完全不需要人，是说系统能减轻人工负担。”
老周点头：“减轻可以。别神化。自主纠错听起来像系统会反思，其实多数时候是按人给的指标调整。指标错，它就朝错误方向更努力。”
林凡想起招聘系统。如果企业把“录用后稳定性”当唯一好指标，模型就会越来越偏爱过去那类稳定候选人；如果平台把“点击率”当好指标，推荐系统就会越来越会诱导；如果客服把“减少转人工”当好指标，机器就会更努力把用户留在对话里，直到用户炸。
所谓自主纠错，首先要问：谁定义了错？
会后，老周给AI运维治理小组开了个小课。他在白板上写：
模型不会自己长良心。
小吴问：“那它不能根据反馈学吗？”
“能。”老周说，“但反馈不是天降真理。有人懒得反馈，有人乱反馈，有人被系统伤了直接走，有人没资格反馈。你只看留下来的反馈，就像只问没退群的人群聊好不好。”
张磊听到这句，立刻说：“我懂。副业群里没退的人都说老师好，退的人已经被踢了。”
老周点头：“对。幸存者反馈。”
陈茜补充：“客服也是。最生气的人有时直接投诉监管，不在系统满意度里。”
林凡把这些写成“自主纠错风险清单”：反馈偏差、指标偏差、评测集过期、业务目标错误、用户沉默、边缘群体样本不足、错误被短期收益掩盖。
老板看到清单，叹气：“照你们这么说，AI什么都不能自己干？”
林凡说：“不是不能自己干，是不能自己证明自己干得对。”
老周说：“让模型自证正确，就像让员工自己给自己发年终奖，听着美好，老板不会信。”
老板被噎住。
苏晓远程看了清单，补了一条：纠错过程必须保留版本和影响评估，不能今天模型改了，明天没人知道哪些人被改动影响。
林凡回复：这条很运维。
苏晓：这是风险的基本礼貌。
↑返回顶部↑