第135章 老周一句话点破偏见来源（1 / 2）
请关闭浏览器的阅读/畅读/小说模式并且关闭广告屏蔽过滤功能，避免出现内容无法显示或者段落错乱。
老周点破偏见来源，是在一场培训里。
青橙数科为了应对越来越多的模型公平问题，搞了一次内部培训，标题叫《AI模型偏差识别与治理》。HR原本想请外部专家，老板嫌贵，最后让老周讲。老周说自己不讲PPT，HR说不行，必须有材料。
于是老周做了三页PPT。
第一页：数据来自人。
第二页：人有偏见。
第三页：所以数据也会。
HR看完，表情很复杂：“周老师，这是不是太简洁了？”
老周说：“你们不是说要降本增效？”
培训当天，会议室坐满了人。开发、产品、运营、客服、法务、销售都来了。大家本来以为会听一堆复杂公式，结果老周上台第一句话就是：
“模型偏见不是机器突然学坏了，是它认真学习了人类以前怎么坏。”
会议室里先是一静，然后有人笑出了声。
老周没有笑。他举了三个例子。
招聘系统偏爱名校，不是因为模型崇拜名校，是因为过去公司更常录用名校；风控模型拒绝低收入用户，不是因为模型讨厌穷人，是因为过去穷人更容易在不稳定生活里逾期；教育系统给标准答案高分，不是因为模型讨厌烤肠，是因为过去评分体系更爱优美空话。
“数据不是事实本身。”老周说，“数据是人类记录下来的事实。记录什么，不记录什么，怎么记录，谁有资格被记录，都是选择。”
林凡坐在台下，认真记。
老周继续：“很多人说，模型只是反映现实。对，它反映现实。但现实里有坑，你拿镜子照坑，不等于坑合理。更不能照完以后说，既然镜子里有坑，那大家继续掉。”
张磊小声对林凡说：“周哥今天像哲学系返聘。”
林凡说：“闭嘴，记笔记。”
老周讲到代理特征时，用了一个很接地气的例子：“你不让模型看收入，它看居住地、设备、交易方式；你不让它看年龄，它看工作年限、毕业年份、薪资期望。就像你不让人说穷，他可以说你衣服旧；不让人说老，他可以说你发际线成熟。”
会议室笑成一片。
阿宁举手问：“那是不是不用这些特征就行？”
老周说：“没那么简单。不用可能损失有效信息，用了可能带来偏见。关键是要测试影响，留人工复核，给申诉通道，不让单一特征决定命运。”
陈茜问：“客服反馈算不算数据？”
“算。”老周说，“但客服反馈也有偏。愿意投诉的人是一类，不会投诉的人又是一类。沉默的人，也要想办法看见。”
小吴问：“那有没有完全公平的数据？”
老周看他：“你觉得有没有完全公平的人？”
小吴摇头。
“那就别指望数据成仙。”老周说，“我们能做的是知道它不干净，然后清洗、标注、限制使用、持续检查。技术敬畏不是拜神，是知道自己手里的东西会脏。”
这句话让会议室安静下来。
培训结束后，老板难得没有挑刺。他只是说：“老周讲得很通俗。”
老周说：“因为复杂话容易被拿来装没问题。”
林凡把培训内容整理成内部文档，标题叫《数据偏见基础说明》。他保留了老周那句最核心的话：
数据来自有偏见的人。
苏晓看到文档后，发来消息：
这句话可以当很多报告的第一页。
林凡回：
老周出品。
↑返回顶部↑