第134章 老板说模型不会偏见（1 / 2）
请关闭浏览器的阅读/畅读/小说模式并且关闭广告屏蔽过滤功能，避免出现内容无法显示或者段落错乱。
老板说“模型不会偏见”时，林凡差点把笔掰断。
那是在青橙数科内部复盘会上。信衡风控异常的事传到老板那里，他听完之后，没问低收入用户怎么补救，先担心客户会不会觉得他们在“放大模型问题”。
“大家要注意措辞。”老板说，“模型本身不会有偏见，它只是根据数据做判断。偏见是人的问题，不要把技术妖魔化。”
会议室里，老周慢慢放下茶杯。
林凡知道，茶杯一放，战斗即将开始。
但他先开口了。
“模型根据有偏见的数据做判断，算不算偏见？”
老板皱眉：“那是数据问题。”
“模型把数据问题规模化，算不算模型问题？”
“所以要优化数据。”
“优化前被拒的人怎么办？”
老板有些不耐烦：“林凡，你不能要求模型一开始就完美。”
林凡说：“我没有要求完美。我要求承认它会伤人。”
会议室安静。
项目经理低头看本子，像那一页突然长出了救命答案。小吴坐在后排，眼睛睁得很大。陈茜握着笔，显然已经准备记录老板和林凡谁先爆。
老板深吸一口气：“我们当然承认模型需要改进。但对客户表达时，要强调这是优化空间，不是偏见。”
老周终于说话：“你把偏见叫优化空间，偏见会少一点吗？”
老板看向他：“老周，我是在考虑商业影响。”
老周说：“商业影响也来自现实。你不承认偏见，用户申诉时听到的就是‘系统没错，是你不符合’。这比偏见本身还气人。”
林凡接着说：“我们可以准确表述，不夸大，不攻击模型。但不能说模型不会偏见。它不会主观偏见，但会统计性偏见、结构性偏见、代理特征偏见。它不需要讨厌谁，也能稳定地对某些人不公平。”
老板沉默。
这个解释不适合发朋友圈，也不适合写宣传稿，但它是真的。
法务小陈小声说：“从合规角度，承认存在偏差风险并采取措施，比绝对否认更稳妥。”
老板看了她一眼，似乎没想到法务也不站“漂亮话”。
项目经理终于抬头：“那我们对客户怎么说？”
林凡说：“说模型在特定群体上出现通过率异常，疑似由代理特征引发偏差，已暂停自动拒绝，增加人工复核和补充材料机制。”
张磊后来听到这句，评价：“你这段像人话穿了防弹衣。”
何苗说：“至少没把伤口叫待优化覆盖群体。”
老板最终接受了这个表述。不是因为他突然认同，而是因为监管、法务、客户风险和技术证据都站在那儿。他不能再用一句“模型不会偏见”糊过去。
会后，小吴问林凡：“凡哥，模型真的会偏见吗？它又没有情绪。”
林凡说：“偏见不一定需要情绪。有时候，只需要一套重复过去的规则。”
小吴想了想：“那人类以前做错的事，会被它学得更稳定？”
“对。”
老周走过来，补了一句：“而且更快。”
晚上，白板写：
模型不会讨厌谁，但会稳定地不公平。
何苗写：
偏见不只存在于态度，也存在于流程。
↑返回顶部↑