第415章 苏晓推动算法透明审计（1 / 2）
请关闭浏览器的阅读/畅读/小说模式并且关闭广告屏蔽过滤功能，避免出现内容无法显示或者段落错乱。
苏晓推动算法透明审计时，最先遇到的阻力不是技术，而是会议室里的表情管理。
她把审计方案投到屏幕上，标题写得很短：高风险算法透明审计试点。影响因素可解释，人工复核可介入，外部审计可验证。每一项都不花哨，但每一项都像在企业代表心口放了块砖。
一家平台法务先开口：“苏主任，我们支持透明，但也要保护商业秘密。”
苏晓说：“当然。”
对方松了半口气。
苏晓接着说：“所以我们审的是影响公众权利的部分，不审你们怎么把广告做得更烦人。”
张磊作为观察员坐在最后一排，低头憋笑，肩膀抖得像网络不好。林凡在他旁边小声说：“控制一下。”
张磊说：“她这句应该收费。”
透明审计不是把模型代码公开给所有人看。苏晓很清楚，普通人看不懂代码，企业也不会愿意裸奔。她要的是另一种透明：当一个人被拒绝、被限权、被降级、被标记为风险时，系统必须说清主要依据，必须留下可查日志，必须允许独立人员验证是否存在偏见、错误和滥用。
她把一个案例放出来。某招聘平台的筛选模型声称“综合匹配岗位需求”，但审计抽样发现，长期照护家庭成员的求职者被系统性降低推荐权重。平台解释说模型只是根据“工作连续性”判断稳定性。苏晓问：“照顾家人为什么自动等于不稳定？这个判断是谁放进去的？”
技术负责人说：“这是模型从历史数据中学习到的。”
苏晓说：“历史数据里有偏见，模型学会了，不代表它无辜。”
对方说：“我们没有主观歧视。”
苏晓说：“透明审计查的就是这种没有主观、但有后果的东西。”
会议室安静下来。林凡看着苏晓，忽然想起很多年前，她第一次在项目会上指出自动评分漏洞时，也是这种表情。不愤怒，不表演，只是一条一条把问题钉在桌面上，让人绕不开。
试点方案最复杂的部分是解释层。企业习惯用技术词汇自保，什么特征权重、置信区间、阈值漂移，一串词扔出来，普通人立刻觉得自己不配知道。苏晓要求每个高风险决策生成两份说明：专业版给审计人员，人话版给当事人。专业版必须可验证，人话版必须可理解。
有人抗议：“人话版容易过度简化。”
苏晓说：“那就练。你们能把贷款广告简化成‘三分钟到账’，也能把拒绝理由讲清楚。”
张磊在本子上写：苏主任今日输出稳定，建议保存。
审计团队成立后，苏晓亲自带第一轮。团队里有技术专家、法律人员、窗口代表、社区代表和公众观察员。林桂兰也被邀请参加，她一开始拒绝，说自己又不懂算法。苏晓说：“我们需要你判断说明是不是人能看懂。”
林桂兰说：“那我很懂。”
第一家被审的是一家大型信用服务平台。会议从早上九点开到下午四点，企业准备了三十六页材料，第一页写“模型公平性治理体系概览”，林桂兰看到标题就叹气：“我还没进去就想出来了。”
平台展示模型解释界面：您的申请未通过，主要原因为近期综合行为稳定性不足。
林桂兰问：“这是什么意思？”
产品经理说：“就是系统认为近期数据波动较大。”
林桂兰问：“什么数据？”
↑返回顶部↑