第34章 老周的黑箱警告（1 / 2）

请关闭浏览器的阅读/畅读/小说模式并且关闭广告屏蔽过滤功能，避免出现内容无法显示或者段落错乱。

第二天，林凡把“小区语音诈骗复盘”做成了内部分享。

他本来只想写三页：事情经过、风险提示、预防方法。钱总看完初稿，觉得“有社会价值”，让市场部帮忙润色。市场部润完，标题变成《AI语音安全时代：青橙数科用温度守护银发群体》。林凡看到“温度”两个字，脑子里立刻浮现林桂兰拿保温杯砸智能音箱的画面。

老周路过他工位，看了一眼PPT。

“删。”

林凡很配合：“删哪个？”

“温度。”

“只删温度？”

“还有守护。”

“那标题剩什么？”

老周说：“小区语音诈骗复盘。”

林凡点头：“朴素得像派出所公告。”

“派出所公告能救人。”老周端着茶杯走了，“有些标题只能救KPI。”

林凡把标题改回去。市场部同事隔空发来一个哭泣表情，说这么直白没有传播力。林凡回他：有些事传播力太强，容易先把责任传播没。

分享安排在下午两点，地点是青橙数科最大的会议室。说是最大，其实也就能挤三十来人。椅子不够，刘洋从茶水间搬来两个塑料凳，一个给王启，一个给自己。王启坐下后发现凳子矮半截，整个人像来旁听家长会的小学生。

钱总坐在前排，市场部、产品部、技术部都来了。公司最近接了几个AI语音和客服相关咨询，大家本来以为一场分享是顺便蹭热点，听完可以写公众号。没想到老周也来了，还坐在最后一排，手里拿着笔。

刘洋在小群里发：老周拿笔了，今天可能有人要被做题。

王启：我坐这么矮，能不能视为未成年免考？

林凡：不能。

分享开始后，林凡没有讲模型参数，也没有讲声纹合成原理。他先放了那段骗子语音，当然做了变声处理，又把王阿姨填写的假登记表结构画出来：小区群链接、亲属信息、陌生账号、紧急语音、收款账户。

他讲到“骗子真正利用的不是技术多强，而是亲人之间来不及确认的那几秒”时，会议室安静了一下。

钱总点头。

“这一点很好，可以放到对外材料里。”

老周在后排咳了一声。

钱总立刻补充：“当然，先内部消化。”

林凡继续讲。他把防范建议放出来：涉及转账必须回拨原号码，家庭暗号不能公开，社区登记要核实来源，平台应对新号批量加老人和异常收款做风险提示。

讲完后，市场部同事举手：“我们是不是可以做一个社区反诈AI助手？老人收到语音后转给助手，助手判断真假。”

产品经理许丹眼睛亮了：“这个有产品化空间。”

刘洋也跟着兴奋：“可以做多模态识别，语音、文本、账号行为一起分析。”

王启坐在矮凳上，小声说：“还能起名叫‘反诈小橙’。”

钱总显然已经看见新项目的影子。

“这个方向可以研究。我们不一定做得很复杂，先做MVP。”

林凡刚想说话，老周把茶杯放到了桌上。

茶杯不响，但会议室瞬间像被按了暂停。

“你们准备怎么判断真假？”老周问。

产品经理许丹说：“可以调用声纹比对模型，结合语义风险判断。如果出现借钱、转账、别告诉别人等关键词，就给出风险提示。”

“提示什么？”

“比如：该语音疑似诈骗，请谨慎处理。”

“疑似的标准是什么？”

许丹停了一下：“模型评分超过阈值。”

“阈值怎么定？”

“根据测试集。”

“测试集从哪来？”

会议室开始降温。不是空调降温，是所有人发现老周不是提问，是在拆椅子。

刘洋试图救场：“可以先用公开数据，再做一批模拟诈骗语音。”

老周看向他：“公开数据代表谁？”

刘洋愣住。

“代表……常见样本？”

“常见到什么程度？普通话多，方言少；年轻人语音多，老人少；清晰录音多，菜市场背景音少。你拿一样的数据训练出来，遇到林桂兰和王阿姨一种场景，凭什么准？”

林凡坐在电脑旁边，忽然觉得老周这几句话像一把钝刀，不锋利，但每一下都切在筋上。

许丹皱眉：“那我们可以标注更多场景。”

“谁标？”

“外包标注团队。”

“标注标准谁写？”

“我们产品和技术一起写。”

“写错了谁负责？”

会议室又安静。

老周不是反对做产品。他的语气没有火药味，甚至有点平。但越平，越让人没法用热情糊弄过去。

钱总说：“老周，你的意思是，这个方向不能做？”

“能做。”老周说，“但不能拿‘黑箱’当免责牌。”

王启小声问刘洋：“黑箱不是技术词吗？”

刘洋更小声：“现在听起来像锅的别名。”

老周看见他们嘴动，但没点名。他站起来，走到白板前，拿起马克笔画了一个大方框，里面写“模型”。然后在方框左边写“数据”，右边写“结果”，上面写“业务规则”，

“很多人说AI是黑箱，好像只要把问题塞进去，结果出来不好，就能摊手说看不懂。”老周敲了敲白板，“看不懂模型内部每个参数，不等于看不懂整个系统。数据谁选的，规则谁写的，阈值谁定的，提示语谁审核的，出错后谁复核，这些都不是黑箱。”

林凡看着白板，心里冒出一句话：黑箱外面全是人。

老周继续说：“如果你们做反诈助手，它提示这条真诈骗为安全，老人被骗了，你们不能说模型判断失误就完了。如果它把孩子真实求助判成诈骗，耽误了事，你们也不能说宁可错杀。每一个错误都有代价，代价落在用户身上，不落在PPT上。”

市场部同事弱弱说：“那宣传上要怎么写？”

老周看他：“写它能提醒，不写它能判案。”

“可客户喜欢确定性。”

“客户喜欢的东西很多。”老周说，“还喜欢便宜、快、零风险、明天上线、后天出报表。你都给吗？”

会议室里有人笑了一下，又很快收住。

钱总摸摸鼻子。他最近确实在几个客户面前说过“我们的AI能实现风险闭环”，听起来高端，细想像一根绳子把责任绕没了。

“老周，你具体建议呢？”钱总问。

老周把白板分成三栏。

第一栏：能做。

第二栏：不能说。

第三栏：必须留人。

“能做的是风险提示、关键词提醒、陌生账号预警、转账前冷静倒计时、原号码回拨提示。不能说的是百分百识别、自动判断真假、替用户决定要不要转钱。必须留人的是社区、家属、平台客服和警方通道。”

林凡赶紧记。

老周又补了一句：“尤其给老人用的东西，不要搞一堆花哨按钮。按钮越多，骗子越开心。”

张磊听说这场分享后，远程发来消息：