第173章 核心项目（1 / 2）
请关闭浏览器的阅读/畅读/小说模式并且关闭广告屏蔽过滤功能，避免出现内容无法显示或者段落错乱。
周二下午三点，林晨准时敲开陈博士办公室的门。
办公室不大，但整洁得几乎有点强迫症——书架上的技术书籍按高矮排列，白板上的笔记用不同颜色的马克笔严格分区，桌面上除了两台显示器、一个键盘和一个印着NeurIPS2022的马克杯之外，没有任何多余的东西。
陈博士指了指对面的椅子，自己端起马克杯喝了一口茶。
林晨坐下，笔记本摊开在膝上。他花了一个周末整理可解释性与知识蒸馏结合的初步思路，写了三页笔记，画了两张架构草图，准备了一整套论证逻辑。
但陈博士没有直接让他开始讲。
先问你一个问题，陈博士放下杯子，看着他，你觉得轻舟项目目前最大的瓶颈是什么？
林晨想了想：推理成本？大模型的推理成本太高，限制了部署规模。
对，也不全对。陈博士站起来，走到白板前，拿起一支黑色马克笔，画了一个简单的坐标轴。横轴标着模型大小，纵轴标着。
大模型效果好，但成本高。小模型成本低，但效果打折。他在右上角画了一个点，在左下角画了一个点，我们现在的策略是蒸馏——用大模型的输出训练小模型。但蒸馏有一个根本性问题。
他在两个点之间画了一条虚线，然后在虚线上打了几个问号：蒸馏之后，模型变小的同时，可解释性也丢失了。大模型能告诉你为什么推荐这条内容，因为它的参数足够多、表示空间足够大，可以保留推理过程的痕迹。但小模型做不到——它只能告诉你结果，没法解释过程。
林晨的笔记本上，那张自己画的架构草图里的问号，突然被陈博士这段话照亮了。
你的意思是，他接上思路，如果我们能在蒸馏过程中，不只传递输出结果，还传递推理依据，小模型就能在变小的同时保持一定的可解释性？
这就是我想让你做的。陈博士转过身，看着他，可解释性不只是推荐系统的一个附属功能，它是蒸馏策略的核心约束条件。一个不能解释自己决策的小模型，在金融风控、医疗诊断这些高风险场景里是无法落地的。轻舟项目的落地场景里，有相当一部分需要可解释性。
他在白板上写下一行字：可解释性驱动的模型蒸馏。
这是我给你的新方向。陈博士的语气平静，但眼神里有一种不容置疑的确定，不是单纯做可解释性模块，也不是单纯做蒸馏优化，而是把两者结合起来——在蒸馏过程中保留可解释性，用可解释性来指导蒸馏策略的选择。
林晨的脑子飞速运转。这不是一个模块级别的工作了，这是一个架构级别的思路。如果做成了，轻舟项目的核心突破就不只是模型变小了，而是小模型依然可解释——这在整个行业里都是前沿问题。
陈博，他深吸一口气，这个方向如果做出来，影响不只是轻舟项目。
我知道。陈博士回到座位上，双手交叉放在桌上，所以才交给你。你在量化交易里对风控和可解释性的理解，加上这一个月在推荐系统上的积累，是目前最适合做这件事的人。
他没有说最适合之一，而是最适合。林晨听出了这句话的分量。
↑返回顶部↑