阅读历史 |

第1205章 两亿预算啥也别说了忠橙(1 / 2)

加入书签

请关闭浏览器的阅读/畅读/小说模式并且关闭广告屏蔽过滤功能,避免出现内容无法显示或者段落错乱。

“当网络层数叠加到一定深度,会出现不可逆的梯度衰减、特征退化,浅层的有效特征,会在层层传递中不断丢失、失真、稀释,网络越深,学习能力反而越弱,准确率不升反降。”

“基于这个问题,我才将接下来的课题定为深度网络在物理层面的衰减问题,希望能验证我的想法,尝试看看能不能用另一种方式解决这个问题。”

陈星心中狂喜,就是这个!

就是这个点!

何凯明思考的问题,正是他以后名动天下的ReS残差网络诞生的前置思考。

就像他说的一样,学术界普遍认为神经网络越深、层数越多,AI越强,可现实却是网络叠深之后,出现梯度消失、梯度爆炸、性能退化越深、准确率反而越低,学不动。

属于是越学越废。

解决方式也正是何凯明提出来的,直接短路连接、残差跳跃,不用让每一层网络都必须学完整新特征。

说人话就是允许神经网络偷懒、进行残缺学习,不需要每层都强行拟合,学不动的部分直接跳过、残差传递。

当然,陈星也是一知半解,他也不会直接告诉何凯明所谓的残差网络,只是引导着问他:“那现在你有解决思路吗?”

“有一点,但不多,因为我是刚从计算机视觉转到神经网络不久,还没有完整的构建自己的体系,只是一些粗略想法。”

“比如我在想,既然层层传递会不断损耗特征、梯度会逐层消失,那我们未必一定要让每一层网络都强制学习全新的特征。”

“如果我们搭建一条旁路直连通道,让原始特征可以跳过部分堆叠层,直接向后传递,让深层网络只需要学习前后的残差差异,是不是就能规避深度衰减的问题?”

“不用层层拟合完整特征,只学增量偏差,剩余原始信息直接直通保留。”

陈星心中再次确定。

来了!

没错,就是这个!

这就是未来统治整个AI视觉、深度学习、自动驾驶领域的残差神经网络ReS!

别人还在头疼网络越深越废的行业难题,何凯明已经摸到了下一代AI底层架构的钥匙。

陈星不动声色,按捺住心中的激动,脸上露出欣赏的笑意对何凯明说:“这个思路非常大胆,也极具颠覆性,你尽管放手去做,这个项目我批了,实验室所有算力、数据、资源你可以整理一下交到我这边来。”

“我亲自给你审批。”

顿了顿,陈星接着说:“资金的话,你的团队还没完全搭建完成,前期资金先给你两个亿吧,放在你们专项账户,随时支取,不够了你随时给我申请。”

“多少!”听到这个数字,何凯明腾的一下站了起来,“两个亿?还是前期资金?”

龟龟,自己在微软实习时候的项目组,一年的经费不过百万美元级别,换算成人民币也就一千多万。

陈总张嘴就是两个亿?

还是前期资金?!

难道这就是所谓的多财多亿?凭亿近人?

“哎,何博士,你激动什么,坐下,坐下。”陈星不在乎的摆了摆手,示意何凯明坐下。

才两个亿就激动成这个样子?

那以前过的什么苦日子啊。

“陈总,不是,这也太多了,两个亿我怎么花得完啊。”何凯明重新坐下以后,有点手足无措,第一次自己主持项目和课题,打死他也没想到上手就是两个亿啊。

↑返回顶部↑

书页/目录

都市重生相关阅读: 长津湖:满仓有身装备栏 高考后,我成了合欢大帝传人 巨树求生:每天一个随机身份 一人:异人界来了一位投资大亨 冥界来的大小姐,今天又掀桌了吗 我用AI学历史 列车求生:每级一个彩色海克斯! 诡异港岛:我成了捉鬼大师 加点:从破军刀法开始 地下城冒险:从成为玩家开始 无敌驸马爷,抢钱抢粮抢女帝! 入伍四次!我被原部队拉进黑名单 到底谁在说人人果实最垃圾? 重生89带空间,我把美苏搬空了 综影视之配角通吃全场 重生69除夕夜分家断亲退婚养家 人在漫威编剧本,说我幕后黑手? 公路求生,但我是隔壁无限流大佬 戾天子 让你代课,你教学生核聚变? 魔法?我钢铁洪流直接平推! 恐怖诸天:我以诡制诡,以邪镇邪 综穿之奇遇 奥特:我,海帕杰顿在无奥宇宙! 让你改稻为桑,你把嘉靖气懵了! 军事公主不会爱上魔法科学家 穿越古代,开局迎娶三位敌国公主 凡人修仙,捡个仙子做老婆 四合院:开局48,天桥卖艺开始 邪灵入侵全民求生,我有游戏外挂 一心求死,反倒成为千古一帝? 科举卷王,卷出一条青云路 高武:这个和尚太能装了 咒回:特级的我去死灭打宿傩了! 惹惊鸿 我,社畜,变身破碎少女赖上兄弟 重生千禧年我靠赶海带大哥致富 士兵突击开局我和许三多发配五班 大唐:我穿越后每天获得一项能力 阴阳改命术 娱乐:演戏?我在片场穿越诸天! 才认亲就下乡?真千金她带飞全家 弃妇揣崽在古代,众大佬日日求宠 四合院我带三百族人闯入南锣鼓巷 国运求生:从召唤杀神白起开始 挖矿系御兽师的日常生活 狼人杀:十更起手,湮灭众神! 重生归来,极品家人瑟瑟发抖 序列:旧日主宰 六岁小反派修仙,全宗疯批团宠她 就傍上城主咋啦! 末世没异能?但我有十二个兽夫 大明异姓王,开局治好朱雄英! 村女吴秀丽 消费返现,贫穷女大成顶级白富美 饥寒开局:我在古代造桃源 杀妖涨修为?道爷我成了 救命!我这是农场,不是动物园! 穿书八零,易孕媳妇攻略禁欲军官 末日求生:我在海上建堡垒