阅读历史 |

第255章 鼓励年轻人(1 / 2)

加入书签

请关闭浏览器的阅读/畅读/小说模式并且关闭广告屏蔽过滤功能,避免出现内容无法显示或者段落错乱。

清华演讲结束后的第三天,林晨收到了一封很长的邮件。

发件人是一个叫小李的研二学生——那天坐在报告厅后排的角落里,全程没有提问,但演讲结束后专门在走廊里等了他十几分钟。林晨记得他——因为他的眼神里有那种拼命想找一条出路的焦虑。

林老师:

我是那天坐在后排角落的学生。您的演讲结束之后我在走廊里站了很久,本来想跟您说几句话,但是人多没排上。后来回到实验室,一整个晚上脑子里都在回放您说的那句话——三十五岁一点也不晚。

我今年二十六岁,研二,研究方向是计算机视觉。但最近一年我觉得CV这个方向已经到了瓶颈——论文好发,但落地太难。我想转大模型方向,又担心已经太晚了——实验室的师弟师妹们从研一就开始搞LLM,论文已经发了好几篇。

您的经历让我看到了另一种可能性——不是赢在起跑线上,而是赢在每一个今天没有放弃。

我想问您一个具体的问题:对于一个有ML基础但没接触过LLM的学生来说,从零开始学大模型,最有效的方法是什么?

林晨在工位上看到这封邮件的时候正在吃午饭——一份从楼下食堂打包上来的青椒肉丝盖浇饭。他放下筷子,把这封邮件又看了一遍,然后写了回复:

小李:

谢谢你的邮件。你的问题我认真想了一下,给你几个建议,按优先级排序:

别报付费速成班。任何标榜三个月入行大模型的课程都是收智商税。大模型需要的知识密度不是三个月能压缩的。

从AndrejKarpathy的nanoGPT教程开始。一行一行敲他的代码,理解每一个张量维度变换的含义。这不是抄——是在理解Transforr的骨架子。跑通之后自己从头复写一遍。

精读五篇论文。GPT-1、GPT-2、GPT-3、InstructGPT、LLaMA。不是随便翻——每一篇做三页以上的笔记,理解每一组实验设计的逻辑。

找一个具体的问题做微调实验。可以是情感分析、文本摘要、对话生成——什么都行,关键是亲自跑通训练、评估、分析和改进的完整链路。一个亲手调出来的烂模型比看一百篇论文学到的多。

二十六岁一点也不晚。我三十五岁才开始——比你晚了九年。你现在有比当年我好得多的基础——ML你是懂的,PyTorch你是熟的,实验室有GPU给你用。二十六岁转大模型不是弯道超车——是在正确的赛道上正常起步。

最后说一句:在清华这种地方,很容易被周围人的进度裹挟——别人论文发了、offer拿了,我还在学基础。这种横向比较是效率的毒药。你唯一要比的人,是昨天的自己。

林晨

他点了发送,然后继续吃饭。

这件事他本来没放在心上。但两周之后——十月底——小林发来了第二封邮件。这次短了很多,只附了一个GitHub链接。

林晨点进去,是一个大模型微调项目。用LLaMA的架构在中文对话数据集上做了一次SFT,评测结果显示模型在对话连贯性和事实准确性上都有不错的提升。README写得密密麻麻——每一个训练参数的设置理由都解释得很清楚,每一个失败实验的教训都写在实验日志那节里,每一个消融实验的结论都配了表格。

邮件正文只有一段话:

林老师,谢谢您上次的回复。按照您的建议,我从nanoGPT开始写起,读完了五篇论文,然后做了这个微调项目。这是我这辈子第一次完整地从头开始做一个大模型项目——从数据准备到训练到评测全部一个人完成。两周前我拿到了某大厂大模型部门的实习offer。谢谢您。

林晨看着屏幕。心里涌起一种很难描述的感觉。

↑返回顶部↑

书页/目录

都市重生相关阅读: 三国:少帝别慌,我带了颗龙蛋 穿越奥布:新人类总帅 女扮男装!男校里所有男主都爱她 原神:开局负债,无奈成为执行官 在西幻世界的我喜夺万人嫌剧本 残疾小少爷他柔弱不能自理 盛世如你所愿,别再做我的梦 昨日尾调 年代1983:我在东北做木工 漫威:卡玛泰姬唯一真神,李宇 游戏入侵:我开挂偷空仇家底蕴 [希腊神话]蛇蛇被发誓钟情后 沙漠神豪:九千万亿爆改戈壁滩 抗战:李云龙当警卫,全团杀疯了 四合院:末日房车苟成神 九幽宅邸录 穿成反派的我靠沙雕苟活 1978:我靠每日情报赶山致富 反派:背景通天,哪里都有点关系 异世帝国崛起,开局君临天下 红楼:绛珠有弟嘉靖,随母入贾府 大雍无冕 身为武神,抽象一点怎么了 我对象的alpha人设有点怪 重生2017我把总裁前任踩成渣 顶级偏爱:拳王的心尖清冷神医 与你共感 股海明灯:财富战法 村长快顶不住了 重生美利坚:从农场主到商业帝王 乞帝传 从真灵命匣变成先天灵宝开始 都市送快递的我逆袭学霸 三十加二手男巅峰从离婚开始 极道噬魔,浊世演武 四合院:大灾之年,过分了啊! 美艳老妇绝育,改嫁四次,生多宝 穿成假千金后,我靠玄学爆红了 我是妖魔的心上人 回到2002,从写挂开始 从浣熊市开始轮回 不良反应尚不明确 失格落日 小黑的魔帝分身 末世异能武尊 斗破:我能固化万物天赋 我也没办法啊,前男友不让我死 陌生新婚 横刀岭南,斩断西方伪史 华娱:都重生了,谁还当演员啊 青舟异闻录 修仙是门实验科学 终末:神谕游戏 凤逆天:君主的暗影妻 废柴女驭兽师:神兽大军踏碎凌霄 [崩铁]让游戏公司再次伟大 大秦:天道金榜曝光了我 恶犬攻绑定上司的乖狗系统 斗罗绝世:终焉神锋 被我锐评的她们都成真了