第21章 巴别塔（2 / 2）
请关闭浏览器的阅读/畅读/小说模式并且关闭广告屏蔽过滤功能，避免出现内容无法显示或者段落错乱。
要把海量的文字塞进模型里，让它自己去学习语言的规律。
看得越多，学得越好，最后就能像人一样理解和生成文字。
听起来简单？
一点都不简单。
首先，数据从哪来？
陈阳花了快一年时间，让星城那边的团队爬取了整个维基百科丶几百万篇新闻报导丶上千万条论坛帖子丶小说的片段，清洗丶去重丶格式化，最后整理出三套数据：
第一套，训练集，12.4GB。
这是喂给模型的课本，让它自己从海量文字里自学语言规律。
对，没错就是自己学习，模型一开始是一个什么都不知道的孩子。
然后通过海量数据以及算法反馈。逐渐从数据里面学习规律，最终找到答案。
第二套，验证集。
这是提前准备好的随堂测验，题目和标准答案都是现成的。
比如给模型一句话：“珠穆朗玛峰多高“，标准答案是：“8848米“。
模型回答完，跟答案一对，就知道它学得怎么样。
验证集有两个用处。
第一，防止死记硬背。
如果模型在课本上的题越做越好，但随堂测验的分数不涨反降，那就说明它只是在背课本原文，换道新题就懵了。这叫过拟合，得赶紧调整。
第二，判断什么时候该停。
模型不可能无限进步。
学到一定程度，该会的都会了，再学也没什么提升了。
怎么判断到没到这个点？
就看验证集的分数。
一开始，分数会蹭蹭往上涨。
然后涨得越来越慢。最后，曲线变平了，连着好几轮分数都不动了。
这就说明模型训练完成，可以停了。
再往下硬学，就是浪费时间。
第三套，测试集。
↑返回顶部↑
都市重生相关阅读：
重生13：从Fade开始
宋时清晏：职场女官逆袭记
守界者：从修仙归来的豪门少爷
阴曹地府升职记
熟果
雪白妩媚的女土匪让我着了迷
综影视：世界攻略手册
日化人生[科研]
快穿单元故事：生来被爱的她
众生啊，用美好的祈愿助魔降临吧
激活万能修改器，手搓逆天级精灵
在僵约成僵祖，鸿钧求我别去洪荒
NBA，我大姚，回来了
方形海浪
古代咸鱼躺赢了
始乱终弃清冷公子后
退守[破镜重圆]
娱乐：我的歌，引爆另一个时空
都重生了谁还学土木
如果奇迹有颜色：我相信是中国红
侧写心跳法则
洪炉点雪
九霄道主！
魔族公主祸害修仙界成了团宠
留守村妇：等着那个没良心的回家
误入直播后，玄学啾啾全网走红了
快穿甄嬛传：月柠住遍东西六宫
[家教]讨厌麻烦的店员小姐
折辱冷清师兄后
华妃穿成明兰后，把知否完明白了
穿越七零：她以医术征服铁血长官
万界历练：南宫翰的证道之路
合约到期，再见沈大少爷
星轨逆转从废柴到万界织命师
战爷的小夫人，是大佬们的小祖宗
炼体长生，从养生功到力破万法
快穿：末日天灾，从囤货开始
战神归乡，谁动我家人
消费就返现：从直播间刷礼物开始
无机杀手：杀戮或救援
米塔
【ABO】标记陷阱
他的金丝雀飞走了
一夜过后，顶级女神总裁缠上我
我随便上课，学生全都成圣了
以闪亮之名故事集
我在古代当纪委书记
噬恐纪元
贩剑后被死对头亲了
高武，我在异界斩妖除魔
拾道长生
无人管束
年代文里奸懒馋滑的小儿媳
神医赘婿是满级大佬
诡诈
剑锋之上，乱欲红尘战九霄
出租房的日记本
重活一世，我成了偏执权臣的白月
NPC还是配角？不！我是路人甲
有头脑的路易十六