第一次提交之后怎么提分?从 baseline 到榜单中上游的动作顺序与实验纪律(2026)

交出第一份提交之后卡住,几乎是所有学生的必经阶段。提分不是靠”更努力”,而是靠顺序:先把验证方案修对,再改数据与特征,最后才动模型和集成。顺序错了,后面每一步的努力都无法被正确评估——你会以为自己在提升,其实只是在噪声里来回摆动。

如果孩子还没走到”第一次有效提交”这一步,建议先看平台入门指南把基本概念理顺;这篇文章处理的是它之后的那段路。

一、”能提交”和”能提分”是两件事

第一次提交成功,说明学生打通了流程:读懂了赛题、跑通了代码、生成的文件格式被平台接受。这值得肯定,但它只证明了工程链路通了,还没有证明任何建模能力。

卡住的典型表现有三种:反复微调参数但分数在小数点后几位来回跳;每天把提交次数用完(每场比赛的每日提交上限不同,以该赛事规则页为准),却说不清今天验证了什么假设;或者从讨论区搬来一个更高分的方案,分数上去了但完全不知道为什么。这三种共同的病根是同一个——没有一个可信的本地判据,只能靠榜单反馈来试错。

二、顺序错了,后面全是白忙

提分动作有明确的优先级,理由不是”哪个更有效”,而是”哪个是后面动作的前提“。没有可信的本地验证,你无法判断一个新特征到底有没有用;分不清特征有没有用,调参和集成就只是在放大随机性。

所以顺序是固定的:验证方案 → 数据与特征 → 模型与超参 → 集成 → 细节微调。越靠前的动作,一次做对的收益越大、也越难被后面的动作补救;越靠后的动作,单次收益越小、越依赖前面的基础成立。学生的普遍问题恰恰是倒着做——上来就换模型、调参数,把最该先做的验证方案留到最后(或者永远不做)。

Kaggle 提分动作优先级阶梯:验证方案、数据与特征、模型与超参、集成、细节微调,越靠前收益越大
越靠上的动作越是后面动作的前提,条形长度示意典型的边际收益递减

三、五个动作分别该做到什么程度

顺序 动作 做到什么算完成 主要风险 什么时候该停
1 修验证方案 本地分数与榜单分数的差距稳定(可以有固定偏差,但不能忽大忽小) 划分方式没对上赛题结构,本地分数虚高 差距稳定后立刻停,不要继续折腾划分方式
2 数据与特征 每个新特征都有一句业务上的理由,并经本地验证确认有增益 批量生成上百个特征,无法解释也难以复现 连续若干次尝试都没有稳定增益时
3 模型与超参 先横向比几类模型,再只在最好的那类上细调 把调参当随机搜索,占满时间却收效甚微 调参带来的提升小于验证方案本身的波动时
4 集成 被合并的模型彼此有差异,且合并后本地分数确实更好 把几个几乎一样的模型平均,等于什么都没做 算力或时间预算触顶时(先保住能跑通的版本)
5 细节微调 后处理、阈值、输出格式等收尾 在这一层花掉本该属于第 2 步的时间 临近截止时——留足检查提交文件的时间

第 1 步值得多说一句:所谓”验证方案对上赛题结构”,指的是本地划分要模仿真实的预测任务。如果赛题是用过去预测未来,就不能随机打乱切分;如果同一个个体在数据里出现多行,就不能让同一个体同时落在训练和验证两边。这两类错误会让本地分数漂亮得离谱,然后在最终结算时原形毕露。

四、一次只改一件事:实验日志的四个字段

实验纪律的核心只有一句:一次只改一件事,并且把它记下来。同时改三处再看分数变化,等于什么都没测——涨了不知道哪个起作用,跌了不知道该回滚哪一个。

日志不需要复杂工具,一张表格四列就够:

  • 假设:我认为改这件事会提分,因为⋯⋯(写不出理由,说明这次尝试是盲试)
  • 改动:这次只改了什么(一行字能说清)
  • 本地结果:验证分数变化,以及是否稳定
  • 结论与去留:保留 / 回滚 / 待定,一句话说明为什么

这份日志的价值远不止提分:它是赛后写复盘、整理作品集、以及面试时回答”你为什么这么做”的原始材料。我们在辅导中发现,能坚持记日志的学生,即使名次一般,产出的东西也明显更经得起追问——因为他们能讲出一条决策链,而不是一个结果。

单次实验闭环流程:提出假设、只改一件事、本地验证、记录结论、按配额提交、对齐本地与榜单差异
单次实验的闭环,以及必须记录的四个字段

五、三类”看起来很努力、实际不提分”的动作

这三种是我们在辅导中最常需要叫停的:

  • 把提交次数当成迭代次数。每天把配额用完,但每次改动都没有假设,也没记录。提交是验证结论的动作,不是探索手段——探索应该发生在本地。
  • 无差别地堆特征。批量生成几百个组合特征,分数偶尔涨一点。问题在于:它无法解释、难以复现,而且极易引入让本地分数虚高的信息。特征的第一标准是”能讲清为什么”。
  • 追着公开高分方案换来换去。今天换一套讨论区的方案、明天换另一套,每次都从头开始。名次可能短期上去,但学生这段时间的实际收获接近于零,赛后也说不出自己做了什么。

判断标准可以很简单:如果这一周的操作全部撤销,学生还剩下什么可讲的结论?剩得下,就是在积累;剩不下,就是在消耗时间。

六、家长可以问的两个问题

不需要懂建模,两个问题就能看出状态。第一个:“你这周验证了哪几个假设,结论分别是什么?”能答出三条具体结论(哪怕都是”没用”)的,说明在正常推进;只能答”分数涨了一点”的,通常是在盲试。第二个:“你本地的分数和榜单差多少,这个差距稳定吗?”能回答的学生,说明第 1 步已经做对了;答不上来的,需要先回到验证方案,而不是继续调参。

时间尺度上,从第一次提交到能稳定进入榜单中上游,通常以月为单位而不是以周计,且高度依赖赛题类型与投入强度。这里没有可以承诺的时间表——任何”多少周保证进前多少名”的说法都不成立。想先建立整体框架的读者,可以回到《Kaggle 是什么?完整入门指南》再对照本文的顺序执行。

常见问答

Q:本地分数在涨,榜单分数不动,是哪里出了问题?
A:多数情况是验证方案没对上赛题结构,本地分数被高估了。常见成因有两个:本该按时间切分却随机打乱;或同一个个体的多行数据同时出现在训练和验证两边。先回到第 1 步把划分方式改对,让本地与榜单的差距变成一个稳定的偏差,再继续做特征和模型,否则后面每一步都无法评估。

Q:每天应该提交几次?
A:每场比赛的每日提交上限不同,以该赛事规则页显示为准,不要套用别的比赛的经验。更重要的是用法:提交应当用于验证一个已经在本地成立的结论,而不是用来碰运气。一个可操作的习惯是——提交前先写下”我预计分数会怎样变化”,提交后对照,预期与结果不符时才是最有信息量的时刻。

Q:什么时候可以开始做集成?
A:满足两个条件再做。第一,单个模型已经稳定,不再有明显的特征或验证问题可修;第二,准备合并的几个模型彼此确有差异(结构不同、特征不同或数据处理不同)。把几个几乎相同的模型平均起来不会带来实质提升,反而消耗算力和时间。集成属于收尾动作,不是提分主力。

Q:辅导能保证提到多少名吗?
A:不能,我们也不做这种承诺。名次取决于赛题难度、参赛队伍数量与投入时间,任何机构都无法控制。辅导能做的是把方法教对:帮学生建立可信的验证方案、养成一次只改一件事的实验纪律、并在赛后把过程整理成可复现的产出。比赛规则与结算方式以 kaggle.com 官方为准。

本文由 Kaggle 中文编辑部发布,由翰林教育为中国国际学校学生运营;本站独立运营,不代表 Kaggle 或任何赛事主办方。比赛规则、提交配额与结算方式由主办方制定并会逐年调整,最新细节请以 kaggle.com 为准。如发现内容错误,我们将在 7 个工作日内更正。