Skip to content

2.4 数据划分与生成数据集版本 ​

这一步把「可变的标注草稿」冻结成「训练引擎的合法输入」。两个决策:怎么划分、怎么冻结。

为什么必须划分 ​

集合作用混用后果
训练集 train提供梯度,更新权重—
验证集 val每个 epoch 评估、调参、触发早停用测试集调参 = 把测试集训了
测试集 test最终一次性评估,代表未知数据与训练集高度相似 = 指标虚高

核心风险是「相近样本跨集合泄漏」:同一目标的相邻帧、同一角度的重复拍,如果随机撒进 train 和 val,val 指标会好看到失真。工业场景的重灾区是连续序列与多角度重复拍摄。

划分策略 ​

策略做法适用风险
按图像随机所有图像 i.i.d. 随机划分散图、来源不重复序列数据泄漏
按序列划分同一序列/视频的所有帧进同一集合视频抽帧、连拍集合间场景差异可能变大
分层抽样按类别分布等比划分各集合类别不均衡实现稍复杂
留出法按产线/批次/时间留出测试集有明确批次概念需要元数据支持

工业数据的默认答案

有序列概念的(视频抽帧、连拍、同批次)默认按序列划分。 这是「模型一上产线就掉点」最常见的原因——训练时它早就见过验证集里那张图的邻居。

比例建议 ​

项目规模train / val / test说明
< 200 张70 / 15 / 15小数据可只留 train/val,测试集后续补
200–2000 张80 / 10 / 10常规起点
> 2000 张85 / 7.5 / 7.5验证集绝对量足够即可
类别极少(< 20 样本)分层抽样 + 扩增见附录 C · 缺陷合成

数量是参考,分布一致比比例重要:train 里有的场景 val 里也要有,否则 val 指标没有参考价值。

生成数据集版本 ​

操作 ​

数据 → 生成数据集版本,三步:

  1. 选范围:全部图像 / 指定子集 / 只含已标注。
  2. 设划分:策略(上面四选一)+ 比例 + 随机种子。种子固定才能复现,记录在版本元数据里。
  3. 命名与确认:命名规范建议 v{主号}.{次号}_{场景或用途},如 v0.1_smoke、v1.0_line3_2026Q4。

版本内容清单 ​

内容说明
冻结的标注生成时刻全部标注的快照,之后改标注不影响本版本
划分结果train/val/test 的图像清单与种子
类别映射类别名 ↔ 训练用的索引,含未使用类别处理策略
质检报告2.3 产出的报告(如有)
元数据生成时间、生成人、源项目、标注统计、图像尺寸分布

版本管理 ​

操作说明
查看 diff两个版本间:新增/删除的标注、变化的类别、划分差异
作为训练输入3.1 配置训练时选择,只能选版本,不能选「当前项目」
归档/删除旧版本占空间,但删除后引用它的训练记录不可复现,谨慎

常见问题 ​

现象原因处理
训练时找不到新标注改了标注但没生成新版本生成新版本并在训练配置里改数据源
划分结果每次不一样随机种子未固定或范围变了固定种子;范围变化时版本号升主号
某类别在 val 里没有样本太少 + 随机划分改分层抽样
版本生成慢大项目全量拷贝只含必要子集;分割掩膜体积大时尤其明显

本章收尾 ​

至此,数据侧主线闭合:导入(2.1)→ 标注(2.2)→ 质检(2.3)→ 版本(2.4)。拿着一个「已通过质检、划分合理、命名清晰」的数据集版本,进入第 3 部分 · 训练。

下一步 → 第 3 部分 · 训练并拿到模型