Appearance
2.4 数据划分与生成数据集版本
这一步把「可变的标注草稿」冻结成「训练引擎的合法输入」。两个决策:怎么划分、怎么冻结。
为什么必须划分
| 集合 | 作用 | 混用后果 |
|---|---|---|
| 训练集 train | 提供梯度,更新权重 | — |
| 验证集 val | 每个 epoch 评估、调参、触发早停 | 用测试集调参 = 把测试集训了 |
| 测试集 test | 最终一次性评估,代表未知数据 | 与训练集高度相似 = 指标虚高 |
核心风险是「相近样本跨集合泄漏」:同一目标的相邻帧、同一角度的重复拍,如果随机撒进 train 和 val,val 指标会好看到失真。工业场景的重灾区是连续序列与多角度重复拍摄。
划分策略
| 策略 | 做法 | 适用 | 风险 |
|---|---|---|---|
| 按图像随机 | 所有图像 i.i.d. 随机划分 | 散图、来源不重复 | 序列数据泄漏 |
| 按序列划分 | 同一序列/视频的所有帧进同一集合 | 视频抽帧、连拍 | 集合间场景差异可能变大 |
| 分层抽样 | 按类别分布等比划分各集合 | 类别不均衡 | 实现稍复杂 |
| 留出法 | 按产线/批次/时间留出测试集 | 有明确批次概念 | 需要元数据支持 |
工业数据的默认答案
有序列概念的(视频抽帧、连拍、同批次)默认按序列划分。 这是「模型一上产线就掉点」最常见的原因——训练时它早就见过验证集里那张图的邻居。
比例建议
| 项目规模 | train / val / test | 说明 |
|---|---|---|
| < 200 张 | 70 / 15 / 15 | 小数据可只留 train/val,测试集后续补 |
| 200–2000 张 | 80 / 10 / 10 | 常规起点 |
| > 2000 张 | 85 / 7.5 / 7.5 | 验证集绝对量足够即可 |
| 类别极少(< 20 样本) | 分层抽样 + 扩增 | 见附录 C · 缺陷合成 |
数量是参考,分布一致比比例重要:train 里有的场景 val 里也要有,否则 val 指标没有参考价值。
生成数据集版本
操作
数据 → 生成数据集版本,三步:
- 选范围:全部图像 / 指定子集 / 只含已标注。
- 设划分:策略(上面四选一)+ 比例 + 随机种子。种子固定才能复现,记录在版本元数据里。
- 命名与确认:命名规范建议
v{主号}.{次号}_{场景或用途},如v0.1_smoke、v1.0_line3_2026Q4。
版本内容清单
| 内容 | 说明 |
|---|---|
| 冻结的标注 | 生成时刻全部标注的快照,之后改标注不影响本版本 |
| 划分结果 | train/val/test 的图像清单与种子 |
| 类别映射 | 类别名 ↔ 训练用的索引,含未使用类别处理策略 |
| 质检报告 | 2.3 产出的报告(如有) |
| 元数据 | 生成时间、生成人、源项目、标注统计、图像尺寸分布 |
版本管理
| 操作 | 说明 |
|---|---|
| 查看 diff | 两个版本间:新增/删除的标注、变化的类别、划分差异 |
| 作为训练输入 | 3.1 配置训练时选择,只能选版本,不能选「当前项目」 |
| 归档/删除 | 旧版本占空间,但删除后引用它的训练记录不可复现,谨慎 |
常见问题
| 现象 | 原因 | 处理 |
|---|---|---|
| 训练时找不到新标注 | 改了标注但没生成新版本 | 生成新版本并在训练配置里改数据源 |
| 划分结果每次不一样 | 随机种子未固定或范围变了 | 固定种子;范围变化时版本号升主号 |
| 某类别在 val 里没有 | 样本太少 + 随机划分 | 改分层抽样 |
| 版本生成慢 | 大项目全量拷贝 | 只含必要子集;分割掩膜体积大时尤其明显 |
本章收尾
至此,数据侧主线闭合:导入(2.1)→ 标注(2.2)→ 质检(2.3)→ 版本(2.4)。拿着一个「已通过质检、划分合理、命名清晰」的数据集版本,进入第 3 部分 · 训练。
下一步 → 第 3 部分 · 训练并拿到模型