论
Member
工业 AI 项目复盘时,最常见的结论不是“模型不够好”,而是“数据没准备好”。模型选型、算力、部署,这些都有成熟的供应商方案;数据质量没有现成产品,只能自己一笔一笔算。这篇把数据问题拆成三笔账:缺失、漂移与标签噪声,每一笔都有对应的检测办法与成本。
第一笔账是缺失。传感器掉线、网关重启、 historian 写入失败,都会在数据里留下空洞。关键不是“有没有缺失”,而是“缺失是不是随机的”。随机缺失可以用插值或模型填补;系统性缺失——比如某个班次的传感器定期掉线、某个工况下数据整段丢失——填补只会制造假数据。建议的做法是先给每个数据源做“缺失画像”:按时间、班次、工况三个维度统计缺失率,系统性缺失先修采集链路,再谈建模。
第二笔账是漂移。工艺参数会变、原料批次会换、设备会老化,训练时的数据分布和上线三个月后的分布往往已经不一样。漂移分两种:输入漂移(传感器读数分布变了)和概念漂移(同样的读数对应的结果变了,比如换了原料之后同样的温度不再对应同样的良率)。输入漂移可以用统计检验发现,概念漂移更隐蔽,只能靠持续的业务指标监控。建议的做法是给关键特征设漂移门禁:分布偏移超过阈值就报警,而不是等模型效果掉了才发现。
第三笔账是标签噪声。工业场景的标签很多来自人工记录:操作员的班次日志、质检员的判定、维修工的故障描述。同一类故障,不同班次的描述可能完全不同;稀有故障的样本本来就少,标错一两个,模型学到的就是错的。建议的做法是标签审计抽样:每批标签随机抽 5% 做二次核对,记录标注一致率;对稀有类别单独建“黄金集”,由最有经验的人复核,而不是混在批量标注里。
三笔账之间有个优先级:缺失是采集问题,先修;漂移是监控问题,要持续;标签噪声是流程问题,最难改。很多项目把顺序搞反了,先调模型、再补数据,最后发现模型在脏数据上越调越偏。更务实的做法是把数据质量门禁写进 CI:新数据入库前先过缺失率、漂移、标签一致率三道检查,不过就拦截,而不是等模型训练完才发现。
讨论:你们的工业 AI 项目里,数据准备占了多少工时?有没有哪一次是数据问题导致项目延期或返工的?
第一笔账是缺失。传感器掉线、网关重启、 historian 写入失败,都会在数据里留下空洞。关键不是“有没有缺失”,而是“缺失是不是随机的”。随机缺失可以用插值或模型填补;系统性缺失——比如某个班次的传感器定期掉线、某个工况下数据整段丢失——填补只会制造假数据。建议的做法是先给每个数据源做“缺失画像”:按时间、班次、工况三个维度统计缺失率,系统性缺失先修采集链路,再谈建模。
第二笔账是漂移。工艺参数会变、原料批次会换、设备会老化,训练时的数据分布和上线三个月后的分布往往已经不一样。漂移分两种:输入漂移(传感器读数分布变了)和概念漂移(同样的读数对应的结果变了,比如换了原料之后同样的温度不再对应同样的良率)。输入漂移可以用统计检验发现,概念漂移更隐蔽,只能靠持续的业务指标监控。建议的做法是给关键特征设漂移门禁:分布偏移超过阈值就报警,而不是等模型效果掉了才发现。
第三笔账是标签噪声。工业场景的标签很多来自人工记录:操作员的班次日志、质检员的判定、维修工的故障描述。同一类故障,不同班次的描述可能完全不同;稀有故障的样本本来就少,标错一两个,模型学到的就是错的。建议的做法是标签审计抽样:每批标签随机抽 5% 做二次核对,记录标注一致率;对稀有类别单独建“黄金集”,由最有经验的人复核,而不是混在批量标注里。
三笔账之间有个优先级:缺失是采集问题,先修;漂移是监控问题,要持续;标签噪声是流程问题,最难改。很多项目把顺序搞反了,先调模型、再补数据,最后发现模型在脏数据上越调越偏。更务实的做法是把数据质量门禁写进 CI:新数据入库前先过缺失率、漂移、标签一致率三道检查,不过就拦截,而不是等模型训练完才发现。
讨论:你们的工业 AI 项目里,数据准备占了多少工时?有没有哪一次是数据问题导致项目延期或返工的?