怎么判断数据源可靠不可靠
拿到一份数据,第一件事不是急着做分析,而是判断它值不值得分析。下面这套流程,适合用来快速筛查一个陌生数据源。
先看数据从哪来
来源决定了数据的基本可信度。不同类型的来源,需要关注的点不一样。
- 官方或机构发布:看发布方是否对数据质量负责,是否有明确的编制说明。注意区分「原始发布」和「二手转载」,转载过程中很容易丢失字段说明。
- 业务系统导出:看导出条件是否完整。比如从订单系统导出,是否过滤掉了测试订单、已取消订单,这些条件会影响结论。
- 人工填报或抓取:这类数据最容易出问题。重点确认填报口径是否统一、抓取规则是否稳定,有没有把不同结构的页面混在一起。
一个简单的判断:如果提供方说不清楚数据是怎么产生的,那它的可靠性就要打问号。
看字段和数据字典
字段定义不清,是后续返工的主要原因。检查这几项:
- 每个字段有没有明确含义,比如「金额」是含税还是不含税,「状态」的取值有哪些。
- 字段类型是否一致,同一列里有没有混入文本、空值、异常符号。
- 关键字段是否有唯一标识,能不能唯一定位到一条记录。
- 有没有数据字典或字段说明文档。没有的话,至少要能向提供方问清楚。
如果一份数据只有表头没有说明,先别用,问清楚再动手。
看时间范围和时间口径
时间维度是最容易被忽略、又最容易出错的地方。
- 数据覆盖的时间范围是多少,起止时间是否明确。
- 时间字段是「发生时间」还是「记录时间」,两者可能差很多。
- 时区是否统一,跨地区数据要特别留意。
- 数据是不是全量,有没有被抽样或截断。比如只有最近 3 个月的数据,就不能用来做同比。
时间口径不清楚,任何趋势判断都不成立。
看更新机制和完整性
静态数据和动态数据,评估方式不同。
- 如果是定期更新的数据,看更新频率是否稳定,有没有断更或延迟。
- 检查关键字段的缺失比例,缺失集中在哪些记录上。
- 看有没有重复记录,重复是系统问题还是业务问题。
- 如果可能,对比两个时间点的数据,观察数量和结构有没有异常跳变。
更新不稳定或有大量缺失的数据源,适合做探索,不适合作为决策依据。
做交叉验证
单靠一份数据很难下结论,找另一个独立来源对照。
- 用总量、均值这类汇总指标做粗略比对,差异是否在可解释范围内。
- 找一个已知结果的小样本,验证数据能否复现。
- 如果两个来源差异明显,先查口径,再判断以哪个为准。
交叉验证不需要很复杂,能发现明显矛盾就够了。
记录你的判断
每次评估完,把结论记下来:来源、时间范围、已知问题、适用范围。下次再用这个数据源,就不用从头查一遍,也能避免在已经知道有问题的数据上反复投入。
数据可靠性不是非黑即白,而是看它够不够支撑你要做的那个判断。明确用途,再去匹配数据,比追求一份「完美数据」更实际。
相关文章
拿到一份新数据,先做这 6 项检查
拿到一份陌生数据集时,直接跑分析往往会在中途返工。这篇教程给出 6 项可落地的检查:从字段含义、行数与主键,到缺失、量纲、时间范围和分布形态,每一步都给出判断标准和记录方式,帮你把问题挡在建模之前。
Excel 里最容易埋下的 5 个错误
很多数据问题不是分析环节造成的,而是从录入和整理时就埋下了。本文列出 5 个常见错误:合并单元格、数字存为文本、日期格式混乱、表头多行、空行与空列,并给出每个错误的判断方法和修改做法,适合日常用 Excel 处理数据的人对照检查。
数据缺失的几种处理方式
面对数据里的空值,删还是补、补什么、补完怎么验证,都有可循的判断标准。这篇按缺失比例和缺失类型两条线索,给出可直接落地的处理流程,并说明每种做法在什么条件下会引入偏差。