清除数据异常值
- 1.箱线图检测数据异常值方法
- 2.3σ原则检测数据异常值方法
- 3. 异常数据处理方式：
- 总结（小白看看就行）
1.箱线图检测数据异常值方法
箱线图检测：箱线图是一种常用的异常值检测方法，它以数据的分位数为基础，通过上下四分位距来判断数据是否异常。根据箱线图，可以识别出在上下触须之外的数据点，这些点通常是异常值。
2.3σ原则检测数据异常值方法
3σ原则剔除：3σ原则是一种基于数据的均值和标准差的统计方法，用于判断数据是否异常。在正态分布下，大约68%的数据位于均值的±1σ范围内，95%的数据位于均值的±2σ范围内，99.7%的数据位于均值的±3σ范围内。如果一些数据点与平均值的偏离程度超过了一定的标准差范围，可以判定为异常值。
3. 异常数据处理方式：
直接删除：直接删除异常值是一种简单的方法，但需要谨慎使用。如果样本量小或变量分布变化大时，直接删除可能会影响数据的稳定性和可靠性。
替代法：替代法包括连续变量均值替代、离散变量用众数以及中位数替代等。这种方法可以保留数据的完整性，同时减少异常值对分析的影响。
插补法：插补法包括回归插补、多重插补等。这种方法可以通过数学方法对缺失的数据进行估计和预测，填补数据的空白，提高数据的质量和完整性。
总结（小白看看就行）
对数据进行异常值清洗有很多好处，包括但不限于以下几点：
-
提高数据质量：异常值可能是由于数据采集、录入或处理过程中的错误或异常情况导致的，这些值会严重影响数据的质量和可靠性。清洗掉异常值可以提高数据的准确性和一致性，为后续的数据分析和建模提供更好的基础。 -
避免错误的结论：异常值可能会对数据分析产生很大的影响，尤其是对于一些依赖于数据分布和统计特性的分析方法。如果忽视异常值，可能会导致错误的结论或模型预测结果。清洗掉异常值可以避免这种情况，提高分析的准确性和可靠性。 -
保护隐私和安全：在某些情况下，异常值可能包含敏感信息或涉及个人隐私，例如异常的交易记录、异常的地理位置信息等。清洗掉这些异常值可以保护隐私和数据安全，避免不必要的风险和纠纷。 -
提高数据集的可解释性：异常值可能会使数据集变得复杂和难以解释，特别是对于非专业的数据分析人员。清洗掉异常值可以使数据集更加简洁、直观，提高数据的可读性和可解释性，方便理解和分析。
