数据集成是数据预处理的重要步骤。许多方法可以称为数据集成，例如简单地删除小数位，而更先进的集成技术可以帮助我们训练，例如 z-score 归一化。

所以本文总结了 7 种常见的数据标准化(归一化)方法。

1. Decimal place normalization
2. Data type normalization
3. Formatting normalization (date abbreviations, date order, & deliminators)
4. Z-Score normalization
5. Linear normalization (“Max-Min”)
6. Clipping normalization
7. Standard Deviation Normalization

Decimal place normalization，小数位归一化

具有数字类型的数据表中发生了小数位归一化。 假如你用过 Excel，你会知道这是怎么发生的。 默认情况下，Excel 保留小数点后两位数，也可设置小数位数，并在整个表中统一。

Data type normalization，数据类型归一化

另一种常见的是数据类型的归一化。 Excel 或 SQL 在查询数据库中构建数据表时，您可能会发现您查看的数据有时被识别为货币、文本、数字和逗号字符串。

问题是这些数据对公式和各种分析处理的操作不同。因此，有必要将其统一为相同的类型。

Formatting normalization，格式归一化

最后一个简单的技术是格式的归一化。 这在字符串（文本）中很常见，在印刷和打印方向上更常见。虽然这些问题不会影响分析，但它们可能会分散我们的注意力和实际效果，如斜体、粗体或下划线或字体不同于其他文本。

Z-Score normalization

当我们的数据在多个维度上有明显的大小差值时，我们该怎么办？例如，如果一个维度的值从 10 到 100，另一个维度的值从 100 到 两者的相对变化很难比较。

对于这个问题，目前最好的解决方案是统一。在日常工作中，最常见的统一类型是 Z-Score 。 简单来说，Z-Score 按比例缩放数据，使其落入特定范围。 公式如下：

其中 X 是数据值，μ 是数据集的平均值，σ 是标准差。

Linear normalization (“Max-Min”)

线性归一化可以说是一种更容易、更灵活的归一化技术。 它通常被称为max-min归一化允许分析师获得最大的集合 x 值和最小 x 并建立一个基数。

这是一个很好的开始策略，事实上，线性归一化可以将数据点归一化为任何基数。 以下是线性归一化公式：

假设“x”值为 最大数字为20 最小数字为55 5.为了归一化，让我们从分母开始，结果是50 (55-5) 。 现在用同样的想法计算分子：x – min=15 (20–5)。 所以我们是标准化的 x 或 x ' 是 15/50 = 0.3。

Clipping normalization，剪裁归一化

裁剪并不完全是一种归一化技术，它实际上是在使用归一化技术之前或之后使用的操作。 简而言之，裁剪包括为数据集建立最大值和最小值，并将异常值重新限制为新的最大值或最小值。

例如，有一个数字 [14, 12, 19, 11, 15, 17, 18, 95] 组成的数据集。 数字 95 这是一个很大的异常值。 我们可以通过重新分配新的最大值来消除数据。 删除95后，数据集的范围是 因此，最大值可以重新分配为11-19 19.最小值也是如此

需要注意的是，切割点不会从数据集中删除，而是重新计算数据中的统计值。

Standard Deviation Normalization，标准差一化

假设我们的数据有五行 ，他们的ID 为 A、B、C、D 和 E，每行包含 n 不同的变量(列)。 我们在以下计算中使用记录 E 作为示例。 其他行以同样的方式标准化。

第 i 列中 E 行的 ei 归一化值计算如下：

当

如果E行的所有值相同，则E行标准差(std(E))等于0，那么E行的所有值都设为0。

这些算法需要归一化

1、涉及或隐含距离计算例如算法K-means、KNN、PCA、SVM等等，一般需要归一化

2、梯度下降算法，梯度下降的收敛速度取决于参数的初始位置local minima距离，学习率η的大小

3、采用sigmoid如果有饱和区的激活函数，如果输入分布范围广，参数初始化不适应，很容易直接落入饱和区，导致梯度消失，这就是为什么种各样的情况BN，LN等算法

这些算法不需要归一化

与距离计算无关的概率模型，如Naive Bayes，不需要；

与距离计算无关的基于树的模型，如决策树、随机森林等树中节点的选择只关注当前特征的分类，即只关心特征内部的相对大小，与特征之间的相对大小无关。但正如我们在前几篇文章中所说，使用Z-Score归一化将提高模型的准确性。事实上，归一化的作用是从绝对变为相对，所以可以说归一化对树型模型并不那么重要。它是训练过程中的一种选择或超参数。

作者：Manish