特征工程的目的和方法（特征工程的作用）

数据预处理方法的重要性在于它能够清洗和转换原始数据，使其适合用于机器学习模型训练。有效的预处理可以帮助去除噪声、处理缺失值和异常数据，提升模型的准确性和稳定性。

此外，合适的预处理还能减少模型过拟合的风险，增强模型的泛化能力。

今儿总结的十个方面的数据预处理方法，如果有没有总结全的，大家评论区给出~

数据清洗
数据标准化
数据归一化
类别编码
特征选择
特征缩放
特征构造
降维
数据增强
数据平衡

数据清洗是指处理缺失值和异常值，以提高数据质量和模型性能。

缺失值处理：可以选择删除含有缺失值的样本或特征，或者使用插值、均值、中位数、众数等方法填补缺失值。
异常值处理：可以使用统计方法（如Z-Score）或基于模型的方法（如IQR）处理异常值。

处理缺失值：

均值填补：对于一个有缺失值的特征列，其均值计算为：

用这个均值填补缺失值。

处理异常值：

Z-Score：标准化后的值计算公式为：

其中，是均值，是标准差。通常，|Z|>3 被认为是异常值。

标准化是将数据转换为均值为0、标准差为1的分布，通常用于高斯分布的数据。

标准化后的数据具有相同的尺度，减少特征之间量纲不一致的影响，有助于提高某些机器学习算法的性能。

标准化公式：

其中，是特征的均值，是特征的标准差。

假设，其均值和标准差分别为：

标准化后的数据：

归一化是将数据缩放到特定范围（通常是[0, 1]），特别适用于距离度量敏感的算法，如K近邻算法。

归一化后的数据每个特征的取值范围相同，有助于提高某些机器学习算法的性能。

归一化公式：

/span>

p data-tool="mdnice编辑器" style="color: rgb(20, 20, 20);line-height: 1.8em;letter-spacing: 0em;text-indent: 0em;padding-top: 8px;padding-bottom: 8px;">其中，

和

分别是特征的最小值和最大值。

/p>

p data-tool="mdnice编辑器" style="color: rgb(20, 20, 20);line-height: 1.8em;letter-spacing: 0em;text-indent: 0em;padding-top: 8px;padding-bottom: 8px;">假设

，其最小值和最大值分别为：

/p>

span data-tool="mdnice编辑器" style="cursor: pointer;">

/span>

span data-tool="mdnice编辑器" style="cursor: pointer;">

/span>

p data-tool="mdnice编辑器" style="color: rgb(20, 20, 20);line-height: 1.8em;letter-spacing: 0em;text-indent: 0em;padding-top: 8px;padding-bottom: 8px;">归一化后的数据：

/p>

span data-tool="mdnice编辑器" style="cursor: pointer;">

/embed>

span data-formula="X">

/span>

span data-formula="k">

/span>

span data-formula="k">

/span>

span data-formula="X">

/span>

section style="margin-top: 5px;margin-bottom: 5px;color: rgb(20, 20, 20);line-height: 1.8em;letter-spacing: 0em;">红色：[1, 0, 0]

/section>

section style="margin-top: 5px;margin-bottom: 5px;color: rgb(20, 20, 20);line-height: 1.8em;letter-spacing: 0em;">绿色：[0, 1, 0]

/section>

section style="margin-top: 5px;margin-bottom: 5px;color: rgb(20, 20, 20);line-height: 1.8em;letter-spacing: 0em;">蓝色：[0, 0, 1]

/section>