• 常见特征工程操作


    常见的特征工程包括:

    异常处理:

    1.通过箱线图(或 3-Sigma)分析删除异常值;
    2.BOX-COX 转换(处理有偏分布);
    3.长尾截断;

    特征归一化/标准化:

    1.标准化(转换为标准正态分布);
    2.归一化(抓换到 [0,1] 区间);
    3.针对幂律分布,转换

    数据分桶:

    等频分桶;
    等距分桶;
    Best-KS 分桶(类似利用基尼指数进行二分类);
    卡方分桶;

    缺失值处理:

    不处理(针对类似 XGBoost 等树模型);
    删除(缺失数据太多);
    插值补全,包括均值/中位数/众数/建模预测/多重插补/压缩感知补全/矩阵补全等;
    分箱,缺失值一个箱;

    特征构造:

    构造统计量特征,报告计数、求和、比例、标准差等;
    时间特征,包括相对时间和绝对时间,节假日,双休日等;
    地理信息,包括分箱,分布编码等方法;
    非线性变换,包括 log/ 平方/ 根号等;
    特征组合,特征交叉;
    仁者见仁,智者见智。

    特征筛选

    过滤式(filter):先对数据进行特征选择,然后在训练学习器,常见的方法有 Relief/方差选择发/相关系数法/卡方检验法/互信息法;
    包裹式(wrapper):直接把最终将要使用的学习器的性能作为特征子集的评价准则,常见方法有 LVM(Las Vegas Wrapper)
    ; 嵌入式(embedding):结合过滤式和包裹式,学习器训练过程中自动进行了特征选择,常见的有 lasso 回归;

    降维

    PCA/ LDA/ ICA;
    特征选择也是一种降维

  • 相关阅读:
    业务架构、技术架构、项目管理的有机结合
    2024年6月2日 (周日) 叶子游戏新闻
    Python之禅——跟老吕学Python编程
    什么是 ping (ICMP) 洪水 DDOS 攻击?
    MySQL索引
    x64dbg 插件开发SDK环境配置
    DMNet复现(二)之模型篇:Density map guided object detection in aerial image
    基于log4cpp封装日志类
    PDF文件如何设置密码保护?
    数据结构概述
  • 原文地址:https://blog.csdn.net/qq_45022743/article/details/126009390