数据预处理核心要点

在开始建模前，必须完成以下关键步骤：

1. 缺失值处理：采用KNN插补法（k=5）处理连续变量缺失，分类变量使用模式填充
2. 异常值检测：结合Z-Score（阈值3σ）和IQR方法（Q1-1.5IQR至Q3+1.5IQR）双重验证
3. 特征工程
   • 文本数据：TF-IDF向量化后应用Truncated SVD降维（n_components=100）
   • 时间序列：创建滞后特征（lag=7天）和季节性分解（STL方法）
   • 图像数据：使用ResNet50预训练模型提取1024维特征向量

模型构建进阶技巧

针对不同业务场景选择适配算法：

超参数调优方案

采用贝叶斯优化（Bayesian Optimization）替代传统网格搜索：

from bayes_opt import BayesianOptimization
def xgb_evaluate(learning_rate, max_depth, subsample):
params = {
'learning_rate': learning_rate,
'max_depth': int(max_depth),
'subsample': subsample,
'objective': 'binary:logistic'
}
return cross_val_score(XGBClassifier(**params), X, y, cv=3).mean()

结果可视化规范

关键图表类型选择原则：

• 特征重要性：SHAP值热力图（按类别着色）
• 模型诊断：ROC曲线叠加PR曲线（AUC>0.85为优）
• 预测分析：实际值vs预测值散点图（R²>0.9）

使用Plotly制作交互式仪表盘示例：

fig = px.scatter(
df, x="actual", y="predicted",
trendline="ols",
title="预测结果分析"
)
fig.add_hline(y=x.mean(), line_dash="dash", annotation_text="基准线")
fig.show()