随机森林例子

大家好，欢迎来到IT知识分享网。

一、随机森林算法基础

1. 核心思想：
2. 通过集成多个决策树（如100棵树）进行预测，取平均值或投票结果提高准确性。
3. 比喻：多个专家（决策树）各自预测，综合结果更可靠。
4. 适用场景：
5. 回归问题（如气温预测）、分类问题（如判断用户购买意愿）。
6. 案例：根据历史天气数据（特征）预测未来某天的最高气温（标签）。

二、数据处理流程

1. 数据准备：
2. 特征与标签：
3. 特征值（输入）：用于预测的变量（如风速、降水量、积雪量）。
4. 标签值（输出）：待预测的目标（如最高气温）。
5. 数据拆分：
6. 将数据集分为训练集（80%）和测试集（20%），使用 train_test_split 工具。
7. 数据预处理：
8. 时间处理：将日期转换为时间戳（如 datetime 包）。
9. 编码处理：将文字数据（如“周一”）转为独热编码（如周一→[1,0,0,0,0,0,0]）。
10. 特征工程：
11. 创建季节变量（如12月为冬季，3-5月为春季）。
12. 删除冗余列（如删除与预测无关的字段）。
13. 数据可视化：
14. 使用 matplotlib 绘制气温趋势图、矩阵散点图（展示变量间关系）。
15. 关键图表：横轴为时间，纵轴为气温，对比真实值与预测值曲线。

三、模型构建与训练

1. 模型搭建：
2. 工具：sklearn 的 RandomForestRegressor。
3. 关键参数：
4. n_estimators=100（树的数量），random_state=0（固定随机种子，确保结果可复现）。
5. 训练过程：
6. 输入训练集特征值和标签值，让模型学习规律。
7. 示例代码：
8. python
9. 复制
10. model.fit(X_train, y_train)
11. 预测与验证：
12. 输入测试集特征值，输出预测结果。
13. 对比预测值与真实值，计算误差率。

四、模型评估与优化

1. 误差计算：
2. 指标：均方误差（MSE）、平均绝对百分比误差（MAPE）。
3. 公式：
4. 正确率=100%−误差率正确率=100%−误差率
5. 参数调优：
6. 网格搜索（Grid Search）：遍历所有参数组合，找到最优解（精度高但耗时长）。
7. 随机搜索（Random Search）：随机抽取参数组合，高效找到较优解。
8. 交叉验证：三折交叉验证，确保模型稳定性。
9. 超参数优化：
10. 超参数：训练前设定的参数（如树的数量、最大深度）。
11. 优化目标：通过调整超参数（如从200棵树增至1000棵），提升模型准确率。

五、实践对比实验

1. 数据集对比：
2. 数据集一（338行，14个特征） vs 数据集二（2181行，17个特征）。
3. 结论：数据量越大、特征越丰富，模型准确率越高。
4. 参数空间拓展：
5. 向左/向右调整参数范围（如树深从10层→20层），观察准确率变化。

六、工具与代码关键点

1. 工具包：
2. pandas：读取CSV文件、数据清洗。
3. numpy：数值计算、数组操作。
4. matplotlib：绘图与可视化。
5. sklearn：模型构建、数据拆分、参数搜索。
6. 代码步骤：
7. 数据读取 → 预处理 → 拆分 → 训练 → 预测 → 评估 → 优化。

七、实战经验总结

1. 企业应用：
2. 高准确率是关键（如商品推荐转化率）。
3. 需反复调整数据样本和超参数，找到最优组合。