^转摘机器学习（十九）：梯度提升回归(GBR)

文章目录

• • 一、什么是梯度提升回归？
  • • 1.1 介绍
    • 1.2 步骤
    • 1.3 梯度提升的优势
  • 二、梯度提升
  • • 2.1 语法
    • 2.2 数据集
    • 2.3 数据准备
    • 2.4 梯度回归实现
    • 2.5 随机搜索
    • 2.6 特征重要性
    • 2.7 评估训练和测试偏差
  • 三、最后
  • • 3.1 总结
    • 3.2 优缺点

一、什么是梯度提升回归？

机器学习中的"提升"是一种将多个简单模型组合成单个复合模型的方法。这也是为什么 boosting 被称为加法模型的原因，因为简单模型（也称为弱学习器）一次添加一个，同时保持模型中现有的树不变。随着我们组合越来越多的简单模型，完整的最终模型成为更强大的预测器。"梯度提升"中的"梯度"一词源于该算法使用梯度下降来最小化损失。

     ===========================
    【来源： CSDN】
    【作者： 川川菜鸟】
    【原文链接】 https://chuanchuan.blog.csdn.net/article/details/126092383
    声明：转载此文是出于传递更多信息之目的。若有来源标注错误或侵犯了您的合法权益，请作者持权属证明与本网联系，我们将及时更正、删除，谢谢。