新树只修正“还没解释的部分”
① 均值起步 → ② 拟合残差树桩 → ③ 按学习率加到已有预测。
当前轮 训练 RMSE 本轮树桩
目标与累计预测 · 相同训练点
当前残差 y − F · 零线是修正目标
教学示意 / 固定 8 个训练样本。金色点:目标;青线:累计预测;珊瑚柱:当前残差。每轮遍历候选中点,叶值取残差均值。这里只演示基础平方误差 boosting,非完整 XGBoost;无独立验证样本,训练误差下降不证明泛化。改变学习率重算当前轮;若在第0轮,则立即显示第1轮,便于比较修正幅度。