Написал статейку о том как работает градиентный бустинг простыми словами и с живым примером. Если брать определение из словарика, то градиентный бустинг - модель машинного обучения, решающая задачи классификации и регрессии. Она состоит из ансамбля более слабых моделей (чаще всего дерево решений) и учится последовательно на ошибках предыдущей модели. Но здесь я попытался упростить все сложные статьи с кучей математических терминов, коих в интернете немало. В качестве скриншотов прикладываю пример, где градиентный бустинг обучается предсказывать стоимость 4 квартир по шагам (смотреть с первого скриншота).