En el aprendizaje automático y la teoría del aprendizaje computacional , LogitBoost es un algoritmo de impulso formulado por Jerome Friedman , Trevor Hastie y Robert Tibshirani . El artículo original coloca el algoritmo AdaBoost en un marco estadístico. [1] Específicamente, si se considera a AdaBoost como un modelo aditivo generalizado y luego se aplica la función de costo de la regresión logística , se puede derivar el algoritmo LogitBoost.
Minimizar la función de costos de LogitBoost
LogitBoost puede verse como una optimización convexa . En concreto, dado que buscamos un modelo aditivo de la forma
el algoritmo LogitBoost minimiza la pérdida logística :
Ver también
Referencias
- ^ Friedman, Jerome; Hastie, Trevor; Tibshirani, Robert (2000). "Regresión logística aditiva: una visión estadística del impulso". Annals of Statistics . 28 (2): 337–407. CiteSeerX 10.1.1.51.9525 . doi : 10.1214 / aos / 1016218223 .