Regresión logística
En estadística, la regresión logística es un tipo de análisis de regresión utilizado para predecir el resultado de una variable categórica (una variable que puede adoptar un número limitado de categorías) en función de las variables independientes o predictoras. Es útil para modelar la probabilidad de un evento ocurriendo en función de otros factores. El análisis de regresión logística se enmarca en el conjunto de Modelos Lineales Generalizados (GLM por sus siglas en inglés) que usa como función de enlace la función logit. Las probabilidades que describen el posible resultado de un único ensayo se modelan como una función de variables explicativas, utilizando una función logística.
La regresión logística es usada extensamente en las ciencias médicas y sociales. Otros nombres para regresión logística usados en varias áreas de aplicación incluyen modelo logístico, modelo logit, y clasificador de máxima entropía.
Introducción[editar]
La regresión logística analiza datos distribuidos binomialmente de la forma
donde los números de ensayos Bernoulli son conocidos y las probabilidades de éxito son desconocidas. Un ejemplo de esta distribución es el porcentaje de semillas () que germinan después de que son plantadas.
El modelo es entonces obtenido a base de lo que cada ensayo (valor de ) y el conjunto de variables explicativas/independientes puedan informar acerca de la probabilidad final. Estas variables explicativas pueden pensarse como un vector -dimensional y el modelo toma entonces la forma
Note que un elemento particular de puede ser ajustado a 1 para todo obteniéndose una constante independiente en el modelo. Los parámetros desconocidos son usualmente estimados a través del método de máxima verosimilitud.
La interpretación de los estimados del parámetro es como los efectos aditivos en el logaritmo de la razón de momios para una unidad de cambio en la jésima variable explicativa. En el caso de una variable explicativa dicotómica, por ejemplo género, es la estimación de la razón de momios (odds ratio) de tener el resultado para, por decir algo, hombres comparados con mujeres. El modelo tiene una formulación equivalente dada por:
Esta forma funcional es comúnmente identificada como un "perceptrón" de una capa simple o red neuronal artificial de una sola capa. Una red neuronal de una sola capa calcula una salida continua en lugar de una función definida a trozos. La derivada de pi con respecto a X = x1...xk es calculada de la forma general:
donde es una función analítica en X. Con esta elección, la red de capa simple es idéntica al modelo de regresión logística. Esta función tiene una derivada continua, la cual permite ser usada en propagación hacia atrás. Esta función también es preferida pues su derivada es fácilmente calculable:
Implementación práctica[editar]
La regresión logística unidimensional puede usarse para tratar de correlacionar la probabilidad de una variable cualitativa binaria (asumiremos que puede tomar los valores reales "0" y "1") con una variable escalar x. La idea es que la regresión logística aproxime la probabilidad de obtener "0" (no ocurre cierto suceso) o "1" (ocurre el suceso) con el valor de la variable explicativa x. En esas condiciones, la probabilidad aproximada del suceso se aproximará mediante una función logística del tipo:[1]
que puede reducirse al cálculo de una regresión lineal para la función logit de la probabilidad:
o una regresión exponencial:
El gráfico de la función logística se muestra en la figura que encabeza esta sección, la variable independiente es la combinación lineal y la variable dependiente es la probabilidad estimada . Si se realiza la regresión lineal, la forma de la probabilidad estimada puede ser fácilmente recuperada a partir de los coeficientes calculados:[1]
Para hacer la regresión deben tomarse los valores de las observaciones ordenados de mayor a menor y formar la siguiente tabla:
Valores ordenados |
Valor de categoría |
Probabilidad estimada |
Logit |
---|---|---|---|
X1 | ε1 | π(X1) | g(X1) |
X2 | ε2 | π(X2) | g(X2) |
... | ... | ... | ... |
Xn | εn | π(Xn) | g(Xn) |
Donde εi es "0" o "1" según el caso y además:
En el cálculo de g pueden aparecer problemas al principio del intervalo si π(Xj) = 0 para algunos valores de .
Ejemplo[editar]
Sea la probabilidad de éxito cuando el valor de la variable predictora es entonces sea
Después de algunas operaciones se prueba que
donde son las posibilidades en favor de éxito.
Si tomamos un valor de ejemplo, digamos p(50) = 2/3, entonces
Cuando x = 50, un éxito es dos veces tan probable como una falla. Es decir, se puede decir simplemente que las chances (odds) son 2 a 1.
Extensiones[editar]
Algunas extensiones del modelo existen para tratar variables dependientes multicategóricas y/o ordinales, tales como la regresión politómica. La clasificación en varias clases por regresión logística es conocida como regresión logística multinomial. Una extensión del modelo logístico para ajustar conjuntos de variables independientes es el campo aleatorio condicional.
Véase también[editar]
- Red neuronal artificial
- Minería de datos
- Modelos de regresión múltiple postulados y no postulados
- Análisis discriminante lineal
- Perceptrón
- Modelo probit
- Análisis de regla de variables
- Modelo de Jarrow-Turnbull
Referencias[editar]
Bibliografía[editar]
- Agresti, Alan. (2002). Categorical Data Analysis. New York: Wiley-Interscience. ISBN 0-471-36093-7.
- Amemiya, T. (1985). Advanced Econometrics. Harvard University Press. ISBN 0-674-00560-0.
- Balakrishnan, N. (1991). Handbook of the Logistic Distribution. Marcel Dekker, Inc. ISBN 978-0824785871.
- Green, William H. (2003). Econometric Analysis, fifth edition. Prentice Hall. ISBN 0-13-066189-9.
- Hosmer, David W.; Stanley Lemeshow (2000). Applied Logistic Regression, 2nd ed. New York; Chichester, Wiley. ISBN 0-471-35632-8.