Resumen
La regresión logística es, en esencia, un modelo de clasificación binaria (al menos en su forma básica), utilizado ampliamente en la industria crediticia desde hace muchos años y que cuenta con la particularidad de ser, al igual que la regresión lineal, interpretable en cuanto a la toma de decisiones. Es un modelo intrínsecamente lineal y las estimaciones de los parámetros obtenidos son accesibles, pudiendo establecerse conclusiones individuales sobre la importancia que conlleva cada variable sobre la estimación final de la variable dependiente, así como también aplicar pruebas estadísticas sobre dichos parámetros.
A diferencia de la regresión lineal, el resultado del modelo no será una cantidad en unidades medibles, sino más bien una probabilidad, estando esta entre 0 y 1. En ese sentido, se pueden establecer diferentes criterios para finalmente optar por un valor u otro, utilizando habitualmente el punto medio (0,5) como punto de corte. Así también, suele presentarse el escenario en el cual se busca clasificar correctamente en pos de una u otra categoría (por ejemplo, en medicina, donde es preferible decirle a un paciente que está enfermo a que no lo está) y para ello se buscará que el modelo se ajuste a obtener resultados propensos en una u otra dirección. Las medidas más utilizadas para ello son la precisión, el recall, la tasa de falsos y verdaderos positivos, y varias otras medidas disponibles a través de la construcción de la matriz de confusión, herramienta por excelencia para la evaluación, no solo de la regresión logística, sino de los modelos de clasificación (o clasificadores) en general.
Con el auge de la ciencia de datos / machine learning, la regresión logística ha ido dando lugar a otros modelos más sencillos de calcular / interpretar, como los árboles de decisión o random forests, y que además no necesitan de supuestos sobre la distribución de los datos (el modelo en sí) para su uso y posterior elaboración de conclusiones. En el siguiente capítulo se verán algunos de ellos.
Ampliación Más allá de la matriz de confusión
La matriz de confusión sigue siendo el punto de partida para evaluar un clasificador, pero resume el desempeño en un único punto de corte, y una evaluación completa exige mirar más allá.
Elegir el umbral
El punto medio (0,5) es una convención, no un óptimo. El umbral adecuado depende del costo de cada tipo de error y de la frecuencia de la clase de interés: en la detección de fraude, dejar pasar un caso puede costar mucho más que revisar uno legítimo. Lo recomendable es elegir el umbral que minimiza el costo esperado sobre datos de validación (no los de entrenamiento); scikit-learn incluye herramientas para ajustarlo con validación cruzada.
Métricas que no dependen del umbral
- La curva ROC y el área bajo ella (AUC) resumen el desempeño en todos los umbrales posibles.
- Cuando la clase de interés es poco frecuente, la curva de precisión y recall es más informativa que la ROC.
- La exactitud (accuracy) engaña con clases desbalanceadas: si el 1% de las transacciones son fraudulentas, un modelo que nunca detecta fraude acierta el 99% de las veces.
Calibración
Si el modelo devuelve una probabilidad y esa probabilidad se usa como tal (para fijar un precio, priorizar casos o calcular un valor esperado), no alcanza con que ordene bien: tiene que estar calibrada. Es decir, entre los casos a los que asigna alrededor de 0,2, aproximadamente el 20% debería pertenecer a la clase positiva. Se verifica con una curva de calibración y se resume con medidas como el puntaje de Brier o la pérdida logarítmica. La regresión logística tiende a producir probabilidades bien calibradas, porque se ajusta optimizando justamente esa pérdida; muchos otros modelos requieren verificarlo y, de ser necesario, recalibrar (por ejemplo, con los métodos de Platt o isotónico).
Una precisión sobre el último párrafo
Lo dicho en el resumen sobre árboles y random forests merece un matiz: estos modelos son más flexibles (no requieren suponer una forma funcional), pero un random forest no es más sencillo de interpretar que una regresión logística, sino lo contrario. La regresión logística sigue siendo estándar en ámbitos como el riesgo crediticio justamente por su interpretabilidad y su calibración, y es una base obligada contra la cual comparar modelos más complejos (ver KNN y CART).
Estas mismas herramientas sirven para evaluar a un modelo de lenguaje usado como clasificador, tarea que se desarrolla en Verificar lo que dice la máquina.
Para profundizar
- Logistic Regression. An Introduction to Statistical Learning (2.ª ed.), James, Witten, Hastie y Tibshirani, pág. 133 a 139.
- Logistic Regression. Interpretable Machine Learning, Christoph Molnar, cap. 7.
- Logistic Regression. Introduction to Modern Statistics, OpenIntro, cap. 9.
- Logistic Regression in Python. Real Python.
- Regresión logística. Laboratorio de Datos, 1.er cuatrimestre 2021, UBA: clase 8.
Ampliación
- Tuning the decision threshold for class prediction. Guía de usuario de scikit-learn.
- Probability calibration. Guía de usuario de scikit-learn.
- Metrics and scoring: quantifying the quality of predictions. Guía de usuario de scikit-learn.
- The Precision-Recall Plot Is More Informative than the ROC Plot When Evaluating Binary Classifiers on Imbalanced Datasets. Saito y Rehmsmeier, PLOS ONE, 2015.