¿Qué es el equilibrio entre sesgo y varianza?
El equilibrio entre sesgo y varianza es un concepto fundamental en el aprendizaje automático que se refiere al equilibrio entre la capacidad de un modelo para ajustarse bien a los datos de entrenamiento (bajo sesgo) y su capacidad para generalizar a nuevos datos no vistos (baja varianza).
El sesgo es la diferencia entre los valores predichos de un modelo y los valores reales de los datos.
Un modelo con un sesgo elevado suele ser excesivamente simplista y no puede captar la complejidad de los datos, lo que da lugar a un ajuste insuficiente.
En otras palabras, el modelo no es capaz de aprender los patrones subyacentes de los datos y sus predicciones son sistemáticamente erróneas.
La varianza es la variabilidad de las predicciones del modelo para diferentes conjuntos de datos de entrenamiento.
Un modelo con una varianza elevada suele ser demasiado complejo y se ha ajustado en exceso a los datos de entrenamiento, lo que da lugar a un modelo que no es capaz de generalizar bien a nuevos datos.
En otras palabras, el modelo ha memorizado los datos de entrenamiento y es incapaz de aplicar lo que ha aprendido a nuevos datos.
El objetivo del aprendizaje automático es encontrar el equilibrio óptimo entre sesgo y varianza, seleccionando un modelo lo bastante complejo como para captar los patrones subyacentes en los datos, pero no tan complejo como para aplicar en exceso los datos de entrenamiento.
Esto puede lograrse seleccionando un modelo de complejidad adecuada, utilizando técnicas de regularización para penalizar los modelos complejos o empleando métodos de conjunto para combinar varios modelos con diferentes sesgos y varianzas.