MSE, pérdida logarítmica, entropía cruzada, RMSE y los principios fundamentales de las funciones de pérdida populares
¡Bienvenido de nuevo! En el ‘Coraje para aprender ML‘, donde conquistamos los miedos del aprendizaje automático, un desafío a la vez. Hoy nos sumergimos de cabeza en el mundo de las funciones de pérdida: los superhéroes silenciosos que guían a nuestros modelos para aprender de los errores. En esta publicación, cubriríamos los siguientes temas:
- ¿Qué es una función de pérdida?
- Diferencia entre funciones de pérdida y métricas
- Explicando MSE y MAE desde dos perspectivas
- Tres ideas básicas a la hora de diseñar funciones de pérdida
- Uso de esas tres ideas básicas para interpretar MSE, pérdida logarítmica y pérdida de entropía cruzada
- Conexión entre pérdida de registro y pérdida de entropía cruzada
- Cómo manejar múltiples funciones de pérdida (objetivos) en la práctica
- Diferencia entre MSE y RMSE
Las funciones de pérdida son cruciales para evaluar la efectividad de un modelo durante su proceso de aprendizaje, similar a un examen o un conjunto de criterios. Sirven como indicadores de hasta qué punto las predicciones del modelo se desvían de las etiquetas verdaderas (las respuestas “correctas”). Normalmente, las funciones de pérdida evalúan el rendimiento midiendo la discrepancia entre las predicciones realizadas por el modelo y las etiquetas reales. Esta evaluación de la brecha informa al modelo sobre el alcance de los ajustes necesarios en sus parámetros, como ponderaciones o coeficientes, para capturar con mayor precisión los patrones subyacentes en los datos.
Existen diferentes funciones de pérdida en el aprendizaje automático. Estos factores incluyen la naturaleza de la tarea predictiva en cuestión, ya sea regresión o clasificación, la distribución de la variable objetivo, como lo ilustra el uso de Focal Loss para manejar conjuntos de datos desequilibrados, y la metodología de aprendizaje específica del algoritmo, como la Aplicación de la pérdida de bisagra en SVM. Comprender y seleccionar la función de pérdida adecuada es bastante importante, ya que influye directamente en cómo un modelo…