Cuando comencé como científico de datos, esperaba utilizar modelos de última generación. XGBoost, Redes Neuronales. Estas cosas son complejas e interesantes y seguramente impulsarían mejoras. Lo que no sabía era que las modelos se enfrentaban a un obstáculo: explicárselo a otras personas.
¿Quién hubiera pensado que usted necesita comprender las decisiones que toman sus sistemas automatizados?
Para mi alegría, tropecé en la madriguera del conejo métodos independientes del modelo. Con estos, podría tener lo mejor de ambos mundos. Podría entrenar modelos de caja negra y luego explicarlos usando métodos como FORMA, CAL, PDP, ALE y Estadística H de Friedman. ¡Ya no necesitamos cambiar la precisión por la interpretabilidad!
No tan rápido. Ese pensamiento es erróneo.
En nuestra búsqueda del mejor rendimiento, a menudo perdemos el objetivo del aprendizaje automático: es decir, hacer predicciones precisas sobre nuevos datos invisibles. Analicemos por qué los modelos complejos no siempre son la mejor manera de lograrlo. Incluso si podemos explicarlos usando otros métodos.