La naturaleza altamente parametrizada de los modelos de predicción complejos dificulta la descripción e interpretación de las estrategias de predicción. Los investigadores han introducido un enfoque novedoso que utiliza el análisis de datos topológicos (TDA) para resolver el problema. Estos modelos, incluidos el aprendizaje automático, las redes neuronales y los modelos de inteligencia artificial, se han convertido en herramientas estándar en diversos campos científicos, pero a menudo son difíciles de interpretar debido a su extensa parametrización.
Los investigadores de la Universidad Purdue reconocieron la necesidad de una herramienta que pudiera transformar estos intrincados modelos en un formato más comprensible. Aprovecharon TDA para construir redes Reeb, proporcionando una vista topológica que facilita la interpretación de estrategias de predicción. El método se aplicó a varios dominios, lo que demuestra su escalabilidad en grandes conjuntos de datos.
Las redes Reeb propuestas son esencialmente discretizaciones de estructuras topológicas, lo que permite la visualización de paisajes de predicción. Cada nodo de la red Reeb representa una simplificación local del espacio de predicción, calculado como un grupo de puntos de datos con predicciones similares. Los nodos están conectados en función de puntos de datos compartidos, lo que revela relaciones informativas entre las predicciones y los datos de entrenamiento.
Una aplicación importante de este enfoque es la detección de errores de etiquetado en datos de entrenamiento. Las redes Reeb demostraron ser efectivas para identificar regiones ambiguas o límites de predicción, lo que guió una mayor investigación sobre posibles errores. El método también demostró utilidad para comprender la generalización en la clasificación de imágenes e inspeccionar predicciones relacionadas con mutaciones patógenas en el gen BRCA1.
Se realizaron comparaciones con técnicas de visualización ampliamente utilizadas, como tSNE y UMAP, destacando la capacidad de las redes Reeb para proporcionar más información sobre los límites entre las predicciones y las relaciones entre los datos de entrenamiento y las predicciones.
La construcción de redes Reeb implica requisitos previos como un gran conjunto de puntos de datos con etiquetas desconocidas, relaciones conocidas entre los puntos de datos y una guía de valor real para cada valor predicho. Los investigadores emplearon un procedimiento recursivo de división y fusión llamado GTDA (TDA basado en gráficos) para construir la red Reeb a partir de los puntos de datos y el gráfico originales. El método es escalable, como lo demuestra su análisis de 1,3 millones de imágenes en ImageNet.
En aplicaciones prácticas, el marco de la red Reeb se aplicó a una red neuronal gráfica que predice tipos de productos en Amazon en función de las reseñas. Reveló ambigüedades clave en las categorías de productos, enfatizando las limitaciones de la precisión de la predicción y sugiriendo la necesidad de mejorar las etiquetas. Se obtuvieron conocimientos similares al aplicar el marco a un modelo ResNet50 previamente entrenado en el conjunto de datos de Imagenet, proporcionando una taxonomía visual de imágenes y descubriendo errores de etiquetado de verdad sobre el terreno.
Los investigadores también mostraron la aplicación de las redes Reeb para comprender las predicciones relacionadas con mutaciones genéticas malignas, particularmente en el gen BRCA1. Las redes resaltaron componentes localizados en la secuencia de ADN y su mapeo en estructuras secundarias, lo que ayudó a la interpretación.
En conclusión, los investigadores anticipan que las técnicas de inspección topológica, como las redes Reeb, desempeñarán un papel crucial a la hora de traducir modelos de predicción complejos en conocimientos procesables a nivel humano. La capacidad del método para identificar problemas, desde errores de etiquetado hasta la estructura de proteínas, sugiere su amplia aplicabilidad y potencial como herramienta de diagnóstico temprano para modelos de predicción.
Revisar la Papel y GitHub. Todo el crédito por esta investigación va a los investigadores de este proyecto. Además, no olvides unirte. nuestro SubReddit de 33k+ ML, 41k+ comunidad de Facebook, Canal de discordia, y Boletín electrónicodonde compartimos las últimas noticias sobre investigaciones de IA, interesantes proyectos de IA y más.
Si te gusta nuestro trabajo, te encantará nuestra newsletter.
Pragati Jhunjhunwala es pasante de consultoría en MarktechPost. Actualmente está cursando su B.Tech en el Instituto Indio de Tecnología (IIT), Kharagpur. Es una entusiasta de la tecnología y tiene un gran interés en el alcance del software y las aplicaciones de ciencia de datos. Siempre está leyendo sobre los avances en diferentes campos de la IA y el ML.