Los recientes avances en SSL han llevado al desarrollo de modelos de base (FM) que analizan datos biomédicos extensos, mejorando los resultados de salud. El monitoreo continuo de glucosa (CGM) ofrece datos de glucosa temporales y enriquecidos, pero debe utilizarse para predicciones de salud más amplias. El SSL permite que los FM analicen datos no etiquetados de manera eficiente, mejorando las tasas de detección en varios campos médicos, desde imágenes de retina hasta trastornos del sueño y patología. Con la diabetes que afecta a más de 500 millones de personas en todo el mundo y aumentando los costos de atención médica, el CGM ha demostrado ser superior al monitoreo tradicional de glucosa al mejorar el control glucémico y la calidad de vida. La aprobación de la FDA de un dispositivo CGM de venta libre resalta su creciente accesibilidad y los posibles beneficios para las personas diabéticas y no diabéticas.
Investigadores de instituciones como el Instituto de Ciencias Weizmann y NVIDIA presentan GluFormer, un modelo de base generativo que utiliza una arquitectura de transformador, entrenado en más de 10 millones de mediciones de CGM de 10,812 personas no diabéticas. GluFormer, entrenado con un enfoque autosupervisado, se generaliza bien en 15 conjuntos de datos externos y varias poblaciones, mostrando un rendimiento superior en la predicción de parámetros clínicos como HbA1c, métricas hepáticas y resultados de salud futuros, incluso hasta cuatro años por delante. El modelo también integra datos dietéticos para simular intervenciones dietéticas y personalizar las respuestas alimentarias. GluFormer representa un avance significativo en el manejo de enfermedades crónicas y la mejora de las estrategias de salud de precisión.
GluFormer es un modelo basado en transformadores diseñado para analizar datos de CGM de 10.812 participantes, cada uno de los cuales fue monitoreado durante dos semanas. El modelo procesa lecturas de glucosa, que se registran cada 15 minutos y se limpian inicialmente del ruido de calibración. Los datos se tokenizaron en 460 intervalos de valores de glucosa y se segmentaron en muestras de 1200 mediciones, con un token especial utilizado para muestras más cortas. La arquitectura del modelo incluye 16 capas de transformadores, 16 cabezales de atención y una dimensión de incrustación de 1024, que maneja secuencias de hasta 25.000 tokens. El preentrenamiento implicó predecir tokens posteriores utilizando enmascaramiento causal y pérdida de entropía cruzada. La optimización se realizó con AdamW y un programador de tasa de aprendizaje, y la evaluación final se basó en métricas de rendimiento de un conjunto de validación.
Los resultados de GluFormer se agruparon para su aplicación clínica utilizando métodos como Max Pooling, que resultó ser el más eficaz para predecir resultados clínicos como la HbA1c. Las métricas clínicas derivadas de los datos de CGM utilizando el paquete R iglu se utilizaron con modelos de regresión de cresta para predecir varios resultados. La generalización del modelo se evaluó en conjuntos de datos externos y se evaluó su capacidad para predecir los resultados de los ensayos clínicos aleatorizados. Se realizaron comparaciones con otros modelos, incluido un transformador simple y CNN. Al mismo tiempo, también se exploraron métodos para incorporar información temporal y datos dietéticos, lo que demostró que las incrustaciones temporales aprendidas y los tokens dietéticos mejoraron el rendimiento predictivo.
El modelo GluFormer demostró un rendimiento sólido en la generación de datos de CGM y la predicción de resultados clínicos. Entrenado en un gran conjunto de datos, GluFormer se destaca en la producción de señales de CGM precisas y su incorporación para diversas aplicaciones. Demostró un sólido rendimiento en la predicción de parámetros clínicos como HbA1c, tejido adiposo visceral y glucosa en ayunas. El modelo se generaliza de manera efectiva en todas las cohortes e integra datos dietéticos, lo que mejora las predicciones de la respuesta a la glucosa. Las mejoras, que incluyen la codificación temporal y la integración multimodal, refinan su precisión predictiva. Estos resultados subrayan la utilidad de GluFormer en la atención médica personalizada y su adaptabilidad a diversos conjuntos de datos y marcos temporales.
En conclusión, GluFormer, entrenado con datos de CGM de más de 10.000 personas no diabéticas, se destaca en la generación de señales de glucosa precisas y la predicción de una variedad de resultados clínicos. Supera las métricas tradicionales en la predicción de parámetros como HbA1c y función hepática y muestra una amplia aplicabilidad en diferentes poblaciones y condiciones de salud. El espacio latente del modelo captura de manera efectiva aspectos matizados del metabolismo de la glucosa, mejorando su capacidad para predecir la progresión de la diabetes y los resultados de los ensayos clínicos. La integración de datos dietéticos refina aún más sus predicciones. A pesar de su potencial, aún quedan desafíos, incluidas las limitaciones del conjunto de datos, la precisión de los datos dietéticos y la interpretabilidad del modelo. GluFormer representa un avance significativo en la gestión y la investigación de la salud metabólica personalizada.
Echa un vistazo a la Papel y ProyectoTodo el crédito por esta investigación corresponde a los investigadores de este proyecto. Además, no olvides seguirnos en Gorjeo y únete a nuestro Canal de Telegram y LinkedIn Gr¡Arriba!. Si te gusta nuestro trabajo, te encantará nuestro hoja informativa..
No olvides unirte a nuestro Subreddit con más de 50 000 millones de usuarios
Sana Hassan, pasante de consultoría en Marktechpost y estudiante de doble titulación en el IIT Madrás, es un apasionado de la aplicación de la tecnología y la IA para abordar los desafíos del mundo real. Con un gran interés en resolver problemas prácticos, aporta una perspectiva nueva a la intersección de la IA y las soluciones de la vida real.