Google Research presenta SensorFM: un modelo básico de salud portátil previamente entrenado con un billón de minutos de datos de sensores

La mayoría de los modelos de salud portátiles se crean para un resultado a la vez. Ese enfoque se divide en treinta y cinco puntos finales. Las etiquetas son caras y la anotación retrospectiva no es factible.

Google Research presentó SensorFM, un modelo básico para la salud portátil previamente entrenado con más de 1 billón de minutos de datos de sensores de 5 millones de personas.

https://arxiv.org/pdf/2605.22759

¿Qué es SensorFM?

SensorFM es un modelo básico de sensores grandes para el aprendizaje de representación de series temporales portátiles. Incorpora 34 funciones agregadas de un minuto extraídas de cinco sensores: PPG, acelerómetro, EDA, temperatura de la piel y altímetro. Esas funciones están organizadas en siete categorías, en una ventana contextual de 24 horas.

La columna vertebral es un codificador ViT-1D entrenado con un objetivo de codificador automático enmascarado y un tamaño de parche de [20, 1]. El preentrenamiento utilizó 5.000.000 de participantes consentidos, muestreados entre septiembre de 2024 y septiembre de 2025. Ese corpus abarca más de 100 países, los 50 estados de EE. UU. y más de 20 modelos de Fitbit y Pixel Watch. En total, más de dos mil millones de horas, o más de un billón de minutos.

Existen cuatro variantes, cada una combinada con un volumen de datos proporcional.

VarianteParámetrosCodificador oculto / capasDatos proporcionalesSensor-horasXXS138,74064 / 25K sujetos2×10⁶XS933,204128 / 450K sujetos2×10⁷S7,290,068256 / 8500K sujetos2×10⁸B110,763,412768 / 125 millones de sujetos2×10⁹

La evaluación utiliza datos separados. Cubre 13.985 sujetos en tres estudios prospectivos aprobados por el IRB. Se trata de salud metabólica, cardíaca y respiratoria (N = 1.655), sueño (N = 6.377) y salud mental (N = 5.953). Las 35 tareas cubren cardiovascular (6), metabólica (8), salud mental (8), sueño (3), demografía (4) y estilo de vida (6).

El caso de la escala

Con esa configuración, la primera pregunta es si la escala compra algo mensurable. El equipo de investigación analizó cuatro tamaños de modelos en cuatro volúmenes de datos.

SensorFM-B en el corpus 5M reduce la pérdida de validación de reconstrucción en un 31 % en comparación con SensorFM-XXS. La pérdida generativa cae un 28% en promedio. En sentido descendente, gana ΔAUC = 0,09 en clasificación y Δr = 0,21 en regresión. En todas las variantes, B gana 33 de 35 tareas y XXS ocupa el último lugar en 33 de 35.

El caso del fracaso es igualmente informativo. SensorFM-B entrenado en solo 5.000 sujetos registra una pérdida de validación de 1.082. Esto es peor que cualquier variante más pequeña con el mismo volumen. El preentrenamiento se detuvo antes de tiempo porque el modelo se sobreajustó.

https://arxiv.org/pdf/2605.22759

En consecuencia, todos los resultados principales suponen volúmenes de datos escalados proporcionalmente a la capacidad. A lo largo de esa diagonal coescalada, el AUC medio de la República de China se mueve .664, .681, .710, .752. La media de Pearson r se mueve .386, .435, .536, .612. La figura anterior muestra que la tendencia no se ha saturado.

OBJETIVO: Manejo de datos faltantes como señal

La escala por sí sola no explica esas cifras. Las transmisiones reales se fragmentan durante la carga, los períodos sin muñeca y los modos de ahorro de energía. Los métodos convencionales imputan las brechas, inyectando sesgos, o eliminan las ventanas, descartando datos.

En cambio, SensorFM utiliza el enmascaramiento adaptativo y heredado (AIM), introducido por Xu et al. en LSM-2. La máscara aplicada es la unión de la máscara de falta heredada y la máscara artificial. La pérdida se calcula únicamente en parches enmascarados artificialmente que tenían verdad sobre el terreno. El enmascaramiento de tokens de dos etapas, que utiliza la eliminación de tokens y el enmascaramiento de atención, mantiene esto eficiente.

Debido a que el decodificador aprende a reconstruir observaciones eliminadas, la imputación y el pronóstico son gratuitos.

Tarea generativaRelleno medioRelleno NNInterp.linealSensorFM-BRimputación aleatoria, 80%0.9151.0200.8540.215Interpolación temporal, 60 min0.9040.9430.7770.468Extrapolación temporal, 60 min0.9371.1021.1020.563Señal imputación, 12/26 canales1.0251.0251.0250.170

MSE de reconstrucción en el conjunto de prueba retenido, cuanto más bajo, mejor.

En comparación con la mejor línea de base, SensorFM mejora la imputación aleatoria en un 74,8 %. La imputación de la señal del sensor mejora en un 83,7%.

Práctica: adaptación de las incrustaciones

Convertir esa representación en predicciones es sencillo. El codificador permanece congelado. Las incorporaciones se agregan por persona, utilizando la media y la desviación estándar entre días. Estos se reducen a 50 componentes principales. Luego, una cabeza lineal se entrena bajo una validación cruzada quíntuple independiente de la persona.

importar numpy como np de sklearn.decomposition importar PCA de sklearn.linear_model importar LogisticRegression de sklearn.model_selection importar StratifiedKFold de sklearn.metrics importar roc_auc_score def person_level(emb, pid): “””Contraer incrustaciones a nivel de día en un vector por participante.””” people = np.unique(pid) feats = []
para p en personas: e = emb[pid == p] # (n_días, d) hazañas.append(np.concatenate([e.mean(axis=0), e.std(axis=0)])) devuelve np.nan_to_num(np.stack(feats)), personas # pandas std() es NaN en 1 día X, personas = person_level(emb, pid) # emb: incorporaciones congeladas de SensorFM y = etiquetas[people] # una etiqueta por participante aucs = []
para tr, te en StratifiedKFold(5, shuffle=True, random_state=0).split(X, y): pca = PCA(n_components=50).fit(X[tr]) # PCA-50, solo cabe en el pliegue del tren clf = LogisticRegression(max_iter=400) # paper: AdamW, lr 5e-3, wd 1e-4, 400 pasos clf.fit(pca.transform(X[tr]), y[tr]) p = clf.predict_proba(pca.transform(X[te]))[:, 1]
aucs.append(roc_auc_score(y[te]p)) imprimir(np.media(aucs))

Esta sonda lineal supera una línea base supervisada de ingeniería de funciones en 34 de 35 tareas. A continuación se muestran los resultados seleccionados.

TaskMetricDemostraciones. solo hazaña. Eng.SensorFM-BAger–.662.920Mental Health Med.ROC.594.773.819PHQ-8r.303.354.450Resistencia a la insulinaROC.717.710.761Hypertension DxROC.762.747.786Framingham 30 Riskr.782.592.714

La última fila no es un caso atípico. Las puntuaciones de ASCVD y Framingham se calculan a partir de características demográficas. Por lo tanto, los modelos exclusivamente demográficos ganan por construcción. El equipo de investigación informa que SensorFM es mejor en 31 de 35 tareas, no en todas.

Dos advertencias se encuentran en las mismas mesas. La demografía todavía ayuda a SensorFM en 22 de 30 tareas, aunque el impulso se reduce con la escala. En los regímenes de muy baja etiqueta, sólo los antecedentes demográficos siguen siendo fuertes.

El aula agente

Incluso una sonda lineal necesita un ajuste por tarea. Para automatizar esto, el equipo de investigación dirigió un “aula” de cinco agentes estudiantes de LLM. Estos abarcan desde el flash gemini-2.5 hasta la vista previa pro gemini-3.1. Los agentes generan, ejecutan, puntúan y refinan los cabezales de Python durante 20 ciclos, utilizando incorporaciones no reducidas.

En total realizaron 30.516 experimentos. Las cabezas encontradas por agentes superaron a la sonda lineal en 16 de 20 tareas de clasificación, medidas por F1. También plantearon la correlación de Pearson en 12 de 15 tareas de regresión. La calidad de la solución siguió el Índice de Inteligencia de Análisis Artificial.

Las soluciones ganadoras son conservadoras. Casi todos redujeron el espacio de incrustación a entre 50 y 100 dimensiones. Los modelos lineales superaron en número a los no lineales y los conjuntos aparecieron en menos de una cuarta parte.

Poner a tierra a un agente de salud personal

El experimento final prueba SensorFM como una herramienta, no como un punto de referencia. Gemini 3 Flash generó resúmenes de salud para 31 perfiles de participantes reales. Cada condición recibió datos demográficos y métricas diarias diseñadas con funciones. Luego, las condiciones agregaron predicciones de SensorFM, objetivos de verdad sobre el terreno o nada.

Según el artículo de investigación, cuatro médicos certificados, cegados a la condición, produjeron 1.860 calificaciones en cinco dimensiones de rúbrica. La adición de predicciones de SensorFM superó la línea de base en general (W = 10110, p <0,001) y en cada dimensión. Sus predicciones fueron estadísticamente indistinguibles de la verdad fundamental (p = 0,396).

Casos de uso

Detección y estratificación de riesgos: un codificador congelado más un cabezal lineal señala a los candidatos para análisis de laboratorio de confirmación. El artículo abarca esto a la detección, no al diagnóstico. Reparación de resúmenes diarios: con 60 minutos contiguos eliminados, SensorFM conserva el 99,7 % del recuento de pasos y el 99,9 % de precisión en el sueño profundo. Estudios con escasez de etiquetas: investigue las incorporaciones congeladas en lugar de realizar un entrenamiento de un extremo a otro. Primero compare con una línea de base únicamente demográfica. Entrenamiento fundamentado: el indicador del agente prohíbe emitir valores de regresión sin procesar o indicadores booleanos. En cambio, las predicciones se interpretan cualitativamente.

Explorador interactivo

¿Necesita asociarse con nosotros para promocionar su repositorio de GitHub O su página principal de Hugging O su lanzamiento de producto O seminario web, etc.? Conéctate con nosotros