Introducción
Por lo general, viene con una suposición implícita: se necesitan muchos datos etiquetados.
Al mismo tiempo, muchos modelos son capaces de descubrir estructuras en datos sin ninguna etiqueta.
Los modelos generativos, en particular, suelen organizar los datos en grupos significativos durante el entrenamiento no supervisado. Cuando se les entrena con imágenes, pueden separar naturalmente dígitos, objetos o estilos en sus representaciones latentes.
Esto plantea una pregunta simple pero importante:
Si un modelo ya ha descubierto la estructura de los datos sin etiquetas, ¿cuánta supervisión se necesita realmente para convertirlo en un clasificador?
En este artículo, exploramos esta cuestión utilizando un codificador automático variacional de mezcla gaussiana (GMVAE) (Dilokthanakul et al., 2016).
Conjunto de datos
Utilizamos el conjunto de datos EMNIST Letters introducido por Cohen et al. (2017), que es una extensión del conjunto de datos MNIST original.
Fuente: Base de datos especial del NIST 19 Procesado por: Cohen et al. (2017) Tamaño: 145 600 imágenes (26 clases equilibradas) Propiedad: Instituto Nacional de Estándares y Tecnología (NIST) de EE. UU. Licencia: Dominio público (trabajo del gobierno de EE. UU.)
Descargo de responsabilidad
El código proporcionado en este artículo está destinado únicamente a fines de investigación y reproducibilidad.
Actualmente está adaptado a los conjuntos de datos MNIST y EMNIST y no está diseñado como un marco de propósito general.
Extenderlo a otros conjuntos de datos requiere adaptaciones (preprocesamiento de datos, ajuste de arquitectura y selección de hiperparámetros).El código y los experimentos están disponibles en GitHub: https://github.com/murex/gmvae-label-decoding
Esta elección no es arbitraria. EMNIST es mucho más ambiguo que el conjunto de datos MNIST clásico, lo que lo convierte en un mejor punto de referencia para resaltar la importancia de las representaciones probabilísticas (Figura 1).
El GMVAE: Estructura de aprendizaje de forma no supervisada
Un codificador automático variacional (VAE) estándar es un modelo generativo que aprende una representación latente continua 𝒛boldsymbol{z} de los datos.
Más precisamente, cada punto de datos 𝒙boldsymbol{x} se asigna a una distribución normal multivariada 𝒒(𝒛|𝒙)boldsymbol{q(z | x)}, llamada posterior.
Sin embargo, esto no es suficiente si queremos realizar agrupaciones. Con un prior gaussiano estándar, el espacio latente tiende a permanecer continuo y no se separa naturalmente en grupos distintos.
Aquí es donde entran en juego las GMVAE.
Un GMVAE extiende el VAE reemplazando el anterior con una mezcla de 𝑲boldsymbol{K}componentes, donde 𝑲boldsymbol{K} se elige de antemano.
Para lograr esto, se introduce una nueva variable latente discreta 𝒄boldsymbol{c}:
Esto permite que el modelo aprenda una distribución posterior sobre grupos:
Cada componente de la mezcla puede entonces interpretarse como un grupo.
En otras palabras, los GMVAE aprenden intrínsecamente grupos durante el entrenamiento.
La elección de 𝑲boldsymbol{K} controla un equilibrio entre expresividad y confiabilidad.
Si 𝑲boldsymbol{K} es demasiado pequeño, los grupos tienden a fusionar estilos distintos o incluso letras diferentes, lo que limita la capacidad del modelo para capturar estructuras detalladas. Si 𝑲boldsymbol{K} es demasiado grande, los grupos se fragmentan demasiado, lo que dificulta estimar relaciones confiables entre etiquetas y grupos a partir de un subconjunto etiquetado limitado.
Elegimos 𝑲=100boldsymbol{K = 100} como compromiso: lo suficientemente grande como para capturar variaciones estilísticas dentro de cada clase, pero lo suficientemente pequeño como para garantizar que cada grupo esté suficientemente representado en los datos etiquetados (Figura 1).
Se capturan diferentes variantes estilísticas de una misma letra, como una F mayúscula (c=36) y una f minúscula (c=0).
Sin embargo, los grupos no son puros: por ejemplo, el componente c=73 representa predominantemente la letra “T”, pero también incluye muestras de “J”.
Convertir grupos en un clasificador
Una vez entrenado el GMVAE, cada imagen se asocia con una distribución posterior sobre grupos: 𝒒(𝒄|𝒙)boldsymbol{q(c | x)}.
En la práctica, cuando se desconoce el número de clústeres, se puede tratar como un hiperparámetro y ajustar mediante una búsqueda en cuadrícula.
Una idea natural es asignar cada punto de datos a un único grupo.
Sin embargo, los grupos en sí mismos aún no tienen significado semántico. Para conectar clústeres a etiquetas, necesitamos un subconjunto etiquetado.
Una base natural para esta tarea es el enfoque clásico de agrupamiento y luego etiqueta: los datos se agrupan primero utilizando un método no supervisado (por ejemplo, k-medias o GMM), y a cada grupo se le asigna una etiqueta basada en el subconjunto etiquetado, generalmente mediante votación mayoritaria.
Esto corresponde a una estrategia de asignación estricta, en la que cada punto de datos se asigna a un único grupo antes del etiquetado.
Por el contrario, nuestro enfoque no se basa en una única asignación de clúster.
En cambio, aprovecha la distribución posterior completa sobre grupos, lo que permite que cada punto de datos se represente como una mezcla de grupos en lugar de una única asignación discreta.
Esto puede verse como una generalización probabilística del paradigma de grupo y luego etiqueta.
¿Cuántas etiquetas se requieren teóricamente?
En un escenario ideal, los clusters son perfectamente puros: cada cluster corresponde a una sola clase. En tal caso, los conglomerados también tendrían tamaños iguales.
Aún en esta configuración ideal, supongamos que podemos elegir qué puntos de datos etiquetar.
Entonces, un único ejemplo etiquetado por grupo sería suficiente, es decir, solo K etiquetas en total.
En nuestro entorno (N = 145.600, K = 100), esto corresponde a sólo el 0,07% de los datos etiquetados.
Sin embargo, en la práctica suponemos que las muestras etiquetadas se extraen al azar.
Bajo este supuesto, y aún asumiendo tamaños de conglomerados iguales, podemos derivar un límite inferior aproximado de la cantidad de supervisión necesaria para cubrir todos los conglomerados 𝑲boldsymbol{K} con un nivel de confianza elegido.
En nuestro caso (𝑲=100boldsymbol{K = 100}), obtenemos un mínimo de aproximadamente 0,6 % de datos etiquetados para cubrir todos los grupos con un 95 % de confianza.
Podemos relajar el supuesto de igual tamaño y derivar una desigualdad más general, aunque no admite una solución de forma cerrada.
Desafortunadamente, todos estos cálculos son optimistas:
en la práctica, los cúmulos no son perfectamente puros. Un solo grupo puede, por ejemplo, contener tanto “i” como “l” en proporciones comparables.
Y ahora, ¿cómo asignamos etiquetas a los datos restantes?
Comparamos dos formas diferentes de asignar etiquetas a los datos restantes (sin etiquetar):
Decodificación dura: ignoramos las distribuciones de probabilidad proporcionadas por el modelo Decodificación suave: las explotamos al máximo
Decodificación difícil
La idea es sencilla.
Primero, asignamos a cada grupo 𝒄boldsymbol{c} una etiqueta única ℓ(𝒄)boldsymbol{ell(c)} usando el subconjunto etiquetado.
Más precisamente, asociamos cada grupo con la etiqueta más frecuente entre los puntos etiquetados que se le asignan.
Ahora, dada una imagen sin etiquetar 𝒙boldsymbol{x}, la asignamos a su grupo más probable:
Luego asignamos a 𝒙boldsymbol{x} la etiqueta asociada con este grupo, es decir, ℓ(𝒄𝒉𝒂𝒓𝒅(𝒙))boldsymbol{ ell(c_{hard}(x))}:
Sin embargo, este enfoque adolece de dos limitaciones importantes:
1. Ignora la incertidumbre del modelo para una entrada dada 𝒙boldsymbol{x} (el GMVAE puede “vacilar” entre varios grupos)
2. Se supone que los conglomerados son puros, es decir, que cada conglomerado corresponde a una única etiqueta, lo que generalmente no es cierto.
Esto es precisamente lo que pretende abordar la decodificación suave.
Decodificación suave
En lugar de asumir que cada grupo corresponde a una sola etiqueta, usamos el subconjunto etiquetado para estimar, para cada etiqueta ℓboldsymbol{ell}, un vector de probabilidad de tamaño 𝑲boldsymbol{K}:
¡Este vector representa empíricamente la probabilidad de pertenecer a cada grupo cc, dado que la etiqueta verdadera es ℓboldsymbol{ell}, que en realidad es una representación empírica de 𝒑(𝒄|ℓ)boldsymbol{p(c | ell)}!
Al mismo tiempo, el GMVAE proporciona, para cada imagen 𝒙boldsymbol{x}, un vector de probabilidad posterior:
Luego asignamos a 𝒙boldsymbol{x} la etiqueta ℓboldsymbol{ell} que maximiza la similitud entre 𝒎(ℓ)boldsymbol{m(ell)} y 𝒒(𝒙)boldsymbol{q(x)}:
Esta regla de decisión suave naturalmente tiene en cuenta:
La incertidumbre del modelo para xx, al usar el posterior completo 𝒒(𝒙)=𝒒(𝒄|𝒙)boldsymbol{q(x) = q(c mid x)} en lugar de solo su máximo. El hecho de que los conglomerados no sean perfectamente puros, al permitir que cada etiqueta se asocie con múltiples conglomerados.
¡Esto se puede interpretar como comparar 𝒒(𝒄|𝒙)boldsymbol{q(c mid x)} con 𝒑(𝒄|ℓ)boldsymbol{p(c mid ell)} y seleccionar la etiqueta cuya distribución de grupo coincida mejor con la posterior de 𝒙boldsymbol{x}!
Un ejemplo concreto donde ayuda la decodificación suave
Para comprender mejor por qué la decodificación suave puede superar a la regla estricta, veamos un ejemplo concreto (Figura 2).
En este caso, la verdadera etiqueta es e. El modelo produce la distribución posterior del grupo que se muestra en el centro de la figura 2:
para los grupos 76, 40, 35, 81, 61 respectivamente.
La regla estricta sólo considera el grupo más probable:
Dado que el grupo 76 está asociado principalmente con la etiqueta c, la predicción difícil se vuelve
lo cual es incorrecto.
En cambio, la decodificación suave agrega información de todos los grupos plausibles.
Intuitivamente, esto calcula un voto ponderado de conglomerados utilizando sus probabilidades posteriores.
En este ejemplo, varios grupos corresponden fuertemente a la etiqueta correcta e.
Aproximación de la votación:
mientras
Aunque el grupo 76 domina claramente la parte posterior, la mayor parte de la masa de probabilidad en realidad reside en los grupos asociados con la etiqueta correcta. Al agregar estas señales, la regla flexible predice correctamente
Esto ilustra la limitación clave de la decodificación estricta: descarta la mayor parte de la información contenida en la distribución posterior 𝒒(𝒄|𝒙)boldsymbol{q(c mid x)}. La decodificación suave, por otro lado, aprovecha toda la incertidumbre del modelo generativo.
¿Cuánta supervisión necesitamos en la práctica?
Dejando la teoría a un lado, veamos cómo funciona esto con datos reales.
El objetivo aquí es doble:
comprender cuántas muestras etiquetadas se necesitan para lograr una buena precisión y determinar cuándo es beneficiosa la decodificación suave
Para ello, aumentamos progresivamente el número de muestras etiquetadas y evaluamos la precisión de los datos restantes.
Comparamos nuestro enfoque con líneas de base estándar: regresión logística, MLP y XGBoost.
Los resultados se informan como precisión media con intervalos de confianza (95%) en 5 semillas aleatorias (Figura 3).
Incluso con subconjuntos etiquetados extremadamente pequeños, el clasificador ya funciona sorprendentemente bien.
En particular, la decodificación suave mejora significativamente el rendimiento cuando la supervisión es escasa.
Con solo 73 muestras etiquetadas (lo que significa que varios grupos no están representados), la decodificación suave logra una ganancia de precisión absoluta de alrededor de 18 puntos porcentuales en comparación con la decodificación dura.
Además, con un 0,2 % de datos etiquetados (291 muestras de 145 600, aproximadamente 3 ejemplos etiquetados por grupo), el clasificador basado en GMVAE ya alcanza un 80 % de precisión.
En comparación, XGBoost requiere alrededor del 7 % de datos etiquetados (35 veces más supervisión) para lograr un rendimiento similar.
Esta sorprendente brecha resalta un punto clave:
La mayor parte de la estructura necesaria para la clasificación ya se aprende durante la fase no supervisada; las etiquetas sólo son necesarias para interpretarla.
Conclusión
Usando un GMVAE entrenado completamente sin etiquetas, vemos que se puede construir un clasificador usando tan solo un 0,2% de datos etiquetados.
La observación clave es que el modelo no supervisado ya aprende una gran parte de la estructura necesaria para la clasificación.
Las etiquetas no se utilizan para construir la representación desde cero.
En cambio, sólo se utilizan para interpretar grupos que el modelo ya ha descubierto.
Una regla simple de decodificación estricta ya funciona bien, pero aprovechar la distribución posterior completa sobre los grupos proporciona una mejora pequeña pero consistente, especialmente cuando el modelo es incierto.
En términos más generales, este experimento destaca un paradigma prometedor para el aprendizaje automático con etiquetas eficientes:
aprender la estructura primero agregar etiquetas luego usar la supervisión principalmente para interpretar representaciones en lugar de construirlas
Esto sugiere que, en muchos casos, las etiquetas no son necesarias para aprender, sólo para nombrar lo que ya se ha aprendido.
Todos los experimentos se realizaron utilizando nuestra propia implementación de GMVAE y proceso de evaluación.
Referencias
Cohen, G., Afshar, S., Tapson, J. y van Schaik, A. (2017). EMNIST: Ampliación de MNIST a cartas escritas a mano. Dilokthanakul, N., Mediano, PA, Garnelo, M., Lee, MC, Salimbeni, H., Arulkumaran, K. y Shanahan, M. (2016). Agrupación profunda no supervisada con codificadores automáticos variacionales de mezcla gaussiana.
© 2026 MUREX SAS y Université Paris Dauphine — PSL
Este trabajo está bajo la Licencia Internacional Creative Commons Atribución 4.0. Para ver una copia de esta licencia, visite https://creativecommons.org/licenses/by/4.0/