El aprendizaje multitarea (MLT) implica entrenar un único modelo para realizar múltiples tareas simultáneamente, aprovechando la información compartida para mejorar el rendimiento. Si bien es beneficiosa, MLT plantea desafíos en la gestión de modelos grandes y la optimización de tareas. La optimización de la pérdida promedio puede conducir a un rendimiento subóptimo si las tareas progresan de manera desigual. Equilibrar el desempeño de las tareas y las estrategias de optimización es fundamental para una MLT eficaz.

Las soluciones existentes para mitigar el problema de la suboptimización en el aprendizaje multitarea implican técnicas de manipulación de gradientes. Estos métodos calculan un nuevo vector de actualización para la pérdida promedio, lo que garantiza que todas las pérdidas de tareas disminuyan de manera más uniforme. Sin embargo, si bien estos enfoques muestran un rendimiento mejorado, pueden resultar computacionalmente costosos con muchas tareas y tamaño de modelo. Esto se debe a la necesidad de calcular y almacenar todos los gradientes de tareas en cada iteración, lo que genera importantes complejidades de espacio y tiempo. Por el contrario, calcular el gradiente promedio es más eficiente y requiere menos gastos computacionales por iteración.

Para superar estas limitaciones, un equipo de investigación de la Universidad de Texas en Austin, Salesforce AI Research y Sony AI publicaron recientemente un nuevo artículo. En su trabajo, introdujeron la Optimización multitarea adaptativa rápida (FAMO), un método diseñado para abordar el problema de la suboptimización en el aprendizaje multitarea sin la carga computacional asociada con las técnicas de manipulación de gradientes existentes.

FAMO ajusta dinámicamente los pesos de las tareas para garantizar una disminución equilibrada de las pérdidas entre las tareas, aprovechando el historial de pérdidas en lugar de calcular todos los gradientes de las tareas. Las contribuciones clave incluyen la introducción de FAMO, un optimizador de MTL con complejidad de espacio y tiempo de O(1) por iteración, y la demostración de su rendimiento comparable o superior a los métodos existentes en varios puntos de referencia de MTL, con importantes mejoras en la eficiencia computacional.

El enfoque propuesto comprende dos ideas principales: lograr una disminución equilibrada de las pérdidas entre tareas y amortizar el cálculo a lo largo del tiempo.

1. Tasa equilibrada de mejora de pérdidas:

• FAMO tiene como objetivo disminuir todas las pérdidas de tareas al mismo ritmo tanto como sea posible. Define la tasa de mejora para cada tarea en función del cambio en la pérdida a lo largo del tiempo.
• Al formular un problema de optimización, FAMO busca una dirección de actualización que maximice la tasa de mejora en el peor de los casos en todas las tareas.

2. Aproximación rápida amortizando en el tiempo:
   • En lugar de resolver el problema de optimización en cada paso, FAMO realiza un descenso de gradiente de un solo paso en un parámetro que representa los pesos de las tareas, amortizando el cálculo a lo largo de la trayectoria de optimización.
   • Esto se logra actualizando los pesos de las tareas en función del cambio en las pérdidas logarítmicas y aproximando el gradiente.

En la práctica, FAMO reparametriza los pesos de las tareas para garantizar que se mantengan dentro de un rango válido e introduce la regularización para centrarse más en las actualizaciones recientes. El algoritmo actualiza iterativamente los pesos y parámetros de las tareas en función de las pérdidas observadas para encontrar un equilibrio entre el rendimiento de las tareas y la eficiencia computacional.

En general, FAMO ofrece un enfoque computacionalmente eficiente para la optimización de múltiples tareas al ajustar dinámicamente los pesos de las tareas y amortizar el cálculo a lo largo del tiempo. Esto conduce a un rendimiento mejorado sin la necesidad de realizar cálculos de gradiente extensos.

Para evaluar Famo, los autores realizaron experimentos empíricos en varios entornos experimentales. Comenzaron con un problema de dos tareas con un juguete, lo que demuestra la capacidad de Famo para mitigar eficientemente los gradientes conflictivos (CG). En comparación con los métodos de última generación en los puntos de referencia de aprendizaje reforzado y supervisado por MLT, Famo tuvo un buen desempeño consistente. Mostró mejoras significativas en la eficiencia, particularmente en el tiempo de capacitación, en comparación con métodos como NASHMTL. Además, un estudio de ablación sobre el coeficiente de regularización γ destacó la solidez de Famo en diferentes entornos, excepto en casos específicos como CityScapes, donde el ajuste de γ podría estabilizar el rendimiento. La evaluación enfatizó la efectividad y eficiencia de Famo en diversos escenarios de aprendizaje multitarea.

En conclusión, FAMO presenta una solución prometedora a los desafíos de MLT al ajustar dinámicamente los pesos de las tareas y amortizar el cálculo a lo largo del tiempo. El método mitiga eficazmente los problemas de optimización insuficiente sin la carga computacional asociada con las técnicas de manipulación de gradientes existentes. A través de experimentos empíricos, FAMO demostró mejoras consistentes en el desempeño en varios escenarios MLT, demostrando su efectividad y eficiencia. Con su enfoque de reducción equilibrada de pérdidas y su estrategia de optimización eficiente, FAMO ofrece una valiosa contribución al campo del aprendizaje multitarea, allanando el camino para modelos de aprendizaje automático más escalables y eficaces.

Revisar la Papel. Todo el crédito por esta investigación va a los investigadores de este proyecto. Además, no olvides seguirnos en Gorjeo. Únete a nuestro Canal de telegramas, Canal de discordiay LinkedIn Grarriba.

Si te gusta nuestro trabajo, te encantará nuestro Boletin informativo..

No olvides unirte a nuestro SubReddit de 41k+ ML