Los investigadores del MIT han desarrollado una nueva técnica que ayuda a los modelos de inteligencia artificial generativa a encontrar soluciones a problemas de alto riesgo.
En estos entornos, una respuesta plausible no es suficiente: el resultado a menudo también debe satisfacer requisitos no negociables de seguridad, físicos o específicos de la tarea, conocidos como restricciones estrictas.
Los investigadores desarrollaron un método que ayuda a los modelos generativos a cumplir estos estrictos requisitos sin sacrificar la calidad de sus resultados.
La clave de su técnica es darle al modelo más libertad durante el proceso de generación y imponer restricciones estrictas en el resultado final, en lugar de en cada paso intermedio.
En experimentos que abarcan robótica, control de procesos físicos y visión por computadora, el nuevo método satisfizo consistentemente las limitaciones requeridas e identificó mejores soluciones que las técnicas existentes.
Esta técnica adaptable, plug-and-play, funciona en el momento de la implementación, por lo que se puede aplicar a modelos generativos previamente entrenados sin volver a entrenarlos. Puede hacer que dichos modelos sean más útiles en aplicaciones donde no se pueden violar las reglas de seguridad, las leyes físicas u otros requisitos estrictos.
“La promesa de la IA generativa es su capacidad para explorar un rico espacio de posibilidades, pero el mundo real establece límites en los que las posibilidades son aceptables. Nuestro enfoque nos permite preservar ese poder generativo al tiempo que aplicamos los requisitos no negociables de aplicaciones de alto riesgo o críticas para la seguridad”, dice Navid Azizan, profesor asociado de desarrollo profesional Alfred H. y Jean M. Hayes en el Departamento de Ingeniería Mecánica y el Instituto de Datos, Sistemas y Sociedad (IDSS), investigador principal del Laboratorio de Sistemas de Información y Decisión. (LIDS), y autor principal de un artículo sobre esta técnica.
A Azizan se unen en el artículo el autor principal Zeyang Li, estudiante de posgrado en ingeniería mecánica y LIDS; y Kaveh Alim, estudiante de posgrado en IDSS y LIDS. La investigación aparece esta semana en IEEE Transactions on Pattern Analysis and Machine Intelligence.
Libertad para explorar
Los modelos de IA generativa previamente entrenados, como los modelos de difusión como Stable Diffusion y los modelos de coincidencia de flujo como FLUX, ahora están ampliamente disponibles. Estos poderosos modelos aprenden a crear nuevos datos transformando el ruido aleatorio. Su disponibilidad ha permitido a las personas adaptarlos a una amplia gama de aplicaciones.
Estos modelos altamente capaces se destacan por brindar respuestas que casi satisfacen la mayoría de las consultas, pero en aplicaciones críticas para la seguridad, como la planificación de trayectorias de robots en una fábrica abarrotada, una respuesta que sea “casi correcta” puede no ser lo suficientemente buena.
Por ejemplo, una ruta “casi correcta” de una máquina a otra aún podría provocar que el robot choque con un compañero de trabajo humano.
En este tipo de aplicaciones críticas para la seguridad, los usuarios suelen emplear una técnica llamada muestreo basado en proyecciones, que obliga repetidamente a las soluciones parciales del modelo, llamadas muestras intermedias, a satisfacer requisitos estrictos durante el proceso de generación.
Pero restringir todo el proceso de generación puede impedir que el modelo alcance una mejor solución final. Estos métodos también suelen centrarse únicamente en satisfacer las restricciones estrictas, perdiendo la oportunidad de mejorar otras cualidades de la solución, como reducir la longitud de la trayectoria del robot.
“Para la satisfacción de las restricciones, lo que en última instancia importa es el resultado final del modelo, ya que se descarta el proceso interno. Al no requerir todos los pasos intermedios para satisfacer las restricciones, le damos al modelo más libertad para encontrar soluciones de alta calidad que al final aún sean factibles”, dice Li.
Los investigadores desarrollaron un algoritmo llamado HardFlow que dirige el proceso de muestreo para que el resultado final satisfaga las estrictas limitaciones del usuario sin ser demasiado restrictivo y sea de mayor calidad.
Dirección sutil
HardFlow reformula el muestreo con restricciones estrictas como un problema de optimización de trayectoria, utilizando herramientas del campo del control óptimo. Esto permite que el marco dirija la trayectoria de muestreo del modelo hacia un objetivo, realizando correcciones sutiles a lo largo del camino y al mismo tiempo imponiendo restricciones estrictas en el resultado final.
“La teoría del control nos brinda un marco poderoso para formalizar la forma óptima de realizar estas correcciones”, dice Azizan.
Pero resolver el problema de la optimización de la trayectoria en torno a una enorme red neuronal no fue una tarea fácil. El modelo puede tener cientos de capas interconectadas que procesan datos.
Para hacer que el problema fuera manejable, los investigadores aprovecharon la estructura de los modelos de coincidencia de flujo para descomponer el problema en una secuencia de subproblemas más pequeños de un solo paso. Luego aplicaron transformaciones y aproximaciones sistemáticas para derivar un algoritmo eficiente y escalable que aún encuentre una solución factible.
“Básicamente, transformamos el problema de optimización de trayectoria en algo que preserva las propiedades clave del problema original, pero que puede resolverse de manera muy eficiente en el momento de la implementación”, añade Azizan.
Reformular la tarea como un problema de optimización le permite a HardFlow incorporar objetivos adicionales que pueden mejorar la calidad de la respuesta final. Por ejemplo, HardFlow podría encontrar un camino libre de colisiones para un robot que también sea la distancia más corta hasta su objetivo.
“Nuestro marco puede manejar ambos aspectos de forma conjunta, lo que le ayuda a funcionar mucho mejor que los métodos existentes”, afirma Li.
A través de experimentos de manipulación robótica, navegación por laberintos y edición de imágenes guiada por texto, HardFlow logró una satisfacción perfecta de las restricciones y superó consistentemente a los métodos de referencia en medidas de calidad de la solución.
Por ejemplo, permitió a un manipulador robótico evitar colisiones con obstáculos y al mismo tiempo encontrar el camino más rápido hacia el objeto objetivo. La mayoría de los demás métodos provocaron colisiones o encontraron caminos que requirieron mucho más tiempo.
Además, el tiempo de cálculo de HardFlow fue comparable o inferior al de la mayoría de los métodos de la competencia.
En el futuro, los investigadores podrían ampliar el marco a entornos en los que el propio modelo de IA también pueda actualizarse, de modo que la satisfacción de las restricciones y la calidad de la muestra puedan mejorarse de una manera más adaptable.