Trabajando hacia una mayor generalización de la inteligencia artificial
Hoy, la temporada de conferencias comienza con la Décima Conferencia Internacional sobre Representaciones del Aprendizaje (ICLR 2022), que se desarrollará virtualmente del 25 al 29 de abril de 2022. Participantes de todo el mundo se reúnen para compartir su trabajo de vanguardia en el aprendizaje representacional, desde el avance del estado del arte en inteligencia artificial hasta la ciencia de datos, la visión artificial, la robótica y más.
El primer día de la conferencia, Pushmeet Kohli, nuestro jefe de IA para la ciencia y de los equipos de IA robusta y verificada, dará una charla sobre cómo la IA puede mejorar drásticamente las soluciones a una amplia gama de problemas científicos, desde la genómica y la biología estructural hasta la cuántica. química e incluso matemáticas puras.
Más allá de apoyar el evento como patrocinadores y organizadores habituales de talleres, nuestros equipos de investigación presentarán 29 artículos, incluidas 10 colaboraciones este año. He aquí un breve vistazo a nuestras próximas presentaciones orales, destacadas y de carteles:
Optimizando el aprendizaje
Varios artículos clave se centran en las formas críticas en que estamos haciendo que el proceso de aprendizaje de nuestros sistemas de IA sea más eficiente. Esto va desde aumentar el rendimiento, avanzar en el aprendizaje de pocas oportunidades y crear sistemas eficientes en datos que reduzcan los costos computacionales.
En “Metaaprendizaje impulsado”un Premio al artículo destacado ICLR 2022 ganador, proponemos un algoritmo que permite a un agente aprender a aprender enseñándose a sí mismo. También presentamos un algoritmo de mejora de políticas que rediseña alfacero – nuestro sistema que aprendió por sí solo desde cero a dominar el ajedrez, el shogi y el Go – para seguir mejorando incluso cuando entrenemos con un pequeño número de simulaciones; a Regularizador que mitiga el riesgo de pérdida de capacidad. en una amplia gama de agentes y entornos de RL; y una mejorada Arquitectura para entrenar eficientemente modelos atencionales..
Exploración
La curiosidad es una parte clave del aprendizaje humano, ya que ayuda a avanzar en conocimientos y habilidades. De manera similar, los mecanismos de exploración permiten a los agentes de IA ir más allá del conocimiento preexistente y descubrir lo desconocido o probar algo nuevo.
Avanzando la pregunta”¿Cuándo deberían explorar los agentes?”, investigamos cuándo los agentes deberían cambiar al modo de exploración, en qué escalas de tiempo tiene sentido cambiar y qué señales determinan mejor qué tan largos y frecuentes deben ser los períodos de exploración. En otro artículo, presentamos un “bonificación de exploración de obtención de información”que permite a los agentes superar las limitaciones de las recompensas intrínsecas en RL para poder aprender más habilidades.
IA robusta
Para implementar modelos de aprendizaje automático en el mundo real, deben ser eficaces al cambiar entre entrenamiento, pruebas y entre nuevos conjuntos de datos. Comprender los mecanismos causales es esencial, ya que permite que algunos sistemas se adapten, mientras que otros luchan por enfrentar nuevos desafíos.
Ampliando la investigación sobre estos mecanismos, presentamos un marco experimental que permite una evaluación detallada Análisis de robustez a los cambios de distribución.. La solidez también ayuda a proteger contra daños adversos, ya sean no intencionados o intencionados. En el caso de la corrupción de imágenes, proponemos una técnica que teóricamente optimiza los parámetros de los modelos de imagen a imagen para disminuir los efectos de desenfoque, niebla y otros problemas comunes.
comunicación emergente
Además de ayudar a los investigadores de ML a comprender cómo los agentes desarrollan su propia comunicación para completar tareas, los agentes de IA tienen el potencial de revelar información sobre los comportamientos lingüísticos dentro de las poblaciones, lo que podría conducir a una IA más interactiva y útil.
Trabajando con investigadores de Inria, Google Research y Meta AI, conectamos el papel de la diversidad dentro de las poblaciones humanas en la configuración del lenguaje con resolver parcialmente una aparente contradicción en simulaciones por computadora con agentes neuronales. Luego, debido a que construir mejores representaciones del lenguaje en la IA es tan vital para comprender la comunicación emergente, también investigamos el importancia de ampliar el conjunto de datos, la complejidad de la tarea y el tamaño de la población como aspectos independientes. Además, también estudiamos la compensaciones entre expresividad, complejidad e imprevisibilidad en juegos donde múltiples agentes se comunican para lograr un único objetivo.
Vea la gama completa de nuestro trabajo en ICLR 2022 aquí.