Vijay Gadepallymiembro del personal senior del Laboratorio Lincoln del MIT, dirige una serie de proyectos en el Centro de supercomputación del laboratorio Lincoln (LLSC) para hacer que las plataformas informáticas y los sistemas de inteligencia artificial que se ejecutan en ellas sean más eficientes. Aquí, Gadepally analiza el uso cada vez mayor de la IA generativa en las herramientas cotidianas, su impacto ambiental oculto y algunas de las formas en que el Laboratorio Lincoln y la comunidad de IA en general pueden reducir las emisiones para un futuro más verde.
P: ¿Qué tendencias observa en términos de cómo se utiliza la IA generativa en la informática?
A: La IA generativa utiliza el aprendizaje automático (ML) para crear contenido nuevo, como imágenes y texto, basado en los datos que se ingresan en el sistema ML. En LLSC diseñamos y construimos algunas de las plataformas informáticas académicas más grandes del mundo y, en los últimos años, hemos visto una explosión en la cantidad de proyectos que necesitan acceso a informática de alto rendimiento para la IA generativa. También estamos viendo cómo la IA generativa está cambiando todo tipo de campos y dominios; por ejemplo, ChatGPT ya está influyendo en el aula y el lugar de trabajo más rápido de lo que las regulaciones parecen mantener.
Podemos imaginar todo tipo de usos para la IA generativa en la próxima década, como impulsar asistentes virtuales de gran capacidad, desarrollar nuevos fármacos y materiales e incluso mejorar nuestra comprensión de la ciencia básica. No podemos predecir para qué se utilizará la IA generativa, pero ciertamente puedo decir que con algoritmos cada vez más complejos, su impacto en computación, energía y clima seguirá creciendo muy rápidamente.
P: ¿Qué estrategias está utilizando el LLSC para mitigar este impacto climático?
A: Siempre estamos buscando maneras de hacer computación más eficienteya que hacerlo ayuda a nuestro centro de datos a aprovechar al máximo sus recursos y permite a nuestros colegas científicos impulsar sus campos de la manera más eficiente posible.
Por ejemplo, hemos estado reduciendo la cantidad de energía que consume nuestro hardware mediante cambios simples, similares a atenuar o apagar las luces cuando sales de una habitación. En un experimento, redujimos el consumo de energía de un grupo de unidades de procesamiento de gráficos entre un 20 y un 30 por ciento, con un impacto mínimo en su rendimiento, aplicando un tapa de poder. Esta técnica también redujo las temperaturas de funcionamiento del hardware, lo que hizo que las GPU fueran más fáciles de enfriar y más duraderas.
Otra estrategia es cambiar nuestro comportamiento para ser más conscientes del clima. En casa, algunos de nosotros podríamos optar por utilizar fuentes de energía renovables o una programación inteligente. Estamos utilizando técnicas similares en el LLSC, como entrenar modelos de IA cuando las temperaturas son más frías o cuando la demanda de energía de la red local es baja.
También nos dimos cuenta de que gran parte de la energía gastada en informática a menudo se desperdicia, como por ejemplo una fuga de agua que aumenta tu factura pero sin ningún beneficio para tu hogar. Desarrollamos algunas técnicas nuevas que nos permiten monitorear las cargas de trabajo informáticas mientras se ejecutan y luego finalizar aquellas que probablemente no produzcan buenos resultados. Sorprendentemente, en una serie de casos Descubrimos que la mayoría de los cálculos podían finalizar antes de tiempo. sin comprometer el resultado final.
P: ¿Cuál es un ejemplo de un proyecto que haya realizado que reduzca la producción de energía de un programa de IA generativa?
A: Recientemente construimos una herramienta de visión por computadora consciente del clima. La visión por computadora es un dominio que se centra en aplicar IA a imágenes; por ejemplo, diferenciar entre perros y gatos en una imagen, etiquetar correctamente los objetos dentro de una imagen o buscar componentes de interés dentro de una imagen.
En nuestra herramienta, incluimos telemetría de carbono en tiempo real, que produce información sobre cuánto carbono emite nuestra red local mientras se ejecuta un modelo. Dependiendo de esta información, nuestro sistema cambiará automáticamente a una versión del modelo con mayor eficiencia energética, que normalmente tiene menos parámetros, en momentos de alta intensidad de carbono, o a una versión del modelo de mucha mayor fidelidad en momentos de baja intensidad de carbono. .
Al hacer esto, vimos una casi Reducción del 80 por ciento de las emisiones de carbono durante un período de uno a dos días. Nosotros recientemente extendió esta idea a otras tareas de IA generativa, como el resumen de texto, y encontró los mismos resultados. Curiosamente, ¡el rendimiento a veces mejoró después de usar nuestra técnica!
P: ¿Qué podemos hacer como consumidores de IA generativa para ayudar a mitigar su impacto climático?
A: Como consumidores, podemos pedir a nuestros proveedores de IA que ofrezcan mayor transparencia. Por ejemplo, en Google Flights puedo ver una variedad de opciones que indican la huella de carbono de un vuelo específico. Deberíamos obtener tipos similares de mediciones de las herramientas de IA generativa para que podamos tomar una decisión consciente sobre qué producto o plataforma usar en función de nuestras prioridades.
También podemos hacer un esfuerzo para educarnos más sobre las emisiones generativas de IA en general. Muchos de nosotros estamos familiarizados con las emisiones de los vehículos y puede ser útil hablar sobre las emisiones generativas de IA en términos comparativos. La gente puede sorprenderse al saber, por ejemplo, que una tarea de generación de imágenes es aproximadamente equivalente hasta conducir cuatro millas en un automóvil de gasolina, o que se necesita la misma cantidad de energía para cargar un automóvil eléctrico que para generar alrededor de 1.500 resúmenes de texto.
Hay muchos casos en los que los clientes estarían felices de hacer una concesión si supieran su impacto.
P: ¿Qué ves para el futuro?
A: Mitigar el impacto climático de la IA generativa es uno de esos problemas en los que está trabajando gente de todo el mundo, y con un objetivo similar. Estamos trabajando mucho aquí en el Laboratorio Lincoln, pero es solo una superficie. A largo plazo, los centros de datos, los desarrolladores de inteligencia artificial y las redes energéticas deberán trabajar juntos para realizar «auditorías energéticas» que descubran otras formas únicas en las que podemos mejorar la eficiencia informática. Necesitamos más asociaciones y más colaboración para seguir adelante.
Si está interesado en obtener más información o colaborar con el Laboratorio Lincoln en estos esfuerzos, comuníquese con Vijay Gadepally.