Investigadores de supercomputación documentan la evolución del hardware de IA | Noticias del MIT

A medida que la inteligencia artificial transforma las industrias y la seguridad nacional, comprender las últimas capacidades del hardware es importante para mantener la ventaja tecnológica.

Los aceleradores de IA (sistemas especializados diseñados para acelerar capacidades como redes neuronales, aprendizaje profundo y aprendizaje automático) han sido un área importante de desarrollo durante casi una década. Desde 2018, un equipo del Centro de Supercomputación del Laboratorio Lincoln (LLSC) ha estado realizando la Encuesta de Computación de IA de Lincoln (LAICS, pronunciada “encaje”). Seis artículos después, LAICS continúa resumiendo los aceleradores de IA comerciales actuales y comparando su rendimiento máximo y su potencia máxima.

“Hace unos ocho años, vimos un fuerte aumento en el número de aceleradores de IA de investigación descritos en artículos de investigación y aceleradores comerciales que se anunciaban, y comenzamos a recibir preguntas sobre ellos de los patrocinadores gubernamentales del trabajo del laboratorio. Esa fue motivación suficiente para comenzar la encuesta”, dice Albert Reuther, miembro del personal de LLSC, que opera y optimiza los sistemas informáticos de alto rendimiento utilizados por miles de investigadores de laboratorio.

Aunque los aceleradores de IA se utilizan con frecuencia para procesos como el aprendizaje automático, también pueden permitir otras aplicaciones paralelas, como modelar las funciones de las moléculas y acelerar las simulaciones de dinámica de fluidos, procesos que son muy costosos desde el punto de vista computacional.

La tecnología de acelerador de IA puede presentarse en varias formas: unidades centrales de procesamiento (CPU), unidades de procesamiento de gráficos (GPU), circuitos integrados de aplicaciones específicas (ASIC), conjuntos de puertas programables en campo (FPGA) y aceleradores de flujo de datos. Cada tipo de acelerador tiene capacidades ligeramente diferentes. Las CPU se pueden utilizar para informática de propósito general, mientras que los ASIC sólo pueden realizar tareas muy específicas. Los aceleradores de flujo de datos, FPGA y GPU son más flexibles y se pueden configurar para una variedad de cargas de trabajo. La eficiencia y el rendimiento varían entre los diferentes tipos de aceleradores según cómo estén diseñados. El objetivo de LAICS es estudiar las tecnologías actualmente en el mercado y compararlas para encontrar los mejores aceleradores para determinadas necesidades.

Dirigido por Reuther, el equipo de LAICS incluye a los miembros de LLSC Michael Jones, Peter Michaleas, Jeremy Kepner y Vijay Gadepally. El equipo también colabora con investigadores de todo el Laboratorio Lincoln, incluida la División de Tecnología Avanzada y la División de Sistemas Tácticos, de Inteligencia, Vigilancia y Reconocimiento, para aprender cómo los aceleradores apoyan la investigación y el desarrollo de sus misiones.

El primer artículo de su serie estudió 57 aceleradores, mientras que el último examinó más de 120 aceleradores. Las principales métricas que utiliza el equipo para comparar aceleradores son el rendimiento y la potencia máximos; luego clasifican los aceleradores según estén en un chip, una tarjeta o un sistema. Todos los datos de los artículos provienen de fuentes públicas, lo que puede resultar complicado porque algunas empresas prefieren mantener en privado sus datos de rendimiento y energía. Para mantenerse actualizado sobre lo último en el campo, Reuther realiza búsquedas diarias de noticias y citas que informan sobre nuevos artículos de prensa técnica, anuncios de empresas y presentaciones de la industria.

“Sigue sorprendiéndome cómo cada año se financian y anuncian entre cinco y diez nuevas empresas, y luego lanzan nuevos aceleradores de IA”, dice Reuther. “Se podría pensar que el panorama ya está bastante saturado, pero entonces aparece otro lote de aceleradores innovadores”.

Además de resumir el rendimiento frente a la potencia máxima de los aceleradores actuales, cada artículo explora un nuevo aspecto del campo. Por ejemplo, el artículo publicado en 2022 investigó las fuentes de aumentos de rendimiento y descubrió que se deben a diseños de transistores más pequeños y densos y al uso de una menor precisión numérica (es decir, al cálculo de menos dígitos significativos). El último artículo examinó diferentes opciones arquitectónicas disponibles, analizando cómo la adición de ciertos componentes, como más núcleos por procesador o rendimiento paralelo, cambiaría el sistema.

Reuther planea continuar la encuesta en el futuro previsible y afirma que, tan solo en los últimos meses, seis nuevas empresas han anunciado sus primeros aceleradores de IA.

“La IA y el hardware en el que se ejecuta son temas candentes, y es importante que el Laboratorio Lincoln sea un asesor técnico imparcial para elegir y aplicar las tecnologías adecuadas”, afirma Reuther. “Nuestras encuestas sobre aceleradores de IA han ayudado a muchos patrocinadores y colegas gubernamentales a obtener una mejor comprensión del panorama de los aceleradores de IA y a tomar mejores decisiones de investigación y adquisición sobre ellos. Esta encuesta también ha sido muy valiosa para determinar qué GPU debemos considerar para las próximas compras de sistemas de LLSC, de modo que no solo beneficie a nuestros patrocinadores y programas de misión, sino que también beneficie a todos los usuarios de LLSC”.

El conjunto completo de artículos y los conjuntos de datos adjuntos se pueden encontrar aquí.