A medida que los sistemas de IA se vuelven más avanzados, garantizar su implementación segura y ética se ha convertido en una preocupación crítica para los investigadores y los responsables de las políticas. Una de las cuestiones más urgentes en la gobernanza de la IA es la gestión de los riesgos asociados con sistemas de IA cada vez más potentes. Estos riesgos incluyen el posible uso indebido, las preocupaciones éticas y las consecuencias no deseadas que podrían surgir de las crecientes capacidades de la IA. Los responsables de las políticas están explorando diversas estrategias para mitigar estos riesgos, pero el desafío radica en predecir y controlar con precisión los posibles daños que los sistemas de IA podrían causar a medida que escalan.
Las estrategias de gobernanza actuales suelen basarse en la definición de umbrales para la potencia computacional (medida en FLOP, operaciones de punto flotante) que se utilizan para entrenar modelos de IA. Estos umbrales tienen por objeto identificar y regular los sistemas de IA que superan determinados niveles de intensidad computacional, partiendo del supuesto de que una mayor intensidad computacional se correlaciona con un mayor riesgo. Marcos como las órdenes ejecutivas de la Casa Blanca sobre seguridad de la IA y la Ley de IA de la UE han incorporado estos umbrales a sus políticas.
Un investigador de Cohere for AI ha presentado un análisis crítico de estos umbrales de cómputo como herramienta de gobernanza. Sostienen que las implementaciones actuales son miopes y no logran mitigar los riesgos de manera efectiva. Destacan que la relación entre el cálculo y el riesgo es muy incierta y evoluciona rápidamente. En lugar de depender únicamente de los umbrales de cómputo, sugieren un enfoque más matizado para la gobernanza de la IA que considere múltiples factores que influyen en el perfil de riesgo de la IA.
El enfoque propuesto aboga por una evaluación dinámica e integral de los sistemas de IA en lugar de umbrales de cómputo fijos. Esto incluye especificar mejor el FLOP como métrica, considerar dimensiones adicionales del rendimiento y el riesgo de la IA e implementar umbrales adaptativos que se ajusten al panorama cambiante de las capacidades de la IA. Los investigadores recomiendan mejorar la transparencia y la estandarización en la presentación de informes sobre los riesgos de la IA y alinear las prácticas de gobernanza con el rendimiento real y los daños potenciales de los sistemas de IA. Este método integral implica examinar factores como la calidad de los datos de entrenamiento, las técnicas de optimización y las aplicaciones específicas de los modelos de IA para garantizar una evaluación más precisa de los riesgos potenciales.
La investigación destaca que los umbrales de cálculo fijos a menudo pasan por alto riesgos significativos asociados con modelos de IA más pequeños y altamente optimizados. La evidencia empírica sugiere que muchas políticas actuales deben tener en cuenta los rápidos avances y las técnicas de optimización que pueden hacer que los modelos más pequeños sean tan capaces y riesgosos como los más grandes. Por ejemplo, se ha demostrado que los modelos con menos de 13 mil millones de parámetros superan a los modelos más grandes con más de 176 mil millones de parámetros en ciertas tareas. Este descuido indica que los umbrales de cálculo, tal como se aplican actualmente, son predictores poco confiables de los riesgos de la IA y necesitan una revisión sustancial para ser efectivos.
Un resultado destacable de la investigación es que los modelos más pequeños, cuando se optimizan, pueden alcanzar niveles de rendimiento comparables a los de modelos mucho más grandes. Por ejemplo, el estudio descubrió que los modelos más pequeños podían alcanzar puntuaciones de rendimiento de hasta el 77,15 % en pruebas comparativas, una mejora significativa con respecto al promedio del 38,59 % de tan solo dos años antes. Además, los investigadores señalaron que los umbrales actuales, como los establecidos por la Ley de IA de la UE y la Orden Ejecutiva de la Casa Blanca, no captan los matices del rendimiento y el riesgo de los modelos, ya que se centran principalmente en la gran cantidad de cómputo sin considerar las capacidades y optimizaciones específicas de los modelos.
En conclusión, la investigación destaca la inadecuación de los umbrales computacionales como herramienta de gobernanza independiente para la IA. El problema radica en la relación impredecible entre el cálculo y el riesgo, lo que requiere un enfoque de regulación más flexible e informado. La solución propuesta implica un cambio hacia umbrales dinámicos y evaluaciones de riesgos multifacéticas que puedan anticipar y mitigar mejor los riesgos planteados por los sistemas avanzados de IA. Los investigadores enfatizan la necesidad de políticas que evolucionen con la tecnología y reflejen con precisión las complejidades del desarrollo de la IA moderna.
Revisar la Papel. Todo el crédito por esta investigación corresponde a los investigadores de este proyecto. Además, no olvides seguirnos en Gorjeo y únete a nuestro Canal de Telegram y LinkedIn Gr¡Arriba!. Si te gusta nuestro trabajo, te encantará nuestro Boletin informativo..
No olvides unirte a nuestro Más de 47 000 suscriptores de ML en Reddit
Encuentra lo próximo Seminarios web sobre IA aquí
Nikhil es consultor en prácticas en Marktechpost. Está cursando una doble titulación integrada en Materiales en el Instituto Indio de Tecnología de Kharagpur. Nikhil es un entusiasta de la IA y el aprendizaje automático que siempre está investigando aplicaciones en campos como los biomateriales y la ciencia biomédica. Con una sólida formación en ciencia de los materiales, está explorando nuevos avances y creando oportunidades para contribuir.