Andrew Bailey pide pruebas rigurosas de la inteligencia artificial avanzada antes de introducir nuevas regulaciones, y advierte que los sistemas cada vez más potentes podrían exponer a los bancos y otras infraestructuras financieras críticas a graves amenazas cibernéticas.
La inteligencia artificial podría representar una amenaza creciente para el sistema financiero a menos que los humanos conserven la capacidad de controlar una tecnología cada vez más poderosa, advirtió hoy el Gobernador del Banco de Inglaterra.
Andrew Bailey ha pedido pruebas rigurosas de los sistemas avanzados de IA, argumentando que comprender sus vulnerabilidades y establecer salvaguardias efectivas debe tener prioridad sobre la introducción de nuevas regulaciones.
En un artículo publicado por el Banco de Inglaterra esta mañana, advirtió que el rápido desarrollo de la IA de vanguardia –que puede aprovechar grandes cantidades de conocimiento humano y utilizar cada vez más sus propios resultados para mejorar su desempeño– estaba creando desafíos importantes para los gobiernos, los reguladores y las instituciones financieras.
Los sistemas avanzados de IA pueden utilizar sus propios resultados para refinar su razonamiento y mejorar su desempeño, creando procesos que se refuerzan a sí mismos y que podrían resultar cada vez más difíciles de supervisar o controlar para los humanos, advirtió.
Sin salvaguardias efectivas de la IA, añadió, la sociedad corre el riesgo de perder un control significativo sobre la tecnología cuyas capacidades avanzan rápidamente.
Pero Bailey, que se unió al Banco en 1985 y se convirtió en gobernador en 2020, dijo que el desarrollo de la IA no debería prohibirse, argumentando que podría generar enormes beneficios a través de descubrimientos científicos, mayor productividad y crecimiento económico.
En cambio, pidió pruebas rigurosas antes y después del despliegue para identificar vulnerabilidades, evaluar comportamientos inesperados y establecer salvaguardas que permitan a los humanos intervenir cuando sea necesario.
Escribió: “¿Por qué debería importarle esto al gobernador de un banco central? Porque la IA de frontera tiene implicaciones importantes para la estabilidad financiera.
“De manera más inmediata, aumenta materialmente la escala y la sofisticación de las amenazas cibernéticas que enfrenta el sistema financiero. Ya no podemos considerar la resiliencia de las redes de pagos, las infraestructuras de los mercados financieros, los bancos y otras instituciones críticas separadamente de los avances de la IA.
“Estas empresas utilizarán la IA en sus propias operaciones. Probar rigurosamente las capacidades y características de los modelos que utilizan nos ayudará, colectivamente, a comprender cuál es la mejor manera de implementar la IA de forma segura, ya sea para la ciberdefensa o para el comercio y los pagos mediante agentes.
“Con el tiempo, ese entendimiento podría codificarse en un conjunto de estándares que ayudarán a garantizar la coherencia en el enfoque en todo el sistema financiero y quizás de manera más amplia en toda la economía”.
Bailey también acogió con satisfacción el trabajo del Instituto de Seguridad de IA del Reino Unido, que está desarrollando métodos para evaluar sistemas cada vez más avanzados, pero advirtió que las pruebas deben acelerarse para seguir el ritmo de los avances tecnológicos.
Y también pidió que se aprendan lecciones de los fallos y los cuasi accidentes, tanto durante el desarrollo como después de que se hayan implementado los sistemas de IA.
Escribió: “Las pruebas no eliminarán los fallos. Los modelos se comportarán de forma inesperada. Expondrán las debilidades de nuestras suposiciones”.
Aunque eventualmente podría ser necesaria una regulación formal, Bailey argumentó que los gobiernos y los reguladores deberían primero establecer cómo se pueden probar, comprender y controlar los sistemas avanzados de IA.
“No podemos quedarnos al margen y asumir que el progreso tecnológico resolverá estas cuestiones por sí solo”, escribió.
LEER MÁS: ¿Quién dejó salir a los bots? La inquietante verdad detrás de la IA deshonesta. Los informes recientes de que la IA se está volviendo deshonesta son alarmantes pero, según Vendan Ananda Kumararajah, ponen un enfoque engañoso en las máquinas en lugar de en las instituciones que les otorgan autoridad. A medida que los sistemas autónomos ganan más libertad para actuar, la solución a la IA deshonesta radica en decidir dónde comienza esa autoridad, dónde termina y cuándo debe retirarse.
¿Tiene noticias para compartir o experiencia para contribuir? El europeo acoge con agrado las opiniones de líderes empresariales y especialistas del sector. Póngase en contacto con nuestro equipo editorial para obtener más información.
Imagen principal: Andrew Bailey, gobernador del Banco de Inglaterra, advirtió que una inteligencia artificial cada vez más poderosa podría plantear riesgos crecientes para la estabilidad financiera y pidió pruebas rigurosas antes de introducir nuevas regulaciones. Créditos: (El Europeo); Andrew Bailey – Oficina del Embajador de Estados Unidos en el Reino Unido / Dominio público; Banco de Inglaterra – acediscovery / CC BY 4.0. Composición editorial generada por IA.