¿Qué se logró realmente en la Cumbre de Seguridad de la IA del Reino Unido?

En las semanas previas a la Cumbre de Seguridad de la IA en el Reino Unido, celebrada los días 1 y 2 de noviembre, el primer ministro Rishi Sunak destacó repetidamente los riesgos potenciales que la inteligencia artificial podría representar para la sociedad. Luego, en la segunda mañana del evento, dijo a los periodistas que la gente debe evitar las afirmaciones “alarmistas”, justo antes de advertir que la IA podría ser tan peligrosa como una guerra nuclear. Es seguro decir que hubo mensajes contradictorios.

Pero, por supuesto, la cumbre tenía como objetivo disipar esta niebla de confusión: examinar los riesgos de la IA, brindar espacio para que representantes de naciones de todo el mundo hablaran con líderes empresariales y expertos en tecnología y, en última instancia, planificar un futuro que evite desastres. trampas. ¿Se logró eso?

La principal conclusión fue la nueva Declaración de Bletchley, firmada por 28 naciones, incluidos China, Estados Unidos y la Unión Europea. Lograr cualquier tipo de consenso internacional en estos tiempos políticos tensos es un éxito, pero el documento hace poco más que reconocer que existen riesgos y comprometerse a explorarlos. La única acción concreta prometida en el texto es celebrar más cumbres en el futuro. Quizás esta reunión podría haber sido un correo electrónico generado por ChatGPT y ahorrar el gasto de carbono que implica enviar a todos.

Carissa Véliz En la Universidad de Oxford, un destacado especialista en ética de la IA que no fue invitado a la reunión, no está impresionado por una cumbre que promete más cumbres. “Ya hemos tardado en regular la IA y alcanzar acuerdos internacionales al respecto. Celebrar otra reunión en el futuro no parece lo suficientemente ambicioso, dado lo mucho que está en juego y el rápido desarrollo e implementación de la IA”, dijo. Científico nuevo.

Vale la pena recordar que solo ha pasado un año desde que OpenAI lanzó ChatGPT y solo ocho meses desde que se actualizó al modelo más potente GPT-4. ¿Quién sabe en qué número de versión estaremos cuando los líderes se reúnan nuevamente?

Gary Marcos del Centro para el Avance de una IA Confiable dice que la Declaración de Bletchley es bienvenida, pero no va lo suficientemente lejos y no representa una muestra representativa lo suficientemente amplia de la sociedad. “Necesitamos urgentemente pasar de las declaraciones de posición (ha habido muchas en los últimos meses) a propuestas concretas sobre qué hacer a continuación”.

Marco cree que el orden ejecutiva sobre IA del presidente estadounidense Joe Biden, publicado la misma semana que la cumbre de Bletchley, se acerca mucho más al diseño de una política real. Ordena a una amplia gama de agencias gubernamentales de EE. UU. que desarrollen pautas para probar y utilizar sistemas de inteligencia artificial. La UE también está trabajando en la legislación sobre IA. Parece no haber falta de voluntad para regular la IA, pero hasta el momento hay una ausencia casi total de detalles.

Clark Barrett de la Universidad de Stanford en California dice que gran parte de la Declaración de Bletchley es “predeciblemente vaga y, por lo tanto, corre el riesgo de ser palabras sin acciones adjuntas”. Pero su discurso sobre “construir una comprensión científica compartida y basada en evidencia de estos riesgos” es una manera sensata de avanzar, si se sigue adelante.

La realidad es que la tecnología –como siempre lo ha hecho– está superando a la legislación. Y si los legisladores del mundo al menos se pusieron al día sobre los últimos avances en IA en Bletchley Park esta semana, es difícil imaginar que no necesitarán un curso de actualización cuando se reúnan nuevamente, con la cara de la IA. habiéndose transformado una vez más. Si bien las cumbres pueden ofrecer oportunidades para tomar fotografías y la oportunidad para que los políticos se codeen con personas como Elon Musk, ninguna cantidad de reuniones puede resolver el problema de que la innovación supere a la legislación.