El primer ministro del Reino Unido, Rishi Sunak, en la Cumbre de Seguridad de la IA en Bletchley Park el 2 de noviembre.
Justin Tallis/WPA Pool/Getty Images
Los modelos de inteligencia artificial deben entenderse mejor y someterse a pruebas antes de que se pueda introducir cualquier legislación obligatoria para supervisar la industria, dijo el primer ministro del Reino Unido, Rishi Sunak, en la Cumbre de Seguridad de la IA en Bletchley Park, pero también dijo que esos esfuerzos deben acelerarse.
Sunak anunció la semana pasada el establecimiento de un instituto de seguridad de IA en el Reino Unido que colaborará con empresas de tecnología de forma voluntaria para garantizar que sus modelos sean seguros para su lanzamiento al público. Pero el organismo no tendrá poderes regulatorios oficiales y las empresas no estarán obligadas a someterse a los protocolos de prueba que establezcan.
En una conferencia de prensa que marcó el final de la cumbre, Sunak dijo que en última instancia será necesaria una regulación, pero que debería basarse en evidencia. Las grandes empresas de tecnología que trabajan en IA han acordado colaborar con la nueva organización, afirmó.
“Ahora tenemos el acuerdo que necesitamos para realizar las pruebas antes de que los modelos se lancen al público”, dijo Sunak. “Lo que no podemos hacer es esperar que las empresas marquen sus propios deberes”.
Sunak dijo que la regulación “lleva tiempo y debemos avanzar más rápido”, y agregó que se debe recopilar más información sobre la IA antes de que se pueda redactar una regulación efectiva.
“Cuando las personas que lo desarrollan se sorprenden constantemente de lo que lo que puede hacer, es importante que esa regulación tenga una base empírica, que se base en evidencia científica”, dijo.
Pero dijo que creía que el Estado tiene un papel importante que desempeñar en el futuro de la IA. “Básicamente, sólo los gobiernos pueden poner a prueba los riesgos para la seguridad nacional. Y, en última instancia, esa es la responsabilidad y el conocimiento de un gobierno soberano y, con la participación de nuestras agencias de inteligencia, como lo han sido con todo nuestro trabajo de IA hasta ahora, ese es el trabajo de los gobiernos y nadie más puede hacerlo en nombre. de ellos.”
Alrededor de 100 políticos, líderes empresariales y académicos pasaron dos días en la Cumbre de Seguridad de la IA discutiendo los peligros potenciales que plantea una IA más inteligente que la humana, que Sunak había dicho anteriormente que podría ser equivalente a la de una guerra nuclear.
El evento fue criticado por algunos por su falta de transparencia después de que se publicara una lista de gobiernos y organizaciones presentes fue publicado por el gobierno del Reino Unido, pero no los nombres de todos los invitados. Los periodistas en el evento también estuvieron prohibido mezclarse con los delegados.
Pero un logro notable de la cumbre fue la firma del Declaración de Bletchley por 28 países, incluidos Estados Unidos y China, y la Unión Europea. El documento afirma que la IA plantea riesgos y dice que los países deberían seguir investigando. La declaración también añadió al calendario una cumbre más pequeña sobre el mismo tema en Corea del Sur dentro de los próximos seis meses, y otra conferencia a gran escala el próximo año.
Pero los expertos criticaron el progreso por ser demasiado vago y lento. “Ya hemos tardado en regular la IA y alcanzar acuerdos internacionales al respecto”, dice Carissa Véliz en la Universidad de Oxford. “Celebrar otra reunión dentro de seis meses no parece lo suficientemente ambicioso, dado lo mucho que está en juego y el rápido desarrollo e implementación de la IA”.
El primer ministro también debía celebrar una conversación transmitida en vivo el 2 de noviembre con Elon Musk, propietario de xAI, que se transmitirá en la plataforma de redes sociales X de Musk, anteriormente conocida como Twitter.
Temas: