Este no es exactamente un buen momento para los reguladores. El sentimiento predominante es: Espera, ¿las cosas empeoraron más rápido de lo que esperábamos?
En este momento, los reguladores del Reino Unido buscan desesperadamente controlar lo que parece ser un salto alarmante en el uso de la IA. Al parecer, un modelo creado por Anthropic pudo descubrir una gran cantidad de vulnerabilidades de software y esto está preocupando a la gente.
Esto no es ciencia ficción. Es real.
Después de ser evaluado internamente, dado que el modelo aún se encuentra en las primeras pruebas, los reguladores comenzaron a preguntarse si este nuevo sistema de inteligencia artificial podría tener efectos negativos para el Reino Unido. El hecho de que se dijera que el modelo era capaz de encontrar miles de debilidades en un entorno determinado causó alarma.
Los reguladores del Reino Unido, incluido el Banco de Inglaterra, tuvieron una respuesta. Los detalles de lo sucedido y las reacciones de los reguladores se pueden encontrar en el siguiente informe:
Pero retrocedamos un momento. Esa es la parte complicada. Esta no es una historia de “malas noticias”. Después de todo, identificar vulnerabilidades es una herramienta increíblemente valiosa cuando se trata de IA.
Para empezar, cuanto más rápido se puedan aplicar los parches, menos vulnerabilidades habrá. Es útil para los profesionales de la ciberseguridad. La dificultad es que también es útil para aquellos que quieran explotar las vulnerabilidades.
Ese es el problema del doble uso que ha prevalecido con la IA a medida que ha evolucionado rápidamente.
Una mirada al potencial de la IA en la seguridad cibernética también muestra las posibles desventajas de la tecnología: algunos expertos ya están susurrando que estamos entrando en una fase en la que la IA no sólo ayuda a los piratas informáticos, sino que podría superar por completo a los defensores humanos.
Es un pensamiento muy aterrador, pero ¿es cierto? Ya sabemos que algunas tecnologías de IA son capaces de identificar e incluso explotar vulnerabilidades del sistema. Es sólo cuestión de tiempo antes de que podamos hacerlo automáticamente.
Y hablé con algunos desarrolladores durante el año pasado y hubo un cambio silencioso de tono. Como bromeó uno de ellos: “Creamos herramientas para ayudarnos… ahora estamos comprobando si necesitan supervisión como los pasantes que nunca duermen”.
Estoy seguro de que habremos escuchado más de los responsables políticos a medida que se enfrentan a los rápidos avances de las tecnologías de IA a nivel mundial:
Paralelamente, empresas como Google y OpenAI continúan su trayectoria de desarrollo propio hacia sistemas cada vez más potentes en una competencia bastante tranquila.
Esta competencia no es una competencia que genere un gran escándalo, sino más bien una en la que cada actualización eleva el piso y el techo de lo que es posible. Esto plantea otra pregunta que la gente tiende a evitar.
¿Estamos construyendo más rápido de lo que podemos comprender los resultados? Dado que las regulaciones ya están luchando por mantenerse actualizadas, ¿qué sucederá dentro de seis meses?
Otro artículo que analiza la aceleración de la IA y por qué la regulación no puede seguir el ritmo se suma a este punto.
Realmente no hay un final feliz para todo esto. Hemos llegado a un punto en el que la rápida aceleración es una realidad y el futuro no está claro. Es un momento importante para todos nosotros.
La IA ya no es sólo una herramienta. Se está convirtiendo en un actor en sistemas que apenas controlamos por completo. Es un momento de ajuste de cuentas y es probable que las respuestas varíen dependiendo de en qué lado del firewall se encuentre.