Mientras Gran Bretaña fortalece sus defensas contra los crecientes riesgos de la inteligencia artificial, el experto Vendan Ananda Kumararajah advierte que informar incidentes e identificar debilidades hará poco para prevenir fallas futuras a menos que las organizaciones actúen sobre la base de las lecciones aprendidas, refuercen la supervisión y reconsideren los poderes que otorgan a los sistemas autónomos de IA.
Gran Bretaña se está preparando para incidentes graves que involucren a agentes autónomos de IA. Su último anuncio de seguridad reconoce que estos podrían desarrollarse más rápido y extenderse más allá de las emergencias para las que las instituciones existentes fueron diseñadas.
Los ministros ahora están considerando acuerdos más estrictos para la presentación de informes, una mejor identificación de los cuasi accidentes y formas de aprender rápidamente de lo que sale mal. Se trata de avances necesarios, pero su eficacia dependerá de lo que suceda después de que llegue la advertencia.
Una organización puede identificar una debilidad, investigar un incidente, emitir orientación y restaurar las operaciones. Cada paso es importante, pero ¿qué establece que la experiencia haya cambiado las condiciones que rigen la siguiente decisión? ¿Se pueden limitar los permisos, pausar una implementación o retirar una autoridad?
Estas preguntas se vuelven más apremiantes a medida que los sistemas de IA obtienen acceso a herramientas, datos organizacionales y flujos de trabajo consiguientes. La autoridad delegada puede viajar a través de varios sistemas antes de que un humano vea el resultado.
El Informe de defensa digital 2026 de Microsoft proporciona una configuración útil para examinar este problema. El análisis que lo acompaña coloca a los agentes de IA dentro de un entorno de seguridad interconectado que involucra identidades, aplicaciones, infraestructura y relaciones de confianza. Aborda el acceso, la atribución, la autenticación y la revocación de los agentes: preocupaciones prácticas cuando los agentes ingresan a las operaciones empresariales.
Apliqué al informe el Panel de Gobernanza A3, desarrollado a partir de mi Modelo A3. La evaluación utiliza la ayuda de un modelo de lenguaje grande (LLM) estrictamente dentro de la lógica y las reglas definidas por A3. Examina la evidencia presentada en el documento presentado; no puede establecer todo lo que Microsoft hace internamente.
Ese límite es vital. Un informe público de ciberseguridad tiene un propósito definido. No se puede esperar que revele todas las deliberaciones internas, y los asuntos fuera de su alcance deben quedar fuera de las conclusiones que se extraigan de ellas.
A3 sigue la secuencia desde el conocimiento hasta la acción, la experiencia y la absorción en la gobernanza. El cierre se demuestra cuando la experiencia cambia lo que la institución acepta como conocimiento, las reglas que aplica, los permisos que otorga o la autoridad que reconoce.
Dentro de ese límite, la evaluación identificó evidencia documental de fortalezas operativas sustanciales: compromisos de seguridad articulados, acciones alineadas con esos compromisos, inteligencia de amenazas procesable y respuestas legales y técnicas coordinadas. El informe describe el trabajo de Microsoft con las fuerzas del orden y los socios de la industria para interrumpir Tycoon2FA, un servicio de phishing, apuntando a la infraestructura utilizada para robar credenciales.
La pregunta, junto con esas fortalezas, era hasta qué punto el documento demostraba que la experiencia estaba siendo absorbida por las reglas y la autoridad que regirían la acción futura.
Deshabilitar la infraestructura maliciosa o revocar el acceso de un atacante cambia una situación operativa. Por sí solo, no establece que una organización haya revisado sus propias reglas de aprobación, supuestos de implementación o asignación de poder de toma de decisiones. Esos cambios requieren su propia evidencia. La evaluación encontró una demostración limitada de esa transición en las pruebas presentadas. Este es un hallazgo sobre el informe presentado, no una alegación de que la corrección institucional nunca ocurre. Identifica dónde se necesitarían más pruebas.
A3 examina esta relación a través de tres elementos que operan juntos: Aram, coherencia ética; Anavam, distorsión sistémica; y Adhikaram, agencia legítima. La finalidad ética de una actividad, las distorsiones que en ella surgen y la autoridad permitida para llevarla a cabo se afectan continuamente entre sí.
La distorsión puede originarse dentro de la institución: incentivos que favorecen el despliegue sobre el escrutinio, excepciones habituales, confianza engañosa o responsabilidad fragmentada. Por lo tanto, el aprendizaje requiere un escrutinio de la propia contribución de la organización a las condiciones que luego corrige.
Adhikaram trata la agencia legítima –y la autoridad a través de la cual actúa– como ganada, condicional y revocable. La capacidad demostrada por una organización para responder responsablemente influye en el ámbito de acción que debe seguir ejerciendo.
La retroalimentación puede llegar a quienes toman las decisiones sin obligarlos a cambiar nada. Una revisión puede ser obligatoria mientras que sus recomendaciones siguen siendo discrecionales. La acción correctiva puede resolver el problema inmediato dejando intactas las condiciones que lo rigen.
Considere un agente de IA que actúa repetidamente sobre la base de información no confiable. Una solución inmediata podría corregir su resultado y mejorar un filtro. Una respuesta de gobernanza también podría revisar qué fuentes califican como evidencia, limitar sus permisos, requerir corroboración para acciones particulares y especificar qué debe demostrarse antes de restaurar una autonomía más amplia.
La diferencia se hace visible en la siguiente decisión. Para las juntas y organismos públicos, esto crea una prueba probatoria práctica. ¿Quién estaba obligado a responder? ¿Qué cambió? ¿Quién autorizó el cambio? ¿Qué condiciones rigen el funcionamiento continuo o la autonomía restaurada?
No todos los incidentes requieren restricciones más estrictas. Una investigación puede concluir que los acuerdos existentes siguen siendo adecuados. Pero esa sentencia debe tener un titular responsable y una base probatoria explícita. No es lo mismo registrar una recomendación que resolverla.
Los acuerdos de información y aprendizaje propuestos por Gran Bretaña pueden evaluarse en función de este requisito. Los informes crean la oportunidad de corregir; los arreglos institucionales posteriores al informe determinan si éste cambia la conducta futura.
El tablero A3 hace que esa transición sea examinable. Sus indicadores y clasificaciones de evidencia distinguen las disposiciones descritas en un documento de la operación demostrada por él, y la respuesta inmediata de los cambios que rigen el siguiente ciclo de acción.
Después del incidente, el registro decisivo es lo que la institución ahora sabe, permite y requiere, y cómo esos cambios darán forma a lo que sucederá a continuación.
Vendan Ananda Kumararajah es un arquitecto de transformación y pensador de sistemas reconocido internacionalmente. Creador del Modelo A3, un marco cibernético de nuevo orden que une la ética, la conciencia de la distorsión y la agencia en la IA y la gobernanza, une la antigua filosofía tamil con la ciencia de sistemas contemporánea. Miembro del Chartered Management Institute y autor de Navigating Complexity and System Challenges: Foundations for the A3 Model (2025), Vendan está redefiniendo cómo la inteligencia, la gobernanza y la ética se interconectan en una era de tecnologías autónomas.
LEER MÁS: Repensar la gobernanza de la IA o arriesgarse a una explosión de inteligencia incontrolada. A medida que la IA comienza a ayudar a desarrollar y evaluar a sus propios sucesores, las suposiciones y sesgos erróneos podrían multiplicarse con cada generación, alimentando una “explosión de inteligencia” en la que sistemas cada vez más capaces se vuelven más difíciles de gobernar. Para evitar esto, es esencial una evaluación y supervisión independientes más sólidas, sostiene Vendan Ananda Kumararajah.
¿Tiene noticias para compartir o experiencia para contribuir? El europeo acoge con agrado las opiniones de líderes empresariales y especialistas del sector. Póngase en contacto con nuestro equipo editorial para obtener más información.
Imagen principal: Czapp Árpád / Pexels