El reglamento europeo de IA está tomando forma, pero ¿qué pasa si el próximo gran fracaso no proviene de una falta de cumplimiento sino de sistemas de gobernanza que parecen sólidos pero que se salen de control? Vendan Ananda Kumararajah, creador del marco A3 Governance Dashboard, sostiene que el cumplimiento por sí solo puede no ser suficiente para detectar la desviación de la gobernanza.
Europa cuenta ahora con una ley histórica sobre IA. La Ley de IA de la UE ha creado una arquitectura legal para clasificar y controlar sistemas de alto riesgo, y organizaciones de todo el continente están ocupadas creando políticas, registros, comités de supervisión y procesos de cumplimiento para cumplir con sus requisitos.
Ese trabajo es necesario, pero detrás del papeleo se esconde una cuestión más profunda.
A medida que las organizaciones crean políticas, registros y estructuras de supervisión para demostrar el cumplimiento, la cuestión más fundamental (si la propia gobernanza sigue siendo coherente una vez que los sistemas se ven bajo presión) sigue en gran medida inexplorada.
¿Qué pasa si la próxima generación de fallos de la IA en Europa proviene de sistemas que parecen gobernados sobre el papel pero que silenciosamente se salen de control?
Esa es la señal que surge de la versión beta del Panel de Gobernanza A3, un nuevo marco de evaluación diseñado para evaluar los sistemas de gobernanza a través de las lentes de la coherencia ética, la distorsión sistémica y la idoneidad de la agencia.
La mayoría de las instituciones importantes conocen ahora la coreografía de la gobernanza. Publican principios de IA responsable, mantienen registros de riesgos, establecen procedimientos de supervisión humana y documentan procesos de auditoría y escalamiento.
Todo esto es necesario, pero nada garantiza que la gobernanza siga siendo eficaz cuando los sistemas se ven sometidos a una presión operativa real.
Las preguntas que importan suelen ser más fundamentales. ¿Los compromisos éticos realmente influyen en las decisiones de implementación? ¿Se consideran los resultados probabilísticos más autorizados de lo que permite la evidencia? ¿Se activan los mecanismos de escalada cuando algo parece estar mal? ¿Se está volviendo una organización dependiente de la interpretación sintética? ¿Puede reconocer su propia tendencia antes que el público?
El Panel A3 se creó para examinar precisamente la brecha entre la gobernanza documentada y la gobernanza vivida.
Lo hace a través de tres dimensiones interdependientes: Aram (coherencia ética), Aanavam (distorsión sistémica) y Adhikaram (aptitud de la agencia).
Aram examina si el propósito declarado, los deberes y los compromisos de las partes interesadas realmente influyen en la toma de decisiones. Aanavam explora cómo los incentivos, la calidad de la información, la opacidad y la actitud defensiva institucional distorsionan el juicio. Adhikaram evalúa si quienes toman o delegan decisiones poseen la autoridad, el conocimiento y la capacidad de adaptación necesarios para actuar responsablemente.
El tablero también mide lo que llama ‘Sincronización Triádica’: el grado en que estas tres dimensiones continúan moviéndose juntas mientras opera un sistema.
Los primeros hallazgos de la versión beta del Panel de Gobernanza A3 sugieren que esta sincronización, o su ausencia, es donde la gobernanza a menudo comienza a fallar.
En 53 casos que abarcan la gobernanza de la IA, la atención sanitaria, la infraestructura, los delitos financieros, la administración pública, el gobierno local y los sistemas medioambientales, surgió un patrón recurrente.
Para algunos ejemplos, incluida la atención del cáncer y la gobernanza internacional del agua, los hallazgos mostraron compromisos éticos, baja distorsión y una fuerte capacidad de adaptación operando en alineación. En esos casos, una alta sincronización triádica se traducía en una alta integridad general.
Además de esto, muchas de las 53 organizaciones obtuvieron resultados razonablemente buenos cuando se evaluaron las dimensiones individuales de forma aislada.
Sin embargo, cuando se consideraron juntos Aram, Aanavam y Adhikaram, las puntuaciones de Triadic Sync fueron a menudo significativamente más débiles que las puntuaciones de los pilares individuales. En términos prácticos, las arquitecturas de gobernanza a menudo parecían más resilientes de lo que sugería su sincronización subyacente.
Esa desalineación es la alerta temprana.
El patrón no es meramente teórico. El corpus beta incluye una evaluación longitudinal de Volkswagen durante el escándalo Dieselgate. Mucho antes de que la crisis se hiciera pública, los informes ya señalaban opacidad, tensión y debilidades de gobernanza. Tras el escándalo, las tres dimensiones mostraron un grave deterioro.
Visto a través de la lente del A3, el Dieselgate se convierte en un ejemplo de un sistema que pierde gradualmente coherencia antes de experimentar un fallo muy visible. Las señales de advertencia existían antes de que estallara el escándalo. Simplemente no se les estaba midiendo de esa manera.
Por lo tanto, el tablero no intenta simplemente identificar fallas, sino también distinguir entre estados de gobernanza estables, tensos y críticos.
Esto, a su vez, plantea una pregunta más amplia sobre si los enfoques actuales de la gobernanza de la IA miden las mismas dimensiones.
El debate europeo sobre la gobernanza de la IA sigue centrado en gran medida en la clasificación: qué sistemas son de alto riesgo y qué obligaciones se les aplican.
Ese enfoque es comprensible ya que la regulación requiere categorías. Sin embargo, los hallazgos del A3 apuntan hacia una pregunta diferente. Incluso cuando un sistema de IA está correctamente clasificado, completamente documentado y sujeto a supervisión formal, ¿cómo pueden las organizaciones saber si la propia gobernanza sigue siendo coherente?
Ninguna de las categorías regulatorias centrales todavía plantea la pregunta que la versión beta del A3 sigue surgiendo: ¿la ética, el control de la distorsión y la idoneidad de la agencia siguen avanzando juntos?
Los sistemas avanzados de IA están cada vez más integrados en la toma de decisiones institucionales. Ayudan a priorizar la información, moldear la confianza, influir en las recomendaciones, reordenar la atención y acelerar los procesos de decisión. En algunos entornos ya afectan la forma en que las organizaciones interpretan la evidencia y responden a la incertidumbre.
Por tanto, la cuestión rectora está cambiando. ¿Bajo qué condiciones se debería permitir que un sistema inteligente, o una disposición entre humanos e IA, interprete, recomiende, influya, intensifique o actúe? Triadic Sync ofrece una posible respuesta a esto: no cuando la ética, la integridad de la información y la idoneidad de la agencia están desalineadas.
El Panel de Gobernanza A3 sigue siendo un instrumento beta y se presenta como una demostración aplicada en lugar de un estándar de gobernanza certificado de forma independiente.
Aun así, los patrones que emergen en el conjunto de casos actual plantean preguntas importantes para los responsables políticos, reguladores y líderes institucionales europeos. ¿Se pueden tratar la ética, la distorsión y la agencia como dominios de cumplimiento separados cuando muchas fallas de gobernanza parecen surgir de la forma en que interactúan? ¿Pueden las instituciones detectar la desviación de la gobernanza antes de que ocurra una crisis? ¿Y cómo deberían las organizaciones evaluar la toma de decisiones basada en la IA cuando los propios sistemas moldean cada vez más la confianza, la interpretación y la acción?
La Ley de IA de la UE proporciona un marco legal importante. El próximo desafío es desarrollar inteligencia de gobernanza: la capacidad de reconocer cuándo los compromisos éticos, la integridad de la información y la capacidad de toma de decisiones comienzan a separarse antes de que los sistemas inteligentes fallen en público.
El cumplimiento puede demostrar que se han identificado obligaciones y la auditoría puede demostrar que existen procedimientos. Triadic Sync tiene como objetivo mostrar si la gobernanza sigue siendo coherente en condiciones reales.
Ésa es la frontera a la que Europa se acerca ahora, y una frontera que la ley por sí sola no puede cruzar.
Vendan Ananda Kumararajah es un arquitecto de transformación y pensador de sistemas reconocido internacionalmente. Creador del Modelo A3, un marco cibernético de nuevo orden que une la ética, la conciencia de la distorsión y la agencia en la IA y la gobernanza, une la antigua filosofía tamil con la ciencia de sistemas contemporánea. Miembro del Chartered Management Institute y autor de Navigating Complexity and System Challenges: Foundations for the A3 Model (2025), Vendan está redefiniendo cómo la inteligencia, la gobernanza y la ética se interconectan en una era de tecnologías autónomas.
LEER MÁS: ‘¿Europa está regulando el futuro o se está olvidando de construirlo? El defecto oculto de la soberanía digital’. A medida que Europa se basa en el RGPD y la Ley de IA, la próxima frontera va más allá de los libros de reglas y las sanciones, escribe Vendan Kumararajah, quien sostiene que la soberanía digital perdurará sólo si la gobernanza, la legitimidad y la detección de distorsiones se integran directamente en la arquitectura de los propios sistemas de IA, en lugar de imponerse desde afuera únicamente mediante el cumplimiento.
¿Tiene noticias para compartir o experiencia para contribuir? El europeo acoge con agrado las opiniones de líderes empresariales y especialistas del sector. Póngase en contacto con nuestro equipo editorial para obtener más información.
Imagen principal: Ilustración generada por IA que acompaña el argumento de Vendan Ananda Kumararajah de que las fallas de gobernanza a menudo comienzan como señales sutiles de deriva institucional mucho antes de que una crisis se vuelva visible. Obra de arte: Noticias de Belters. Créditos: Derivado de una fotografía de una impresión de ECG realizada por Luan Rezende, vía Pexels.