Una generación de líderes ha construido sistemas que funcionan sin problemas pero que a menudo pierden su dirección moral. Se centran en objetivos y procesos, mientras que los valores que deberían guiarlos pasan a un segundo plano. Vendan Ananda Kumararajah pide que la ética esté al principio de cualquier proceso de diseño para que las instituciones, las tecnologías y los sistemas inteligentes crezcan sobre una base sólida y mantengan su integridad a medida que se vuelven más independientes.
Durante décadas, los expertos en tecnología se han centrado en cómo funcionan los sistemas y qué pretenden lograr. Han mapeado procesos, vínculos y circuitos de retroalimentación con gran detalle. Pero hay un elemento que todavía recibe mucha menos atención de la que debería: la dirección moral que guía cualquier sistema. A medida que la tecnología se vuelve más compleja, la ética necesita un lugar en el centro de nuestro pensamiento para que el propósito y la acción sigan cimentados en la responsabilidad.
Mientras que la función nos dice qué hace un sistema, el propósito explica por qué. Sin embargo, ninguno de los dos responde a qué se debe hacer ni con qué lógica moral. Con demasiada frecuencia, la ética se parchea tarde, después de que se han establecido soluciones técnicas. Como resultado, las organizaciones parecen funcionar bien en la superficie, pero pierden la confianza y la integridad que les dan legitimidad, y los sistemas inteligentes comienzan a producir resultados que ya no reflejan las intenciones de sus diseñadores.
Mucha gente todavía asume que los sistemas están por encima del debate moral –que pueden ser “éticamente neutrales” de alguna manera– pero, en la práctica, ningún sistema se construye sin valores. Cada modelo refleja las prioridades de sus diseñadores y cada función favorece unos resultados determinados. El lenguaje de la optimización a menudo enmascara esas elecciones, lo que hace que los valores subyacentes sean más difíciles de ver y aún más difíciles de cuestionar.
Cuando la ética se convierte en una ocurrencia tardía, como ocurre con tanta frecuencia, pasa de la conciencia al mero cumplimiento y regulación. Luego, los sistemas se desvían, como potentes motores con brújulas rotas.
La ética funciona como punto de partida de cualquier sistema. Le da al propósito una base clara y le da a la función una dirección responsable. Cuando la ética está al principio, el proceso de diseño se convierte en un ciclo de aprendizaje:
Ética → Propósito → Función → Reflexión → Ética renovada.
Este ciclo permite que un sistema comprenda lo que está haciendo y por qué, y mantenga sus acciones alineadas con sus valores fundamentales.
Este principio está formalizado en mi Modelo A3, una síntesis de la filosofía tamil y la ciencia de sistemas donde la coherencia ética (Aram) genera conciencia de la distorsión (Aanavam) y sostiene la agencia legítima (Adhikaram), formando un circuito vivo de inteligencia moral. Más allá de los marcos, esta idea es universal: la ética es la gramática de la coherencia, que mantiene el propósito puro y la función humana.
Todo sistema se enfrenta a distorsiones: entropía, sesgo, deriva. La resiliencia no radica en eliminar la distorsión sino en detectarla y corregirla. La distorsión (Aanavam) debe equilibrarse con la agencia legítima (Adhikaram): la capacidad y el deber de actuar responsablemente.
La agencia sin vigilancia se convierte en arrogancia; la vigilancia sin agencia se convierte en parálisis. El equilibrio sólo se logra cuando ambos co-viajan bajo una coherencia ética.
Ya sea en los gobiernos, las empresas o los algoritmos, el fracaso no es meramente funcional sino fundamental: la pérdida de dirección moral.
En una era de inteligencia artificial y acción autónoma, la ética debe volverse estructural, no una posdata. Las máquinas y las instituciones ahora reaccionan más rápido que las políticas. La corrección no puede esperar hasta que se haya producido el daño. La arquitectura moral debe integrarse en la operación misma.
No se trata de moralizar a las máquinas; más bien, se trata de inculcar la conciencia de las consecuencias, para que los sistemas aprendan a autoexaminarse y permanezcan alineados.
El cambio es de la moralidad externa a la coherencia interna. Los sistemas biológicos mantienen el equilibrio a través de la retroalimentación, no del castigo externo. Lo mismo deben hacer nuestras instituciones y tecnologías, por diseño y no por decreto.
La era de los sistemas comenzó con promesas de control; ahora se enfrenta a la complejidad de la recursividad. A medida que nuestras herramientas ganan autonomía, la gobernanza debe volverse más reflexiva. Pero la reflexividad sin ética simplemente multiplica los espejos sin siquiera preguntarse por qué.
El giro ético debe preceder al giro sistémico. Cuando la ética lidera, el propósito sigue y la función se alinea con la vida. La antigua filosofía tamil llama a esto Aram: la rectitud como condición para el florecimiento.
Si nuestra inteligencia ha de convertirse en conciencia, se debe restaurar la secuencia: primero la ética, segundo el propósito y tercero la función.
Vendan Ananda Kumararajah es un arquitecto de transformación y pensador de sistemas reconocido internacionalmente. Creador del Modelo A3, un marco cibernético de nuevo orden que une la ética, la conciencia de la distorsión y la agencia en la IA y la gobernanza, une la antigua filosofía tamil con la ciencia de sistemas contemporánea. Miembro del Chartered Management Institute y autor de Navigating Complexity and System Challenges: Foundations for the A3 Model (2025), Vendan está redefiniendo cómo la inteligencia, la gobernanza y la ética se interconectan en una era de tecnologías autónomas.
LEER MÁS: ‘Cómo la IA nos está enseñando a pensar como máquinas’. Más de treinta años después de Terminator 2, la inteligencia artificial ha comenzado a reflejar nuestro propio engaño e impaciencia. El arquitecto de transformación Vendan Kumararajah sostiene que la frontera entre el pensamiento humano y el de las máquinas está empezando a desaparecer.
¿Tiene noticias para compartir o experiencia para contribuir? El europeo acoge con agrado las opiniones de líderes empresariales y especialistas del sector. Póngase en contacto con nuestro equipo editorial para obtener más información.