La inteligencia artificial ahora es fundamental para la toma de decisiones estratégicas en los sectores, desde la atención médica hasta la defensa, pero sus resultados son tan confiables como los supuestos y la supervisión que los guían, advierte el experto en transformación digital y el aclamado autor, Marco Ryan. El liderazgo efectivo en este contexto exige inteligencia digital: la capacidad de hacer preguntas informadas, reconocer cuándo los resultados no reflejan la realidad y manténgase alerta sobre cómo se forman las decisiones automatizadas.
No hace mucho tiempo, Amazon probó una herramienta de reclutamiento que rebajó los CV que mencionaban la palabra ‘mujeres’. En otros lugares, los residentes de los vecindarios predominantemente negros de los Estados Unidos fueron cobrados rutinariamente más por el seguro de automóviles porque los sistemas involucrados se basaron en datos históricos, que reflejaban las desigualdades sociales existentes. Mientras tanto, el generador de imágenes de Google, Gemini, fue criticado cuando los usuarios descubrieron que no produciría imágenes de personas blancas, lo que plantea preocupaciones sobre la forma en que los modelos generativos interpretan instrucciones y entradas de capacitación. Estos son ejemplos de lo que sucede cuando los sistemas complejos se implementan sin pensarlo suficiente sobre las consecuencias o las suposiciones integradas en ellos.
La inteligencia artificial a menudo se introduce con la promesa de velocidad, eficiencia y consistencia. Sin embargo, en la práctica, puede amplificar los errores si las organizaciones no están prestando mucha atención a cómo funcionan estos sistemas, cómo interpretan los datos y en qué tipo de decisiones se les permite influir.
Después de todo, la tecnología es tan útil como el juicio que lo rodea, y ese juicio ahora debe estar informado por cómo estos sistemas se construyen, capacitan y aplican. Los entornos en los que opera la IA son demasiado dinámicos, demasiado opacos y demasiado consecuentes para confiar puramente en la intuición o la experiencia. Los líderes ahora deben cultivar inteligencia digital para reconocer cómo se capacitan los sistemas, dónde pueden surgir riesgos y sesgos y cómo se están formando decisiones. Eso significa ser supuestos digitalmente curiosos, desafiantes y estar dispuestos a invertir jerarquías tradicionales para que las personas más cercanas a la tecnología puedan hablar.
En un grupo hospitalario, por ejemplo, se trajo un sistema de mantenimiento predictivo para monitorear equipos médicos críticos y anticipar fallas antes de que sucedieran. Los ingenieros responsables de esta maquinaria se dieron cuenta rápidamente de que el sistema estaba exagerando. Las lecturas de antecedentes de rutina se marcaban como signos de falla inminente, y los dispositivos que funcionaban normalmente se estaban sacando de servicio para controles innecesarios. Esto tenía el potencial de causar más daño del que evitaba, particularmente si el equipo vital se desconectaba durante los períodos de demanda real.
En lugar de seguir las alertas sin duda, los ingenieros detuvieron y revisaron las recomendaciones del sistema. Su investigación reveló que el modelo había malinterpretado las fluctuaciones de sensores ordinarios como señales de advertencia. Después de volver a capacitar el sistema con entrada humana, la frecuencia de las alertas falsas cayó bruscamente. La tecnología permaneció en su lugar, pero ahora operaba bajo un escrutinio más cercano, con el beneficio de la comprensión práctica.
En un caso separado, un oficial de ejército británico superior recibió imágenes de drones de dos figuras agachadas por una carretera conocida por los ataques insurgentes. La escena coincidía con el patrón de amenazas anteriores, y el sistema había marcado a las personas como combatientes probables. Bajo presión para actuar rápidamente, el oficial tomó la decisión de esperar. Unos momentos después, dos niños se levantaron y corrieron por el camino. Las imágenes habían sido precisas, pero la interpretación era incorrecta. No fue el algoritmo el que evitó el desastre, sino el individuo que estaba preparado para cuestionarlo.
Ambas situaciones involucraron a personas con experiencia relevante que reconocieron las limitaciones de la tecnología en la que se les pidió que confiaran. Ninguno de los dos necesitaba comprender el funcionamiento técnico del aprendizaje automático o los modelos predictivos. Lo que trajeron a la situación fue una comprensión clara del contexto, un sentido de consecuencia y una voluntad de asumir la responsabilidad, todos los sellos de la inteligencia digital fuerte. O, para decirlo de otra manera, no siguiente datos pero interrogatorio él.
Muchas organizaciones aún tratan las herramientas de IA como si operen independientemente de la influencia humana. Los sistemas parecen precisos, y los datos se ven limpios, pero las salidas reflejan una serie de opciones sobre qué datos usar, cómo soportarlo y qué es el éxito. Estas opciones a menudo se hacen sin transparencia, y sin ningún proceso claro para la reflexión o la corrección cuando algo parece apagado.
Los empleados más jóvenes tienden a tener más confianza con los sistemas digitales y, a menudo, están mejor equipados para comprender cómo se comportan. Sin embargo, rara vez tienen la autoridad para anular una recomendación o cuestionar un resultado. Al mismo tiempo, se les pide a los líderes superiores que aprueben estrategias y tecnologías que no entiendan completamente. Esta división crea una brecha entre el conocimiento técnico y el poder de la toma de decisiones, una brecha que solo la inteligencia digital puede cerrar.
Por ‘inteligencia digital’, nos referimos a más que una mera familiaridad con las herramientas digitales. Más bien, es una calidad de liderazgo basada en la curiosidad digital, el enfoque ético y la voluntad de seguir aprendiendo. No requiere conocimientos de codificación, pero exige preguntas agudas, la capacidad de detectar resultados inesperados y el juicio para saber cuándo algo no está bien. La inteligencia digital también significa fomentar el tipo de entorno donde las personas pueden plantear inquietudes, estar en desacuerdo abiertamente y seguir responsables de los sistemas que supervisan.
Con esto en mente, el liderazgo fuerte en un entorno digital no se define por la rapidez con que se adoptan las nuevas herramientas, pero por lo bien que se entienden y gobiernan. Significa incrustación de procesos para el escrutinio y el reflejo, asegurando que se escuchen a quienes con información se escuchan y intervienen cuando las cosas salen mal. Crucialmente, incluye saber cuándo detenerse o dar un paso atrás en lugar de avanzar.
Como dirijo en Volver a cablear o retirarsemi nuevo libro, la presión para adoptar nuevas tecnologías debe equilibrarse con una capacidad de reflexión ética y juicio situacional. Retir no significa darse por vencido, pero saber cuándo los costos superan los beneficios, cuándo deben ser desafiados las suposiciones y cuando la velocidad debe dar paso a la atención. A veces, la elección responsable es detenerse, retroceder o incluso detenerse. En una era de aceleración de la complejidad, el Retirarse La opción importa igual de.
La IA continuará desempeñando un papel central en negocios, gobierno y vida pública; Su influencia crecerá y sus capacidades mejorarán. Pero la necesidad de juicio humano no desaparecerá. Los líderes siguen siendo responsables de lo que sucede bajo su vigilancia, ya sea que una máquina estuviera involucrada o no. La verdadera prueba de liderazgo no es la rapidez con que alguien adopta una nueva herramienta, sino qué tan bien entienden los sistemas en los que confían y cuán preparados están para desafiarlos cuando es importante.
Marco Ryan es un director experimentado no ejecutivo, asesor digital y ex director digital de BP. Es líder cibernético en residencia en la Lancaster University Management School y enseña sobre su Cyber Ejecutive MBA. Su último libro, Volver a cablear o retirarseayuda a los miembros de la junta y a los líderes superiores a comprender el impacto de la IA en el liderazgo, ofreciendo estrategias claras para adaptarse en una era de cambio digital rápido.
Imagen principal: cortesía Ron Lach/Pexels