última ola de artículos, artículos de opinión y pronósticos de consultores y proveedores de IA, todos prediciendo con confianza la inminente toma de control del trabajo humano por parte de la IA agente, recientemente me encontré pensando en mi primer año en el Imperial College de Londres, allá por 2009. Nuestro profesor del curso de introducción a la programación a menudo nos decía que esbozáramos las soluciones de las tareas del curso con lápiz y papel antes de codificarlas en una computadora, porque ese proceso más lento y deliberado de escribir y dibujar a mano puede ayudar a establecer una comprensión más profunda del tema y conducir a mejores soluciones.
Hoy ese consejo parece más pertinente que nunca. La seductora promesa de la IA ha atraído tanto a individuos como a organizaciones y gobiernos. Un estudiante envía un ensayo generado por IA, evitando la lucha cognitiva a través de la cual la escritura se convierte en comprensión. Una empresa reemplaza a los empleados humanos con agentes de IA, despojándose del conocimiento institucional tácito necesario para evaluar el resultado de la IA. Un tribunal complementa las decisiones de sentencia con puntuaciones de riesgo algorítmicas opacas y potencialmente sesgadas. Cualquiera que sea la motivación en cada caso, ceder la cognición, el juicio y la responsabilidad a la IA bien puede convertirse en la opción predeterminada con el tiempo, hasta que nuestra dependencia de la IA (y de los actores de su ecosistema más amplio) se arraigue y normalice tan profundamente que revertirla no parezca necesario ni factible. Esta pérdida de la acción humana es bastante preocupante en sí misma. Lo que lo hace aún más así es que la producción de IA de apariencia pulida a la que se está postergando es, en una inspección más cercana, a menudo solo de valor genérico y, a veces, simplemente incorrecta.
Existe aquí un paralelo esclarecedor con la industria de la consultoría de gestión, que realiza un truco o “estafa” de confianza sorprendentemente similar. Los consultores rutinariamente empaquetan análisis genéricos en presentaciones pulidas y proyectan en sus recomendaciones una certeza mucho mayor de la que justificaría la evidencia subyacente. Las organizaciones que recurren en gran medida a consultores externos pierden gradualmente la capacidad de pensar por sí mismas. Los consultores pueden equivocarse, tanto en la calidad de sus conocimientos como en su conducta ética, y los sistemas de IA son, en esencia, comparadores de patrones probabilísticos sin valores intrínsecos ni responsabilidad por los resultados que producen. Ambos derivan su autoridad menos de la corrección demostrada que de la asimetría entre la confianza con la que se entregan sus recomendaciones y la capacidad cada vez menor del cliente para desafiarlas.
Tomando la dinámica estructural de la industria de la consultoría como una analogía instructiva, este artículo sintetiza lo que sabemos sobre nuestra creciente dependencia de la IA agente, rastrea los riesgos de una dependencia excesiva a nivel individual, organizacional y social, y propone formas de recuperar la agencia en cada uno de esos niveles antes de que nuestra capacidad para hacerlo desaparezca irremediablemente.
La estafa original
En 2023, las economistas Mariana Mazzucato y Rosie Collington publicaron The Big Con, argumentando que una confluencia de estructuras de incentivos, asimetrías de información y presiones institucionales habían permitido a la industria de la consultoría de gestión extraer retornos superiores al valor que crea. Seguramente, los clientes sofisticados simplemente dejarían de contratar empresas caras que no cumplieron. No del todo, ya que un cliente que subcontrata una función estratégica durante muchos años puede que ya no posea la experiencia interna para evaluar si el asesoramiento que recibe es sólido, lo cual es una dinámica clave que perpetúa el compromiso. El paralelo con los proveedores de IA de hoy es digno de mención: integración profunda, costos altos y una base de clientes que progresivamente se vuelve menos capaz de evaluar lo que se vende.
A pesar de su connotación conspirativa, el problema central que destaca The Big Con es estructural más que moral. Muchos consultores en la cuenta de Mazzucato y Collington estaban genuinamente tratando de tener un impacto positivo, y muchos de los funcionarios que los contrataron estaban haciendo todo lo posible para actuar responsablemente bajo las presiones presupuestarias y de personal. El acuerdo no requería ni cinismo por parte de los consultores ni negligencia por parte de los clientes, sino simplemente que se permitiera que la delegación repetida siguiera su curso natural. Lo que The Big Con ofrece en última instancia es menos una crítica a cualquier industria o individuo que una advertencia sobre cómo los mercados recompensan el cortoplacismo. La subcontratación como medida de “racionalización” puede pintar un panorama financiero falsamente favorable en el corto plazo, proteger a los tomadores de decisiones al externalizar la responsabilidad y vaciar la capacidad de elaborar estrategias y ejecutar. Es el equivalente corporativo de gestionar el fitness a través de costosos entrenadores personales en lugar de desarrollar el hábito de hacer ejercicio uno mismo: sin duda, los entrenadores pueden ofrecer un valor real, pero también pueden generar (sobre)dependencia en lugar de autosuficiencia.
El mecanismo en funcionamiento es algo parecido al lado oscuro de lo que los estudiosos de la gestión llaman “desaprender sin hacer”. Cuanto menos realiza una organización una función internamente, menos sabe cómo hacerlo; cuanto menos sabe, más necesita ayuda externa; y cuanto más se paga por la ayuda externa, menos se construye el conocimiento que eventualmente haría que la ayuda externa fuera innecesaria. Un movimiento reformista que se extendió por la administración pública a partir de los años 1980, en Estados Unidos y más allá, popularizó exactamente esta lógica bajo el lema “conducir más, remar menos”. Pero Mazzucato y Collington muestran por qué ese enfoque resultó contraproducente para funciones en las que hacer y dirigir no pueden separarse claramente. Como dicen: “Cuanto menos rema [una organización], menos aprende, menos productiva se vuelve: menos puede dirigir”. El riesgo es especialmente grave para las funciones estratégicamente centrales, porque una vez que esas funciones migran al exterior, reconstruirlas internamente puede llevar años.
El patrón más amplio tiene sus raíces en la teoría de la ventaja comparativa. En un mundo complejo y especializado, puede ser racional concentrarse en lo que uno hace mejor y pagar a otros para que se encarguen de todo lo demás. Los particulares contratan fontaneros y electricistas. Las empresas contratan especialistas para trabajos legales y fiscales. Los gobiernos subcontratan servicios donde los proveedores privados tienen mayor experiencia. Cada decisión es defendible de forma aislada. Sin embargo, comienza a convertirse en un problema cuando la lógica de la ventaja comparativa delimita no sólo las tareas periféricas sino el trabajo estratégico esencial que define lo que realmente es un individuo, una organización o una institución. Un estudiante que subcontrata su pensamiento, una empresa que subcontrata su estrategia, un gobierno que subcontrata su formulación de políticas: en cada caso, el partido que delega cede la capacidad misma que da forma a su identidad. Con la IA agente, esta pérdida va aún más lejos, ya que la agencia pasa a un sistema sin responsabilidad real ante la entidad que la utiliza.
La próxima gran estafa
La historia de la IA de la década de 2020 guarda paralelos intrigantes con la historia de la consultoría de décadas pasadas: prometedoras victorias tempranas, delegación incremental racional y una dependencia estructural que sólo se vuelve visible cuando revertirla es demasiado costosa. Los primeros casos de uso de la IA, desde redactar textos y escribir códigos hasta resumir documentos y automatizar procesos rutinarios, son intuitivos y ofrecen resultados con poca fricción. La barrera para la adopción inicial parece más baja que para casi cualquier tecnología anterior. La incorporación de la IA generativa desde el lanzamiento de ChatGPT a finales de 2022 comprimió en tan solo unos pocos años lo que podría haber sido una década o más de adopción institucional gradual.
Los proveedores de IA están desesperados por capturar rápidamente participación de mercado y mostrar una adopción a gran escala para justificar las valoraciones de las acciones de crecimiento, por lo que los precios de los servicios de IA actualmente están muy por debajo del costo real de entrega. Por lo tanto, la economía a corto plazo es artificialmente convincente, de la misma manera que las primeras ofertas de nube y SaaS utilizaban precios subsidiados para construir la profundidad de integración que luego hizo que el cambio fuera doloroso. Como tal, la IA agente está preparada para acelerar el desplazamiento del trabajo a un ritmo y una escala que la consultoría nunca alcanzó: mientras que el software empresarial alguna vez proporcionó herramientas para que los profesionales capacitados operaran, las plataformas impulsadas por IA están cerrando cada vez más los libros, redactando contratos y generando documentos estratégicos directamente, eliminando a los humanos del circuito y, con ellos, el conocimiento organizacional que justificaba mantener la función internamente.
Antes de examinar los riesgos, vale la pena reconocer los importantes beneficios que puede aportar el uso sensato de la IA. La automatización de tareas repetitivas, de gran volumen y basadas en reglas libera la atención humana para un trabajo que es más estimulante intelectualmente y requiere un juicio cuidadoso. Las herramientas de tutoría personalizadas de IA son prometedoras: los primeros estudios sugieren ganancias mensurables en la participación y comprensión de los estudiantes. Un compañero de entrenamiento de IA bien utilizado puede agudizar el pensamiento en lugar de reemplazarlo; por ejemplo, se le puede pedir que argumente el lado opuesto, que encuentre el eslabón más débil en su razonamiento o que saque a la luz argumentos que aún no han sido considerados. Esto es lo que Cory Doctorow, en su reciente libro The Reverse Centaur's Guide to Life After AI, llama ser un “centauro”: una persona que elige cómo y cuándo usar la IA como herramienta, conservando la agencia sobre el trabajo. Si se usa sabiamente, la IA agente puede hacer que las personas sean más capaces, no menos, por lo que es obvio ver su atractivo.
Sin embargo, la curva de beneficios se inclina hacia rendimientos decrecientes cuando la delegación a la IA se vuelve tan generalizada e irreflexiva que el ser humano ya no puede evaluar críticamente la producción de la IA y ejercer un juicio significativo para anularla. Más allá de ese punto, el ser humano no aumenta sino que se reemplaza, y con él va el conocimiento organizacional necesario para gestionar adecuadamente la IA, tanto en términos de método como de resultado. Y donde los humanos permanecen, se les exige cada vez más que sirvan a la IA (a veces hasta el punto de explotarlos), convirtiéndose de hecho en lo que Doctorow llama “centauros inversos”. Un individuo que deja de luchar con los problemas y simplemente acepta las respuestas, una organización que invierte en la automatización de procesos impulsada por la IA sin desarrollar empleados que puedan comprenderlos y supervisarlos, una agencia gubernamental que deja de desarrollar experiencia regulatoria y simplemente ratifica lo que la IA recomienda: en cada caso, el uso de la IA conduce a la atrofia, y el descenso a la sobredependencia puede ser lo suficientemente gradual como para que el cambio pase desapercibido hasta que sea difícil revertirlo.
Mientras tanto, la narrativa comercial que impulsa la adopción de la IA está experimentando un cambio significativo. Los proveedores e inversores están posicionando cada vez más la IA no sólo como una forma de aumentar el trabajo humano sino también como una forma de reemplazarlo. Los presupuestos de software suelen ser más pequeños y menos estratégicos que los presupuestos de nómina, por lo que replantear la IA en términos de reemplazo de mano de obra implica un mercado direccionable mucho mayor. La cabeza de playa natural es la mano de obra subcontratada: actividades con alcance bien definido, presupuestos separables y organizaciones ya acostumbradas a soluciones externas. Es posible que surjan roles internos más ambiguos y estratégicamente centrales, a medida que los puestos se descompongan en tareas susceptibles de automatización con IA; consulte el libro Reshuffle de Sangeet Paul Choudary para una discusión más profunda. Si no se gestiona con cuidado, este proceso corre el riesgo de automatizar las tareas donde la supervisión y el juicio humanos son más importantes.
También existe un posible conflicto de intereses sobre quién asesora la transición. Las consultoras que impulsaron la ola de subcontratación laboral ahora están cobrando honorarios lucrativos como asesores en estrategias de adopción de IA. McKinsey ha proyectado entre 2,6 y 4,4 billones de dólares en valor anual de la IA generativa, un pronóstico que respalda convenientemente el caso de compromisos de asesoramiento a gran escala. El riesgo moral es estructural: cualquier asesor externo pagado para ayudar con la transformación de la IA tiene un claro desincentivo para ayudar a los clientes a desarrollar la capacidad interna que eventualmente haría innecesarios los compromisos de seguimiento. Ningún consultor individual tiene que actuar de mala fe para que esta dinámica funcione. Es la lógica de los mercados, no la malicia de las empresas, y es la misma lógica que sostuvo la estafa original de la consultoría elaborada por Mazzucato y Collington.
Examinemos ahora, a su vez, el costo de esta creciente dependencia excesiva de la IA a nivel individual, organizacional y social.
El costo individual
El costo individual de la delegación cognitiva es insidioso precisamente porque los resultados de la IA pueden pasar cada vez más por las conclusiones del análisis humano. George Orwell identificó el patrón clave en su ensayo de 1946 Confesiones de un crítico de libros, en el que lamentaba cómo la reseña industrial de libros había vaciado el oficio hasta convertirlo en un simulacro de compromiso. El crítico estaba “constantemente inventando reacciones hacia libros sobre los cuales [él] no tiene ningún sentimiento espontáneo”, tirando “su espíritu inmortal por el desagüe, media pinta a la vez”. La IA tiene la capacidad de convertirnos a todos en revisores de fábrica de Orwell. Este fenómeno no es nuevo: las personas votan a favor de publicaciones en las redes sociales que no han leído y firman peticiones que no entienden, pero la IA lo industrializa, facilitando adjuntar el nombre de uno a un trabajo importante a pesar de una participación mínima. El valor del trabajo cognitivo reside no sólo en lo que se produce sino en lo que la persona llega a ser a través del acto de producirlo. Al transferir esa lucha a la IA agente, corremos el riesgo de perder no sólo el resultado sino también la capacidad de pensamiento original.
En mayo de 2026, el profesor del MIT Micah Nathan escribió en The Guardian sobre un estudiante que envió una historia generada por IA a un taller de escritura creativa. Lo que le llamó la atención fue la naturaleza de la capitulación intelectual del estudiante. Comenzó transmitiendo su historia a la IA para una revisión gramatical. Sugirió modificaciones de línea y ella las aceptó. Luego ediciones estructurales. Luego una reescritura completa. Fue, escribió el profesor Nathan, “una secuencia similar al descenso de un adicto”, donde cada paso parecía pequeño y cada uno hacía que el siguiente fuera más probable. Su alumna no se había propuesto entregar la autoría tan completamente, pero en cada punto en el que podría haberla reclamado, el miedo a ser juzgada por sus compañeros y su maestro resultó más fuerte, y dejó que la IA tomara el control. Como observó el profesor Nathan: "Escribir no es sólo la producción de oraciones: es el entrenamiento de la resistencia mediante una atención sostenida. Es una forma de aprender lo que uno piensa al intentar decirlo". El uso prolongado de la asistencia de la IA debilita la capacidad de formar y articular pensamientos de forma independiente, hasta que un día una página en blanco parece no sólo incómoda sino también desalentadora, y lo que alguna vez fue una herramienta útil se ha convertido en una muleta sin la cual no podemos imaginarnos prescindir.
Los estudios académicos están empezando a proporcionar una base empírica para esta preocupación. Los hallazgos publicados recientemente de ensayos controlados aleatorios a gran escala muestran que incluso una breve asistencia de la IA puede afectar el desempeño independiente posterior. Los participantes del estudio que utilizaron IA no sólo obtuvieron peores resultados sin ayuda, sino que también dejaron de intentarlo antes. El mecanismo hipotético es la adaptación hedónica, mediante la cual una vez que las respuestas ya preparadas se convierten en la norma, resolver un problema de forma independiente comienza a parecer desproporcionadamente costoso. Otro estudio de casi dos mil adultos profesionales encontró que, si bien la mayoría estuvo de acuerdo en que la IA "pensaba la mayor parte" en las tareas de funciones ejecutivas, también informaron que las ideas resultantes no las sentían completamente propias. Un tercer estudio encontró una conectividad neuronal considerablemente menor entre los participantes que utilizaron IA para escribir ensayos. Los investigadores acuñaron el término deuda cognitiva para describir "una condición en la que la dependencia repetida de [la IA] reemplaza los procesos cognitivos esforzados necesarios para el pensamiento independiente". Si bien estos estudios miden el desempeño a nivel de tareas específicas, la afirmación más amplia de que la atrofia se agrava en trabajos complejos que requieren mucho juicio es una extrapolación consistente con la adaptación hedónica y merece más investigación. En conjunto, la evidencia sugiere que el uso sostenido de IA agente puede erosionar tanto la habilidad cognitiva como el apetito por la lucha que la reconstruiría.
El costo organizacional
Los riesgos organizacionales se extienden más allá de la descalificación individual. Cuando muchas personas delegan el trabajo cognitivo con el tiempo, la memoria institucional distribuida se adelgaza, las estructuras de gobierno se vuelven vacías sin el juicio interno del que dependen y la autonomía estratégica desaparece una vez que nadie dentro de la organización puede evaluar o desafiar al proveedor. Si la analogía de la consultoría se mantiene, podría desarrollarse un descenso preocupante. Inicialmente, la IA agente aumenta los trabajadores, luego la contratación se ralentiza a medida que la IA cubre suficiente terreno que el crecimiento de la plantilla parece difícil de justificar y, finalmente, en ausencia de una gobernanza deliberada, se eliminan roles y se rediseñan los flujos de trabajo en torno a los agentes de IA. El conocimiento institucional vital que lleva el personal saliente se va con ellos y no se reconstruye. Dado que la IA se está incorporando a las organizaciones mucho más rápido que las relaciones de consultoría, este punto final podría llegar antes de lo que muchos esperan. Además, los servicios de IA actualmente están subsidiados muy por debajo de su costo real para captar participación de mercado. Cuando finalmente la atención se centra en la rentabilidad, los proveedores pueden aumentar los precios (por ejemplo, cambiando de suscripciones a facturación basada en el uso, como ya estamos viendo con GitHub Copilot). A las organizaciones que reduzcan sustancialmente (y tal vez indiscriminadamente) su personal durante el período de subsidio les resultará costoso deshacerse de la dependencia resultante de los proveedores de IA.
La economía de corto plazo ya está sorprendiendo a los primeros en adoptarla. Microsoft (irónicamente, también un importante proveedor de publicidad sobre IA y un proveedor de IA por derecho propio) recortó sus licencias internas de codificación de IA en 2026, aproximadamente seis meses después de alentar la adopción en toda la empresa, citando costos en espiral. Uber agotó su presupuesto anual de codificación de IA en cuatro meses. Salesforce espera pagar a Anthropic aproximadamente 300 millones de dólares sólo en 2026. Un vicepresidente de Nvidia reconoció públicamente que “el coste de la informática supera con creces los costes de los empleados”. Los precios de los tokens están cayendo, pero la IA agente consume tokens a un ritmo que supera la caída de los precios. Goldman Sachs pronostica un aumento de 24 veces en el consumo para 2030, y en algunas empresas los gastos en tokens de IA ya equivalen al 10% de los costos laborales totales. Una encuesta reciente de casi 2.500 empresas encontró que por cada dólar gastado en tokens de IA, unos lamentables 18 centavos generaban valor de cara al usuario, mientras que 44 centavos se destinaban a corregir errores que los propios sistemas de IA introducían. Peor aún, cuando las organizaciones rastrean la adopción y la productividad en función del gasto de tokens, los empleados participan en "tokenmaxxing" (inflar las métricas de uso mediante el uso deliberado de la IA de manera ineficiente). Por lo tanto, el gasto simbólico no sólo no logra generar ganancias de productividad proporcionales, sino que los recursos canalizados hacia la infraestructura de IA no se están invirtiendo en personas que realizarían el mismo trabajo de manera más rentable y al mismo tiempo desarrollarían el conocimiento institucional que la organización eventualmente necesitará.
También existe lo que los profesionales llaman el impuesto de supervisión. En contextos de alto riesgo (p. ej., legales, financieros, médicos), las organizaciones suelen mantener informados a los revisores humanos para satisfacer los requisitos de responsabilidad. La organización paga tanto por el sistema como por el revisor, mientras que la capacidad independiente del revisor se debilita constantemente en presencia de la IA. Estudios controlados sobre exámenes médicos asistidos por IA sugieren que la aparente atrofia de habilidades puede deberse a un “efecto de red de seguridad”, mediante el cual los humanos se esfuerzan menos cuando saben que la IA está ahí para detectar sus errores. Fred Brooks, en The Mythical Man-Month, argumentó que la calidad depende de la integridad conceptual: el diseño debe mantenerse en la mente de alguien que comprenda el todo. Un ser humano que revisa resultados de IA que no produjo y que no puede interrogar completamente ha renunciado a esa integridad. Por lo tanto, el impuesto de supervisión significa que las ganancias de productividad están exageradas y la rendición de cuentas que esas ganancias se supone que justifican es más vacía de lo que parece.
El costo social
Cuando la organización en cuestión es una escuela, un tribunal o un ministerio gubernamental, hay mucho en juego. Normalizar el uso de la IA agente como sustituto del pensamiento crítico en la educación corre el riesgo de producir una generación de graduados que socava la economía y la cultura, y es más vulnerable a la manipulación política. Un juez que no puede interrogar la puntuación de riesgo algorítmico que informa una decisión de sentencia puede inadvertidamente (aunque sistemáticamente) poner en desventaja a los acusados de una determinada raza o etnia. Una legislatura que cede influencia indebida sobre la redacción de proyectos de ley a agentes de AI puede terminar gobernando en contra de la voluntad de las personas que representa. El término "humano en el circuito" (HITL) se acuñó para describir a los humanos que tienen el control, pueden desafiar a la IA y son responsables del resultado. En la práctica, sin embargo, esto a menudo significa aprobar ciegamente los resultados de la IA bajo presión de tiempo y servir como lo que el analista Dan Davies llama un sumidero de responsabilidad, no principalmente para prevenir errores sino para absorber la culpa por ellos. El problema es que las personas que más se preocupan por el resultado social normalmente no tienen acceso al razonamiento del agente de IA, mientras que los proveedores no tienen ningún incentivo institucional para desafiar sus propios sistemas. La rendición de cuentas requiere alguien motivado y equipado para actuar. Hoy en día, HITL a menudo no produce ninguna de las dos cosas.
Todo esto también tiene una dimensión geopolítica. Estados Unidos y China controlan juntos aproximadamente el 90% de la capacidad informática global y entre el 70% y el 80% de la inversión global en IA. Anton Leicht describió recientemente el cierre de lo que llamó la “era de Andy Warhol del acceso a la IA”, el breve período en el que las capacidades de vanguardia estuvieron disponibles tanto para usuarios ricos como pobres. La estructura emergente es decididamente jerárquica: las nuevas capacidades fronterizas fluyen primero hacia los establecimientos de seguridad nacional, luego hacia grandes empresas confiables, luego hacia socios internacionales seleccionados y sólo después hacia todos los demás. Las naciones europeas que dependen de la infraestructura de IA estadounidense, y las economías asiáticas que dependen de plataformas estadounidenses o chinas, están construyendo una capacidad pública crítica sobre una base que puede condicionarse, fijarse un precio fuera de su alcance o retirarse por completo según los intereses estratégicos del proveedor. El parlamentario de Singapur Kenneth Tiong observó astutamente sobre la estrategia de IA de su país que “estamos construyendo un centro de IA sobre la base de una suposición que no controlamos”.
Ese riesgo abstracto se hizo concreto en junio de 2026, cuando el gobierno de Estados Unidos ordenó a Anthropic suspender el acceso a sus modelos más avanzados, Fable 5 y Mythos 5, para todos los ciudadanos extranjeros, citando preocupaciones de seguridad nacional. Anthropic, que había pedido públicamente una mayor supervisión gubernamental de la IA, se vio incapaz de defender a cientos de millones de usuarios contra una directiva que describió como mal justificada y basada en “evidencia verbal de una vulnerabilidad estrecha y no universal”. La empresa no tuvo otra opción y tuvo que desactivar abruptamente dichos modelos para todos los clientes en todo el mundo para garantizar el cumplimiento. El episodio ilustra lo que significa en la práctica la dependencia de la IA de vanguardia de un único proveedor. El gobierno de Estados Unidos tiene la autoridad legal para ordenar la suspensión del acceso a modelos comerciales a nivel mundial, un hecho que se mantiene independientemente de si esta orden específica estaba justificada. Y las decisiones de precios, acceso e implementación de un pequeño número de proveedores de IA ahora tienen el poder de limitar las opciones estratégicas de organizaciones y gobiernos enteros de la noche a la mañana, sin previo aviso y por razones que esas organizaciones no pueden discutir.
El estadístico y economista Ernst Friedrich Schumacher examinó un patrón estructuralmente similar en 1973, analizando lo que sucedió cuando la tecnología occidental con uso intensivo de capital se transfirió a las economías en desarrollo. Aumentó la producción agregada al tiempo que creó una “sociedad dual”, con los beneficios distribuidos de manera desigual entre las clases sociales, y generó una dependencia de la experiencia extranjera que las poblaciones locales no pudieron mantener ni replicar. En la era de la IA agente, los modelos de peso abierto abordan parcialmente este riesgo al permitir el despliegue y la adaptación local, pero la brecha entre la capacidad abierta y la de frontera sigue siendo grande y los principales proveedores la mantienen activamente. El movimiento de tecnología apropiada que surgió a partir del trabajo de Schumacher preguntó: ¿La nueva tecnología aumenta la agencia local o concentra los beneficios en otra parte? ¿Se puede operar sin dependencia externa permanente? Esas preguntas merecen plantearse sobre el despliegue de la IA hoy en día, en todas las escalas, desde el individual hasta el social.
Dos callejones sin salida y un tercer camino
Dos respuestas a los riesgos descritos anteriormente son tentadoras, pero probablemente erróneas. La primera es prohibir por completo la IA agente, como algunas jurisdicciones han contemplado anteriormente con el reconocimiento facial o las armas autónomas. Esto cedería el campo a los actores menos inclinados a actuar con moderación y al mismo tiempo perdería beneficios potenciales, incluidos los avances en medicina, investigación científica y educación. El segundo es la adopción acrítica, permitiendo que los incentivos del mercado y las hojas de ruta de los proveedores determinen hasta qué punto la IA agente penetra la vida cognitiva y democrática. Como advierten Reich, Sahami y Weinstein en su libro System Error, ésta no es una elección neutral. Permitir que la lógica de optimización de los mercados –que es indiferente a la propiedad cognitiva, la memoria institucional y la responsabilidad democrática– tome decisiones que afectan a las personas es en sí misma una decisión que se toma por defecto. Incluso los innovadores bien intencionados pueden optimizar las cosas equivocadas a escala y terminar imponiendo ciertos valores y elecciones al resto de nosotros, nos guste o no.
El tercer camino se encuentra en algún lugar entre la prohibición y el sonambulismo y requiere elecciones activas en cada uno de los tres niveles de análisis cubiertos en las secciones anteriores.
A nivel individual, la IA agente es adecuada para automatizar el trabajo pesado y servir como compañero de entrenamiento. Sin embargo, el criterio debe quedar en manos del usuario humano que escribe la síntesis, toma la decisión y aprueba el resultado. Vale la pena mantener deliberadamente la lucha productiva. La investigación sobre adultos profesionales sugiere que los trabajadores que modificaron los resultados de la IA con mayor frecuencia mostraron una confianza significativamente mayor en su razonamiento independiente, lo que hace que la frecuencia de anulación sea un indicador práctico de la capacidad cognitiva retenida. Para cada tarea, debemos preguntarnos si la asistencia de la IA está creando capacidad o sustituyéndola. Cuando sea el primero, utilícelo plenamente. Cuando sea esto último, puede ser necesaria una resistencia deliberada.
A nivel organizacional, la memoria institucional debe ser tratada como un activo estratégico que requiere una inversión activa. Desarrollar prácticas de documentación, estructuras de tutoría y rotación de personal a través de funciones que la IA ayuda pero no posee. Diversificar deliberadamente los proveedores de IA: no depender de un solo proveedor para ninguna función cognitiva crítica y arquitecturas híbridas que combinen modelos pequeños, operables localmente para tareas rutinarias con modelos más grandes para razonamientos de alto riesgo para preservar opciones estratégicas. Asegúrese de que los “humanos involucrados” tengan de hecho el conocimiento y el acceso para cuestionar el resultado de la IA, el tiempo para hacerlo y la responsabilidad organizacional por la decisión. Y, sobre todo, hacer de la soberanía estructural (mantener un control significativo sobre el conocimiento, la computación, los datos y los modelos que sustentan las operaciones críticas) una preocupación a nivel de junta directiva.
A nivel social, las políticas públicas pueden basarse en los criterios tecnológicos apropiados que articuló Schumacher: ¿Este despliegue aumenta la agencia local? ¿Puede funcionar sin una dependencia externa permanente? Los gobiernos que invierten en IA para servicios públicos también deberían invertir en modelos abiertos, estándares de interoperabilidad e infraestructura informática compartida para reducir la vulnerabilidad geopolítica. HITL en decisiones públicas consecuentes (por ejemplo, judiciales, asistencia social, atención médica, inmigración) debe llevar un estándar legal: el revisor humano debe poder explicar y defender el resultado que ratifica, no simplemente dar fe de que estuvo presente cuando se generó. El campo de la ética de la IA merece más reconocimiento y debe estar empoderado para garantizar una gobernanza rigurosa de la IA agentiva siguiendo las líneas que la bioética estableció para la medicina. La disciplina individual y organizacional son necesarias pero no suficientes. El cambio estructural requiere regulación, estándares de adquisiciones y coordinación internacional, además de determinación individual. Ese cambio no se producirá únicamente gracias a las fuerzas del mercado, que hasta ahora han apuntado en la dirección opuesta: los ciudadanos y las instituciones deben exigirlo.
Lo que comparten los tres niveles es el mismo principio subyacente: las herramientas deben servir a las personas que las utilizan, lo que requiere una elección deliberada para que siga siendo así. La dependencia excesiva no es inevitable. Y más allá de un cierto umbral de adopción, la evidencia apunta a riesgos significativos de daño, incluso si el impacto económico general sigue siendo cuestionado. Podemos reconocer esto sin estar en contra de la tecnología. Es la misma madurez que desarrolló la medicina cuando estableció contraindicaciones, límites de dosis y consentimiento informado. Es el reconocimiento de que la gobernanza deliberada debe complementar el entusiasmo de una implementación.
La envoltura
Las olas de consultoría e IA comparten una lógica estructural similar. La delegación aparentemente racional a corto plazo se acumula en una dependencia que erosiona la capacidad de dirigir, sin necesidad de malos actores y sin que las consecuencias se vuelvan plenamente visibles hasta que revertir el rumbo se vuelve demasiado difícil. La versión de IA de este proceso es más rápida, está más profundamente integrada y opera simultáneamente a nivel individual, organizacional y social.
Irónicamente, el trabajo analítico, la generación de códigos y la entrega de software que las empresas consultoras han vendido durante mucho tiempo como servicios de alto valor son las mismas categorías que los proveedores de IA ahora están automatizando y agrupando directamente en sus plataformas. La misma lógica de desintermediación que la industria de la consultoría aplicó a las funciones corporativas se está aplicando ahora a la propia industria de la consultoría, como lo indican las fuertes caídas en los precios de las acciones de las grandes firmas de consultoría con gran cantidad de personal (Accenture, Capgemini, etc.) en los últimos meses. Es dudoso que esto resulte ser un correctivo: sustituir una dependencia basada en relaciones por una basada en plataformas, donde el apalancamiento del proveedor es estructural más que personal, en realidad puede conducir a un bloqueo más profundo. Lo que parece probable, sin embargo, es que la lógica del estafador no perdonará a los estafadores.
En última instancia, vale la pena recordar que somos nosotros quienes creamos herramientas de inteligencia artificial y podemos decidir cómo usarlas. El consejo que me quedó grabado en ese curso de primer año sobre programación no fue evitar las computadoras, sino pensar primero. Ese principio se extiende al diseño de empresas e instituciones públicas. La pregunta es si lo aplicaremos deliberadamente o dejaremos que la corriente de conveniencia a corto plazo nos lleve a algún lugar al que ninguno de nosotros tiene intención de ir.